为什么我在gpu上训练模型但是gpu利用率为0且运行速度还是很慢？
模型主要利用的是tensorflow和keras
已经安装了tensorflow-gpu和cuda
为什么我在gpu上训练模型但是gpu利用率为0且运行速度还是很慢？
- 写回答
- 好问题 0 提建议
- 关注问题
分享- 邀请回答
-
3条回答 默认 最新
- 2020-08-23 11:38火星种萝卜的博客 https://ask.csdn.net/questions/767461
- 2019-06-20 10:24是否龙磊磊真的一无所有的博客 在深度学习模型训练过程中，在服务器端或者本地pc端，输入nvidia-smi来观察显卡的GPU内存占用率（Memory-Usage），显卡的GPU利用率（GPU-util），然后采用top来查看CPU的线程数（PID数）和利用率（%CPU）。...
- 2025-04-16 21:00bug菌¹的博客 问题描述 torch.cuda.is_available()为True，且调用了.to(device)将模型放到GPU上运行，但GPU利用率低跑的很慢，并且风扇不响的问题，之前正常GPU利用率高跑的也比现在快 解决方案（请知悉：如下方案不保证一定适配...
- 2025-02-15 22:57码上飞扬的博客 近年来，随着人工智能技术的飞速发展，特别是深度学习领域的进步，大模型的训练逐渐成为研究和工业界的热点。作为大模型训练中的核心硬件，GPU...那么，为什么大模型训练如此依赖GPU呢？本文将从多个角度探讨这一问题。
- 2025-05-08 21:19hylabr的博客 在Windows上使用PyTorch训练模型时，任务管理器显示的GPU占用率可能较低，这并不准确。建议使用nvidia-smi dmon命令查看真实的GPU占用率，重点关注流处理器利用率（sm）和显存带宽利用率（mem），确保GPU满载。若GPU...
- 2025-08-03 03:22程序员光剑的博客 base）显存、算力混合精度、梯度累加、数据并行大模型（GPT-3）显存、模型大小张量并行、流水线并行、激活值重计算超大数据集（ImageNet）数据加载、训练速度数据并行、优化DataLoader、动态batch sizeGPU优化的本质...
- 2023-12-13 12:50Jay——小白的博客 如果系统 IO 能力有限，设置过多的 num_workers 可能会导致数据读取速度受限，进而影响到 GPU 的数据获取速度。系统资源竞争：除了 CPU 和 IO，过高的 num_workers 还可能导致系统内存和其他资源的竞争，从而影响...
- 2024-05-22 11:25独鹿的博客 在训练模型的时候，发现模型的训练速度忽然很低，查看GPU利用率只有20%左右，CPU的利用率也只有20%左右，反复调整batchsize和workers的时候也是无效，经过多次排查发现：模型没问题，batchsize和workers设置没问题，...
- 2021-11-16 11:41计算机视觉农民工的博客 模型训练速度过慢，GPU利用率低怎么办？
- 2021-06-16 15:13贝猫说python的博客 深度学习PyTorch，TensorFlow中GPU利用率较低，CPU利用率很低，且模型训练速度很慢的问题总结与分析 置顶 是否龙磊磊真的一无所有 ...
- 没有解决我的问题, 去提问
