如图，我的2060才利用了百分之十几，跑个简单的模型都慢死。想问一下怎么提高利用率？
pytorch训练时怎么提高显卡的利用率？
如图，我的2060才利用了百分之十几，跑个简单的模型都慢死。想问一下怎么提高利用率？
- 写回答
- 好问题 0 提建议
- 追加酬金
- 关注问题
分享- 邀请回答
-
2条回答 默认 最新
- 爱晚乏客游 2022-03-08 10:29关注
work number设置到cpu最大核心数，batch size 搞大点，你的显存才用了2G，还有那么多呢，不过显卡利用率低很正常，又不是挖矿，显卡很多时候要等硬盘或者内存读取信息呢。
你把这里换成cuda就知道了，一阵高一阵低，就是显卡计算快，数据传输慢，导致显卡计算完了要等其他数据才能继续计算
本回答被题主选为最佳回答 , 对您是否有帮助呢?解决 无用评论 打赏举报 编辑记录 分享
- 2022-03-08 10:24回答 2 已采纳 work number设置到cpu最大核心数，batch size 搞大点，你的显存才用了2G，还有那么多呢，不过显卡利用率低很正常，又不是挖矿，显卡很多时候要等硬盘或者内存读取信息呢。你把这里换成c
- 2023-03-02 15:28回答 2 已采纳 通常遇到OOM(out of memory)问题, 只有两种解决方案, 降低您网络训练时的batchsize, 或者选用更小的网络. 看到您这里用的resnet50, 8Gmemory够用了, 您可以
- 2022-06-08 22:43回答 1 已采纳 ROCm路子官网只支持linux，不过我也没用过，但是听说bug和问题很多，另外就是微软的pytorch-DirectML，你可以试试看下这个能不能走得通，走不通就没办法了,深度学习还得是cuda。
- 2023-12-29 13:09行走的学习机器的博客 深度学习模型训练过程经常看到GPU利用效率不高，以下是一些提高GPU利用率常用的方式。对于提高GPU利用率能有一定帮助，但要提高到100%比较难，毕竟GPU利用率低本质上是因为GPU与CPU通讯等原因，导致GPU 在程序运行的...
- 2022-11-28 16:32回答 2 已采纳 我认为唯一主要的加速将发生于并行。如果您因为cpu受限问题，那么利用多核是至关重要的。试着让每一行通过不同的（线程/进程）。当然，这会引起更多的问题，例如数据是否需要按照输入文件中的相同顺序排列。
- 2023-01-04 17:33回答 4 已采纳 你好，这个错误可能是由于 Pandas 库依赖的其他库或文件缺失引起的。在你尝试引入 Pandas 库之前，请确保你已经安装了它所依赖的其他库。你可以使用 pip 或 conda 命令来安装这些库。
- 2023-03-15 22:55回答 2 已采纳 说明你的numpy的切片索引没有写对。
- 2022-07-16 14:57机器学习与AI生成创作的博客 转载自 腾讯技术工程一、GPU 利用率的定义本文的 GPU 利用率主要指 GPU 在时间片上的利用率，即通过 nvidia-smi 显示的 GPU-util 这个指标。统计方式为：在采样周期内，GPU 上面有 kernel 执行的时间百分比。二...
- 2022-06-08 23:22回答 3 已采纳 这个是个人意愿呀，结合你自己的项目或者是学习进度，自己安排
- 2021-07-16 17:15回答 1 已采纳 [[1.0],[2.0],[3.0]],下面一样外面加层括号
- 2022-08-03 09:05回答 3 已采纳 反向传播那部分的代码修改如下： loss.backward(retain_graph=True) optimizer.step() optimizer.zero_grad() loss.backwar
- 2023-12-13 12:50Jay——小白的博客 IO 瓶颈：过多的 num_workers 也可能导致 IO 资源的竞争，尤其是在从磁盘读取数据时。如果系统 IO 能力有限，设置过多的 num_workers 可能会导致数据读取速度受限，进而影响到 GPU 的数据获取速度。系统资源竞争：...
- 2022-08-09 20:08回答 1 已采纳 没太明白，既然你都训练出来了，不应该知道怎么去推理吗？我理解deepfm输入基本上都是一些one-hot好的特征，你可以直接load训练好的pth文件，然后model(feature)就能输出某一用户
- 2024-01-12 20:49漆黑的莫莫的博客 以及 CUDA 驱动程序和兼容的 GPU 是否已正确安装且可以被 PyTorch 使用。可以反馈出GPU内核在过去的采样周期中一个或多个内核在 GPU 上执行的。安装的是 CPU 版本的 PyTorch，而非 GPU 版本。在运行代码的环境中，...
- 2023-03-17 18:07blacktee73的博客 查了很多，基本围绕num_workers,...今天用自己电脑跑训练，发现以下问题，cpu冒大烟，gpu抽大烟，动都不带动一下。准备用公司服务器跑了，自己电脑果然只能测通和不通。linux系统中可以使用。加载数据，windows系统里。
- 没有解决我的问题, 去提问
问题事件
系统已结题
3月16日
已采纳回答
3月8日-
创建了问题
3月8日
悬赏问题
- ¥15 c语言怎么用printf（“\b \b”）与getch（）实现黑框里写入与删除？
- ¥20 怎么用dlib库的算法识别小麦病虫害
- ¥15 华为ensp模拟器中S5700交换机在配置过程中老是反复重启
- ¥15 java写代码遇到问题，求帮助
- ¥15 uniapp uview http 如何实现统一的请求异常信息提示？
- ¥15 有了解d3和topogram.js库的吗？有偿请教
- ¥100 任意维数的K均值聚类
- ¥15 stamps做sbas-insar，时序沉降图怎么画
- ¥15 买了个传感器，根据商家发的代码和步骤使用但是代码报错了不会改，有没有人可以看看
- ¥15 关于#Java#的问题，如何解决？