显卡明明空着但是RuntimeError: CUDA out of memory.

问题遇到的现象和发生背景

我看了显卡状态

问题相关代码，请勿粘贴截图

我的设置

运行结果及报错内容

报错如下：

运行时错误：CUDA 内存不足。尝试分配 196.00 MiB（GPU 1；10.76 GiB 总容量；9.55 GiB 已分配；82.56 MiB 空闲；PyTorch 总共保留 9.62 GiB）如果保留内存是 >> 分配内存尝试设置 max_split_size_mb 以避免碎片。请参阅内存管理和 PYTORCH_CUDA_ALLOC_CONF 的文档

我的解答思路和尝试过的方法

我想要达到的结果

请大家帮助解答一下

写回答
好问题 0 提建议
追加酬金
关注问题
分享
邀请回答
编辑收藏删除
收藏举报

报告相同问题？

关注问题

yolo训练时报错：RuntimeError: CUDA out of memory. Tried to allocate 20.00 MiB python 剪枝目标检测
2022-04-12 16:34

回答 1 已采纳降低batchsize的大小，例如8 16
RuntimeError: CUDA out of memory. python pytorch 深度学习
2023-04-04 09:44

回答 4 已采纳该回答通过自己思路及引用到各个渠道搜索综合及思考,得到内容具体如下：根据您提供的信息，这个错误是由于GPU内存不足引起的。在训练yolov7标准版时，需要更多的GPU内存，而您的GPU内存已经被占用
yolo训练报错“CUDA Error: out of memory”（3060显卡6G显存）深度学习目标检测
2022-04-12 15:51

回答 2 已采纳 1 batchsize调到8 也是一样的报错。2 训练前我用nvidia-smi查看GPU显存，已使用0.121G（总共6G），一旦开始训练已使用显存数据就开始上升，最终到5.359G后程
通过yolov5训练自己的模型中遇到的一些问题及解决办法
2022-05-15 19:55

喜欢大海的CC的博客最近尝试着用YOLOV5做小项目，因为我菜菜的显卡，容量是真的不够，期间踩了很多坑，现在分享给大家，希望你遇到的时候可以快速解决问题！问题一：AssertionError: train: No labels in D:\PycharmProjects\yolov5-...
求助：CUDA的RuntimeError：cuda runtime error (30) python 神经网络
2019-04-27 23:25

回答 6 已采纳 https://github.com/pytorch/pytorch/issues/20990 链接答案来源 import torch torch.cuda.current_device()
tensorflow.python.framework.errors_impl.InternalError: CUDA runtime implicit initialization on GPU:0 failed. Status: out of memory git python tensorflow 机器学习深度学习
2020-09-10 13:59

回答 2 已采纳感觉是显存爆了，把你的batch size搞小一些训练，再不行，简化下模型。
RuntimeError: CUDA error: invalid device ordinal 机器学习深度学习神经网络
2021-05-31 11:10

回答 2 已采纳在程序的前面加上，后面的数字要看你的显卡数目，意思是对该程序显示哪几张显卡可以使用。如果只有一张的话，要改成0.然后就是torch设置显卡的问题。最好这么写：torch.device('cuda:
MATLAB算法实战应用案例精讲-【人工智能】语义分割（最终篇）(附实战应用案例及代码实现)
2023-01-02 17:44

林聪木的博客但是，随着深度学习领域不断地发展，许多深度学习研究者都尝试着把NLP的处理方式应用到CV的处理上，同时CV的处理方式也应用到NLP上，所以图像和语言处理两家的边界能够被一些理论所连接起来。故我们可以把一些NLP中...
RuntimeError: Tensors of type TensorImpl do not have strides python pytorch 深度学习
2022-09-19 20:02

回答 5 已采纳请问这里面的数据是怎样的 ./data/products/ogbn_products/mapping/labelidx2productcategory.csv.gz我跑跑看，光这样子暂时排查不出什么问
不知道为什么报了panic: runtime error: invalid memory address or nil pointer dereference golang
2020-09-24 19:26

回答 1 已采纳导致这个错误的原因是内存为null，内存没有初始化，具体看下报错的行
pytorch报错CUDA error: invalid device function tensorflow 人工智能机器学习深度学习神经网络
2020-09-05 22:14

回答 1 已采纳检查显示卡是否兼容、驱动程序、cuda sdk和cudaa 的安装。
python&anconda系列（亲测有效）：ChatGLM：win11部署大模型实例并正常启动、ChatGLM2-6B 模型基于 P-Tuning v2 的微调
2023-12-27 13:03

坦笑&&life的博客 RuntimeError: CUDA out of memory. Tried to allocate 128.00 MiB (GPU 0； 8.00 GiB total capacity； 1 7. AssertionError: Unsupported bit-width 8. AssertionError: Torch not compiled with CUDA enabled 9....
Runtime Error：尺寸不匹配 python pytorch 深度学习
2022-01-21 15:04

回答 1 已采纳维度不匹配。他希望你该层的输入为[32, 512, 38, 38]，32位batch size，512为通道数，后面两位是H和W，但是你的卷积之后的通道数在该层只有64通道，16 batch size
【1024】小结最近三个月
2023-10-23 23:14

鳗小鱼的博客但是有次同学问我写这个挣钱吗？那个时候我就知道写这个的原因了，就是为了输出自己所学的东西，记录自己的学习过程，不得不说再回头看的时候，还挺欣慰的。自7月份到现在，大概做了三方面的内容：system、ide和bug...
Ubuntu 18.04安装Apollo 6.0：从零开始到启动Demo（超多细节）
2021-08-28 18:55

shao918516的博客 DuerOS也是Baidu人工智能战略的重要棋子，似乎也是目前Baidu在AI方面最为成熟的、应用最广的产品，当然这一层还包括仿真、高精度地图、量产服务组建、安全、OTA、V2X道路救援（Roadside Service）等服务。...
没有解决我的问题, 去提问