Yolofastest_v2 使用GPU训练速度很快，识别速度很慢？

Question

CPU:AMD R7-6800H

显卡：RTX3050TI（笔记本版本，显存4GB）

使用GPU训练的时候速度很快，一百张图片（图片较小）,epoch=300，大概2分40秒，这项比cpu快的多，而识别的时候却变得很慢，要几千ms，使用cpu的时候也就几十ms。

Answer 1

跑的时候看下开下任务管理器，这里切换成cuda，然后运行看下这里的cuda和下面的现存有无上升，有上升说明有调用显卡。
另外，你的模型有无预热？一般来说，显卡推理的前一两张速度会很慢，后面速度就飞起了。