Jetson tx2运行yolov5检测速度的问题

Question

问题遇到的现象和发生背景

我在jetson tx2上用yolov5进行图像识别，结果跑出来一张图片要0.2-0.3s 也就一秒几帧，这正常吗

运行结果及报错内容

各位帮我看看jetson tx2的GPU是用上了吧？

用tensorrt加速，也没多快

在PC上跑的，最垃圾的1050ti显卡

我的解答思路和尝试过的方法

我用的是yolov5x.pt这个模型，看介绍是比较大的模型，yolov5s.pt至少快3倍，不过看一些博主的博客yolov5在tx2上能跑15-30帧，我就想问问这是正常现象吗？

Answer 1

板子我没用过，不过我之前在哪里看到过，你这个板子显卡性能本身就不是很好，相当于GT740M还是750M的显卡来着，只不过显存比较大一些。另外就是试一试一些的优化了，比如你可以试试看下onnxsim优化一下看下速度有无提升（30系我试了提升不了多少），TRT的话使用FP16和int8优化提升挺大的，但是我不知道你这个板子能否支持FP16。当然，你显存大的话，可以试一试批处理，应该会快上一些，如果是视频的话，批处理就不是那么好做了。