mmdeploy转TRT int8，TRT的fp32，fp16都可以执行
请问有没有人尝试过用mmdeploy转trt int8，我使用这个instance-seg_tensorrt-int8_dynamic-320x320-1344x1344.py，有报错如下，要怎么解决？TRT的fp32，fp16都可以运行，就int8不可以
mmdeploy转TRT int8，TRT的fp32，fp16都可以执行
- 写回答
- 好问题 0 提建议
- 追加酬金
- 关注问题
分享- 邀请回答
-
0条回答 默认 最新
- 2021-07-03 20:44回答 1 已采纳 可以从github上下载到本地安装。git clone https://github.com/NVIDIA-AI-IOT/torch2trt，cd torch2trt，python setup.py
- 2022-08-22 12:13回答 2 已采纳 EGLSink改为以下：sink = Gst.ElementFactory.make("fakesink", "fakesink")
- 2022-04-02 19:40回答 6 已采纳 这可能是PyTorch在其他一些问题中提到的Windows/conda/CUDA11错误，在这种情况下，降级到CUDA 10可以解决这个问题。 或者，您的数据集标签可能存在一些问题。
- 2024-02-27 21:21TensorRT_使用TensorRT部署mmdetection模型_支持fp16+int8+动态shape_优质部署项目.zip
- 2023-04-14 09:44回答 2 已采纳 首先，我认为学习新技术是非常重要的，因为技术日新月异，不断地学习和尝试新技术可以让你保持竞争力。但是，在考虑学习新技术之前，你需要确定你的学习目标和职业规划。 如果你的目标是在AI领域发展，那么Pyt
- 2022-05-30 10:50回答 2 已采纳 yolov5必须相同算力的gpu才能够运行，算力不同，模型文件需要重新生成。gpu算力查询 https://developer.nvidia.com/cuda-gpus#compute
- 2022-04-29 13:58回答 1 已采纳 你是用错了，举个例子 image = cv2.imread(args["image"]) # 通道分离，注意顺序BGR不是RGB (B, G, R) = cv2.split(image)
- 2024-05-08 10:50fp32-fp16-int8-entropy-minmax-simple -yolov5
- 2022-05-26 21:52回答 1 已采纳 driver = gdal.GetDriverByName(format)这一行里的函数返回值可能为None，于是下面就无法对None（即driver）调用Create方法了
- 2021-09-10 14:58回答 1 已采纳 open('test.csv','a+',encoding='utf-8',newline='')
- 2022-08-15 11:26回答 1 已采纳 按理来说backbone的修改不会影响到具体的后续部署，因为TRT可以直接加载onnx然后转成engine文件推理，只要你能到这一步，基本上和你前面的backbone就无关了，毕竟yolov5本身也提
- 2023-08-03 14:25yolov5模型，yolov5量化模型，yolov5 FP16 FP32 INT8量化模型，yolov5s.onnx,yolov5s.pt,yolov5s.engine,yolov5s.trt,yolov5s_fp16.engine,yolov5s_fp16_int8_engine,yolov5s_int8.engine， 模型量化，各种量化版本...
- 2017-04-05 08:28回答 2 已采纳 http://blog.csdn.net/wyt734933289/article/details/51077075
- 2020-12-20 15:39weixin_40003451的博客 1 Low Precision Inference现有的深度学习框架 比如：TensorFlow，pytorch，Caffe， MixNet等，在训练一个深度神经网络时，往往都会使用 float 32(Full Precise ，简称FP32)的数据精度来表示，权值、偏置、激活值等...
- 2023-01-19 15:28田小草儿的博客 模型量化！ONNX转TensorRT(FP32, FP16, INT8)
- 2020-12-20 15:39weixin_39942785的博客 在新一代的Intel Xeon Scalable Processor上，使用这个特性的一些模型，INT8预测性能可以达到FP32的2倍。 基础框架 安装 新增Linux和MacOS下的中文版本辅助安装脚本，提供交互式安装方式，协助用户在复杂环境下快速...
- 2022-07-16 16:04Zannnne的博客 FP16推理约6-8毫秒，总体帧率22帧 INT8推理4-6毫秒，总体帧率23帧 没有必要INT8，影响速度的瓶颈不在inference了，对加载图像和后面推理结果处理以及可视化等部分耗时优化收益更大
- 2022-10-10 17:00英特尔开发人员专区的博客 量化效果非常好，精度只有一点下降，但是速度比FP32的提升了1.5倍左右（3050Ti）。
- 2021-06-25 17:00oyjwin的博客 这个项目是我使用tensorrt，torch2tr包，将训练的yolov5s模型，进行tensorrt推理加速，量化精度为int8，但值得注意的是tensorrt对于forward的部份操作是不支持的，如切片等，这时可以考虑模型部份转换或者改写...
- 没有解决我的问题, 去提问
问题事件
系统已结题
10月19日
创建了问题
10月11日
悬赏问题
- ¥20 Html备忘录页面制作
- ¥15 黄永刚的晶体塑性子程序中输入的材料参数里的晶体取向参数是什么形式的？
- ¥20 数学建模来解决我这个问题
- ¥15 计算机网络ip分片偏移量计算头部是-20还是-40呀
- ¥15 stc15f2k60s2单片机关于流水灯，时钟，定时器，矩阵键盘等方面的综合问题
- ¥15 YOLOv8已有一个初步的检测模型，想利用这个模型对新的图片进行自动标注，生成labellmg可以识别的数据，再手动修改。如何操作？
- ¥30 NIRfast软件使用指导
- ¥20 matlab仿真问题，求功率谱密度
- ¥15 求micropython modbus-RTU 从机的代码或库？
- ¥15 django5安装失败