mmdeploy转TRT int8，TRT的fp32，fp16都可以执行
请问有没有人尝试过用mmdeploy转trt int8，我使用这个instance-seg_tensorrt-int8_dynamic-320x320-1344x1344.py，有报错如下，要怎么解决？TRT的fp32，fp16都可以运行，就int8不可以
mmdeploy转TRT int8，TRT的fp32，fp16都可以执行
- 写回答
- 好问题 0 提建议
- 追加酬金
- 关注问题
分享- 邀请回答
-
0条回答 默认 最新
- 2021-07-03 20:44回答 1 已采纳 可以从github上下载到本地安装。git clone https://github.com/NVIDIA-AI-IOT/torch2trt，cd torch2trt，python setup.py
- 2022-08-22 12:13回答 2 已采纳 EGLSink改为以下：sink = Gst.ElementFactory.make("fakesink", "fakesink")
- 2022-04-02 19:40回答 6 已采纳 这可能是PyTorch在其他一些问题中提到的Windows/conda/CUDA11错误，在这种情况下，降级到CUDA 10可以解决这个问题。 或者，您的数据集标签可能存在一些问题。
- 2024-02-27 21:21TensorRT_使用TensorRT部署mmdetection模型_支持fp16+int8+动态shape_优质部署项目.zip
- 2023-04-14 09:44回答 2 已采纳 首先，我认为学习新技术是非常重要的，因为技术日新月异，不断地学习和尝试新技术可以让你保持竞争力。但是，在考虑学习新技术之前，你需要确定你的学习目标和职业规划。 如果你的目标是在AI领域发展，那么Pyt
- 2022-05-30 10:50回答 2 已采纳 yolov5必须相同算力的gpu才能够运行，算力不同，模型文件需要重新生成。gpu算力查询 https://developer.nvidia.com/cuda-gpus#compute
- 2022-04-29 13:58回答 1 已采纳 你是用错了，举个例子 image = cv2.imread(args["image"]) # 通道分离，注意顺序BGR不是RGB (B, G, R) = cv2.split(image)
- 2023-08-03 14:25yolov5模型，yolov5量化模型，yolov5 FP16 FP32 INT8量化模型，yolov5s.onnx,yolov5s.pt,yolov5s.engine,yolov5s.trt,yolov5s_fp16.engine,yolov5s_fp16_int8_engine,yolov5s_int8.engine， 模型量化，各种量化版本...
- 2022-05-26 21:52回答 1 已采纳 driver = gdal.GetDriverByName(format)这一行里的函数返回值可能为None，于是下面就无法对None（即driver）调用Create方法了
- 2021-09-10 14:58回答 1 已采纳 open('test.csv','a+',encoding='utf-8',newline='')
- 2022-08-15 11:26回答 1 已采纳 按理来说backbone的修改不会影响到具体的后续部署，因为TRT可以直接加载onnx然后转成engine文件推理，只要你能到这一步，基本上和你前面的backbone就无关了，毕竟yolov5本身也提
- 2024-05-08 10:50fp32-fp16-int8-entropy-minmax-simple -yolov5
- 2017-04-05 08:28回答 2 已采纳 http://blog.csdn.net/wyt734933289/article/details/51077075
- 2020-12-20 15:39weixin_40003451的博客 1 Low Precision Inference现有的深度学习框架 比如：TensorFlow，pytorch，Caffe， MixNet等，在训练一个深度神经网络时，往往都会使用 float 32(Full Precise ，简称FP32)的数据精度来表示，权值、偏置、激活值等...
- 2023-01-19 15:28田小草儿的博客 模型量化！ONNX转TensorRT(FP32, FP16, INT8)
- 2020-12-20 15:39weixin_39942785的博客 在新一代的Intel Xeon Scalable Processor上，使用这个特性的一些模型，INT8预测性能可以达到FP32的2倍。 基础框架 安装 新增Linux和MacOS下的中文版本辅助安装脚本，提供交互式安装方式，协助用户在复杂环境下快速...
- 2022-07-16 16:04Zannnne的博客 FP16推理约6-8毫秒，总体帧率22帧 INT8推理4-6毫秒，总体帧率23帧 没有必要INT8，影响速度的瓶颈不在inference了，对加载图像和后面推理结果处理以及可视化等部分耗时优化收益更大
- 2022-10-10 17:00英特尔开发人员专区的博客 量化效果非常好，精度只有一点下降，但是速度比FP32的提升了1.5倍左右（3050Ti）。
- 2021-06-25 17:00oyjwin的博客 这个项目是我使用tensorrt，torch2tr包，将训练的yolov5s模型，进行tensorrt推理加速，量化精度为int8，但值得注意的是tensorrt对于forward的部份操作是不支持的，如切片等，这时可以考虑模型部份转换或者改写...
- 没有解决我的问题, 去提问
问题事件
系统已结题
10月19日
创建了问题
10月11日
悬赏问题
- ¥15 matlab数据降噪处理，提高数据的可信度，确保峰值信号的不损失？
- ¥15 怎么看我在bios每次修改的日志
- ¥15 python+mysql图书管理系统
- ¥15 Questasim Error: (vcom-13)
- ¥15 船舶旋回实验matlab
- ¥30 SQL 数组，游标，递归覆盖原值
- ¥15 为什么我的数据接收的那么慢呀有没有完整的 hal 库并 代码呀有的话能不能发我一份并且我用 printf 函数显示处理之后的数据，用 debug 就不能运行了呢
- ¥20 gitlab 中文路径，无法下载
- ¥15 用动态规划算法均分纸牌
- ¥30 udp socket，bind 0.0.0.0 ，如何自动选取用户访问的服务器IP来回复数据