kalaqila 2022-08-10 20:05 采纳率: 0%
浏览 135

pytorch2onnx动态推理以及速度问题

使用torch.onnx.export将torch模型转化为onnx模型，但是动态尺寸无法实现，我已经设置了参数dynamic_axis那个，然后使用onnx在3090上面推理，耗时是pytorch原模型的几十倍，接近一百倍，请问有动态尺寸转化成功的吗？

img

img

  • 写回答

1条回答 默认 最新

  • 爱晚乏客游 2022-08-11 09:17
    关注
    1. 动态尺寸慢很正常，毕竟所有的缩放需要重新计算，如果你确定你的模型就使用了2个尺寸的话，那么加载之后预热一下这两个尺寸，先跑个两三次，后面的速度就快了
    评论

报告相同问题？

问题事件

  • 创建了问题 8月10日

悬赏问题

  • ¥60 求一个简单的网页(标签-安全|关键词-上传)
  • ¥35 lstm时间序列共享单车预测，loss值优化，参数优化算法
  • ¥15 基于卷积神经网络的声纹识别
  • ¥15 Python中的request，如何使用ssr节点，通过代理requests网页。本人在泰国，需要用大陆ip才能玩网页游戏，合法合规。
  • ¥100 为什么这个恒流源电路不能恒流？
  • ¥15 有偿求跨组件数据流路径图
  • ¥15 写一个方法checkPerson，入参实体类Person，出参布尔值
  • ¥15 我想咨询一下路面纹理三维点云数据处理的一些问题，上传的坐标文件里是怎么对无序点进行编号的，以及xy坐标在处理的时候是进行整体模型分片处理的吗
  • ¥15 一直显示正在等待HID—ISP
  • ¥15 Python turtle 画图