S. dr 2022-11-22 00:41 采纳率: 100%
浏览 103
已结题

深度学习推理时间（Inference time）计算问题

请问大家，深度学习模型的推理时间（Inference time ）是怎么计算的？是每个epoch运行的时间吗？还是每一个batchsize数据运行的时间？应该怎么理解？谢谢大家

  • 写回答

2条回答 默认 最新

  • 爱晚乏客游 2022-11-22 09:10
    关注

    推理的时候跟epoch无关，epoch是训练阶段的。
    计算推理时间是在训练结束之后的事情，目前看情况，主流的有1个或者32个batch size的推理时间，不包含图像预处理（包括转到cuda）和后处理，模型加载（包括加载到GPU）和预热时间等，单单计算模型开始推理到推理结束的运行时间就是推理时间，

    本回答被题主选为最佳回答 , 对您是否有帮助呢?
    评论
查看更多回答(1条)

报告相同问题？

问题事件

  • 系统已结题 12月1日
  • 已采纳回答 11月23日
  • 创建了问题 11月22日

悬赏问题

  • ¥500 52810做蓝牙接受端
  • ¥15 基于PLC的三轴机械手程序
  • ¥15 多址通信方式的抗噪声性能和系统容量对比
  • ¥15 winform的chart曲线生成时有凸起
  • ¥15 msix packaging tool打包问题
  • ¥15 finalshell节点的搭建代码和那个端口代码教程
  • ¥15 Centos / PETSc / PETGEM
  • ¥15 centos7.9 IPv6端口telnet和端口监控问题
  • ¥20 完全没有学习过GAN，看了CSDN的一篇文章，里面有代码但是完全不知道如何操作
  • ¥15 使用ue5插件narrative时如何切换关卡也保存叙事任务记录