S. dr 2022-11-22 00:41 采纳率: 100%
浏览 103
已结题

深度学习推理时间（Inference time）计算问题

请问大家，深度学习模型的推理时间（Inference time ）是怎么计算的？是每个epoch运行的时间吗？还是每一个batchsize数据运行的时间？应该怎么理解？谢谢大家

  • 写回答

2条回答 默认 最新

  • 爱晚乏客游 2022-11-22 09:10
    关注

    推理的时候跟epoch无关，epoch是训练阶段的。
    计算推理时间是在训练结束之后的事情，目前看情况，主流的有1个或者32个batch size的推理时间，不包含图像预处理（包括转到cuda）和后处理，模型加载（包括加载到GPU）和预热时间等，单单计算模型开始推理到推理结束的运行时间就是推理时间，

    本回答被题主选为最佳回答 , 对您是否有帮助呢?
    评论
查看更多回答(1条)

报告相同问题？

问题事件

  • 系统已结题 12月1日
  • 已采纳回答 11月23日
  • 创建了问题 11月22日

悬赏问题

  • ¥15 想问一下树莓派接上显示屏后出现如图所示画面，是什么问题导致的
  • ¥100 嵌入式系统基于PIC16F882和热敏电阻的数字温度计
  • ¥15 cmd cl 0x000007b
  • ¥20 BAPI_PR_CHANGE how to add account assignment information for service line
  • ¥500 火焰左右视图、视差（基于双目相机）
  • ¥100 set_link_state
  • ¥15 虚幻5 UE美术毛发渲染
  • ¥15 CVRP 图论 物流运输优化
  • ¥15 Tableau online 嵌入ppt失败
  • ¥100 支付宝网页转账系统不识别账号