S. dr 2022-11-22 00:41 采纳率: 100%
浏览 119
已结题

深度学习推理时间（Inference time）计算问题

请问大家，深度学习模型的推理时间（Inference time ）是怎么计算的？是每个epoch运行的时间吗？还是每一个batchsize数据运行的时间？应该怎么理解？谢谢大家

  • 写回答

2条回答 默认 最新

  • 爱晚乏客游 2022-11-22 09:10
    关注

    推理的时候跟epoch无关，epoch是训练阶段的。
    计算推理时间是在训练结束之后的事情，目前看情况，主流的有1个或者32个batch size的推理时间，不包含图像预处理（包括转到cuda）和后处理，模型加载（包括加载到GPU）和预热时间等，单单计算模型开始推理到推理结束的运行时间就是推理时间，

    本回答被题主选为最佳回答 , 对您是否有帮助呢?
    评论
查看更多回答(1条)

报告相同问题？

问题事件

  • 系统已结题 12月1日
  • 已采纳回答 11月23日
  • 创建了问题 11月22日

悬赏问题

  • ¥15 做个有关计算的小程序
  • ¥15 MPI读取tif文件无法正常给各进程分配路径
  • ¥15 如何用MATLAB实现以下三个公式（有相互嵌套）
  • ¥30 关于#算法#的问题：运用EViews第九版本进行一系列计量经济学的时间数列数据回归分析预测问题 求各位帮我解答一下
  • ¥15 setInterval 页面闪烁，怎么解决
  • ¥15 如何让企业微信机器人实现消息汇总整合
  • ¥50 关于#ui#的问题：做yolov8的ui界面出现的问题
  • ¥15 如何用Python爬取各高校教师公开的教育和工作经历
  • ¥15 TLE9879QXA40 电机驱动
  • ¥20 对于工程问题的非线性数学模型进行线性化