戈好雨 2018-11-08 02:57 采纳率: 0%
浏览 9248
已结题

为什么CNN的kernel和batch size是2的次幂？

我想在文章中解释一下网络的batch size参数选择原因，吴恩达在deep Learning中说过选择2的次幂可以加快二进制的计算，但没说具体的原因。
请问是什么原因，有没有相关的论文引用一下。

  • 写回答

2条回答 默认 最新

  • 钱多多先森 博客专家认证 2020-07-07 10:37
    关注

    链接：https://www.nowcoder.com/questionTerminal/832412088a4e4e2ab776330bf2a3ac53
    来源：牛客网

    机器学习训练时，Mini-Batch 的大小优选为2 的幂，如 256 或 512。它背后的原因是什么？

    Mini-Batch 为偶数的时候，梯度下降算法训练的更快

**Mini-Batch 设为 2 的幂，是为了符合 CPU、GPU 的内存要求，利于并行化处理**

不使用偶数时，损失函数是不稳定的

其他选项说法都不对
    评论

报告相同问题？

悬赏问题

  • ¥15 C++ 头文件/宏冲突问题解决
  • ¥15 用comsol模拟大气湍流通过底部加热（温度不同）的腔体
  • ¥50 安卓adb backup备份子用户应用数据失败
  • ¥20 有人能用聚类分析帮我分析一下文本内容嘛
  • ¥15 请问Lammps做复合材料拉伸模拟，应力应变曲线问题
  • ¥30 python代码，帮调试
  • ¥15 #MATLAB仿真#车辆换道路径规划
  • ¥15 java 操作 elasticsearch 8.1 实现 索引的重建
  • ¥15 数据可视化Python
  • ¥15 要给毕业设计添加扫码登录的功能！！有偿