KC1B 2022-11-06 20:57
浏览 13
已结题

Batch Normalization论文中的疑问

Batch Normalization论文中第四页
3 Normalization via Mini-Batch Statistics
but it should be noted that the BN transform does not independently process the activation in each training example. Rather, BNγ,β (x) depends both on the training example and the other examples in the mini-batch.
这里除了训练样本还有小批量中的其他样本该怎么理解?transformation中 x 不是只包括minibatch一个batch的样本吗?

  • 写回答

1条回答 默认 最新

  • KC1B 2022-11-06 22:25
    关注

    懂了,training example就是小批量里的一个,这里作者的意思是bn不仅仅靠小批量里的一个样本。

    本回答被题主选为最佳回答 , 对您是否有帮助呢?
    评论

报告相同问题?

问题事件

  • 系统已结题 11月14日
  • 已采纳回答 11月6日
  • 创建了问题 11月6日