weixin_44505695
药师medmaster
采纳率0%
2019-02-18 00:15

卷积神经网络训练loss变为nan

卷积神经网络训练,用的是mnist数据集,第一次训练前损失函数还是一个值,训练一次之后就变成nan了,使用的损失函数是ce = tf.nn.sparse_softmax_cross_entropy_with_logits(logits=y, labels=tf.argmax(y_, 1)),cem = tf.reduce.mean(ce),应该不会出现真数为零或负的情况,而且训练前loss是存在的,只是训练后变为nan,求各位大牛答疑解惑,感激不尽。图片说明图片说明图片说明

  • 点赞
  • 写回答
  • 关注问题
  • 收藏
  • 复制链接分享
  • 邀请回答

1条回答

  • qq_38669600 qq_38669600 2年前

    你怎么训练的,有时候损失层中loss的计算可能导致NaN的出现或者梯度过大的话会导致Nan出现,建议检查激活函数的选择是不是好的,换换激活函数试试

    点赞 1 评论 复制链接分享

相关推荐