模型训练过程中loss会突然上升然后下降,然后循环这种状态,这是什么原因呢?
收起
这很正常,因为调整权重的过程中,可能某个因素的突变会影响整个全局很多,然后再找到新的值继续降低梯度。要更多的训练看是不是过拟合
报告相同问题?