timesformer的loss不拟合

Question

用timesformer进行分类，在增加train数据后loss卡在0.7左右一直不下降会有什么原因，在没增加之前loss会拟合到0.2/0.3左右

Answer 1

参考GPT和自己的思路：

这个问题的原因可能是过拟合或数据不平衡。当增加train数据时，模型可能会过度拟合这些数据，导致loss不再下降。此外，使用的数据可能不平衡，其中某些类别可能具有更多的训练示例，而其他类别可能具有较少的训练示例。这也可能导致loss不拟合问题。要解决这个问题，您可以尝试使用数据增强或添加正则化，并确保数据集平衡。