网络选择mobilefacenet，损失函数选择arcface。

Question

1、数据集选择了insightface作者提供的faces_umd，总类别为8277；

2、在行了60epoch，损失下降到8左右，训练精度只有30%上下；

3、参数设置为：lr=0.01, 0.001, 0.0001, 0.00001, 0.000001，s=32，m=0.5。

我该怎么做才能让损失继续下降？训练精度为什么一直在30%上下跳动，而不是稳步上升？

Answer 1

1. 初始学习率过大？尝试降低学习率更换优化器（先用adam）

2. mobilefacenet的骨干网络是不是太简单了，加深一下网络层数和通道

3. 数据预处理方法有没有归一化

4.有没有用到BN，关闭dropout