训练模型时hmean 和 acc的值会一直是零(paddle)

Question

需要实现在一张截图里只要部分区域的文字信息
想用paddle想训练一个模型时使用:
文本检测模型:ch_PP-OCRv3_det_cml.yml 和对应的训练模型
文本识别模型:ch_PP-OCRv3_rec_distillation.yml 和对应的训练模型
发现两个训练完之后会显示
best metric, hmean: 0, is_float16: False
best metric, acc: 0, is_float16: False
配置文件里面参数只是修改了训练模型路径,数据集;标签;评估标签路径
想知道为什么hmean 和 acc的值会一直是零？或者说可能是那些原因？

Answer 1

引自免费微信小程序：皆我百晓生

遇到在训练模型时hmean和acc值一直为零的问题，这通常意味着模型没有从训练数据中学习到有效的信息，或者遇到了一些阻碍学习过程的障碍。下面是一些可能的原因以及相应的解决策略：

1. 数据质量问题

• 检查数据集：确保数据集正确无误，包括图像和标签。查看是否有损坏的图像或不正确的标签。
• 数据预处理：确认数据预处理步骤是否恰当，例如缩放、裁剪、增强等操作是否正确实施。

2. 模型结构与初始化

• 模型结构：确认使用的模型结构是否适合当前任务。有时，即使是先进的模型也可能不适合特定的数据集或任务。
• 权重初始化：检查模型权重初始化是否合适。不恰当的初始化可能导致模型陷入局部最小值或梯度消失/爆炸。

3. 超参数设置

• 学习率：过高的学习率可能导致模型训练不稳定，而过低的学习率则可能使模型学习缓慢或停滞。尝试调整学习率。
• 批次大小（batch size）：太大的批次可能导致内存溢出，太小的批次可能影响梯度估计的稳定性。
• 优化器选择：不同的优化器（如SGD、Adam、RMSprop等）可能对模型的表现有显著影响。尝试更换优化器。

4. 训练细节

• 训练时间：确保模型训练足够长的时间。有时候模型需要更多迭代才能开始学习。
• 验证集：确认验证集是否正确划分且与训练集不重叠。

5. 损失函数与评估指标

• 损失函数：确认损失函数是否正确应用于当前任务。对于分类任务，常见的损失函数是交叉熵损失；对于回归任务，则可能是均方误差损失。
• 评估指标：hmean和acc分别代表F1分数和准确率。确保这些指标的计算方式正确，并且适用于你的任务类型。

解决方案示例

假设你正在使用PaddlePaddle框架，可以尝试以下步骤：

• 调整学习率：在配置文件中修改学习率，例如从默认值0.001开始调整。

Optimizer:
  learning_rate: 0.0005 # 尝试减小学习率

• 增加数据增强：在数据加载部分增加更多的数据增强操作，以提高模型泛化能力。

from paddle.vision.transforms import Compose, RandomHorizontalFlip, Resize

transform = Compose([Resize((224, 224)), RandomHorizontalFlip()])

• 检查标签格式：确保标签数据与模型期望的格式一致。例如，对于分类任务，标签应为整数类标。

如果上述方法都无法解决问题，建议检查模型训练日志中的更多信息，比如损失值是否在下降，梯度是否正常等，以进一步定位问题所在。此外，尝试在较小的数据集上先进行测试，以排除数据量过大导致的潜在问题。如果问题仍然存在，考虑查阅相关文献或社区论坛，寻找类似问题的解决方案。