YOLOv8-seg的mask mAP50和mAP95在何处计算？

Question

在使用YOLOv8进行实例分割任务时，开发者常关注mask mAP50和mAP95的计算位置。该指标是在验证（validation）阶段，由`metrics.py`中的`SegmentationMetrics`类自动计算。具体而言，在调用`trainer.val()`时，模型对验证集推理后，通过比较预测掩码与真实掩码在IoU阈值0.50和0.95下的匹配情况，统计出mAP值。这些结果通常输出到控制台，并保存在`runs/train/exp/weights/`目录下的`results.txt`和TensorBoard日志中。常见问题是：为何自定义数据集上mAP95偏低？可能原因包括掩码标注质量差、类别不平衡或模型未充分收敛。确保数据预处理与训练配置合理是提升评估指标的关键。

Answer 1

1. YOLOv8实例分割中mask mAP50与mAP95的计算机制

在YOLOv8进行实例分割任务时，评估模型性能的核心指标之一是mask mAP（mean Average Precision），其中mAP50和mAP95分别代表在IoU（Intersection over Union）阈值为0.50和0.95下的平均精度。这些指标由Ultralytics框架中的metrics.py文件定义的SegmentationMetrics类负责计算。

具体流程如下：当训练器执行trainer.val()方法时，模型会对验证集中的每张图像进行推理，生成预测的边界框、类别标签以及对应的二值掩码。随后，系统将预测掩码与真实标注（ground truth）掩码进行逐一对比，计算其IoU值。

IoU 阈值	含义	严格程度
mAP50	IoU ≥ 0.5 即视为正样本	宽松
mAP75	IoU ≥ 0.75	中等
mAP95	IoU从0.5到0.95步长0.05取平均	非常严格

2. 指标输出路径与日志记录方式

每次验证结束后，YOLOv8会自动将评估结果写入多个位置以便后续分析：

• 控制台输出：实时显示当前epoch的mAP50-95、precision、recall等关键指标。
• results.txt：位于runs/train/exp/weights/results.txt，以空格分隔格式存储每个epoch的完整指标。
• TensorBoard日志：通过tensorboard --logdir=runs/train可可视化训练曲线，包括mask mAP的变化趋势。

# 示例 results.txt 中的一行数据（简化）
Epoch   GPU_mem   box_loss   seg_loss   cls_loss   instances       precision       recall  mAP50  mAP50-95
0       2.10G     0.621      0.432      0.511      123             0.712           0.654   0.689  0.431

3. 自定义数据集上mAP95偏低的常见原因分析

mAP95对预测掩码的精确度要求极高，因此在自定义数据集中常出现偏低现象。以下是主要影响因素：

1. 掩码标注质量差：手工标注存在边缘模糊、遗漏或过度填充问题，导致真实掩码不准确。
2. 类别不平衡：某些类别样本过少，模型难以学习其特征分布。
3. 模型未充分收敛：训练轮次不足或学习率设置不当，导致优化未达最优状态。
4. 数据增强策略不合理：如过度使用旋转、缩放可能破坏小目标结构。
5. 输入分辨率不匹配：低分辨率图像使细小物体细节丢失。

graph TD
    A[验证阶段调用 trainer.val()] --> B[模型推理验证集]
    B --> C[生成预测掩码与边界框]
    C --> D[与GT掩码计算IoU]
    D --> E{IoU ≥ threshold?}
    E -->|Yes| F[判定为TP]
    E -->|No| G[判定为FP]
    F & G --> H[计算PR曲线]
    H --> I[积分得AP]
    I --> J[多类别平均得mAP]

4. 提升mask mAP95的技术路径与工程实践

针对上述问题，可采取以下系统性改进措施：

# 在 data.yaml 中合理配置类别权重缓解不平衡
nc: 8
names: ['person', 'car', ...]
class_weights: [1.0, 1.5, 1.2, ...]  # 根据频率调整

• 使用COCO格式严格校验标注文件，确保每个segmentation字段为有效多边形点阵列。
• 启用mosaic和copy-paste增强提升小样本类别的泛化能力。
• 采用预训练权重并延长warmup周期，避免初期梯度震荡。
• 调整mask_ratio参数（默认4），提高掩码输出分辨率。
• 使用val_batch_size降低批大小以提升单样本推理精度。

优化项	默认值	推荐值	效果预期
imgsz	640	896~1280	+5%~8% mAP95
epochs	100	150~300	促进收敛
lr0	0.01	0.005~0.02	稳定训练
mask_ratio	4	8	提升边缘精度