曲草 2019-03-17 12:29 采纳率: 0%
浏览 6152

度量学习中三元组损失不收敛(loss无法下降到margin以下,样本的降维输出聚在一起)

最近在搞三元组损失来做分类的任务,用了VGG16模型进行主干网络进行特征提取,最后用triplet loss来约束网络进行学习。

三元组损失是来优化正样本,负样本与锚点之间的距离的,以margin作为阈值。

但是我在训练时发现使用数据增强的情况下triplet loss并不能降到margin以下,反而是停留在margin附近,此时正样本,负样本,锚点距离都为0,聚在了一起。
而不使用数据增强时只要特征维度不是太小loss就可以降到margin以下。
我的学习率设置为0.0005,MomentumOptimizer,momentum=0.9。

是因为样本本身的原因吗?或者是网络本身的原因?
希望能得到大家的指点,感谢。

  • 写回答

3条回答 默认 最新

  • 万培佩 2019-10-11 15:16
    关注

    可以将margin设置较大,太小的话loss可能收敛比较好,有可能无法拉近anhor与正样本距离。

    评论

报告相同问题?

悬赏问题

  • ¥15 使用C#,asp.net读取Excel文件并保存到Oracle数据库
  • ¥15 C# datagridview 单元格显示进度及值
  • ¥15 thinkphp6配合social login单点登录问题
  • ¥15 HFSS 中的 H 场图与 MATLAB 中绘制的 B1 场 部分对应不上
  • ¥15 如何在scanpy上做差异基因和通路富集?
  • ¥20 关于#硬件工程#的问题,请各位专家解答!
  • ¥15 关于#matlab#的问题:期望的系统闭环传递函数为G(s)=wn^2/s^2+2¢wn+wn^2阻尼系数¢=0.707,使系统具有较小的超调量
  • ¥15 FLUENT如何实现在堆积颗粒的上表面加载高斯热源
  • ¥30 截图中的mathematics程序转换成matlab
  • ¥15 动力学代码报错,维度不匹配