weixin_39602108
weixin_39602108
2020-11-23 01:58

yolov4模型剪枝后模型大小下降,FPS也下降了

我用alex的darknet训练了一个260MB的yolov4模型,然后用了该方法将模型压缩到120MB。不过原本在jetson Xaiver NX 上FPS是3.8 现在只有3.1了,求问为什么会这样呢?

该提问来源于开源项目:tanluren/yolov3-channel-and-layer-pruning

  • 点赞
  • 写回答
  • 关注问题
  • 收藏
  • 复制链接分享
  • 邀请回答

11条回答

  • ls66hahaha ls66hahaha 1月前

    各位大佬,我能脸皮厚的在这里问哈,有关这个yolov4的模型压缩实现去哪里学习吗?

    点赞 评论 复制链接分享
  • weixin_39936558 weixin_39936558 5月前

    就是和作者用的一样的,--prune 1。 刚开始mAP波动,等学习率大了以后mAP下降,等到后来学习率下降以后,mAP又升回来了。推荐你训练的时候用tensorboard观察bn weights。bn weights在l1的作用下变动的时候mAP掉的厉害,但是当分布稳定的时侯,mAP又上来了。 我是150个epoch

    -bluvec

    请问一下,您用的数据集是多少个类? 并且您训练的时候 稀疏度  --sr   s=是多少啊?
    

    我这边在voc 数据集上,稀疏化训练的 s= 0.001, prune =1 ; 已经训练了 150个epoch 了, 精度 可以回升, 但召回率始终很低? 610272BF1AB42D4ED35DDD0B5433E45B sparseTrain

    点赞 评论 复制链接分享
  • weixin_39602108 weixin_39602108 5月前

    我用alex的darknet训练了一个260MB的yolov4模型,然后用了该方法将模型压缩到120MB。不过原本在jetson Xaiver NX 上FPS是3.8 现在只有3.1了,求问为什么会这样呢?

    我也是用alex的darknet训练的yolov4模型,但是稀疏训练第80epoch map从90多降到50多,这正常吗? 请问你的学习率和s如何设置的

    就是和作者用的一样的,--prune 1。 刚开始mAP波动,等学习率大了以后mAP下降,等到后来学习率下降以后,mAP又升回来了。推荐你训练的时候用tensorboard观察bn weights。bn weights在l1的作用下变动的时候mAP掉的厉害,但是当分布稳定的时侯,mAP又上来了。 我是150个epoch

    你用的什么数据集 啊

    公司的数据,没试coco和其他公共数据。 刚刚又跑了一次,剪到80MB。我这边剪channel对速度提升没有提升,貌似还导致在NX上面一定的下降。 只有剪layer有效果。我最后剪了16个shortcut, channel的slim是0.35。2080ti从60FPS到79FPS,但是jetson NX还是没提升。

    可以分享一下稀疏训练的bn图和map变化的图嘛,我这个可能是数据集的问题

    Screenshot from 2020-07-30 15-13-08 BN是稀疏训练前后的对比

    Screenshot from 2020-07-30 15-13-34 trainloss和mAP 包括后来的蒸馏学习部分。 模型从250MB到80MB, 精度基本保持,但是再次吐槽xaiver NX的FPS没变

    点赞 评论 复制链接分享
  • weixin_39635314 weixin_39635314 5月前

    这是每层的bn图,你应该看总的统计;稀疏未够充分,所以剪枝率低

    点赞 评论 复制链接分享
  • weixin_39546520 weixin_39546520 5月前

    我用alex的darknet训练了一个260MB的yolov4模型,然后用了该方法将模型压缩到120MB。不过原本在jetson Xaiver NX 上FPS是3.8 现在只有3.1了,求问为什么会这样呢?

    我也是用alex的darknet训练的yolov4模型,但是稀疏训练第80epoch map从90多降到50多,这正常吗? 请问你的学习率和s如何设置的

    点赞 评论 复制链接分享
  • weixin_39620278 weixin_39620278 5月前

    是先用darknet训练的yolov4模型,在进行稀疏训练吗,我也是这么训练的,map 一直下降

    点赞 评论 复制链接分享
  • weixin_39546520 weixin_39546520 5月前

    是啊,问题很大

    点赞 评论 复制链接分享
  • weixin_39602108 weixin_39602108 5月前

    我用alex的darknet训练了一个260MB的yolov4模型,然后用了该方法将模型压缩到120MB。不过原本在jetson Xaiver NX 上FPS是3.8 现在只有3.1了,求问为什么会这样呢?

    我也是用alex的darknet训练的yolov4模型,但是稀疏训练第80epoch map从90多降到50多,这正常吗? 请问你的学习率和s如何设置的

    就是和作者用的一样的,--prune 1。 刚开始mAP波动,等学习率大了以后mAP下降,等到后来学习率下降以后,mAP又升回来了。推荐你训练的时候用tensorboard观察bn weights。bn weights在l1的作用下变动的时候mAP掉的厉害,但是当分布稳定的时侯,mAP又上来了。 我是150个epoch

    点赞 评论 复制链接分享
  • weixin_39546520 weixin_39546520 5月前

    我用alex的darknet训练了一个260MB的yolov4模型,然后用了该方法将模型压缩到120MB。不过原本在jetson Xaiver NX 上FPS是3.8 现在只有3.1了,求问为什么会这样呢?

    我也是用alex的darknet训练的yolov4模型,但是稀疏训练第80epoch map从90多降到50多,这正常吗? 请问你的学习率和s如何设置的

    就是和作者用的一样的,--prune 1。 刚开始mAP波动,等学习率大了以后mAP下降,等到后来学习率下降以后,mAP又升回来了。推荐你训练的时候用tensorboard观察bn weights。bn weights在l1的作用下变动的时候mAP掉的厉害,但是当分布稳定的时侯,mAP又上来了。 我是150个epoch

    你用的什么数据集 啊

    点赞 评论 复制链接分享
  • weixin_39602108 weixin_39602108 5月前

    我用alex的darknet训练了一个260MB的yolov4模型,然后用了该方法将模型压缩到120MB。不过原本在jetson Xaiver NX 上FPS是3.8 现在只有3.1了,求问为什么会这样呢?

    我也是用alex的darknet训练的yolov4模型,但是稀疏训练第80epoch map从90多降到50多,这正常吗? 请问你的学习率和s如何设置的

    就是和作者用的一样的,--prune 1。 刚开始mAP波动,等学习率大了以后mAP下降,等到后来学习率下降以后,mAP又升回来了。推荐你训练的时候用tensorboard观察bn weights。bn weights在l1的作用下变动的时候mAP掉的厉害,但是当分布稳定的时侯,mAP又上来了。 我是150个epoch

    你用的什么数据集 啊

    公司的数据,没试coco和其他公共数据。 刚刚又跑了一次,剪到80MB。我这边剪channel对速度提升没有提升,貌似还导致在NX上面一定的下降。 只有剪layer有效果。我最后剪了16个shortcut, channel的slim是0.35。2080ti从60FPS到79FPS,但是jetson NX还是没提升。

    点赞 评论 复制链接分享
  • weixin_39546520 weixin_39546520 5月前

    我用alex的darknet训练了一个260MB的yolov4模型,然后用了该方法将模型压缩到120MB。不过原本在jetson Xaiver NX 上FPS是3.8 现在只有3.1了,求问为什么会这样呢?

    我也是用alex的darknet训练的yolov4模型,但是稀疏训练第80epoch map从90多降到50多,这正常吗? 请问你的学习率和s如何设置的

    就是和作者用的一样的,--prune 1。 刚开始mAP波动,等学习率大了以后mAP下降,等到后来学习率下降以后,mAP又升回来了。推荐你训练的时候用tensorboard观察bn weights。bn weights在l1的作用下变动的时候mAP掉的厉害,但是当分布稳定的时侯,mAP又上来了。 我是150个epoch

    你用的什么数据集 啊

    公司的数据,没试coco和其他公共数据。 刚刚又跑了一次,剪到80MB。我这边剪channel对速度提升没有提升,貌似还导致在NX上面一定的下降。 只有剪layer有效果。我最后剪了16个shortcut, channel的slim是0.35。2080ti从60FPS到79FPS,但是jetson NX还是没提升。

    可以分享一下稀疏训练的bn图和map变化的图嘛,我这个可能是数据集的问题

    点赞 评论 复制链接分享