最近用vgg16网络训练自己的数据集，最开始的学习率设为了1e-3，发现loss到了1.7左右就不再降了，然后我调小学习率，调到了1e-5，loss到了1.7还是不降，一直在1.7左右震荡，训练了很多个epoch还是不变，于是我想测试看看，发现测试出来的图片分类结果都是一个值，请问有大佬知道这是为什么吗？
为什么用vgg16网络训练我自己的数据集，loss一直在1.7左右震荡，用训练好的模型进行预测出来的都是一个值？
- 写回答
- 好问题 0 提建议
- 追加酬金
- 关注问题
分享- 邀请回答
-
1条回答 默认 最新
- 2022-05-30 00:00回答 2 已采纳 删除最后的softmax层，在内个relu之前加归一化就好了
- 2021-10-21 23:53回答 1 已采纳 官方pretrain的模型数据集是imagenet，样本数是你这个数据集的很多倍，这样的vgg网络卷积层的参数基本收敛到比较好的一个情况，你直接用来finetune只要稍微微调一下最后的fc层就可以得
- 2021-03-18 16:11回答 2 已采纳 帮你改了下代码，路径你自己再改改，验证集acc能跑到0.8以上了。 import os import tensorflow as tf from tensorflow.keras import S
- 2022-08-22 16:29幼稚的人呐的博客 PyTorch可视化 | 可视化网络结构 | 使用TensorBoard可视化训练过程 一、自定义损失函数 PyTorch在torch.nn模块为我们提供了许多常用的损失函数，比如：MSELoss1，L1Loss，BCELoss… 但是随着深度学习的发展，...
- 2023-04-06 16:16回答 1 已采纳 VGG16 和 VGG-VD-16 在网络结构上是有区别的。VGG16 是 VGG 网络的一种实现，而 VGG-VD-16 则是 VGG 网络的一种变体。 PyTorch 中的 torchvision
- 2021-03-23 15:58回答 3 已采纳 1k5左右就差不多了，过拟合的话不一定，要看下有没有防止过拟合的手段，如果你的项目是开源项目的话，一般会有这方面的限制的。
- 2022-04-01 02:02回答 1 已采纳 可以调整参数，多运行几次（cpu跟gpu不影响结果，只是gpu运行快一点）
- 2022-03-18 11:23山顶夕景的博客 模型微调：迁移学习的应用场景，如在目标数据集上训练目标模型，将从头训练输出层，而其余层的参数都是基于源模型的参数微调得到的。 获取pytorch中的预训练模型，冻结预训练模型中所有参数； 然后模型微调：如替换...
- 2021-09-01 15:43回答 1 已采纳 VGG网络加FPN（金子塔结构）实现起来不难，首先看一下VGG的实现： 简介VggNet与其pytorch实现_清华和你，要上一个的博客-CSDN博客_pytorch vggnet 目前正在学
- 2023-03-18 02:20回答 5 已采纳 参考GPT和自己的思路： Vgg16模型是一个预训练的深度卷积神经网络，它由若干个卷积层和池化层构成。在输入一张图片后，模型会输出一个特征向量，该向量的维度通常为1000，用来表示该图片的分类信息。这
- 2022-05-24 11:49回答 3 已采纳 你这不像过拟合，不至于说几个epoch就过拟合了，你这是数据集有问题吧，要么数据集过小，要么训练集和验证集分布不均匀或者验证集过小，数据集重新整理下吧。还有就是加点数据增强的东西进去吧，简单的旋转转置
- 2022-06-01 00:19ShowMeAI的博客 本文讲解训练神经网络的核心方法：优化方式（SGD、动量更新、Nesterov动量、Adagrad、RMSProp、Adam等），正则化（L2、Dropout），迁移学习，模型集成等【对应 CS231n Lecture 7】
- 2021-03-12 00:07回答 2 已采纳 在上面给的代码的第164行处插入 optimizer = optimizers.Adam(lr=1e-4) 重新初始化optimizer，这样两个模型训练后的测试结果就一样了，望采纳
- 2022-07-20 22:16Alexa2077的博客 pytorch高阶训练技巧
- 2021-02-23 13:28cc13186851239的博客 1.2 为什么ReLU常用于神经网络的激活函数？1.3 梯度消失和梯度爆炸的解决方案？梯度爆炸引发的问题？1.4如何确定是否出现梯度爆炸？1.5神经网络中有哪些正则化技术？1.6 批量归一化(BN) 如何实现？作用？1.6.1 BN为...
- 没有解决我的问题, 去提问
