本地磁盘A 2022-01-13 15:01 采纳率: 100%
浏览 230
已结题

如何让卷积神经网络中间的某几层参数固定,还不影响正常的训练过程?

深度卷积网络中,一般都有很多卷积层,我现在想要把中间几层的卷积核参数固定,不随着训练而更改它们的值,但是这几层前面的卷积层和后面的卷积层还是需要正常的前向和反向传播,请问如何做到?
我在网上看到的方法都是冻结卷积神经网络的某几层的做法,但是这样的作法都是冻结前几层,让这几层的卷积核参数变成不能计算梯度,如下面代码所示:

for i, para in enumerate(self._net.module.features.parameters()):
  if i < 16:
    para.requires_grad = False
  else:
    para.requires_grad = True

但这么做我觉得会有一个问题,那就是我并不是想冻结前几层,而是中间某几层,这样的话,如果我冻结了中间从几层,可能就无法做到正常的反向传播了,请问有没有在固定中间某几层卷积核参数的情况下还能正常进行反向传播?

  • 写回答

1条回答 默认 最新

  • 爱晚乏客游 2022-01-14 09:34
    关注

    可以啊,冻结之后只是不更新参数和计算梯度,优化器在step的时候遇到不计算梯度的话自动就不更新参数了,但是反向传播还是正常进行的。

    本回答被题主选为最佳回答 , 对您是否有帮助呢?
    评论

报告相同问题?

问题事件

  • 系统已结题 1月26日
  • 已采纳回答 1月18日
  • 修改了问题 1月13日
  • 创建了问题 1月13日

悬赏问题

  • ¥15 微信公众号如何开发网页
  • ¥15 h3.6m 人类行为预测论文复现
  • ¥50 wordpress项目注册报失败刷新后其实是成功状态,请求排查原因
  • ¥20 linxu服务器僵尸进程不释放,代码如何修改?
  • ¥15 pycharm激活不成功
  • ¥40 如果update 一个列名为参数的value
  • ¥15 基于51单片机的水位检测系统设计中LCD1602一直不显示
  • ¥15 OCS2安装出现问题,请大家给点意见
  • ¥15 ros小车启动launch文件报错
  • ¥15 vs2015到期想登陆但是登陆不上