菜丢 2022-08-31 22:54 采纳率: 0%
浏览 30

RNN是不同层的连接,是不是意味着有多少个输入就有多少层

以“我爱中国”为例,输入时每个字都是以one_hot形式,假设是8位的,那么此时输入神经元数量是8吧,设置一层隐藏层,隐藏层神经元为5。
t1时刻,输入“我”的one_hot,得到隐藏层参数h1,此时的参数量是85。
t2时刻,输入“爱”的one-hot,在考虑输入时同时考虑h1,得到隐藏层参数h2,此时参数量也是8
5。
我不明白的是,h2会覆盖h1吗,如果不覆盖的话是不是就表示有多少个输入(这里是4个)就在纵向连接上有多少个隐藏层,那么总的隐藏层部分的参数是485。但我查rnn的参数计算时,看到很多分析是不考虑输入的数量的。
如果我们最终得到的模型是最后的hn覆盖掉前面,那么我们测试时不就对每一个输入(例如“我爱学习”中的每一个字)同等看待了吗。

  • 写回答

1条回答 默认 最新

  • 皮皮宽 2022-09-01 21:01
    关注
    1. 如果不把h1存储起来,那确实会覆盖;
    2. RNN(循环神经网络)之所以叫RNN,是因为有一个循环的操作;t1时刻只有“我”这一个输入(记为x0),还有一个h0的输入;t2时刻的输入不仅仅有“爱”,还有t1时刻的输出h1,所以即使你输入两个"我",得到的也是不同的输出
    评论

报告相同问题?

问题事件

  • 修改了问题 8月31日
  • 修改了问题 8月31日
  • 修改了问题 8月31日
  • 创建了问题 8月31日

悬赏问题

  • ¥15 远程访问linux主机超时
  • ¥15 odoo17存货管理优势于中国国内该行业传统ERP或MES的详细解读和举例
  • ¥15 CPU卡指令整合指令数据都在图片上
  • ¥15 火车票关联12306问题
  • ¥15 odoo17处理受托加工产品
  • ¥15 如何用MATLAB编码图三的积分
  • ¥15 圆孔衍射光强随孔径变化
  • ¥15 MacBook pro m3max上用vscode运行c语言没有反应
  • ¥15 ESP-PROG配置错误,ALL ONES
  • ¥15 结构功能耦合指标计算