y610911811 2021-07-20 16:55 采纳率: 0%
浏览 40

如何计算Bert based模型中的激活函数的个数?

激活函数中有三种激活函数,分别是softmax,Gelu, Tanh.

Bert based模型结构如图

把每个激活函数层的输出值打印出来之后是下图

请问计算Bert based模型中的激活函数的个数?

  • 写回答

1条回答 默认 最新

  • 踢足球的阿坤 2023-02-08 10:45
    关注

    总共有7个激活函数:Softmax,GELU,Tanh,ReLU,sigmoid,ELU,Leaky ReLU。

    评论

报告相同问题?

问题事件

  • 创建了问题 7月20日

悬赏问题

  • ¥15 关于cpci总线的几个问题,有点迷糊
  • ¥15 乳腺癌数据集 相关矩阵 特征选择
  • ¥15 我的游戏账号被盗取,请问我该怎么做
  • ¥15 通关usb3.0.push文件,导致usb频繁断连
  • ¥15 有没有能解决微信公众号,只能实时拍照,没有选择相册上传功能,我不懂任何技术,,有没有给我发个软件就能搞定的方法
  • ¥15 Pythontxt文本可视化
  • ¥15 如何基于Ryu环境下使用scapy包进行数据包构造
  • ¥15 springboot国际化
  • ¥15 搭建QEMU环境运行OP-TEE出现错误
  • ¥15 Minifilter文件保护