现在想尝试在一个单个隐藏层的神经网络中。把传统的线性权重"WX+b"加上激活函数的复合函数, 替换成任意高次函数f(x)(例如"Ax^3+Bx^2+Cx+d"),然后进行前向传播与反向传播请问是否可行。求相关的理论参考与pytorch实现的相关资料?
2条回答 默认 最新
- 艾鹤 2022-06-08 09:30关注
替换成其他激活函数理论上是可以的,不过也有可能无法收敛,最好是高次的非线性函数,这样才好拟合
pytorch实现的话,参考李沐老师的系列教程应该就差不多了:
10 多层感知机 + 代码实现 - 动手学深度学习v2_哔哩哔哩_bilibili 动手学深度学习 v2 - 从零开始介绍深度学习算法和代码实现课程主页:https://courses.d2l.ai/zh-v2/教材:https://zh-v2.d2l.ai/ https://www.bilibili.com/video/BV1hh411U7gn本回答被题主选为最佳回答 , 对您是否有帮助呢?解决 无用评论 打赏 举报 编辑记录
悬赏问题
- ¥20 删除和修改功能无法调用
- ¥15 kafka topic 所有分副本数修改
- ¥15 小程序中fit格式等运动数据文件怎样实现可视化?(包含心率信息))
- ¥15 如何利用mmdetection3d中的get_flops.py文件计算fcos3d方法的flops?
- ¥40 串口调试助手打开串口后,keil5的代码就停止了
- ¥15 电脑最近经常蓝屏,求大家看看哪的问题
- ¥60 高价有偿求java辅导。工程量较大,价格你定,联系确定辅导后将采纳你的答案。希望能给出完整详细代码,并能解释回答我关于代码的疑问疑问,代码要求如下,联系我会发文档
- ¥50 C++五子棋AI程序编写
- ¥30 求安卓设备利用一个typeC接口,同时实现向pc一边投屏一边上传数据的解决方案。
- ¥15 SQL Server analysis services 服务安装失败