我最近刚开始接触神经网络的学习,不知道接下来我对问题的理解与描述是否清晰准确,求大腿!
感知机作为多层神经网络的基本逻辑判断单元,我们一般选择通过sigmoid函数作为激活函数(《机器学习》,周志华,p98)。
(Q1)这里的激活函数是起到决定y的输出值为0,1的作用吗?
(Q2)那么我们是否可以通过选择放弃使用sigmoid,而直接输出y的激活后的值达到增强下一层判断拟合准确性的目的?
(Q3)我们知道,与或非问题都是线性可分的问题,即我们可以找到一个超平面来对问题进行判断。那么将以激活函数为判断依据的逻辑判断,换为SVM-inspired神经网络,我是否能得到对存在较多离群数据的训练集(离群数据会对自适应学习率算法的影响)有更强的鲁棒性的神经网络?这样的神经网络的性能收益是否超过计算负荷带来的负收益?
暂时能想到的就这么多,机器学习任重道远TAT