关于罗森布拉特感知机的疑问

Question

介绍问罗森布拉特感知机的部分，wi'=wi-η(yhat-y)xi，b'=b+η(yhat-y),反馈yhat-y。
如果预测值yhat=0，真实值y=1，则反馈=yhat-y=-1，说明预测值偏小，书上说预测值偏大要下调参数和权重。但是此时wi'=wi+ηxi，b'=b+η，此时wi和b更新变大，z=∑wixi+b更大了，这个逻辑怎么解释呢？

Answer 1

让 “紫雾凌寒” 来帮你回答,本回答结合 DeepSeek

如果还有问题，请评论或点击头像私信，如果有帮助到您, 请关注、采纳、点赞

1. 关键点分析：
   - 这里主要是关于罗森布拉特感知机更新公式中误差项(y_{hat}-y)的理解问题。当预测值(y_{hat})与真实值(y)不同时，感知机需要根据这个误差来调整权重(w_i)和偏置(b)。
2. 解决方案：
   - 罗森布拉特感知机的更新公式(w_i’ = w_i-\eta(y_{hat}-y)x_i)和(b’ = b+\eta(y_{hat}-y))是用于调整感知机参数以使其更准确地进行分类的。
   - 当(y_{hat}=0)且(y = 1)时，(y_{hat}-y=-1)。此时，对于权重(w_i)的更新，(w_i’ = w_i-\eta\times(-1)\times x_i=w_i+\eta x_i)，这意味着权重(w_i)会增加，因为(\eta)和(x_i)通常都是正数（(\eta)是学习率，(x_i)是输入特征）。增加权重会使得感知机在后续的计算中对该输入特征更加敏感，从而尝试让预测值更接近真实值。
   - 对于偏置(b)的更新，(b’ = b+\eta\times(-1)=b - \eta)，偏置(b)会减小。偏置的作用是调整决策边界的位置，减小偏置会使决策边界向更有利于正确分类的方向移动。
   - 例如，假设有一个简单的感知机模型用于判断一个点((x_1,x_2))是否属于某一类。初始权重(w_1 = 1)，(w_2 = 1)，偏置(b = 2)，学习率(\eta = 0.1)。输入点((x_1 = 1,x_2 = 1))，计算(y_{hat}=sign(w_1x_1 + w_2x_2 + b)=sign(1\times1 + 1\times1+2)=sign(4)=1)，当真实值(y = 1)时，这次不需要更新参数。但如果下一次输入点得到(y_{hat}=0)（比如调整了某些输入特征的值），真实值(y = 1)，则按照公式更新：
   • (w_1’ = w_1+\eta x_1=1 + 0.1\times1 = 1.1)
   • (w_2’ = w_2+\eta x_2=1 + 0.1\times1 = 1.1)
   • (b’ = b-\eta=2 - 0.1 = 1.9)
3. 不同解决方案的优缺点：
   - 优点：
   • 这种基于误差反馈更新参数的方法简单直观，易于理解和实现。通过不断调整权重和偏置，感知机能够逐渐适应不同的输入数据，提高分类准确率。
   • 缺点：
   • 感知机只能处理线性可分的数据，如果数据是非线性可分的，单纯使用感知机可能无法得到很好的分类效果。而且对于复杂的数据集，收敛速度可能较慢，需要较多的训练次数。
4. 总结：
   - 罗森布拉特感知机通过(y_{hat}-y)这个误差项来更新权重和偏置，以优化模型的分类能力。当(y_{hat}-y)为负时，权重增加，偏置减小，目的是使感知机的决策边界更接近正确的分类边界，从而提高对输入数据的分类准确性。但感知机有其局限性，适用于线性可分的数据场景。

希望以上解答对您有所帮助。如果您有任何疑问，欢迎在评论区提出。