k近邻算法疑问，分类错误，为什么与计算有差

Question

from sklearn.neighbors import KNeighborsClassifier

# 样本数据
X = [[1, 6], [1, 2], [3, 5], [3, 6],[5, 2], [6, 5], [7, 7], [7, 1], [8, 3]]  # 每个样本有两个特征

# 标签
y = ['Left', 'Left', 'middle','middle', 'middle', 'top right', 'top right', 'bottom right', 'bottom right']  # 每个样本对应的标签

# 创建并训练K最近邻模型
estimator = KNeighborsClassifier(n_neighbors=3)
estimator.fit(X, y)

# 使用模型进行预测
ret = estimator.predict([[4, 1]])

print(ret)

输出是 ['Left']

如图所示，应该是离middle更近呀，为什么是left，随后问了一下文心一言，他算出来的也是middle：

文心一言的三个最小的说错了，最近的三个是[5, 2]（距离=(\sqrt{2})），[7,1] （距离=(3)）和 [1, 2]（距离=(\sqrt{10})）
这三个的标签分别是 middle、bottom right、Left ， 那么按照多个不同的标签，随机取一个的说法应该是随机的，但是运行很多次都是left。为什么呢
而且为啥不是取三个中最近的middle
求大家指点，哪里有问题

Answer 1

该回答引用自GPT-3.5,由博主GIS_Liu编写：

问题出在 K 最近邻算法中的距离度量方式。在默认情况下，sklearn 中的 KNeighborsClassifier 使用的是欧式距离来计算样本之间的距离。而在欧式距离下，样本 (4, 1) 更接近于左上角的点 [1, 2] 而不是中间的点 [3, 5]。

如果要根据你的直觉判断最近的点，可以使用曼哈顿距离（Manhattan Distance）来替代欧式距离，因为曼哈顿距离更符合你的直觉。你可以在创建 KNeighborsClassifier 时指定参数 metric='manhattan'，这样就会使用曼哈顿距离进行距离度量，代码如下：

from sklearn.neighbors import KNeighborsClassifier

# 样本数据
X = [[1, 6], [1, 2], [3, 5], [3, 6],[5, 2], [6, 5], [7, 7], [7, 1], [8, 3]]
# 每个样本有两个特征

# 标签
y = ['Left', 'Left', 'middle','middle', 'middle', 'top right', 'top right', 'bottom right', 'bottom right']
# 每个样本对应的标签

# 创建并训练K最近邻模型
estimator = KNeighborsClassifier(n_neighbors=3, metric='manhattan')
estimator.fit(X, y)

# 使用模型进行预测
ret = estimator.predict([[4, 1]])
print(ret)

这样应该可以得到更符合你直觉的结果。

如果该回答解决了您的问题，请采纳！如果没有，请详述问题所在！