جواب «Choosing k» چالش 6 از جلسهی 22
سؤال
برای هر k در [1, 3, 5] دقت k-NN را روی خودِ داده حساب کن، به روش «هر مثال را بیرون بگذار»: برای مثال شمارهی i، مدل را با همهی مثالها به جز i بساز و حدسش را با y[i] مقایسه کن. برای هر k یک خط چاپ کن مثل k=1 accuracy 0.83. دقت را با round(x, 2) گرد کن. خروجی: k=1 accuracy 0.56، k=3 accuracy 0.78، k=5 accuracy 0.89. یک مثال عمداً اشتباه برچسب خورده؛ ببین k بزرگتر چطور اثرش را کم میکند.
راهنما
for i in range(len(X)): others_X = X[:i] + X[i + 1:]; others_y = y[:i] + y[i + 1:]; if knn(X[i], others_X, others_y, k) == y[i]: correct += 1.
یک جواب درست
import math
def distance(a, b):
total = 0
for i in range(len(a)):
total = total + (a[i] - b[i]) ** 2
return math.sqrt(total)
def knn(point, X, y, k):
pairs = []
for i in range(len(X)):
pairs.append((distance(point, X[i]), y[i]))
pairs.sort()
votes = {}
for d, label in pairs[:k]:
votes[label] = votes.get(label, 0) + 1
return max(votes, key=votes.get)
X = [[0.2, 0.9], [0.3, 0.8], [0.25, 0.75], [0.15, 0.85], [0.5, 0.5], [0.8, 0.2], [0.9, 0.3], [0.85, 0.25], [0.28, 0.78]]
y = ["apple", "apple", "apple", "apple", "orange", "orange", "orange", "orange", "orange"]
for k in [1, 3, 5]:
correct = 0
for i in range(len(X)):
others_X = X[:i] + X[i + 1:]
others_y = y[:i] + y[i + 1:]
if knn(X[i], others_X, others_y, k) == y[i]:
correct += 1
print(f"k={k} accuracy {round(correct / len(y), 2)}")
اول خودت امتحان کن؛ جوابهای دیگر هم قبول است. برگرد و خودت حلش کن