جواب «Three-Input Parity» چالش 6 از جلسهی 42
سؤال
XOR بزرگتر: سه ورودی، و جواب ۱ وقتی تعداد یکها فرد است (۸ مثال). خودت شبکه را بساز و آموزش بده: بعد از random.seed(0) به همین ترتیب W1 = rand_matrix(3, 3)، b1 = np.zeros(3)، W2 = rand_matrix(3, 1)، b2 = np.zeros(1)؛ ۴۰۰۰ دوره با lr = 1.0 و همان فرمولهای پسانتشار ماتریسی. در آخر خروجی گرد با ۲ رقم و دقت را چاپ کن. خروجی دو خط است: [0.01 0.98 0.98 0.02 0.98 0.02 0.02 0.99] و accuracy 1.0. ببین: فقط شکل X عوض شد، کد همان است.
راهنما
همان حلقهی کارت آموزش این جلسه است. دقت: ((out > 0.5) == y).mean() و آن را با float چاپ کن. خروجی آخر را بعد از حلقه دوباره با وزنهای نهایی حساب کن.
یک جواب درست
import random
import numpy as np
def sigmoid(z):
return 1 / (1 + np.exp(-z))
def rand_matrix(rows, cols):
return np.array([[random.uniform(-1, 1) for _ in range(cols)] for _ in range(rows)])
X = np.array([[0, 0, 0], [0, 0, 1], [0, 1, 0], [0, 1, 1],
[1, 0, 0], [1, 0, 1], [1, 1, 0], [1, 1, 1]])
y = np.array([[0], [1], [1], [0], [1], [0], [0], [1]])
random.seed(0)
W1 = rand_matrix(3, 3)
b1 = np.zeros(3)
W2 = rand_matrix(3, 1)
b2 = np.zeros(1)
for epoch in range(4000):
h = sigmoid(X @ W1 + b1)
out = sigmoid(h @ W2 + b2)
d2 = (out - y) * out * (1 - out)
d1 = (d2 @ W2.T) * h * (1 - h)
W2 -= 1.0 * h.T @ d2
b2 -= 1.0 * d2.sum(axis=0)
W1 -= 1.0 * X.T @ d1
b1 -= 1.0 * d1.sum(axis=0)
out = sigmoid(sigmoid(X @ W1 + b1) @ W2 + b2)
print(np.round(out[:, 0], 2))
print("accuracy", float(((out > 0.5) == y).mean()))
اول خودت امتحان کن؛ جوابهای دیگر هم قبول است. برگرد و خودت حلش کن