مثال list comprehension (هوش مصنوعی با پایتون): return np.array([[random.uniform(-0.5, 0.5)… — دادهی بزرگتر ۱
مثال 7 از درس جلسهی 45 آموزش هوش مصنوعی برای نوجوانان با پایتون: دادهی بزرگتر ۱
حالا همه با هم. برای اینکه توابع بتوانند وزنها را عوض کنند، آنها را در دیکشنری net نگه میداریم (مثل جلسهی ۴۲). train_batch همان قدم آموزش جلسهی ۴۴ است برای یک دسته و خطای آن دسته را برمیگرداند. loss_acc خطا و دقت را روی هر دادهای میدهد. این چهار تابع را در جلسهی بعد هم استفاده میکنیم.
def softmax(z):
e = np.exp(z - z.max(axis=1, keepdims=True))
return e / e.sum(axis=1, keepdims=True)
def rand_matrix(rows, cols):
return np.array([[random.uniform(-0.5, 0.5) for _ in range(cols)] for _ in range(rows)])
def make_net():
random.seed(0)
return {"W1": rand_matrix(25, 16), "b1": np.zeros(16), "W2": rand_matrix(16, 10), "b2": np.zeros(10)}
def forward(net, X):
h = np.maximum(0, X @ net["W1"] + net["b1"])
return h, softmax(h @ net["W2"] + net["b2"])
def train_batch(net, xb, yb, lr):
h, p = forward(net, xb)
dz2 = (p - np.eye(10)[yb]) / len(xb)
dh = dz2 @ net["W2"].T * (h > 0)
net["W2"] -= lr * h.T @ dz2
net["b2"] -= lr * dz2.sum(axis=0)
net["W1"] -= lr * xb.T @ dh
net["b1"] -= lr * dh.sum(axis=0)
return float(-np.log(p[np.arange(len(yb)), yb]).mean())
def loss_acc(net, X, y):
h, p = forward(net, X)
loss = -np.log(p[np.arange(len(y)), y]).mean()
return float(loss), float((p.argmax(axis=1) == y).mean())
net = make_net()
order = list(range(len(X)))
for epoch in range(1, 11):
random.shuffle(order)
Xs, ys = X[order], y[order]
for start in range(0, len(X), 20):
train_batch(net, Xs[start:start + 20], ys[start:start + 20], 0.5)
loss, acc = loss_acc(net, X, y)
print(epoch, round(loss, 3), round(acc * 100))
# 1 1.458 46
# 2 0.93 68
# ...
# 10 0.061 99
این کد را همینجا در ویرایشگر پایتون اجرا کن، عددها و متنهایش را عوض کن و دوباره اجرا کن تا ببینی چه تغییری میکند.
بیشتر بخوان: list comprehension در پایتون: از حلقه for تا یک خط کد
← مثال قبلی · برگشت به درس جلسهی 45: دادهی بزرگتر ۱ · چالشهای این جلسه