جلسهی 31: آموزش یعنی اصلاح اشتباه Training Means Fixing Mistakes
بهجای امتحان همهی وزنها، نورون هر بار که اشتباه میکند وزنهایش را کمی به سمت جواب درست هل میدهد. این «قانون پرسپترون» سه خط است و دور به دور اشتباهها را کم میکند. و فرق «حفظ کردن» با «یاد گرفتن» را میبینی.
در این جلسه یاد میگیری
- در پایان این جلسه میدانی «خطا» یعنی جواب درست منهای جواب نورون.
- میتوانی قانون پرسپترون را در سه خط بنویسی.
- میتوانی نورون را چند دور آموزش بدهی تا اشتباههایش صفر شود.
- میدانی چرا مدلی که تمرین را حفظ کرده، در آزمون میبازد.
درس
دوباره نورون داور، ولی این بار اسلایدرها را دست نزن! «از اول» را بزن و بعد چند بار «یک قدم یادگیری». هر قدم نورون یکی از نقطههایی را که اشتباه گفته برمیدارد و خط را کمی به سمتش میچرخاند. اول حدس بزن: نمودار پایین (تعداد اشتباه بعد از هر قدم) همیشه پایین میآید یا گاهی بالا هم میرود؟ چند قدم تا صفر؟
قانون پرسپترون: برای هر مثال، نورون حدس میزند (out). خطا = target - out: اگر درست گفته 0 است و هیچ چیز عوض نمیشود. اگر باید آبی میگفت و نگفت، +1؛ اگر نباید میگفت و گفت، -1. بعد هر وزن به اندازهی rate × خطا × ورودی عوض میشود و آستانه برعکس. rate (سرعت یادگیری) قدمها را کوچک نگه میدارد.
w1, w2, t = 1.0, 1.0, 8.0
rate = 0.5
x, y, target = 1, 4, 1
out = 1 if w1 * x + w2 * y >= t else 0
error = target - out
w1 += rate * error * x
w2 += rate * error * y
t -= rate * error
print(error, w1, w2, t)دور (round): یک بار گذشتن از روی همهی مثالها. بعد از هر دور اشتباهها را میشماریم؛ اگر صفر بود، آموزش تمام است. تمثیل: مثل تمرین پنالتی؛ هر بار توپ چپ میرود کمی به راست نشانه میگیری، نه خیلی زیاد که آن طرف بیفتد. اگر rate خیلی بزرگ باشد، خط مدام اینور و آنور میپرد.
حفظ کردن در برابر یاد گرفتن: یک «مدل» تنبل میشود ساخت که فقط یک دیکشنری از مثالهای تمرین دارد: memory[(x, y)] = رنگ. روی تمرین ۱۰۰٪ درست است! ولی برای نقطهای که ندیده هیچ ایدهای ندارد. نورون بهجای حفظ کردن، یک قانون کلی (خط) یاد گرفته که برای نقطههای تازه هم کار میکند. این همان فرق دانشآموزی است که جوابها را حفظ کرده با کسی که روش را فهمیده.
⚠️ «۱۰۰٪ روی تمرین» یک زنگ خطر است، نه افتخار. مدلهای بزرگ گاهی جملههای کتابها یا عکسهای آدمها را تقریباً حفظ میکنند و عیناً پس میدهند؛ این هم برای کپیرایت و هم برای حریم خصوصی مشکل است. مدل خوب الگو یاد میگیرد، نه خود داده را.
در پروژه: جلسهی بعد بازی سبد را با دست جلوی دوربین (یا با دفتر نقاشی) کنترل میکنی. آنجا k-NN جلسهی ۲۹ را به کار میبریم، ولی ایدهی امروز هم هست: مدل فقط وقتی حرکت کند که مطمئن است، و آزمودنش در نور کم.
مثالهای این جلسه
چالشها
- The Order of Learning (آسان)
- One Nudge (آسان)
- One Round (متوسط)
- Train Until Perfect (متوسط)
- Memorise or Learn? (سخت)
- A Neuron Learns the Camera (سخت)
بیشتر بخوان
← جلسهی 30: نورون یک داور است جلسهی 32: پروژه: بازی با دست →