جلسهی 39: مدلهای بزرگ: پشت صحنه Big Models: Behind the Scenes
ChatGPT، Claude و DeepSeek چطور کار میکنند: توکن، دما، پیام سیستم، چرا اشتباه میکنند و چطور درست ازشان استفاده کنیم. جلسهی متنی، بدون شبکهی جدید.
در این جلسه یاد میگیری
- در پایان این جلسه میتوانم بگویم یک مدل زبانی بزرگ در اصل چه کاری میکند و چه ربطی به شاعر کوچک دارد.
- در پایان این جلسه میدانم توکن، دما و پیام سیستم یعنی چه.
- در پایان این جلسه میدانم چرا مدلها توهم میزنند و چطور جوابشان را بررسی کنم.
- در پایان این جلسه میدانم چه چیزی را نباید به یک چتبات بگویم و استفادهی درست در درسها چیست.
درس
در جلسهی ۳۵ شاعر کوچکی ساختی که با نگاه به یک یا دو کلمهی قبل، کلمهی بعدی را حدس میزد. مدل زبانی بزرگ (LLM) مثل ChatGPT، Claude یا DeepSeek دقیقاً همین کار را میکند: توکن بعدی را حدس میزند. تفاوت در اندازه است: به جای یک جدول کوچک، یک شبکهی عصبی با میلیاردها وزن (همان نورونهای جلسهی ۲۷ تا ۳۰، فقط خیلی زیاد)، و به جای شش خط شعر، تقریباً همهی متن اینترنت.
توکن: مدل کلمه نمیبیند، توکن میبیند؛ تکههایی که گاهی یک کلمه و گاهی بخشی از کلمهاند. unbelievable ممکن است سه توکن باشد: un، believ، able. برای فارسی معمولاً توکنها کوچکترند و یک جملهی فارسی توکن بیشتری میگیرد. قیمت و محدودیت طول چتباتها هم بر اساس توکن است. آزمایش: یک جمله را به Claude یا ChatGPT بده و بپرس «این چند توکن است؟»
دما: همان دکمهای که در شاعر کوچک ساختی. دمای پایین = همیشه محتملترین توکن، جوابهای تکراری و محتاط. دمای بالا = خلاقتر و گاهی عجیب. در چتباتهای معمولی دما را خودشان حدود ۰.۷ تا ۱ تنظیم میکنند؛ برنامهنویسها در API میتوانند عوضش کنند. برای همین یک سؤال را دو بار بپرسی، دو جواب کمی متفاوت میگیری.
پیام سیستم: قبل از اینکه تو چیزی بنویسی، شرکت سازنده یک متن پنهان به مدل داده: «تو دستیار مؤدبی هستی، امروز فلان تاریخ است، دربارهی این موضوعها کمک نکن...». این متن شخصیت و قانونهای چتبات را میسازد. وقتی خودت با API برنامه مینویسی، پیام سیستم را خودت مینویسی: «تو معلم ریاضی برای کلاس هفتم هستی و فقط فارسی جواب بده».
چرا اشتباه میکند (توهم): مدل «محتمل» را تولید میکند، نه «درست» را؛ در جلسهی ۳۵ دیدی. اگر از او بپرسی «کتابی که فلان نویسنده در سال ۱۹۹۰ نوشت»، حتی اگر چنین کتابی نباشد، یک اسم محتمل میسازد، با اعتماد به نفس کامل. به این توهم (hallucination) میگویند. قانون طلایی: هر عدد، تاریخ، اسم و لینکی که مدل میدهد را از یک منبع دیگر چک کن. برای کد: اجرایش کن! کدی که اجرا نکردهای، درست نیست.
سوگیری: مدل از متن آدمها یاد گرفته و همهی پیشداوریهای آن متنها را هم یاد گرفته. اگر در دادهی آموزش «دکتر» بیشتر مرد بوده، مدل هم همین را فرض میکند. یادت هست جلسهی ۱۸: آشغال داخل، آشغال بیرون. وقتی مدل دربارهی گروهی از آدمها حرف میزند، شک کن.
حریم خصوصی: هر چه در چتبات مینویسی به سرور یک شرکت میرود و ممکن است برای آموزش مدلهای بعدی استفاده شود. هیچوقت رمز عبور، شمارهی کارت، آدرس خانه، عکس مدرک یا رازهای دیگران را به چتبات نده. اسم و اطلاعات دوستانت را هم نه. تقلب: کپی کردن جواب چتبات در تکلیف، یادگیری تو را صفر میکند و در بیشتر مدرسهها تقلب حساب میشود. استفادهی درست: از او بخواه مفهوم را توضیح دهد، کدت را نقد کند، یا سؤال تمرینی بسازد؛ بعد خودت حل کن.
امتحان کن (با اجازه و حساب خانواده، چون بیشتر این سرویسها حداقل سن دارند): DeepSeek در chat.deepseek.com، ChatGPT در chatgpt.com و Claude در claude.ai نسخهی رایگان دارند. سه آزمایش کلاسی: ۱) یک سؤال را سه بار بپرس و تفاوتها را ببین (دما). ۲) دربارهی یک کتاب خیالی بپرس و ببین توهم میزند یا میگوید نمیداند. ۳) از او بخواه کد جلسهی ۲۲ تو را نقد کند و ببین نقدش درست است یا نه. نتیجه را برای ارائهی جلسهی ۴۰ بنویس.
چالشها
- Count the Tokens (آسان)
- Build a System Prompt (آسان)
- Privacy Filter (متوسط)
- Confidence Words (متوسط)
- Fact-Check List (سخت)
- Fair-Use Checker (سخت)