بتل کد Battle Codeدارد باز می‌شود…

جلسه‌ی 37: مدل از داخل کد A Model from Your Code

از داخل پایتون با ask() از مدل زبانی سؤال می‌پرسی، می‌فهمی توکن و سهمیه چیست و چرا جواب هر بار فرق دارد، و برنامه‌ات را با یک «مدل ساختگی» می‌آزمایی.

در این جلسه یاد می‌گیری

درس

اول حدس بزن: جمله‌ی «Why is the sky blue?» چند تکه می‌شود؟ مدل زبانی متن را کلمه به کلمه نمی‌خواند؛ آن را به توکن می‌شکند: کلمه‌های کوتاه یک تکه، کلمه‌های بلند دو سه تکه، و هر علامت هم یک تکه. هر سؤال و هر جواب از سهمیه‌ی روزانه‌ی کلاس توکن می‌خورد، مثل بسته‌ی اینترنت. کد زیر را اجرا کن و با جمله‌های خودت امتحانش کن.

sentence = "Why is the sky blue?"
pieces = sentence.replace("?", " ?").split()
print(pieces)
print(len(pieces), "pieces (about)")

حالا مدل واقعی! from ai import ask تابع ask را می‌آورد. ask("...") سؤال را از راه رله‌ی سایت به مدل می‌فرستد و جواب را مثل یک رشته برمی‌گرداند. اگر معلم رله را خاموش کرده باشد، «هوش تمرینی» جواب می‌دهد و جوابش با «(هوش تمرینی)» شروع می‌شود. AI_ONLINE می‌گوید رله روشن است یا نه.

from ai import ask, AI_ONLINE

print("online:", AI_ONLINE)
answer = ask("Give me one fun fact about octopuses in one sentence.")
print(answer)

دو بار همان سؤال را بپرس: جواب‌ها یکی نیستند! مدل هر بار کلمه‌ی بعدی را با کمی شانس انتخاب می‌کند، مثل دوستی که یک داستان را هر بار کمی فرق تعریف می‌کند. پس برنامه‌ات نباید به کلمه‌های دقیق جواب تکیه کند. برای آزمودن برنامه، به جای مدل یک مدل ساختگی می‌گذاریم: تابعی که همیشه جواب معلوم می‌دهد. مثل تمرین فوتبال با آدمک به جای بازیکن واقعی.

def fake_ask(prompt, system=None, history=None):
    return "PRETEND ANSWER to: " + prompt

ask = fake_ask
print(ask("Is this the real model?"))

در سؤال‌های این فاز، آخر هر برنامه یک بخش «test» هست که عوضش نکن: ask را با مدل ساختگی عوض می‌کند و تابع‌های تو را با ورودی‌های ثابت صدا می‌زند. تابع تو موقع اجرا اسم ask را نگاه می‌کند، پس همان مدل ساختگی را صدا می‌زند. این‌طوری بررسی‌کننده کار برنامه‌ی تو را می‌سنجد، نه شانس مدل را.

⚠️ کلید هرگز داخل کد نیست. برای حرف زدن با یک مدل واقعی یک کلید (رمز طولانی) لازم است که پولش را کسی می‌دهد. اگر کلید را در کد بنویسی و کد را در گالری بگذاری، هر کسی می‌تواند با کلید تو هزاران سؤال بپرسد. برای همین کلید فقط روی سرور سایت است و برنامه‌ی تو از راه رله می‌پرسد. و هیچ‌وقت اسم کامل، شماره، آدرس یا رمزت را به مدل نده.

مثال‌های این جلسه

چالش‌ها

  1. Where Does the Key Live? (آسان)
  2. Build a Prompt (آسان)
  3. A Token Counter (متوسط)
  4. Mind the Quota (متوسط)
  5. Check Before You Ask (سخت)
  6. Talk to the Real Model (سخت)

بیشتر بخوان

← جلسه‌ی 36: پروژه: ناظر مهربان گالری جلسه‌ی 38: نقش و شخصیت →