بتل کد Battle Codeدارد باز می‌شود…

جلسه‌ی 43: ابزار دادن به مدل Giving the Model Tools

مدل زبانی ماشین‌حساب ندارد و ضرب بزرگ را اشتباه می‌کند. به آن یک ابزار می‌دهی: مدل فقط اسم ابزار و ورودی را می‌گوید، برنامه‌ی تو آن را امن اجرا می‌کند و نتیجه را برمی‌گرداند؛ ابزار خطرناک فقط با تأیید آدم.

در این جلسه یاد می‌گیری

درس

مدل ماشین‌حساب ندارد. از مدل بپرس 1234 * 5678 چند می‌شود و با جواب پایتون مقایسه کن. اول حدس بزن: درست می‌گوید؟ مدل عدد را مثل متن حدس می‌زند، تکه به تکه؛ برای ضرب‌های کوچک معمولاً درست است ولی برای عددهای بزرگ گاهی چند رقمش غلط است، آن هم با اطمینان کامل.

from ai import ask

print("model: ", ask("What is 1234 * 5678? Only the number."))
print("python:", 1234 * 5678)

راه حل: به مدل ابزار بدهیم. در پیام سیستم می‌گوییم: «اگر حساب لازم بود، فقط بنویس TOOL calc 1234 * 5678». مدل حساب نمی‌کند؛ فقط می‌گوید کدام ابزار با چه ورودی. برنامه‌ی تو این جواب را می‌بیند، ابزار را خودش اجرا می‌کند و نتیجه را برای مدل می‌فرستد. مثل رئیسی که حساب را به حسابدار می‌دهد.

ابزارها را در یک دیکشنری می‌گذاریم: اسم ← تابع. TOOLS["calc"] خود تابع calc است و با TOOLS[name](arg) صدایش می‌زنیم. اسمی که در دیکشنری نیست اجرا نمی‌شود؛ مدل نمی‌تواند ابزاری را که ما نساخته‌ایم صدا بزند.

def shout(text):
    return text.upper() + "!"

TOOLS = {"shout": shout}
print(TOOLS["shout"]("hello"))
print("fly" in TOOLS)

⚠️ هرگز eval. پایتون تابعی به اسم eval دارد که هر متنی را مثل کد اجرا می‌کند. ماشین‌حساب با eval یک خط است، ولی اگر مدل (یا کسی که مدل را گول زده) به جای 2 + 2 یک دستور خطرناک بفرستد، برنامه‌ی تو آن را اجرا می‌کند! ماشین‌حساب امن فقط عدد، علامت، عدد را قبول می‌کند و بقیه را error می‌گوید. و ابزاری که چیزی را پاک می‌کند، پیام می‌فرستد یا پول خرج می‌کند، فقط با تأیید یک آدم اجرا شود.

مثال‌های این جلسه

چالش‌ها

  1. Why Not eval? (آسان)
  2. Read the Tool Call (آسان)
  3. A Safe Calculator (متوسط)
  4. A Toolbox (متوسط)
  5. Ask a Human First (سخت)
  6. Ask, Use a Tool, Ask Again (سخت)

بیشتر بخوان

← جلسه‌ی 42: امتحان کتاب‌باز جلسه‌ی 44: پروژه: دستیار درس از روی جزوه →