جلسهی 43: ابزار دادن به مدل Giving the Model Tools
مدل زبانی ماشینحساب ندارد و ضرب بزرگ را اشتباه میکند. به آن یک ابزار میدهی: مدل فقط اسم ابزار و ورودی را میگوید، برنامهی تو آن را امن اجرا میکند و نتیجه را برمیگرداند؛ ابزار خطرناک فقط با تأیید آدم.
در این جلسه یاد میگیری
- در پایان این جلسه میدانی چرا مدل در حساب دقیق اشتباه میکند.
- میتوانی جواب ساختیافتهی «TOOL اسم ورودی» را از هم باز کنی.
- میتوانی ماشینحساب امن بدون
evalبسازی و ابزارها را با دیکشنری صدا بزنی. - میتوانی برای ابزار خطرناک تأیید آدم بخواهی و حلقهی «بپرس، ابزار، دوباره بپرس» بسازی.
درس
مدل ماشینحساب ندارد. از مدل بپرس 1234 * 5678 چند میشود و با جواب پایتون مقایسه کن. اول حدس بزن: درست میگوید؟ مدل عدد را مثل متن حدس میزند، تکه به تکه؛ برای ضربهای کوچک معمولاً درست است ولی برای عددهای بزرگ گاهی چند رقمش غلط است، آن هم با اطمینان کامل.
from ai import ask
print("model: ", ask("What is 1234 * 5678? Only the number."))
print("python:", 1234 * 5678)راه حل: به مدل ابزار بدهیم. در پیام سیستم میگوییم: «اگر حساب لازم بود، فقط بنویس TOOL calc 1234 * 5678». مدل حساب نمیکند؛ فقط میگوید کدام ابزار با چه ورودی. برنامهی تو این جواب را میبیند، ابزار را خودش اجرا میکند و نتیجه را برای مدل میفرستد. مثل رئیسی که حساب را به حسابدار میدهد.
ابزارها را در یک دیکشنری میگذاریم: اسم ← تابع. TOOLS["calc"] خود تابع calc است و با TOOLS[name](arg) صدایش میزنیم. اسمی که در دیکشنری نیست اجرا نمیشود؛ مدل نمیتواند ابزاری را که ما نساختهایم صدا بزند.
def shout(text):
return text.upper() + "!"
TOOLS = {"shout": shout}
print(TOOLS["shout"]("hello"))
print("fly" in TOOLS)⚠️ هرگز eval. پایتون تابعی به اسم eval دارد که هر متنی را مثل کد اجرا میکند. ماشینحساب با eval یک خط است، ولی اگر مدل (یا کسی که مدل را گول زده) به جای 2 + 2 یک دستور خطرناک بفرستد، برنامهی تو آن را اجرا میکند! ماشینحساب امن فقط عدد، علامت، عدد را قبول میکند و بقیه را error میگوید. و ابزاری که چیزی را پاک میکند، پیام میفرستد یا پول خرج میکند، فقط با تأیید یک آدم اجرا شود.
مثالهای این جلسه
- مثال print در پایتون: print("model: ", ask("What is 1234 * 5678? …
- مثال تابع در پایتون: def shout(text):
چالشها
- Why Not eval? (آسان)
- Read the Tool Call (آسان)
- A Safe Calculator (متوسط)
- A Toolbox (متوسط)
- Ask a Human First (سخت)
- Ask, Use a Tool, Ask Again (سخت)
بیشتر بخوان
- دستور print در پایتون: آموزش کامل با مثال، sep و end
- تابع در پایتون: آموزش def، پارامتر و return با مثال
← جلسهی 42: امتحان کتابباز جلسهی 44: پروژه: دستیار درس از روی جزوه →