بتل کد Battle Codeدارد باز می‌شود…

جلسه‌ی 69: ابزار دادن به مدل Giving the Model Tools

مدل حساب دقیق، هوای امروز یا برنامه‌ی کلاس تو را نمی‌داند. به او ابزار می‌دهیم: تابع‌های پایتون خودمان. مدل فقط درخواست می‌کند، کد ما تصمیم می‌گیرد و اجرا می‌کند و نتیجه را برمی‌گرداند (function calling).

در این جلسه یاد می‌گیری

درس

مدل زبانی کلمه‌ی بعدی را حدس می‌زند؛ برای همین ضرب 37 × 91234 را گاهی غلط می‌گوید، هوای امروز تبریز را نمی‌داند (داده‌اش مال گذشته است) و برنامه‌ی کلاس مدرسه‌ی تو را هرگز ندیده. راه حل: ابزار. ما به مدل می‌گوییم «این تابع‌ها را داری»؛ مدل هر وقت لازم داشت، درخواست می‌کند یکی را با آرگومان‌های مشخص اجرا کنیم. مدل خودش هیچ کدی اجرا نمی‌کند؛ برنامه‌ی تو اجرا می‌کند.

هر ابزار با یک توضیح به مدل معرفی می‌شود: اسم، کارش به زبان آدم (مدل از روی همین تصمیم می‌گیرد)، و پارامترها با نوعشان. این لیست tools در درخواست کنار messages می‌رود. این شکل واقعی API است (OpenAI و DeepSeek):

tools = [{
    "type": "function",
    "function": {
        "name": "get_weather",
        "description": "Get today's weather for a city.",
        "parameters": {
            "type": "object",
            "properties": {"city": {"type": "string"}},
            "required": ["city"],
        },
    },
}]

وقتی مدل ابزار بخواهد، به جای متن (content خالی است) یک درخواست ابزار می‌فرستد: tool_calls. دقت کن arguments یک متن JSON است، نه دیکشنری؛ باید با json.loads بازش کنی. هر درخواست یک id دارد که نتیجه را به آن وصل می‌کنی.

"message": {
  "role": "assistant",
  "content": null,
  "tool_calls": [
    {"id": "call_1", "type": "function",
     "function": {"name": "get_weather", "arguments": "{\"city\": \"Tabriz\"}"}}
  ]
}

چرخه‌ی کامل: ۱) سؤال را با tools بفرست. ۲) اگر جواب tool_calls داشت، برای هر کدام ابزار را اجرا کن. ۳) پیام مدل (با tool_calls) و برای هر ابزار یک پیام با نقش tool و همان tool_call_id به گفت‌وگو اضافه کن. ۴) دوباره بفرست؛ حالا مدل نتیجه را دارد و جواب نهایی را به زبان آدم می‌نویسد.

messages.append({"role": "assistant", "content": None, "tool_calls": reply["tool_calls"]})
messages.append({"role": "tool", "tool_call_id": "call_1", "content": "sunny, 18 degrees"})
reply = fake_model(messages)      # -> "The weather in Tabriz is sunny, 18 degrees."

اجرای ابزار با دیکشنری: اسم ابزار را به تابع وصل کن: TOOLS = {"get_weather": get_weather, "add": add}. بعد TOOLS[name](args)؛ ستاره‌ی دوتایی یعنی «کلیدهای دیکشنری را به اسم پارامترها بده». اگر اسم در TOOLS نبود، اجرا نکن و پیام خطا را به مدل برگردان؛ مدل‌ها گاهی ابزاری را که وجود ندارد از خودشان می‌سازند** (توهم ابزار).

⚠️ مدل آرگومان را انتخاب می‌کند، تو مسئول اجرایی. پس: ۱) فقط ابزارهای داخل لیست مجاز (allowlist) اجرا شوند، هرگز eval روی اسم یا آرگومان؛ ۲) نوع و بازه‌ی آرگومان را بررسی کن؛ ۳) ابزاری که کار برگشت‌ناپذیر می‌کند (پاک کردن، فرستادن پیام، خرید) بدون تأیید آدم اجرا نشود. ابزار، قدرت مدل را به دنیای واقعی می‌برد؛ اشتباه مدل هم با آن می‌رود.

در سایت، fake_model از روی کلمه‌های سؤال تصمیم می‌گیرد کدام ابزار را بخواهد و جوابش را به همان شکل واقعی (tool_calls با arguments متنی) می‌دهد. پس کدی که امروز می‌نویسی با چند تغییر کوچک با مدل واقعی هم کار می‌کند.

مثال‌های این جلسه

چالش‌ها

  1. Tool or No Tool? (آسان)
  2. Read a Tool Request (آسان)
  3. Run the Right Tool (متوسط)
  4. Send the Result Back (متوسط)
  5. Several Tools in One Reply (سخت)
  6. Check Arguments, Ask a Human (سخت)

بیشتر بخوان

← جلسه‌ی 68: خروجی ساخت‌یافته جلسه‌ی 70: پروژه: دستیار درس →