بتل کد Battle Codeدارد باز می‌شود…

جلسه‌ی 74: عامل چندابزاره A Multi-Tool Agent

عامل با چند ابزار باید آن‌ها را به ترتیب درست به کار ببرد و امن بایستد. نقشه را قبل از اجرا بررسی می‌کنیم، نتیجه‌ی هر قدم را به قدم بعد می‌دهیم، بودجه می‌گذاریم، برای کار برگشت‌ناپذیر تأیید آدم می‌خواهیم و ترتیب ابزارها را از نیازهایشان درمی‌آوریم.

در این جلسه یاد می‌گیری

درس

عامل جلسه‌ی قبل هر قدم را جدا تصمیم می‌گرفت. راه دیگر: اول نقشه، بعد اجرا. مدل یک بار کل نقشه را می‌نویسد (لیستی از قدم‌ها، هر قدم یک ابزار و یک ورودی) و کد تو آن را قبل از اجرا بررسی می‌کند: همه‌ی ابزارها مجازند؟ تعداد قدم‌ها از سقف بیشتر نیست؟ نقشه‌ای که «هک وای‌فای» در آن است، اصلاً شروع نمی‌شود.

plan = [
    {"tool": "lookup", "input": "Mars"},
    {"tool": "lookup", "input": "Earth"},
    {"tool": "calc", "input": "{2} - {1}"},
]

نتیجه‌ی قدم قبل: در نقشه، {1} یعنی «نتیجه‌ی قدم ۱» و {2} یعنی «نتیجه‌ی قدم ۲». مدل هنوز عددها را نمی‌داند، پس جای خالی می‌گذارد؛ کد تو هنگام اجرا آن‌ها را با نتیجه‌های واقعی پر می‌کند: "{2} - {1}" می‌شود "12742 - 6779".

بودجه: هر ابزار هزینه‌ای دارد: توکن، زمان، پول (ابزاری که خودش یک مدل بزرگ را صدا می‌زند گران است). یک BUDGET بگذار و قبل از هر قدم بپرس «با این قدم از بودجه رد می‌شوم؟». اگر بله، بایست و بگو چقدر خرج شد. بهتر است عامل نیمه‌کاره بایستد تا این‌که بی‌صدا همه‌ی اعتبار تو را خرج کند.

آدم در حلقه (human in the loop): کارها سه دسته‌اند. ۱) تنها: خواندن جزوه، حساب کردن. ۲) با تأیید آدم: فرستادن پیام، پاک کردن فایل؛ برگشت‌ناپذیرند. ۳) هرگز: هر چیزی که به دیگران آسیب می‌زند یا قانون را می‌شکند، مثل پخش کردن اطلاعات یک هم‌کلاسی یا وارد شدن به سیستمی که اجازه‌اش را نداری. اگر آدم گفت «نه»، عامل می‌ایستد؛ دور زدن «نه» ممنوع است.

ترتیب ابزارها از نیازهایشان: «آزمون بساز» به «جزوه» نیاز دارد و «جزوه» به «برنامه‌ی کلاس» (تا بدانی امروز چه درسی داری). اگر برای هر ابزار بنویسی به چه چیزهایی نیاز دارد، ترتیب درست را می‌شود حساب کرد: قبل از هر ابزار، نیازهایش را (به همین روش) اجرا کن. اگر نیازها دایره بسازند (الف به ب، ب به الف)، هیچ ترتیبی ممکن نیست و باید با پیام روشن ایستاد.

NEEDS = {"timetable": [], "notes": ["timetable"], "make_quiz": ["notes"]}
# make_quiz -> needs notes -> needs timetable
# so the order is: timetable, notes, make_quiz

⚠️ امن ایستادن یعنی گزارش دادن. وقتی عامل می‌ایستد (خطا، بودجه، «نه»، سقف قدم)، بگو کجا ایستاد، چرا، و تا آن‌جا چه نتیجه‌هایی داشت. «یک چیزی خراب شد» گزارش نیست. ⚠️ و نتیجه‌ی ابزار را هم بی‌چون‌وچرا باور نکن: اگر ابزار جست‌وجو یک متن از اینترنت برگرداند، آن متن ممکن است دستورِ پنهان داشته باشد (جلسه‌ی بعد).

مثال‌های این جلسه

چالش‌ها

  1. Alone, Ask First, or Never (آسان)
  2. Check the Plan First (آسان)
  3. Fill In the Earlier Results (متوسط)
  4. Stay Within the Budget (متوسط)
  5. Stop Safely and Report (سخت)
  6. Put the Tools in Order (سخت)

بیشتر بخوان

← جلسه‌ی 73: عامل: فکر، عمل، مشاهده جلسه‌ی 75: تزریق پرامپت و امنیت هوش مصنوعی →