جلسهی 73: عامل: فکر، عمل، مشاهده Agents: Think, Act, Observe
بعضی کارها چند قدم دارند و هر قدم به نتیجهی قدم قبل بستگی دارد. عامل (agent) یعنی مدل در یک حلقه: فکر میکند، یک ابزار را به کار میبرد، نتیجه را میبیند و دوباره. ما حلقه را با سقف قدم میسازیم تا هیچوقت بیپایان نچرخد.
در این جلسه یاد میگیری
- در پایان این جلسه میدانم فرق یک «جواب با ابزار» و یک «عامل» چیست.
- در پایان این جلسه میتوانم تصمیم JSON مدل (فکر، عمل، ورودی یا جواب نهایی) را بخوانم.
- در پایان این جلسه میتوانم حلقهی فکر، عمل، مشاهده را با ردپای کامل اجرا کنم.
- در پایان این جلسه میتوانم عامل را با سقف قدم و تشخیص تکرار، امن متوقف کنم.
درس
سؤال: «زمین چند کیلومتر از مریخ پهنتر است؟» یک ابزار کافی نیست: اول قطر مریخ را پیدا کن، بعد قطر زمین، بعد کم کن، بعد جواب بده. قدم سوم بدون نتیجهی دو قدم اول ممکن نیست. عامل همین است: مدل در یک حلقه؛ هر دور فکر میکند («حالا قطر زمین لازم است»)، یک عمل انتخاب میکند (ابزار + ورودی)، و مشاهده (نتیجهی ابزار) را میبیند. به این الگو ReAct هم میگویند (Reason + Act).
در فاز ۲ هم «عامل» دیدی: عاملی که با پاداش یاد میگرفت. اینجا مغز عامل یک مدل زبانی است و تصمیمش را به شکل JSON مینویسد. یا یک عمل: {"thought": ..., "action": ..., "input": ...}، یا جواب نهایی: {"thought": ..., "final": ...}. برنامهی تو تصمیم را میخواند، اجرا میکند، و مشاهده را به تاریخچه اضافه میکند.
{"thought": "I need the diameter of Mars.", "action": "lookup", "input": "Mars"}
{"thought": "I have everything.", "final": "Earth is bigger by 5963 km."}حلقهی عامل: تا وقتی جواب نهایی نیامده: تصمیم بگیر → اگر final داشت، تمام → وگرنه ابزار را اجرا کن → مشاهده را ثبت کن. تاریخچهی ما دو جور پیام دارد: decision (حرف مدل) و observation (نتیجهی کد ما). در API واقعی همینها به شکل پیامهای assistant و tool میروند.
history = [{"role": "task", "content": task}]
for step in range(1, MAX_STEPS + 1):
decision = json.loads(fake_model(history))
history.append({"role": "decision", "content": decision})
if "final" in decision:
return decision["final"]
result = run_tool(decision["action"], decision["input"])
history.append({"role": "observation", "content": result})
return "stopped: step limit"سقف قدم را هرگز فراموش نکن. مدل ممکن است گیر کند و همان کار را بارها بخواهد، یا هیچوقت «تمام» نگوید. هر قدم یک درخواست به API است، یعنی توکن و پول و زمان. با MAX_STEPS و تشخیص «همان عمل دو بار پشت سر هم» عامل را امن متوقف کن و به آدم گزارش بده که چرا ایستاد.
ردپا (trace) را چاپ کن. برای هر قدم: شماره، فکر، عمل و مشاهده. وقتی عامل اشتباه میکند، ردپا تنها راه فهمیدن «کجا» است. خطای ابزار را هم به عنوان مشاهده برگردان (error: unknown tool)؛ مدل خوب از خطا یاد میگیرد و راه دیگری امتحان میکند.
⚠️ فقط به مشاهدهای اعتماد کن که کد خودت ساخته. مدل گاهی در «فکر» خودش یک نتیجهی ساختگی مینویسد («قطر زمین ۱۰۰۰۰ است») بدون اینکه ابزار را صدا زده باشد؛ این توهم است. ⚠️ و هرچه عامل قدم بیشتری بردارد، احتمال اشتباه بیشتر است. به عامل هرگز دسترسی به حسابهای شخصی، ایمیل یا پول نده؛ ابزارهای عامل باید کوچک، محدود و قابل بررسی باشند.
مثالهای این جلسه
- مثال پایتون (هوش مصنوعی با پایتون): {"thought": "I need the diameter of Mars.",…
- مثال حلقه for (هوش مصنوعی با پایتون): for step in range(1, MAX_STEPS + 1):
چالشها
- One Round of an Agent (آسان)
- Read the Decisions (آسان)
- One Step (متوسط)
- The Agent Loop with a Trace (متوسط)
- The Step Limit (سخت)
- Recover, but Don't Repeat (سخت)
بیشتر بخوان
← جلسهی 72: RAG کوچک (۲): از روی جزوه جواب بده جلسهی 74: عامل چندابزاره →