جلسهی 39: حافظهی گفتوگو Conversation Memory
مدل خودش هیچ چیز یادش نمیماند؛ برنامهی تو با یک لیست history از پیامها به او حافظه میدهد، و وقتی لیست خیلی بلند شد قدیمیها را کنار میگذارد یا خلاصه میکند.
در این جلسه یاد میگیری
- در پایان این جلسه میدانی چرا مدل بدون حافظه اسمت را یادش نمیماند.
- میتوانی پیامها را با نقش
userوassistantدر یک لیست نگه داری. - میتوانی گفتوگو را به چند پیام آخر یا به یک بودجهی حرف کوتاه کنی.
- میتوانی پیامهای قدیمی را به یک خلاصه تبدیل کنی.
درس
ماهی قرمز. به مدل بگو «My name is Kian» و بعد جدا بپرس «What is my name?». اول حدس بزن: یادش میماند؟ اجرا کن. هر ask یک گفتوگوی تازه است؛ مدل مثل ماهی قرمز همه چیز را فراموش میکند. حالا بخش دوم را با history ببین: این بار مدل پیام قبلی را هم میخواند.
from ai import ask
first = ask("My name is Kian.")
print(ask("What is my name?"))
history = [
{"role": "user", "content": "My name is Kian."},
{"role": "assistant", "content": first},
]
print(ask("What is my name?", history=history))حافظهی گفتوگو فقط یک لیست است. هر پیام یک دیکشنری با دو کلید است: role (کی گفت: "user" یعنی آدم، "assistant" یعنی مدل) و content (چه گفت). هر بار که میپرسی، کل لیست را با history= میفرستی و بعد سؤال و جواب تازه را به آخرش اضافه میکنی. مثل دفترچهی جلسه که هر بار از اول میخوانی.
ولی لیست هر بار بلندتر میشود و هر پیامش توکن میخورد. مدل هم یک پنجرهی زمینه دارد: بیشتر از یک اندازه را اصلاً نمیتواند بخواند. پس پیامهای قدیمی را کنار میگذاریم: مثلاً فقط ۶ پیام آخر با history[-6:]. مراقب باش: history[-0:] کل لیست را میدهد، نه لیست خالی!
history = ["m1", "m2", "m3", "m4", "m5", "m6", "m7", "m8"]
print(history[-6:])
print(history[-0:])راه زیرکانهتر: پیامهای قدیمی را دور نریز، خلاصهشان کن. از خود مدل بخواه چند پیام قدیمی را در یک خط خلاصه کند و همان یک خط را جای همهشان بگذار. مثل وقتی قسمت قبلی سریال را در یک جمله برای دوستت تعریف میکنی.
⚠️ حافظه یعنی مسئولیت. هر چیزی که در history است دوباره و دوباره به سرور فرستاده میشود. اگر کسی اسم کامل، مدرسه یا شمارهاش را گفته باشد، تا آخر گفتوگو همراه میرود. برنامهی خوب از کاربر اطلاعات شخصی نمیخواهد و حافظه را با یک دکمه پاک میکند (history = []).
مثالهای این جلسه
چالشها
- Why Does It Forget? (آسان)
- Remember a Message (آسان)
- One Chat Turn (متوسط)
- Keep the Last Few (متوسط)
- A Budget of Letters (سخت)
- Summarise the Old Part (سخت)
بیشتر بخوان
← جلسهی 38: نقش و شخصیت جلسهی 40: پروژه: شخصیت سخنگوی بازی →