بتل کد Battle Codeدارد باز می‌شود…

جلسه‌ی 39: حافظه‌ی گفت‌وگو Conversation Memory

مدل خودش هیچ چیز یادش نمی‌ماند؛ برنامه‌ی تو با یک لیست history از پیام‌ها به او حافظه می‌دهد، و وقتی لیست خیلی بلند شد قدیمی‌ها را کنار می‌گذارد یا خلاصه می‌کند.

در این جلسه یاد می‌گیری

درس

ماهی قرمز. به مدل بگو «My name is Kian» و بعد جدا بپرس «What is my name?». اول حدس بزن: یادش می‌ماند؟ اجرا کن. هر ask یک گفت‌وگوی تازه است؛ مدل مثل ماهی قرمز همه چیز را فراموش می‌کند. حالا بخش دوم را با history ببین: این بار مدل پیام قبلی را هم می‌خواند.

from ai import ask

first = ask("My name is Kian.")
print(ask("What is my name?"))

history = [
    {"role": "user", "content": "My name is Kian."},
    {"role": "assistant", "content": first},
]
print(ask("What is my name?", history=history))

حافظه‌ی گفت‌وگو فقط یک لیست است. هر پیام یک دیکشنری با دو کلید است: role (کی گفت: "user" یعنی آدم، "assistant" یعنی مدل) و content (چه گفت). هر بار که می‌پرسی، کل لیست را با history= می‌فرستی و بعد سؤال و جواب تازه را به آخرش اضافه می‌کنی. مثل دفترچه‌ی جلسه که هر بار از اول می‌خوانی.

ولی لیست هر بار بلندتر می‌شود و هر پیامش توکن می‌خورد. مدل هم یک پنجره‌ی زمینه دارد: بیشتر از یک اندازه را اصلاً نمی‌تواند بخواند. پس پیام‌های قدیمی را کنار می‌گذاریم: مثلاً فقط ۶ پیام آخر با history[-6:]. مراقب باش: history[-0:] کل لیست را می‌دهد، نه لیست خالی!

history = ["m1", "m2", "m3", "m4", "m5", "m6", "m7", "m8"]
print(history[-6:])
print(history[-0:])

راه زیرکانه‌تر: پیام‌های قدیمی را دور نریز، خلاصه‌شان کن. از خود مدل بخواه چند پیام قدیمی را در یک خط خلاصه کند و همان یک خط را جای همه‌شان بگذار. مثل وقتی قسمت قبلی سریال را در یک جمله برای دوستت تعریف می‌کنی.

⚠️ حافظه یعنی مسئولیت. هر چیزی که در history است دوباره و دوباره به سرور فرستاده می‌شود. اگر کسی اسم کامل، مدرسه یا شماره‌اش را گفته باشد، تا آخر گفت‌وگو همراه می‌رود. برنامه‌ی خوب از کاربر اطلاعات شخصی نمی‌خواهد و حافظه را با یک دکمه پاک می‌کند (history = []).

مثال‌های این جلسه

چالش‌ها

  1. Why Does It Forget? (آسان)
  2. Remember a Message (آسان)
  3. One Chat Turn (متوسط)
  4. Keep the Last Few (متوسط)
  5. A Budget of Letters (سخت)
  6. Summarise the Old Part (سخت)

بیشتر بخوان

← جلسه‌ی 38: نقش و شخصیت جلسه‌ی 40: پروژه: شخصیت سخنگوی بازی →