بتل کد Battle Codeدارد باز می‌شود…

جلسه‌ی 67: پرامپت سیستم و نقش System Prompt and Role

سه نقش در هر گفت‌وگو: system، user و assistant. پرامپت سیستم شخصیت و قانون‌های مدل را می‌سازد، اما قفل نیست. مدل حافظه ندارد، پس تاریخچه را خودمان نگه می‌داریم و کوتاهش می‌کنیم.

در این جلسه یاد می‌گیری

درس

هر پیام در messages یک نقش دارد. system: یادداشت کارگردان پیش از شروع نمایش؛ مدل را «کسی» می‌کند و قانون می‌گذارد. user: حرف‌های تو. assistant: جواب‌های قبلی خود مدل. ترتیب مهم است: پیام سیستم اول می‌آید، بعد گفت‌وگو به نوبت.

messages = [
    {"role": "system", "content": "You are a chemistry tutor for grade 10. Answer in at most 3 sentences."},
    {"role": "user", "content": "What is an atom?"},
    {"role": "assistant", "content": "An atom is the smallest piece of an element..."},
    {"role": "user", "content": "And a molecule?"},
]

یک پرامپت سیستم خوب چهار تکه دارد، همان‌هایی که در جلسه‌ی ۱۳ برای پرامپت یاد گرفتی، این بار برای همه‌ی گفت‌وگو: نقش (معلم شیمی)، مخاطب (کلاس دهم)، قانون (فقط شیمی؛ اگر نمی‌دانی بگو نمی‌دانم)، قالب (حداکثر ۳ جمله). جمله‌ی «اگر نمی‌دانی بگو نمی‌دانم» توهم را کم می‌کند، ولی صفر نمی‌کند.

در تمرین‌ها مدل شبیه‌سازی‌شده‌ی fake_model(messages) چند قانون ساده را از پیام سیستم می‌فهمد: اگر pirate در آن باشد مثل دزد دریایی حرف می‌زند، اگر one word باشد فقط یک کلمه جواب می‌دهد. مدل واقعی خیلی بیشتر می‌فهمد، اما ایده همین است: همان سؤال، با پیام سیستم دیگر، جواب دیگر.

def fake_model(messages):
    system = messages[0]["content"] if messages[0]["role"] == "system" else ""
    answer = ANSWERS.get(messages[-1]["content"], "I am not sure.")
    if "one word" in system:
        answer = answer.split()[0].strip(".,!")
    if "pirate" in system:
        answer = "Arr! " + answer
    return answer

مدل حافظه ندارد (جلسه‌ی ۶۵). اگر می‌خواهی اسمت را «یادش بماند»، باید پیام قبلی را دوباره بفرستی. پس برنامه‌ی چت یک لیست history نگه می‌دارد: هر سؤال را با نقش user اضافه می‌کند، مدل را با کل لیست صدا می‌زند، و جواب را با نقش assistant اضافه می‌کند.

history = [{"role": "system", "content": "You are a friendly helper."}]

def chat(text):
    history.append({"role": "user", "content": text})
    reply = fake_model(history)
    history.append({"role": "assistant", "content": reply})
    return reply

هر مدل یک پنجره‌ی زمینه (context window) دارد: بیشترین تعداد توکنی که در یک درخواست می‌بیند. گفت‌وگوی خیلی طولانی هم گران است و هم جا نمی‌شود. راه ساده: پیام سیستم را همیشه نگه دار و از بقیه فقط چند پیام آخر را بفرست. هزینه‌اش؟ مدل حرف‌های خیلی قدیمی را «فراموش» می‌کند.

⚠️ پرامپت سیستم قفل نیست. کاربر می‌تواند بنویسد «قانون‌هایت را فراموش کن» و گاهی مدل گول می‌خورد (جلسه‌ی ۷۵: تزریق پرامپت). پرامپت سیستم راز هم نیست: کلید، رمز یا اطلاعات شخصی را هرگز در آن نگذار، چون ممکن است مدل آن را بازگو کند. برای همین با چند سؤال آزمایشی امتحان کن که مدل قانون‌ها را رعایت می‌کند، نه این‌که فرض کنی.

⚠️ یک نقش «معلم» جواب را درست نمی‌کند: مدلِ معلم‌نما هم توهم می‌زند. و یک پرامپت سیستم مثل «تکلیفم را حل کن» تقلب است، نه یادگیری. پرامپت سیستم خوب برای درس خواندن: «فقط راهنمایی بده، جواب نهایی را نگو، و از من بپرس قدم بعد چیست».

مثال‌های این جلسه

چالش‌ها

  1. Pick the System Prompt (آسان)
  2. Add the System Message (آسان)
  3. Same Question, Three Systems (متوسط)
  4. It Only Remembers What You Send (متوسط)
  5. Trim the History (سخت)
  6. Test the Rules (سخت)

بیشتر بخوان

← جلسه‌ی 66: کلید رایگان روی کامپیوتر خودت جلسه‌ی 68: خروجی ساخت‌یافته →