بتل کد Battle Codeدارد باز می‌شود…

Fit the Token Budget چالش 5 از جلسه‌ی 62، سخت

پرامپت few-shot هر چه مثال بیشتری داشته باشد، توکن بیشتری می‌گیرد (و گران‌تر است). دو تابع بنویس. count_tokens(text): هر کلمه (با split) یک توکن، و هر کلمه‌ی بلندتر از ۶ حرف دو توکن. fit_examples(examples, question, budget): مثال‌ها را به ترتیب یکی‌یکی به پرامپت اضافه کند، فقط تا وقتی توکن‌های کل (مثال‌های انتخاب‌شده + خط سؤال) از budget بیشتر نشود، و تعداد مثال‌ها و توکن‌های کل را برگرداند. هر مثال یک خط Q: ... A: ... است و سؤال یک خط Q: ... A:. خروجی برای چهار بودجه باید این باشد:
budget 15: 0 examples, 9 tokens
budget 25: 1 examples, 20 tokens
budget 35: 2 examples, 31 tokens
budget 50: 3 examples, 44 tokens

def count_tokens(text):
    pass


def fit_examples(examples, question, budget):
    question_line = f"Q: {question} A:"
    used = 0
    total = count_tokens(question_line)
    # add examples while the total stays within the budget
    return used, total


examples = [
    ("What is the capital of France?", "Paris"),
    ("What is the largest planet?", "Jupiter"),
    ("Which animal is the fastest runner?", "The cheetah"),
]
for budget in [15, 25, 35, 50]:
    used, total = fit_examples(examples, "Which gas do plants breathe in?", budget)
    print(f"budget {budget}: {used} examples, {total} tokens")

راهنما و جواب این چالش · برگشت به درس جلسه‌ی 62: پرامپت‌نویسی پیشرفته ۱ · چالش بعدی: Prompt from a Recipe

بیشتر بخوان: تابع در پایتون: آموزش def، پارامتر و return با مثال