Fit the Token Budget چالش 5 از جلسهی 62، سخت
پرامپت few-shot هر چه مثال بیشتری داشته باشد، توکن بیشتری میگیرد (و گرانتر است). دو تابع بنویس. count_tokens(text): هر کلمه (با split) یک توکن، و هر کلمهی بلندتر از ۶ حرف دو توکن. fit_examples(examples, question, budget): مثالها را به ترتیب یکییکی به پرامپت اضافه کند، فقط تا وقتی توکنهای کل (مثالهای انتخابشده + خط سؤال) از budget بیشتر نشود، و تعداد مثالها و توکنهای کل را برگرداند. هر مثال یک خط Q: ... A: ... است و سؤال یک خط Q: ... A:. خروجی برای چهار بودجه باید این باشد:budget 15: 0 examples, 9 tokensbudget 25: 1 examples, 20 tokensbudget 35: 2 examples, 31 tokensbudget 50: 3 examples, 44 tokens
def count_tokens(text):
pass
def fit_examples(examples, question, budget):
question_line = f"Q: {question} A:"
used = 0
total = count_tokens(question_line)
# add examples while the total stays within the budget
return used, total
examples = [
("What is the capital of France?", "Paris"),
("What is the largest planet?", "Jupiter"),
("Which animal is the fastest runner?", "The cheetah"),
]
for budget in [15, 25, 35, 50]:
used, total = fit_examples(examples, "Which gas do plants breathe in?", budget)
print(f"budget {budget}: {used} examples, {total} tokens")
راهنما و جواب این چالش · برگشت به درس جلسهی 62: پرامپتنویسی پیشرفته ۱ · چالش بعدی: Prompt from a Recipe
بیشتر بخوان: تابع در پایتون: آموزش def، پارامتر و return با مثال