هوش مصنوعی ۲
حالا کلمههای چتباتها و ابزارهای تازهی هوش مصنوعی: همانهایی که هر روز با آنها کار میکنی و در مستنداتشان میخوانی.
a یا an پیش از مخففها
انتخاب a یا an به صدای اول بستگی دارد، نه به حرف اول. اسم حرف L «اِل» است و با صدای مصوت شروع میشود، پس میگوییم an LLM. همینطور an AI model، an API، an SQL query (اگر بگویی اِسکیواِل) و an HTML file. ولی a URL و a UI، چون «یو» با صدای «ی» شروع میشود.
هشت کلمهی این درس
LLM (اِلاِلاِم): مدل زبانی بزرگ؛ مغزِ پشت چتباتها
large یعنی بزرگ، language یعنی زبان و model یعنی مدل. LLM مدلی است که روی مقدار خیلی زیادی متن آموزش دیده و یک کار را خیلی خوب یاد گرفته: حدس زدن اینکه بعد از این کلمهها چه کلمهای میآید. همین کارِ ساده، وقتی با میلیاردها جمله تمرین شود، به مدلی میرسد که میتواند جواب بدهد، ترجمه کند، خلاصه کند و کد بنویسد. مثل پیشنهاد کلمهی بعدی در صفحهکلید گوشی، ولی میلیونها بار قویتر. چون کارش حدس زدن است، گاهی چیز غلطی را با اطمینان میگوید؛ پس جوابش را بررسی کن.
An LLM predicts the next word, one token at a time.
یک LLM کلمهی بعد را پیشبینی میکند، هر بار یک توکن.
prompt engineering (پِرامپت اِنجینیرینگ): مهندسی پرامپت؛ هنرِ خوب نوشتنِ درخواست برای هوش مصنوعی
prompt متنی است که به هوش مصنوعی میدهی (سؤال یا دستورت)، و engineering یعنی مهندسی: ساختن چیزی با دقت و روش. prompt engineering یعنی درخواستت را طوری بنویسی که بهترین جواب را بگیری: بگویی دقیقاً چه میخواهی، برای چه کسی، در چه قالبی، و اگر شد یک نمونه هم بدهی. مثل سفارش دادن به خیاط: «یک لباس بدوز» با «یک پیراهن آبی آستینکوتاه، اندازهی این یکی» خیلی فرق دارد. مدل همان است، ولی جوابِ درخواستِ دقیق خیلی بهتر از جوابِ درخواستِ مبهم است.
Good prompt engineering starts with a clear goal and an example.
مهندسی پرامپتِ خوب با یک هدف روشن و یک مثال شروع میشود.
agent (اِیجِنت): عامل؛ هوش مصنوعیای که خودش قدمبهقدم کار انجام میدهد
agent در انگلیسی یعنی نماینده؛ کسی که بهجای تو کاری را انجام میدهد، مثل مشاور املاک یا آژانس مسافرتی. در هوش مصنوعی، agent برنامهای است که فقط جواب نمیدهد، بلکه دست به کار میشود: هدفی از تو میگیرد، خودش آن را به چند قدم تقسیم میکند، از ابزارها استفاده میکند (جستوجو، خواندن فایل، اجرای کد)، نتیجه را نگاه میکند و قدم بعد را انتخاب میکند. فرق چتبات و agent مثل فرق کسی است که نشانی را به تو میگوید با رانندهای که خودش تو را میرساند.
The coding agent read the error, fixed the bug and ran the tests.
عامل کدنویسی خطا را خواند، باگ را درست کرد و تستها را اجرا کرد.
embedding (اِمبِدینگ): نمایش معنی یک متن با فهرستی از عددها
embed یعنی چیزی را درون چیز دیگری جا دادن، مثل گذاشتن یک ویدیو وسط صفحهی وب. در هوش مصنوعی، embedding یعنی معنی یک کلمه، جمله یا عکس را به فهرستی از عددها تبدیل کنی؛ انگار به هر معنی یک نشانی روی نقشه بدهی. چیزهایی که معنی نزدیک دارند، روی این نقشه کنار هم میافتند: «گربه» و «پیشی» همسایهاند و «کامیون» خیلی دورتر است. با این کار کامپیوتر میتواند از روی معنی جستوجو کند، نه فقط از روی حروف: بپرسی «حیوان خانگی» و متنی دربارهی گربه را پیدا کند.
We store an embedding for each article to search by meaning.
برای هر مقاله یک embedding نگه میداریم تا از روی معنی جستوجو کنیم.
context window (کانتِکست ویندو): پنجرهی متن؛ مقدار متنی که مدل یکجا میتواند ببیند
context یعنی «زمینه»: چیزهایی که دور و بر یک حرفاند و معنیاش را روشن میکنند. window هم یعنی پنجره. context window مقدار متنی است که یک مدل زبانی در یک لحظه میتواند جلوی چشمش داشته باشد: حرفهای تو، جوابهای خودش و فایلهایی که دادهای، همه با هم. آن را با token میشمارند. مثل میز کار: فقط همانقدر کاغذ رویش جا میشود و اگر پر شد، برای کاغذ تازه باید قدیمیها را برداری. برای همین در گفتوگوهای خیلی طولانی، مدل حرفهای اول را «فراموش» میکند.
The file is too large to fit in the context window.
این فایل آنقدر بزرگ است که در پنجرهی متن جا نمیشود.
bias (بایِس): سوگیری؛ کج بودن جوابها به یک طرف
bias در انگلیسی یعنی اینکه بیدلیلِ درست، یک طرف را بیشتر از طرف دیگر بگیری؛ مثل داوری که همیشه به نفع یک تیم سوت میزند. در هوش مصنوعی، bias یعنی مدل جوابهای کج و ناعادلانه بدهد، چون دادهای که از آن یاد گرفته کج بوده است. اگر مدلی فقط با عکس گربههای سفید آموزش ببیند، گربهی سیاه را خوب نمیشناسد. مدل تقصیری ندارد؛ فقط هر چه دیده همان را یاد گرفته. برای همین سازندهها باید دادهی آموزش را متنوع انتخاب کنند و جوابهای مدل را برای همهی گروهها بسنجند.
We tested the model for bias before the release.
پیش از انتشار، مدل را از نظر سوگیری آزمودیم.
accuracy (اَکیورِسی): دقت؛ اینکه چند درصد جوابها درست است
accurate یعنی «دقیق و درست» و accuracy اسمِ آن است. در هوش مصنوعی یک عدد ساده است: از هر صد جوابی که مدل داده، چندتا درست بوده. اگر مدل از ۱۰۰ عکس ۹۲تا را درست بشناسد، accuracy آن ۹۲ درصد است؛ مثل نمرهی یک امتحان. ولی مثل نمره، همهچیز را نمیگوید: اگر از هر ۱۰۰ ایمیل فقط یکی هرزنامه باشد، مدلی که همیشه بگوید «هرزنامه نیست» ۹۹ درصد دقت دارد و هیچ کاری هم نکرده است. پس همیشه بپرس این عدد روی چه دادهای حساب شده.
The model reached 92% accuracy on the test set.
مدل روی دادهی آزمون به دقت ۹۲ درصد رسید.
generative AI (جِنِرِتیو اِیآی): هوش مصنوعی مولد؛ آنی که چیز تازه میسازد
generate یعنی «تولید کردن، ساختن» و generative یعنی «سازنده، مولد». generative AI آن دسته از هوش مصنوعی است که چیز تازه میسازد: متن، عکس، آهنگ، ویدیو یا کد. هوش مصنوعیهای قدیمیتر بیشتر «تشخیص» میدادند (این عکس گربه است یا سگ؟)؛ مولدها «میسازند» (یک گربهی فضانورد بکش). فرقش مثل فرق داور مسابقهی نقاشی با خودِ نقاش است. چتباتها و برنامههای ساخت عکس از همین دستهاند. چیزی که میسازد همیشه درست نیست، پس نتیجه را خودت بررسی کن.
Generative AI can write a first draft, but you must check it.
هوش مصنوعی مولد میتواند پیشنویس اول را بنویسد، ولی باید خودت آن را بررسی کنی.
بخشی از مستندات یک دستیار هوشمند
About this assistant
This assistant is built on an LLM, a kind of generative AI. It can also work as an agent: it can search your files and run code step by step.
Limits you should know:
- The context window is limited. In a very long chat, it may forget early messages.
- Its accuracy is not 100%. Always check important facts.
- The training data may contain bias, so answers can be unfair.
Good prompt engineering helps: be clear, give an example, and say what format you want.
دربارهی این دستیار
این دستیار روی یک LLM ساخته شده که نوعی هوش مصنوعی مولد است. میتواند مثل یک عامل هم کار کند: در فایلهایت بگردد و قدمبهقدم کد اجرا کند.
محدودیتهایی که باید بدانی:
- پنجرهی متن محدود است. در یک گفتوگوی خیلی طولانی شاید پیامهای اول را فراموش کند.
- دقتش ۱۰۰ درصد نیست. همیشه واقعیتهای مهم را بررسی کن.
- دادهی آموزش شاید سوگیری داشته باشد، پس جوابها میتوانند ناعادلانه باشند.
مهندسی پرامپتِ خوب کمک میکند: روشن بنویس، یک مثال بده و بگو چه قالبی میخواهی.