هوش مصنوعی مولد چگونه کار می‌کند؟ از توکن‌ها و پنجرهٔ زمینه تا «اشتباهِ بااعتماد»

هوش مصنوعی مولد برای تولید متن، تصویر یا صدا معمولاً از یک ایدهٔ مشترک پیروی می‌کند: داده را به واحدهای قابل محاسبه تبدیل می‌کند و بعد، بر اساس «زمینه» به‌صورت احتمالی ادامهٔ کار را پیش‌بینی می‌سازد. در متن، این واحدها اغلب «توکن» هستند؛ یعنی تکه‌های کوچکِ کلمه یا حتی بخشی از کلمه که مدل می‌تواند آن‌ها را کنار هم بچیند تا خروجی روان تولید شود.

در مرحلهٔ آموزش، مدل با حجم زیادی از مثال‌ها یاد می‌گیرد که در زبان یا الگوهای تصویری، کدام توکن‌ها معمولاً در کنار هم می‌آیند. اما این آموزش با «پاسخ دادن» فرق دارد. آموزش بیشتر شبیه یادگیری الگوها از راه زیادِ تمرین است، درحالی‌که «استنتاج» (inference) یعنی وقتی شما درخواست می‌دهید، مدل از روی همان الگوهای آموخته‌شده و با توجه به ورودی شما، قدم‌به‌قدم ادامه را تولید می‌کند.

یکی از کلیدهای فهم رفتار مدل، «پنجرهٔ زمینه» (context window) است. مدل فقط به بخشی از اطلاعاتی که داخل این پنجره می‌گنجد توجه می‌کند؛ یعنی ممکن است درخواست شما طولانی باشد، اما مدل همهٔ جزئیات را در لحظه در نظر نگیرد. بنابراین، اگر چیزی خارج از پنجره باشد یا با آنچه در پنجره دیده، سازگار نباشد، خروجی ممکن است نادرست یا نامرتبط شود؛ حتی اگر از نظر زبانی بسیار مطمئن به نظر برسد.

«اعتماد» در این سیستم‌ها معمولاً معنای روان‌شناختیِ انسان را ندارد. وقتی مدل می‌گوید چیزی «درست است»، در اصل دارد می‌گوید چه توکنی با احتمال بالاتری در ادامه می‌آید. اگر بافتِ ورودی مبهم باشد، چند ادامهٔ محتمل وجود داشته باشد، یا اطلاعات لازم در داده‌های آموزش به اندازهٔ کافی پوشش داده نشده باشد، مدل ممکن است با احتمالِ نسبتاً خوب، اما نتیجهٔ نادرست تولید کند. اینجا منطق «احتمال» می‌تواند به «اشتباهِ بااعتماد» منجر شود.

توهم‌/توهم‌زایی (hallucination) اغلب از ترکیبِ چند عامل می‌آید: کمبود زمینه، درخواست مبهم، نبودن منبع واقعی در پاسخ، یا این‌که مدل بیشتر از آن‌که «واقعیت را چک کند» صرفاً «ادامهٔ محتمل» را تولید می‌کند. راهکار عملی این است که خروجی را مثل یک پیش‌نویسِ محتمل بخوانید، نه سند نهایی؛ از مدل بخواهید منبع‌محور پاسخ دهد یا فرض‌ها را مشخص کند، و جزئیات حساس را با منابع معتبر دوباره راستی‌آزمایی کنید.