شرح هلوسات الذكاء الاصطناعي: لماذا تختلق روبوتات المحادثة المعلومات وكيف تحصل على إجابات دقيقة

ما هي هلوسات الذكاء الاصطناعي؟

هلوسة الذكاء الاصطناعي إجابة من روبوت محادثة أو نظام ذكاء اصطناعي توليدي آخر تكون خاطئة أو مختلقة أو متناقضة، لكنها تُقدَّم كأنها صحيحة. ويستخدم المعهد الوطني الأمريكي للمعايير والتقنية (NIST) مصطلح التلفيق (confabulation)، ويعرّفه بأنه ظاهرة تولّد فيها أنظمة الذكاء الاصطناعي التوليدي محتوى خاطئًا أو زائفًا وتقدّمه بثقة ^[1]. ويُدخل NIST في ذلك المخرجات التي تحيد عن الطلب أو تناقض ما قاله النظام نفسه سابقًا، ويشير إلى أنها تُسمى في اللغة الدارجة 'هلوسات' أو 'اختلاقات' ^[1].

وتتراوح الأمثلة بين قضايا قضائية مختلقة باقتباسات مزيفة، كما في دعوى أمريكية عام 2023 ^[3]، وتفاصيل مُهلوَسة وحقائق قديمة في الإجابات الإخبارية ^[5]. ويحذّر NIST من أن الأنظمة قد تنتج أيضًا منطقًا أو استشهادات ملفقة تبدو كأنها تبرر الإجابة، وهو ما قد يدفع الناس إلى الثقة بالمخرجات أكثر مما ينبغي ^[1].

كيف تتجنبها باختصار؟

1. زوّد روبوت المحادثة بالمادة المصدرية واطلب منه الإجابة من تلك المادة وحدها ^[7].
2. اسمح له صراحةً بأن يقول 'لا أعرف' ^[7].
3. اطلب اقتباسات مباشرة واستشهادات لكل ادعاء، ثم افتح المصادر بنفسك ^[7].
4. تحقق من كل ما هو مهم بمقارنته بمصدر مستقل وموثوق، لأنه لا توجد تقنية تزيل المشكلة تمامًا ^[7].

لماذا تختلق روبوتات المحادثة المعلومات؟

تولّد النماذج اللغوية الكبيرة (LLMs) النص بالتنبؤ بالكلمات التالية المرجحة. ويوضح NIST أن التلفيقات نتيجة طبيعية لهذا التصميم: فالنماذج تنتج مخرجات تقارب التوزيع الإحصائي لبيانات تدريبها، وقد تكون دقيقة، لكنها قد تكون أيضًا خاطئة من حيث الوقائع أو متناقضة داخليًا ^[1]. ويقول NIST إن المشكلة وثيقة الصلة بوجه خاص بالإجابات المفتوحة والمطولة وبالأسئلة التي تحتاج إلى معرفة متخصصة ^[1].

لماذا لا تقول النماذج ببساطة 'لا أعرف'؟

ترى ورقة صدرت عام 2025 لآدم تومان كالاي (Adam Tauman Kalai) وزملائه، ثلاثة منهم في OpenAI وواحد في معهد جورجيا للتكنولوجيا، أن الهلوسات لا ينبغي أن تكون لغزًا: فهي تنشأ أخطاءً في التصنيف الثنائي ^[2]. فإذا تعذّر التمييز بين العبارات الخاطئة والحقائق، فإن الضغوط الإحصائية أثناء التدريب تنتجها بشكل طبيعي ^[2]. ويضيف المؤلفون أن الهلوسات تستمر لأن معظم المعايير المرجعية تقيّم الإجابات بطريقة تكافئ التخمين الواثق على قول 'لا أعرف' بصدق، فتصبح النماذج، بتعبيرهم، محسَّنة لتكون بارعة في اجتياز الاختبارات ^[2]. والحل الذي يقترحونه هو تغيير طريقة تقييم المعايير المرجعية واسعة الاستخدام ^[2].

لماذا تبدو واثقة إلى هذا الحد؟

الصياغة السلسة الواثقة جزء مما تتعلم النماذج إنتاجه. ويشير NIST إلى أن المخاطر تنشأ حين يصدّق المستخدمون المحتوى الخاطئ، وكثيرًا ما يكون ذلك بسبب الطابع الواثق للإجابة ^[1]. لذا فإن الثقة في النبرة ليست دليلًا على الدقة.

كم مرة تهلوس روبوتات المحادثة؟

لا يوجد معدل هلوسة واحد. فهو يعتمد على النموذج والمهمة واللغة وطريقة احتساب الأخطاء. وتعطي الدراسات المستقلة فكرة عن الحجم في مهام بعينها.

الأسئلة الإخبارية

شملت دراسة نسّقها اتحاد الإذاعات الأوروبية (EBU) وقادتها BBC ‏22 مؤسسة إعلامية للخدمة العامة في 18 دولة تعمل بـ14 لغة ^[5]. وقيّم صحفيون أكثر من 3,000 إجابة من ChatGPT وCopilot وGemini وPerplexity ^[5]. ووجدوا أن 45% من الإجابات تضمنت مشكلة جوهرية واحدة على الأقل، وأن 31% عانت مشكلات خطيرة في المصادر، و20% احتوت على مشكلات كبيرة في الدقة، منها تفاصيل مُهلوَسة ومعلومات قديمة ^[5]. وكانت لدى Gemini مشكلات جوهرية في 76% من إجاباته ^[5]. ويقول الاتحاد إن هذه التشوهات كانت متسقة عبر اللغات والمناطق، وهو أمر مهم للقراء الذين يستخدمون الذكاء الاصطناعي بلغات غير الإنجليزية ^[5].

الأدوات القانونية المهنية

اختبر باحثون في جامعة ستانفورد أدوات بحث قانوني بالذكاء الاصطناعي من LexisNexis وThomson Reuters، ووجدوا أن كلًا منها هلوس في نسبة تتراوح بين 17% و33% من الحالات ^[6]. وتستخدم هذه الأدوات التوليد المعزَّز بالاسترجاع (RAG)، الذي يجلب المستندات قبل الإجابة، وخلص المؤلفون إلى أن ادعاءات المزوّدين بالقضاء على الهلوسات مبالغ فيها ^[6].

تصف هذه الأرقام أنظمة بعينها في تواريخ بعينها؛ وقد يكون أداء الإصدارات الأحدث أفضل أو أسوأ. وهي تُظهر أن الأدوات المتخصصة المرتكزة على المستندات لا تزال ترتكب أخطاء ^[6].

ماذا يحدث حين يثق الناس بهلوسات الذكاء الاصطناعي؟

قضايا مختلقة أمام محكمة أمريكية

في قضية Mata v. Avianca، فرض قاضٍ فيدرالي في نيويورك في 22 يونيو 2023 عقوبات على محاميَين ومكتبهما بعد أن قدّما آراء قضائية غير موجودة باقتباسات واستشهادات مزيفة أنشأها ChatGPT ^[3]. وأقر المحاميان لاحقًا بأن ستة من القرارات المستشهد بها ولّدها ChatGPT ولا وجود لها ^[3]. وحين سأل أحد المحاميين ChatGPT عما إذا كانت قضية ما حقيقية، أجاب بأن القضية 'موجودة بالفعل' ويمكن العثور عليها في Westlaw وLexisNexis ^[3]. وكتب القاضي بي. كيفن كاستل (P. Kevin Castel) أنه لا عيب في ذاته في استخدام أداة ذكاء اصطناعي موثوقة، لكن القواعد القائمة تمنح المحامين دور الحارس لضمان دقة ما يقدّمونه، وفرض غرامة قدرها 5,000 دولار ^[3].

وقد تفاقمت المشكلة منذ ذلك الحين. فقاعدة بيانات يديرها الباحث داميان شارلوتان (Damien Charlotin) تُدرج قرارات المحاكم والهيئات القضائية التي ثبت فيها أن أحد الأطراف اعتمد على محتوى مُهلوَس؛ وقد رصدت 2,262 حالة حتى تحديثها في 2 نوفمبر 2026 ^[4].

وعد خاطئ من روبوت محادثة لعميل

في قرار صدر عام 2024 (Moffatt v. Air Canada، 2024 BCCRT 149)، حمّلت محكمة تسوية المنازعات المدنية في كولومبيا البريطانية شركة Air Canada المسؤولية عن التضليل بإهمال، بعد أن أوحى روبوت المحادثة في موقع الشركة خطأً بأن العميل يستطيع التقدم بطلب للحصول على تذكرة بسعر مخفّض للعزاء بأثر رجعي، وهو ما ناقضته صفحة أخرى في موقعها ^[9]. ورفضت المحكمة الحجة القائلة بوجوب معاملة روبوت المحادثة كيانًا مستقلًا، مؤكدة أنه لا فرق بين أن تأتي المعلومات من صفحة ثابتة أو من روبوت محادثة ^[9].

كيف تحصل على إجابات أدق من روبوتات المحادثة؟

يعرض دليل المطورين الذي أعدّته Anthropic لنماذج Claude تقنيات تنطبق على معظم روبوتات المحادثة ^[7]:

1. اسمح بعدم اليقين. أخبر النموذج بأنه يستطيع القول إنه لا يعرف أو لا يملك معلومات كافية؛ وتقول Anthropic إن ذلك قد يقلل المعلومات الخاطئة تقليلًا كبيرًا ^[7].
2. اربط الإجابات بالاقتباسات. في المستندات الطويلة، اطلب من النموذج أولًا استخراج اقتباسات حرفية، ثم بناء إجابته عليها وحدها ^[7].
3. اشترط الاستشهادات والتراجع. اطلب اقتباسًا أو مصدرًا داعمًا لكل ادعاء، وأخبر النموذج بأن يحذف أي ادعاء لا يستطيع دعمه ^[7].
4. قيّد معرفته. وجّهه إلى استخدام المستندات التي تقدّمها فقط، لا معرفته العامة ^[7].
5. قارن عدة إجابات. اطرح السؤال نفسه أكثر من مرة؛ فالتناقضات بين المخرجات قد تدل على هلوسة ^[7].
6. اطلب فحوص متابعة. أعد الإجابة إلى النموذج واطلب منه التحقق من عبارات بعينها أو التوسع فيها ^[7].

فحوص ينبغي أن تجريها بنفسك

• افتح كل استشهاد. تأكد من أن المصدر موجود ويقول ما تدّعيه الإجابة؛ فقد عانت 31% من الإجابات في دراسة الاتحاد الأوروبي للإذاعات مشكلات خطيرة في المصادر ^[5].
• لا تطلب من روبوت المحادثة أن يشهد لنفسه. هذا بالضبط ما فعله المحاميان في قضية Mata v. Avianca، فقيل لهما إن قضية مختلقة حقيقية ^[3].
• استخدم المصادر الأولية للحقائق عالية المخاطر، مثل قواعد البيانات القانونية الرسمية أو الجهات التنظيمية أو المختصين الطبيين. ويشير NIST إلى الرعاية الصحية بوصفها مجالًا قد تؤدي فيه الملخصات الملفقة إلى تشخيص أو علاج خاطئ ^[1].
• تحقق من التاريخ. كانت المعلومات القديمة من بين مشكلات الدقة الكبيرة التي رصدها الاتحاد ^[5].

ويشدد دليل Anthropic نفسه على أن هذه التقنيات تقلل الهلوسات تقليلًا كبيرًا لكنها لا تقضي عليها، وينصح بالتحقق من المعلومات الحاسمة ^[7].

هل تستطيع التقنية اكتشاف الهلوسات تلقائيًا؟

يعمل الباحثون على بناء إشارات تحذير تلقائية. ومن المناهج ما نشره في مجلة Nature عام 2024 سيباستيان فاركوهار (Sebastian Farquhar) ويانيك كوسن (Jannik Kossen) ولورنتس كون (Lorenz Kuhn) ويارين غال (Yarin Gal) من جامعة أكسفورد، ويُسمى الإنتروبيا الدلالية (semantic entropy) ^[8]. ويقوم على أخذ عدة إجابات عن السؤال نفسه، غالبًا نحو خمس، وتجميعها بحسب المعنى، وقياس مدى تشتت هذه المعاني؛ فالتشتت الكبير يوحي بأن النموذج مرجّح أن يجيب إجابة خاطئة ^[8].

وللطريقة حدود. إذ يقول مؤلفوها إنها لن تكتشف الحالات التي دُرِّب فيها النموذج على مجموعة خاطئة من الحقائق أو على أسلوب استدلال خاطئ، ولا الحالات التي لا ينتقل فيها التدريب إلى سياق جديد، ولا الخداع المتعمد ^[8]. فالنموذج الذي يكرر الإجابة الخاطئة نفسها بثقة في كل مرة سيبدو متسقًا. ولهذا فإن تقنية المستخدم البسيطة المتمثلة في طرح السؤال مرتين، التي تتبع المنطق نفسه، تلميح لا ضمانة ^[7][8].

والتوليد المعزَّز بالاسترجاع، الذي يتيح للنموذج البحث في المستندات، مفيد لكنه ليس علاجًا: فقد وجدت دراسة ستانفورد معدلات هلوسة مكوّنة من رقمين في الأدوات القانونية القائمة على RAG ^[6].

ما تقنيات صياغة الطلبات الأنجع؟

لا توجد تقنية مثالية، وهي تعمل على أفضل وجه حين تُجمع معًا. ويقارن الجدول أدناه المناهج الشائعة، وما تستهدفه، ومواضع قصورها. فالتقنيات التي تربط الإجابات بمستندات تقدّمها أنت تعالج أصل المشكلة، وهو أن النماذج تعتمد خلاف ذلك على الأنماط الإحصائية ^[1][7]، بينما لا تكتشف فحوص الاتساق إلا بعض أنواع الأخطاء ^[8].

ما فوائد استخدام روبوتات المحادثة للحصول على الحقائق وما حدوده؟

الفوائد

• يشير NIST إلى أن التنبؤ الإحصائي قد ينتج مخرجات دقيقة ومتسقة من حيث الوقائع، لا أخطاءً فقط ^[1].
• حين تُعطى النماذج مستندات مصدرية، تستطيع استخراج اقتباسات حرفية والاستشهاد بها، وهو ما يجعل إجاباتها قابلة للتدقيق ^[7].

الحدود

• الأخطاء شائعة في بعض المهام: إذ تضمنت 45% من الإجابات الإخبارية مشكلة جوهرية في دراسة الاتحاد الأوروبي للإذاعات ^[5].
• حتى الأدوات القانونية المتخصصة هلوست في نسبة تتراوح بين 17% و33% من الحالات في اختبارات ستانفورد ^[6].
• قد تأتي الأخطاء مصحوبة بتفسيرات واستشهادات مقنعة لكنها زائفة ^[1].
• تبقى المسؤولية على عاتق المستخدم أو الشركة: فقد عاقبت المحاكم محامين ^[3]، وحمّلت هيئة قضائية شركة المسؤولية عن تصريحات روبوت المحادثة لديها ^[9].

هل ستُحل مشكلة هلوسات الذكاء الاصطناعي يومًا؟

إلى أي حد يمكن تقليل الهلوسات مسألة مفتوحة، لكن بعض التفسيرات الواردة أعلاه تشير إلى أسباب يمكن العمل عليها. فإذا كانت المعايير المرجعية تكافئ التخمين، كما يرى كالاي وزملاؤه، فإن تغيير طريقة تقييمها قد يشجع النماذج على التعبير عن عدم اليقين ^[2]. ويمكن لأساليب الكشف مثل الإنتروبيا الدلالية أن تنبّه إلى بعض الأخطاء المرجحة ^[8]. غير أن NIST يصف التلفيق بأنه نتيجة طبيعية لطريقة تصميم النماذج التوليدية ^[1]، وهو ما يوحي بأن قدرًا من الخطأ سيبقى.

ما الذي لا يزال غير مؤكد

• معدلات الخطأ الفعلية للنماذج الحالية. تختبر الدراسات المنشورة إصدارات ومهام بعينها، وتتغير النتائج مع كل إصدار ^[5][6].
• كيف ستتعامل المحاكم مع الحالات المتكررة. كانت قاعدة بيانات شارلوتان قد سجّلت بالفعل 2,262 قرارًا من هذا النوع بحلول 2 نوفمبر 2026، وكل قرار جديد يضيف إلى السوابق القضائية ^[4].
• هل ستُعتمد إصلاحات المعايير المرجعية على نطاق واسع، وهو ما تسميه ورقة كالاي تغييرًا اجتماعيًا تقنيًا ^[2].

وحتى 3 نوفمبر 2026، فإن أسلم افتراض عملي هو أن أي روبوت محادثة قد يخطئ بنبرة واثقة، وأن التحقق من المصدر مهمة المستخدم.