هلوسة الذكاء الاصطناعي: لماذا تحدث ومتى تكون خطيرة؟

عندما يولّد نموذج لغوي إجابة تبدو واثقة لكنها تحوي معلومات خاطئة، أو يخترع دراسة غير موجودة، أو يذكر رابطًا لا يعمل، نسمّي هذه الظاهرة «هلوسة» (Hallucination). وهي ليست حالة نادرة ولا عطلًا تقنيًّا، بل سمة متأصّلة في كيفية عمل هذه النماذج.

تحدث الهلوسة لأن النموذج لا «يعرف» الحقائق، بل يتنبأ بالكلمة التالية بناءً على أنماط إحصائية تعلّمها. وحين لا يكون متأكّدًا لا يقول «لا أعرف»، بل يخمّن الإجابة الأكثر احتمالًا لغويًّا حتى لو كانت خاطئة واقعيًّا.

ما هي الهلوسة؟

الهلوسة استجابة يولّدها نظام ذكاء اصطناعي وتحوي معلومات خاطئة أو مضلّلة تُقدَّم كحقيقة. قد تكون صحيحة نحويًّا ومتماسكة ظاهريًّا، لكنها غير دقيقة واقعيًّا أو غير مدعومة بدليل.

الأمثلة تشمل: اختراع حقائق، وذكر دراسات لا وجود لها، وإنشاء روابط لا تعمل، وتقديم تفاصيل خاطئة عن كيانات حقيقية.

والهلوسة ليست حكرًا على النماذج اللغوية؛ أنظمة الرؤية الحاسوبية قد «ترى» كائنات غير موجودة. لكنها في النصوص أكثر خطرًا لأنها أقلّ وضوحًا: الجملة الخاطئة تبدو مقنعة إذا كانت صحيحة نحويًّا.

لماذا تحدث؟ ثلاثة أسباب

١. آلية التنبؤ الاحتمالي. النماذج تُدرَّب لتقليل خطأ التنبؤ بالكلمة التالية، لا لتعظيم الدقة الواقعية. خلال التدريب يُكافأ النموذج على إنتاج نص متماسك ومحتمل، حتى لو كان خاطئًا. أي أنه يتعلّم أن التخمين أفضل من الاعتراف بعدم اليقين.

٢. فجوات أو أخطاء في بيانات التدريب. إن كانت البيانات تحوي معلومات خاطئة أو متناقضة أو ناقصة، سيتعلّم النموذج هذه الأنماط ويكرّرها. ولا يملك طريقة للتحقّق من صحة المعلومات خارج ما رآه.

٣. غياب التأسيس في مصدر. النموذج لا يملك وصولًا مباشرًا إلى العالم الواقعي، ولا يستطيع التحقّق من الحقائق لحظيًّا. حين يُسأل عن حدث حديث أو حقيقة دقيقة، قد يخمّن بناءً على أنماط مشابهة. وهذا بخلاف الإنسان الذي يستطيع أن يقول «لا أعرف» أو يبحث.

متى تكون الهلوسة مقبولة؟

ليست كل هلوسة متساوية الخطورة. في بعض السياقات يكون التنوّع أهمّ من الدقة المطلقة:

• الكتابة الإبداعية: قصص أو سيناريوهات خيالية لا تتطلب دقة واقعية.
• العصف الذهني: توليد أفكار أوّلية أو عناوين.
• المحاكاة ولعب الأدوار: حوارات وشخصيات افتراضية.
• الاستكشاف التعليمي: حين يريد المستخدم فهم أنماط عامّة لا حقائق دقيقة.

الشرط في هذه الحالات أن يدرك المستخدم أن المخرجات ليست بالضرورة دقيقة.

متى تكون خطيرة؟

في سياقات أخرى قد يسبّب الخطأ ضررًا ماديًّا أو قانونيًّا أو صحيًّا:

متى لا تحتاج إلى القلق؟

• عند استعماله في المهام الإبداعية.
• عندما تتحقّق من الإجابات بنفسك قبل النشر أو التنفيذ.
• عندما تكون المهمة بسيطة ومألوفة: الأسئلة الواقعية الشائعة أقلّ عرضةً للهلوسة من الأسئلة الدقيقة أو الحديثة.

متى تحتاج إلى تصميم يخفّف الهلوسة؟

• عند بناء تطبيقات للمستخدمين العامّين الذين قد لا يتحقّقون من الإجابات.
• عند التعامل مع مجالات حسّاسة: طبّ، أو قانون، أو مال، أو أمن.
• عند دمج النموذج في سير عمل مؤسسي: قرارات، أو تقارير رسمية، أو اتصالات عملاء.

وتقنيات التخفيف تشمل: الاسترجاع المعزّز (RAG) لتأسيس الإجابات في مصادر موثوقة، وإضافة تعليمات صريحة للاعتراف بعدم اليقين، واستخدام أدوات للتحقّق، وتصميم واجهات توضّح للمستخدم أن الإجابات قد تحوي أخطاء.

الأسئلة الشائعة

هل يمكن القضاء على الهلوسة تمامًا؟

لا. أعمال بحثية ترى أن الهلوسة سمة متأصّلة في النماذج اللغوية العامّة، ويمكن تقليلها لا إلغاؤها.

لماذا يبدو النموذج واثقًا وهو مخطئ؟

لأنه يُدرَّب على إنتاج نص متماسك ومحتمل، لا على التعبير عن درجة اليقين. ولا يملك مفهومًا داخليًّا للثقة أو الشك بالمعنى البشري.

كيف أقلّلها في استعمالي اليومي؟

اطلب منه الاستشهاد بمصادر، وأخبره أن يقول «لا أعرف» إذا لم يكن متأكّدًا. استعمل أدوات البحث المدمجة إن توفّرت. وتحقّق من الإجابات الحسّاسة قبل الاعتماد عليها.

هل تعني الهلوسة أن النموذج معطوب؟

لا. النموذج يعمل كما صُمِّم، لكن تصميمه لا يضمن الدقة الواقعية المطلقة. وهذا يفسّر كيف يكون بارعًا في الصياغة وضعيفًا في الحقائق الدقيقة.

المراجع

1. OpenAI. Why Language Models Hallucinate. openai.com
2. Xu, Z. et al. Hallucination is Inevitable: An Innate Limitation of Large Language Models. arXiv
3. Ji, Z. et al. Survey of Hallucination in Natural Language Generation. arXiv
4. IBM. What Are AI Hallucinations? ibm.com
5. Lewis, P. et al. Retrieval-Augmented Generation for Knowledge-Intensive NLP Tasks. arXiv