ما هي هلوسة الذكاء الاصطناعي؟
هلوسة الذكاء الاصطناعي هي مخرجات من أداة ذكاء اصطناعي توليدي تُقدَّم بثقة، لكنها خاطئة أو مختلقة أو لا تدعمها المدخلات المقدمة إليها. يستخدم ملف NIST للذكاء الاصطناعي التوليدي مصطلح الاختلاق للإشارة إلى الظاهرة نفسها، ويصفها بأنها أنظمة توليدية تُنتج محتوى خاطئًا أو زائفًا وتقدّمه بثقة. ويشمل تعريف NIST المخرجات التي تحيد عن التعليمات أو المدخلات الأخرى، أو تناقض أقوالًا وردت سابقًا في المحادثة نفسها.
كلمة «هلوسة» استعارة، وهي مضللة بعض الشيء. فالأداة لا ترى أشياء غير موجودة، بل تنتج نصًا يبدو معقولًا إحصائيًا في سياقه، وأحيانًا يكون النص المعقول خاطئًا. لهذا نادرًا ما تبدو الهلوسة كخطأ. إنها تبدو كإجابة عادية جيدة الصياغة.
لماذا يهلوس ChatGPT؟
تحدث الهلوسة في ChatGPT والأدوات المشابهة لأنها مصممة لتوليد تتمات مرجّحة للنص، لا لاسترجاع حقائق متحقق منها. يصف NIST اختلاق المعلومات بأنه نتيجة طبيعية لطريقة تصميم النماذج التوليدية: فهي تقرّب التوزيع الإحصائي لبيانات تدريبها، ورغم أن ذلك قد ينتج مخرجات دقيقة، فإنه قد ينتج أيضًا مخرجات خاطئة من حيث الحقائق أو غير متسقة. ويشير NIST إلى أن هذه المشكلة تبرز خصوصًا في الإجابات المطوّلة عن الأسئلة المفتوحة، وفي الأسئلة التي تتطلب خبرة متخصصة.
تقدّم ورقة بحثية نشرها كالاي وناخوم وفيمبالا وتشانغ في 2025 جزءًا ثانيًا من التفسير. يرى المؤلفون أن إجراءات التدريب والتقييم تميل إلى مكافأة التخمين أكثر من الإقرار بعدم اليقين، لأن النموذج الذي يخمّن يحقق نتائج أفضل في كثير من الاختبارات المعيارية من نموذج يقول إنه لا يعرف. ووفقًا لهذا التصور، تُحسَّن النماذج لتجيد اجتياز الاختبارات. وأيًا كانت الآلية الدقيقة، يبقى الدرس العملي للموظف واحدًا: ثقة الأداة في إجابتها لا تخبرك بشيء عن صحة ما تقوله.
تزداد احتمالية الهلوسة عندما تسأل عن أمر غير معروف على نطاق واسع، أو حديث، أو شديد التحديد، أو خارج المواد التي قدّمتها: رقم دقيق، أو دور شخص بعينه، أو اقتباس، أو قضية قضائية، أو السعر الحالي لمنتج. وتقلّ احتمالية الهلوسة، مع بقائها ممكنة، عندما يُطلب من الأداة العمل فقط انطلاقًا من مستند لصقته فيها.
كيف تظهر هلوسات الذكاء الاصطناعي في العمل؟
في العمل، تظهر هلوسات الذكاء الاصطناعي عادةً في صورة تفاصيل صغيرة ومحددة تبدو صحيحة. تغطي القائمة الأشكال التي يصادفها الموظفون غالبًا. وتعلّم التعرّف على هذه الأشكال يسهّل اكتشافها.
مصادر مختلقة
مرجع أو عنوان تقرير أو URL أو اقتباس غير موجود، أو موجود لكنه يقول شيئًا مختلفًا.
تفاصيل مختلقة
تاريخ أو سعر أو نسبة مئوية أو اسم أو مسمى وظيفي لا يرد في أي موضع من المواد التي قدّمتها.
رفع درجة اليقين
ملخّص يحوّل الاحتمال إلى يقين، أو الموعد المقترح إلى موعد مؤكد.
أسباب غير مدعومة بأدلة
تفسير لتغير رقم لا تدعمه البيانات.
استدلال مختلق
تسلسل منطقي مرتب خطوة بخطوة يؤدي إلى إجابة خاطئة. يشير NIST إلى أن النماذج تقدّم أحيانًا خطوات منطقية للوصول إلى إجابة حتى عندما تكون الإجابة غير صحيحة.
التناقض الذاتي
عبارة تتعارض مع ما قالته الأداة قبل بضع رسائل.
ماذا يحدث عندما لا تُكتشف هلوسة الذكاء الاصطناعي؟
أشهر مثال معلن هو قضية ماتا ضد أفيانكا، التي صدر الحكم فيها في المحكمة الجزئية الأمريكية للمنطقة الجنوبية من نيويورك في 22 يونيو 2023. قدّم محامون مستنداً قضائياً تضمن أحكاماً غير موجودة، مع اقتباسات وإحالات مزيفة أنشأها ChatGPT. خلصت المحكمة إلى وجود سوء نية، وفرضت على المحامين ومكتبهم غرامة قدرها 5,000 دولار أمريكي بالتضامن والانفراد، وألزمتهم بمراسلة موكلهم والقضاة الذين نُسبت أسماؤهم زوراً إلى الأحكام المختلقة. وعند تقدير العقوبة، أشارت المحكمة إلى أن المكتب رتّب تعليماً قانونياً مستمراً إلزامياً لمحاميه وموظفيه حول الكفاءة التقنية وأدوات الذكاء الاصطناعي: أي تدريباً بعد وقوع الضرر.
الدرس ليس أن المحامين مهملون، بل إن المرجع المختلق يبدو تمامًا كالمرجع الحقيقي، وإن الشخص الذي اعتمد عليه تجاوز الخطوة الوحيدة التي كانت ستكشفه: فتح المصدر. معظم هلوسات الذكاء الاصطناعي في العمل أصغر من ذلك، مثل تاريخ تسليم خاطئ في رسالة إلى عميل أو إحصائية مختلقة في عرض تقديمي، لكن الإخفاق واحد.
هل تريد معرفة صلة هذا بدور وظيفي؟
استكشف الفترة التجريبية المخطط لها للفرق ↗هل لا تزال هلوسات الذكاء الاصطناعي مشكلة؟
نعم. أضاف المورّدون ميزات مفيدة، مثل البحث على الويب مع الاستشهاد بالمصادر وإمكانية الإجابة استنادًا إلى الملفات المرفوعة، لكن لا أحد منهم يدّعي القضاء على الهلوسة. وتذكر وثائق Anthropic الخاصة بـ Claude أن الأساليب التي توصي بها تقلل الهلوسة لكنها لا تقضي عليها تمامًا، وتنصح بالتحقق من المعلومات الحساسة، خصوصًا عند اتخاذ قرارات عالية المخاطر. وتحذر صفحات مساعدة Google الخاصة بـ Gemini في Gmail وSheets من أن ميزات Gemini قد تقترح معلومات غير دقيقة أو غير ملائمة.
شكك في أي ادعاء بأن أداة ما لم تعد تهلوس. والسؤال الأفضل هو: ما المهام التي تنجزها أداة معينة بموثوقية كافية لغرضك، وما عمليات التحقق اللازمة معها؟
كيف يمكنك تقليل هلوسات الذكاء الاصطناعي؟
تقلّل الهلوسة بتضييق نطاق ما تضطر الأداة إلى اختلاقه: زوّدها بالمصدر، واطلب منها استخدامه وحده، واسمح لها بأن تقول إنها لا تعرف، واطلب منها تقديم دليل على كل ادعاء. تستند الأساليب التالية إلى إرشادات المزوّدين، ومنها وثائق Anthropic حول تقليل الهلوسة، وقد جرى تكييفها للعمل غير التقني. ولا يُغني أيّ منها عن التحقق.
مثال على تعليمة تجمع عدة أساليب: بالاعتماد على نص السياسة أدناه فقط، اذكر القواعد الثلاث التي تنطبق على رحلات سفر الموظفين المحجوزة خلال 48 ساعة من المغادرة. لكل قاعدة، اقتبس الجملة التي وردت فيها حرفيًا. إذا لم تتناول السياسة أمرًا ما، فاكتب غير مذكور. لا تستخدم المعرفة العامة.
قدّم المصدر
ألصق المستند أو أرفقه بدلًا من سؤال الأداة عمّا تعرفه. المهام المستندة إلى مواد مرجعية أقل عرضة للفشل من الأسئلة المفتوحة.
احصره في المصدر
اذكر صراحةً وجوب استخدام المواد المقدّمة فقط، دون الاستعانة بالمعرفة العامة.
اجعل عدم المعرفة أمرًا مقبولًا
اطلب منه كتابة «غير مذكور» أو «ليست لدي معلومات كافية» بدلًا من سد الثغرات.
اطلب عروض أسعار
للمستندات الطويلة، اطلب منه استخراج الجمل بنصها الدقيق أولًا، ثم الإجابة استنادًا إلى تلك الاقتباسات.
اجعله يتحقق من ادعاءاته
بعد إعداد المسودة، اطلب منه العثور على اقتباس يدعم كل ادعاء وحذف أي ادعاء لا يستطيع دعمه.
اطرح أسئلة أكثر تحديدًا
يسهل التحقق من سؤال محدد واحد في كل مرة أكثر من التحقق من مقال طويل مفتوح النطاق.
قارن مرات التنفيذ
اطرح السؤال نفسه مرتين. وإذا اختلفت الإجابتان بشأن معلومة واقعية، فتعامل مع تلك المعلومة على أنها غير متحقق منها.
كيف يبدو اكتشاف هلوسة الذكاء الاصطناعي في التطبيق العملي؟
لنفترض وجود شركة خيالية لتوزيع مستلزمات طب الأسنان اسمها نورثغيت سبلاي، تضم 25 موظفًا. يلصق منسق المبيعات سياسة الإرجاع الخاصة بالشركة، المكونة من صفحتين، ويسأل مساعدًا: ما مهلة إرجاع المنتجات المفتوحة لدينا، وهل توجد رسوم لإعادة التخزين؟ تنص السياسة المقدمة على إمكانية إرجاع المنتجات غير المفتوحة خلال 30 يومًا، وعدم قبول إرجاع المنتجات المفتوحة إلا إذا كانت معيبة، ولا تذكر شيئًا عن رسوم إعادة التخزين.
الإجابة الأولى: يمكن إرجاع المنتجات المفتوحة خلال 14 يومًا، مع فرض رسوم إعادة تخزين بنسبة 15 بالمئة. كلا التفصيلين مختلق. لا تذكر السياسة مدة 14 يومًا ولا أي رسوم. يبدوان معقولين لأن كثيرًا من سياسات الإرجاع تتضمنهما، وهذه بالضبط هي الطريقة التي تخطئ بها إجابة مرجّحة إحصائيًا.
يعيد المنسق طرح السؤال باستخدام الأساليب المذكورة أعلاه: استخدم السياسة فقط، واقتبس الجملة، واكتب «غير مذكور» عند غياب المعلومة. الإجابة الثانية: السلع المفتوحة: لا تُقبل إعادتها إلا إذا كانت معيبة (الاقتباس: لا يجوز إرجاع السلع المفتوحة إلا إذا كان المنتج معيباً). رسوم إعادة التخزين: غير مذكورة. يمكن التحقق من هذه الإجابة بمقارنتها بالوثيقة خلال ثوانٍ، ويُحال النقص المتعلق بالرسوم إلى المسؤول عن السياسة بدلاً من إدراجه في رسالة إلى العميل.
ما الذي ينبغي أن يفعله الموظف بعد اكتشاف هلوسة للذكاء الاصطناعي؟
احذف العبارة الخاطئة أو صحّحها، ثم حدّد ما إذا كان أحد قد اعتمد عليها بالفعل. إذا كانت المخرجات مجرد مسودة، فصحّحها وتابع العمل، مع الإشارة في مراجعتك إلى أن الأداة اختلقت تلك المعلومة. أما إذا كانت قد أُرسلت أو نُشرت أو استُخدمت في قرار، فأبلغ الشخص المسؤول ليتمكن من تصحيحها. لا تعدّل بصمت مستندًا سبق أن قرأه الآخرون.
من المفيد أيضًا إخبار الزملاء بأنواع الأسئلة التي أدت إلى الخطأ. فالفريق الذي يتبادل أمثلة على ما حدث من أخطاء يتعلم أسرع من فريق يكتشف فيه كل شخص الإخفاق نفسه بمفرده. وتجد طريقة مراجعة المسودة خطوة بخطوة في دليل التحقق من صحة المعلومات في مخرجات الذكاء الاصطناعي.
متى لا تُعدّ الإجابة السيئة من الذكاء الاصطناعي هلوسة؟
ليست كل إجابة سيئة هلوسة، ويختلف الحل بحسب المشكلة. إذا قدمت الأداة إجابة قديمة لأن المعلومات تغيرت بعد تدريبها، فالحل هو مصدر حديث. وإذا قدمت إجابة متحيزة أو أحادية الجانب، فالمشكلة في التأطير والإنصاف لا في اختلاق المعلومات. وإذا اتبعت تعليمات غامضة وأنتجت نتيجة معقولة لكنها غير مرغوبة، فالحل هو وصف أوضح للمطلوب. أما إذا تعمد شخص استخدام الذكاء الاصطناعي للتضليل، فهذه مسألة سلوك وليست مسألة تدريب.
لا يستطيع هذا الدليل أيضًا أن يؤكد لك أن أداة بعينها آمنة لمهمة محددة عالية المخاطر. وفي القرارات القانونية أو الطبية أو المالية أو الوظيفية المتعلقة بأفراد، استعن بمراجع مؤهل بغض النظر عن طريقة إنتاج المخرجات.
المصادر والنطاق
NIST، الذكاء الاصطناعي 600-1: ملف مخاطر الذكاء الاصطناعي التوليدي، يوليو 2024 ↗
كالاي، ناخوم، فيمبالا وتشانغ، لماذا تهلوس النماذج اللغوية، arXiv، 4 سبتمبر 2025 ↗
Anthropic، مستندات Claude: تقليل الهلوسة، تم الاطلاع في 16 أكتوبر 2026 ↗
Mata v. Avianca, Inc., 678 F.Supp.3d 443 (S.D.N.Y., 22 June 2023)، نسخة تستضيفها CLLA ↗
مساعدة Gmail، التعاون مع Gemini في Gmail، تاريخ الاطلاع 16 أكتوبر 2026 ↗