لماذا لا تكفي إجابة تبدو معقولة؟
الإجابة التي تبدو معقولة لا تكفي، لأن الذكاء الاصطناعي التوليدي قد ينتج معلومة خاطئة، أو استشهادًا مختلقًا، أو حقيقة صحيحة مستخدمة في غير سياقها، وكل ذلك بالنبرة الواثقة نفسها. وتجعل سلاسة الصياغة هذه المشكلات أسهل تفويتًا. ويحدّد ملف NIST للذكاء الاصطناعي التوليدي اختلاق المعلومات بوصفه خطرًا، ويُدرج ضمن إجراءاته المقترحة مراجعة المصادر والاستشهادات في مخرجات الذكاء الاصطناعي والتحقق منها.
يشير NIST أيضًا إلى أن مخرجات الذكاء الاصطناعي قد تتضمن استدلالات أو استشهادات مختلقة تبدو وكأنها تبرر الإجابة، مما قد يدفع الناس إلى الثقة بها في غير محلها. تسلسل الاستدلال المرتب ليس دليلًا على صحة النتيجة. يشرح دليل هلوسة الذكاء الاصطناعي سبب حدوث ذلك؛ أما هذا الدليل فيتناول خطوات التحقق المعتادة.
ما الادعاءات التي ينبغي لك التحقق منها أولاً؟
ابدأ بالتحقّق من الادعاءات التي تترتب على خطئها أكبر عواقب، وتلك الأكثر عرضة للاختلاق. نادرًا ما تحتاج إلى التحقّق من كل كلمة في مسودة داخلية منخفضة المخاطر، لكن عليك دائمًا التحقّق من الرقم الوارد في عرض مقدّم لعميل. يقدّم الجدول ترتيبًا عمليًا لأولويات التحقّق من أنواع الادعاءات الشائعة. عدّله بما يناسب عمل فريقك وقواعد الموافقة لديه.
| نوع الادعاء | كيفية التحقق منه | من يقرر أنها صالحة للاستخدام |
|---|---|---|
| الأرقام والأسعار والتواريخ | أعِد الحساب أو ارجع إلى السجل الأصلي | الكاتب، ومعه شخص ثانٍ إذا كان المحتوى سيُرسل إلى خارج الشركة |
| الاقتباسات والإحالات المرجعية | افتح المصدر واعثر على المقطع المحدد | الكاتب |
| الأسماء والمسميات الوظيفية والمؤسسات | راجِع صفحة رسمية أو صفحة تابعة للجهة المعنية مباشرةً | الكاتب |
| عبارات تحدّد الأسباب | اسأل عن الدليل الذي سيثبت ذلك؛ واحذف الادعاء إن لم يوجد دليل | الكاتب والشخص المسؤول عن القرار |
| نقاط قانونية أو مالية أو متعلقة بالسلامة أو التوظيف | مصدر أصلي ومراجع مؤهل | شخص مؤهل، وليس كاتب المحتوى وحده |
كيف ينبغي أن تفحص مرجعًا مستشهدًا به؟
افتح المصدر الفعلي واعثر على المقطع الذي يدعم العبارة. تحقّق من المؤلف أو الناشر، والتاريخ، والنطاق، وأي تحفظات. لا يكفي أن يكون الرابط حقيقيًا إذا كانت الصفحة تتناول فئة سكانية أو فترة زمنية أو مسألة مختلفة. دوّن المصدر ليتمكن شخص آخر من تكرار التحقق.
إذا لم تجد المقطع الداعم، فلا تطلب من النموذج تأكيد صحة استشهاده ثم تكتفي بذلك. اطلب الدليل الناقص، أو احذف العبارة، أو ضع علامة تفيد بأنها لم تُحسم. يمكن لنموذج ثانٍ اقتراح أسئلة، لكن اتفاق نموذجين ليس تحققًا مستقلًا. فقد يكون كلاهما تعلّم الخطأ نفسه الذي يبدو معقولًا.
كيف تتحقق من الأرقام والاستدلال؟
أعِد حساب الأرقام المهمة من البيانات المقدّمة باستخدام طريقة مستقلة، مثل صيغة حسابية أو جدول محوري أو آلة حاسبة. تأكّد من الوحدات والفترة وأساس المقارنة. قد يكون المجموع صحيحًا، بينما لا يستند تفسير سبب تغيّره إلى دليل، لذا افصل العمليات الحسابية عن أي ادعاء بشأن السبب.
في جدول خيالي، ترتفع الإيرادات من 80 إلى 92 وحدة، والتكاليف من 50 إلى 61 وحدة. يبلغ التغير 12 و11 وحدة، لذا يرتفع الهامش من 30 إلى 31 وحدة. لا يفسر الجدول وحده ما إذا كان هذا التغير ناتجًا عن عميل جديد أو تغير في السعر أو التوقيت. يذكر الملخص المسؤول التغير ويترك سببه دون حسم، أو يحدد الأدلة التي من شأنها حسمه. وانتبه أيضًا إلى الخلط بين النسب المئوية والنقاط المئوية، وهو شائع في الملخصات المولّدة.
هل تريد معرفة صلة هذا بدور وظيفي؟
استكشف الفترة التجريبية المخطط لها للفرق ↗كيف تتحقق من صحة المعلومات في ملخص أعدّه الذكاء الاصطناعي لمستند؟
راجع ملخص الذكاء الاصطناعي من حيث ما يقوله وما يغفله. ابدأ باختيار ثلاث أو أربع عبارات من الملخص وابحث عن كل منها في النص الأصلي. ثم اقرأ عناوين النص الأصلي أو الأسطر الأولى من كل قسم، واسأل عمّا إذا كان شيء مهم قد أُغفل. وأخيرًا، ابحث عن القيود المحذوفة: تحوُّل «قد يحدث» إلى «سيحدث»، وتحوُّل «في بعض الحالات» إلى «دائمًا»، واختفاء عبارة «رهن الموافقة» تمامًا.
إذا كان الملخّص سيُبنى عليه قرار، فاطلب من الأداة استخراج اقتباسات لكل نقطة قبل التلخيص. توصي وثائق Anthropic الخاصة بـ Claude بهذا الأسلوب للمستندات الطويلة، إلى جانب مطالبة الأداة بحذف أي ادعاء لا تستطيع دعمه باقتباس. وهذا يجعل التحقق من الملخّص أسرع، مع بقاء الحاجة إلى مطابقة الاقتباسات مع نص الصفحة.
كيف يبدو التحقق الشامل من الحقائق؟
إليك مسودة تتضمن أخطاء متعمدة للتدريب. طلبت وكالة خيالية، Kestrel Studio، من مساعد تلخيص موجز منتج قدّمه عميل في فقرة لعرض تقديمي. يذكر الموجز أن تطبيق التخطيط الخاص بالعميل أُطلق في مارس 2025، وأن له باقة مجانية وأخرى مدفوعة، وأن استطلاعًا شمل 200 من مستخدميه أظهر أن معظمهم يستخدمونه أسبوعيًا.
مسودة بالذكاء الاصطناعي: أُطلق التطبيق في أوائل 2024، وسرعان ما أصبح من أكثر تطبيقات التخطيط شعبية في المملكة المتحدة، إذ أظهر استطلاع مستقل حديث أن 85 بالمئة من المستخدمين يفتحونه يوميًا. ويقدّم خطة مجانية وخطة مدفوعة بمزايا إضافية.
التحقق، ادعاءً تلو الآخر. تاريخ الإطلاق: يذكر الموجز مارس 2025، لذا فإن أوائل 2024 خطأ. أحد أكثر أدوات التخطيط شعبية في المملكة المتحدة: لا شيء في الموجز يدعم ذلك، لذا احذفه. استطلاع مستقل حديث: يصف الموجز استطلاعاً أجراه العميل بنفسه بين مستخدميه، لذا فإن وصفه بالمستقل غير صحيح. 85 بالمئة يومياً: يقول الموجز إن معظمهم استخدموه أسبوعياً، لذا فالرقم ووتيرة الاستخدام كلاهما مختلق. مستويات مجانية ومدفوعة: مدعوم بالمعلومات.
الفقرة بعد المراجعة: أُطلق التطبيق في مارس 2025، ويوفر فئة مجانية وأخرى مدفوعة. وفي استطلاع أجراه العميل بنفسه وشمل 200 مستخدم، قال معظمهم إنهم يستخدمونه أسبوعيًا. تسرد ملاحظة المراجعة أربعة تصحيحات وادعاءً واحدًا حُذف، ويعتمد مسؤول الحساب العرض التقديمي قبل إرساله إلى العميل.
هل يستطيع الذكاء الاصطناعي مساعدتك على التحقق من صحة المعلومات في مخرجاته؟
يمكن للذكاء الاصطناعي أن يساعد في تنظيم التحقق من الحقائق، لكنه لا يستطيع إتمامه. ومن الطلبات المفيدة: أدرج كل ادعاء واقعي في هذه المسودة ضمن قائمة مرقّمة؛ ولكل ادعاء، اقتبس الجملة التي تدعمه من المصدر المرفق أو اكتب «غير مدعوم»؛ وحدّد أي رقم غير وارد في المصدر. هذه الطلبات تحوّل الفقرة إلى قائمة تحقق.
ما لا يستطيع الذكاء الاصطناعي فعله هو أن يكون وسيلة التحقق المستقلة. فسؤال الأداة نفسها عما إذا كانت إجابتها صحيحة يميل إلى تقديم الطمأنة. وقد يكشف طرح السؤال نفسه عدة مرات ومقارنة الإجابات، وهي تقنية تصفها وثائق Anthropic، عن تناقضات، لكن الإجابات المتسقة قد تظل خاطئة في كل مرة. وتبقى الخطوة الأخيرة دائمًا هي فتح المصدر أو إعادة حساب الرقم.
ما الذي ينبغي أن يتضمنه سجل المراجعة؟
احتفظ بالادعاء الأصلي، والمصدر أو العملية الحسابية المستخدمة للتحقق منه، والتصحيح، وأي سؤال لم يُحسم بعد. حدّد بالاسم الشخص المسؤول عن تقرير ما إذا كانت المخرجات مناسبة للاستخدام المقصود. يجعل هذا السجل المراجعة قابلة للفحص، دون الادعاء بأن جميع المخاطر قد زالت.
لا يتطلب سجل المراجعة برنامجًا خاصًا. تكفي ملاحظة قصيرة في نهاية المستند، أو سلسلة تعليقات، لمعظم الأعمال الداخلية. أما المواد التي تُسلَّم للعملاء، فاتبع إجراءات الاعتماد المعتادة لديكم؛ فالاستعانة بالذكاء الاصطناعي لا تغيّر الجهة المسؤولة عن الاعتماد النهائي.
متى لا تكفي قائمة التحقق هذه؟
قائمة التحقق هذه إجراء تشغيلي معتاد، وليست شهادة بدقة المحتوى. ولا تكفي للاستشارات القانونية، أو المستندات المقدمة إلى الجهات التنظيمية، أو المعلومات الطبية أو المتعلقة بالسلامة، أو الأرقام المالية المدققة، أو القرارات المتعلقة بتوظيف فرد. فهذه تتطلب مراجعًا مؤهلًا ومصادر أولية، أيًا كانت الأداة التي أنتجت المسودة.
وقد يتجاوز ذلك حاجتك أيضًا. فالعصف الذهني، أو قائمة أفكار لجدول أعمال اجتماع، أو مسودة أولية لن يقرأها سواك، نادرًا ما تتطلب التحقق من كل معلومة على حدة. اجعل عمق المراجعة متناسبًا مع عواقب الخطأ.
المصادر والنطاق
NIST، الذكاء الاصطناعي 600-1: ملف مخاطر الذكاء الاصطناعي التوليدي، يوليو 2024 ↗
Anthropic، مستندات Claude: تقليل الهلوسة، تم الاطلاع في 16 أكتوبر 2026 ↗