كيف تبدو مشكلة أخلاقية تتعلق بالذكاء الاصطناعي في وظيفة عادية؟
عادةً ما تبدو المشكلة الأخلاقية المرتبطة بالذكاء الاصطناعي في العمل كاختصار بسيط للإجراءات: ترتيب لا يراجعه أحد، أو خطاب لا يوقّعه أحد، أو جدول بيانات يُلصق في أداة لم تُعتمد أصلًا.
تخيّل وكالة تأجير عقارات افتراضية اسمها كالدر ليتينغز، يعمل بها 35 شخصًا. لدى مديرة العقارات، نادية، مهمتان صباح الاثنين. أولًا، وصل 60 طلب صيانة خلال عطلة نهاية الأسبوع، وتريد من مساعد بالذكاء الاصطناعي ترتيبها حسب درجة الاستعجال. ثانيًا، تأخر 14 مستأجرًا عن دفع الإيجار، وتريد من المساعد صياغة رسائل تذكير. تبدو مدخلاتها غير المرتبة هكذا: 'الغلاية لا تعمل، طفلان، شقة 4B'؛ 'الصنبور يقطر مجددًا!!'؛ 'عفن في غرفة النوم، المستأجر يقول إنه مصاب بالربو'؛ 'قائمة المتأخرات مرفقة: أسماء، مبالغ، أرقام هواتف، ملاحظات مثل أم تعيل أطفالها وحدها، فقد وظيفته'. يتضمن كل سطر من هذه السطور قرارًا أخلاقيًا قد لا تنتبه إلى أنها تتخذه.
ما مبادئ الذكاء الاصطناعي الأخلاقي بكلمات بسيطة؟
تتلخص مبادئ الذكاء الاصطناعي الأخلاقي في خمسة أسئلة: هل هو عادل، وهل هو شفاف، وهل يحمي الخصوصية، ومن يتحمل المسؤولية، وهل يمكن أن يسبب ضرراً؟ تستخدم الأطر الدولية، مثل توصية اليونسكو بشأن أخلاقيات الذكاء الاصطناعي ومبادئ منظمة التعاون الاقتصادي والتنمية بشأن الذكاء الاصطناعي، قوائم أطول، لكن هذه الأسئلة الخمسة تغطي القرارات التي يواجهها معظم موظفي المكاتب.
الإنصاف: هل سيعامل هذا أشخاصًا متشابهين بطرق مختلفة؟
تحقق مما إذا كانت المخرجات ترتب العناصر أو تقيّمها أو تصوغها بشكل مختلف لأسباب ينبغي ألا تؤثر، مثل الاسم أو العنوان أو مدى إتقان الشخص للكتابة بالإنجليزية.
الشفافية: هل سيعرف الأشخاص المتأثرون أن الذكاء الاصطناعي استُخدم؟
اسأل ما إذا كان من المعقول أن يتوقّع العميل أو الزميل أو المستأجر إبلاغه، وما إذا كنت تستطيع شرح كيفية التوصّل إلى النتيجة.
الخصوصية: هل شاركت بيانات شخصية أكثر مما تتطلبه المهمة؟
أزِل الأسماء وبيانات الاتصال والملاحظات الحساسة ما لم تكن المهمة تحتاج إليها فعلًا، ولا تستخدم إلا الأدوات التي اعتمدها صاحب العمل.
المساءلة: مَن يتحمل مسؤولية القرار باسمه؟
كل قرار يُتخذ بمساعدة الذكاء الاصطناعي يحتاج إلى شخص راجعه ويمكن مساءلته عنه. عبارة 'اقترحه الذكاء الاصطناعي' لا تحدد مسؤولًا عنه.
الضرر: من يتضرر إذا كان هذا خطأ؟
تخيّل أسوأ خطأ واقعي ومن يتحمل تكلفته. كلما ارتفعت التكلفة التي يتحملها شخص، احتاجت المخرجات إلى مزيد من التحقق.
كيف يبدو القرار الأخلاقي بشأن الذكاء الاصطناعي في صورته الضعيفة وفي صورته المحسّنة؟
نهج ضعيف: تلصق نادية جدول المتأخرات كاملًا، بما فيه عمود الملاحظات، وتطلب: 'اكتب رسائل حازمة إلى هؤلاء المستأجرين تطلب منهم الدفع وإلا واجهوا الإخلاء.' وتطلب أيضًا من المساعد ترتيب قائمة الصيانة 'حسب الأهمية'. تضع النتيجة الصنبور المسرّب قبل العفن لأن ذلك المستأجر كتب رسالة طويلة وغاضبة، وتكرر الرسائل كلمة الإخلاء لمستأجر تشير ملاحظاته إلى أنه فقد عمله مؤخرًا. أُدخلت ملاحظات شخصية في أداة، ولم يوقّع أحد الرسائل، ويكافئ الترتيب حدة الكتابة بدلًا من مراعاة المخاطر.
نهج محسّن: تحذف نادية الأسماء وأرقام الهواتف وعمود الملاحظات، ثم تطلب: 'رتّب طلبات الصيانة هذه حسب مخاطرها على الصحة والسلامة أولًا، ثم الأضرار التي تلحق بالممتلكات، ثم الراحة. اشرح سبب كل ترتيب في سطر واحد. لا تأخذ نبرة الرسالة أو طولها في الحسبان.' يضع الترتيب طلب المرجل في المسكن الذي فيه أطفال وطلب العفن الذي يذكر حالة صحية في المقدمة، ولكل منهما سبب تستطيع التحقق منه. وبالنسبة إلى الخطابات، تطلب نموذجًا واحدًا مهذبًا يبيّن المبلغ المستحق، ويقترح مكالمة للاتفاق على خطة، ويذكر أين يمكن الحصول على مشورة مجانية بشأن الديون. تضيف الأسماء بنفسها، وتقرأ كل خطاب وتوقّعه. أصبح لكل سؤال من الأسئلة الخمسة جواب الآن.
كيف تتحقق من أن قرارًا اتُّخذ بمساعدة الذكاء الاصطناعي يراعي المعايير الأخلاقية؟
تحقق من القرار الذي استعنت بالذكاء الاصطناعي لاتخاذه بكتابة سطر للإجابة عن كل سؤال من الأسئلة الخمسة قبل التصرف. إذا لم تستطع كتابة أحد الأسطر، فذلك هو الجانب الذي يحتاج إلى معالجة أو إحالة إلى جهة أعلى.
| السؤال | إجابة نادية |
|---|---|
| هل هو منصف؟ | يستند الترتيب إلى معايير المخاطر المعلنة، لا إلى نبرة الرسالة |
| هل يتسم بالشفافية؟ | يراجع الخطابات ويوقّعها شخص محدّد بالاسم |
| خاص؟ | أُزيلت الأسماء وأرقام الهواتف والملاحظات قبل الاستخدام |
| مَن يُساءَل؟ | نادية مسؤولة عن الترتيب وعن كل رسالة |
| هل هناك ضرر؟ | أسوأ حالة هي تأخر الإصلاح؛ ويجري التحقق من أبرز المخاطر يدوياً |
ما الأخطاء الشائعة في الاستخدام الأخلاقي للذكاء الاصطناعي في العمل؟
الخطأ الأكثر شيوعاً هو التعامل مع الأخلاقيات بوصفها وثيقة سياسة لا ممارسة تُطبَّق على كل مخرج. ومن الأخطاء الأخرى: افتراض حياد الأداة لأنها آلة، ولصق ملاحظات حساسة لأنها كانت في جدول البيانات نفسه، واعتماد ترتيب وضعه الذكاء الاصطناعي دون السؤال عما استند إليه، وإخفاء مشاركة الذكاء الاصطناعي في مراسلات يتوقع الناس أن يكتبها إنسان. عندما يؤثر قرار في مسكن شخص أو وظيفته أو ماله أو صحته، ارفعه إلى شخص مخوّل بدلاً من اتخاذه بمفردك.
أين يقع موضوع أخلاقيات الذكاء الاصطناعي ضمن دليل دورات Tosheo.ai؟
يندرج درس الذكاء الاصطناعي الأخلاقي ضمن فئة الذكاء الاصطناعي المسؤول والسياسات في دورة الإلمام بالذكاء الاصطناعي، إلى جانب دروس عن ضوابط الذكاء الاصطناعي المسؤول والمراجعة البشرية. في Tosheo.ai، تقدم لك المهمة العملية حالة قصيرة من واقع دورك الوظيفي، وتتخذ القرار باستخدام أداة ذكاء اصطناعي، ثم توضح الملاحظات المستندة إلى دليل التقييم كل سؤال أغفلته.
المصادر والنطاق
اليونسكو، التوصية بشأن أخلاقيات الذكاء الاصطناعي، القيم والمبادئ (جرى التحقّق في 19 أكتوبر 2026) ↗