لماذا لا يكفي إصدار بيان بشأن الاستخدام المسؤول للذكاء الاصطناعي؟
لا يكفي بيان عن الذكاء الاصطناعي المسؤول لأنه يصف النوايا، ولا يوضح أي شيء فيه لزميل مشغول ما الذي ينبغي فعله بعد ظهر الثلاثاء. الضوابط هي ما يحوّل البيان إلى سلوك.
تخيّل شركة وساطة تأمين افتراضية اسمها ميريديان كوفر، يعمل بها 60 شخصًا. يبدأ فريق المطالبات فيها باستخدام مساعد بالذكاء الاصطناعي لصياغة ردود على رسائل العملاء بشأن حالة مطالباتهم. يطلب المديرون من مسؤول العمليات، سام، 'التأكد من أننا نستخدم الذكاء الاصطناعي بمسؤولية'. ما لدى سام اليوم هو جملة على الشبكة الداخلية تقول: 'تستخدم ميريديان الذكاء الاصطناعي بأخلاقية ومسؤولية'، وحساب دخول مشترك إلى المساعد، ولا يوجد سجل يوضح أي الردود صيغت بالذكاء الاصطناعي، مع شكوى من عميل أُبلغ بأن مطالبته اعتُمدت بينما كانت لا تزال قيد التقييم.
ما الممارسات الأساسية للاستخدام المسؤول للذكاء الاصطناعي؟
تشمل الممارسات الأساسية للاستخدام المسؤول للذكاء الاصطناعي سياسة استخدام مكتوبة، وسجلًا بمواضع استخدامه، وخطوة مراجعة بشرية تتناسب مع مستوى المخاطر، وتوثيقًا موجزًا لكل استخدام، ومراقبة تتضمن فحص عينات، ومسارًا للتعامل مع الحوادث. ويصنّف إطار NIST لإدارة مخاطر الذكاء الاصطناعي هذا النوع من العمل ضمن أربع وظائف: الحوكمة، وتحديد السياق، والقياس، والإدارة.
الحوكمة: اكتب السياسة وحدّد المسؤولين
حدّد الأدوات المعتمدة، والبيانات المسموح بإدخالها، والمسؤول عن كل استخدام للذكاء الاصطناعي. يصف NIST وظيفة الحوكمة بأنها بناء الثقافة والسياسات والمساءلة التي تعتمد عليها الوظائف الأخرى.
التوثيق: سجّل كل استخدام وسياقه
احتفظ بقيد من سطر واحد لكل استخدام يتضمن: الغرض، والمستخدمين، والأداة، والبيانات المعنية، ومن قد يتأثر إذا حدث خطأ.
القياس: تحقّق من الجودة وفق جدول محدّد
افحص عينات من المخرجات بانتظام باستخدام قائمة تحقق قصيرة، وسجّل معدل الأخطاء بدلاً من الاعتماد على الشكاوى لكشف المشكلات.
الإدارة: اتّخذ إجراءات بناءً على ما تجده
عدّل التعليمات، أو شدّد خطوة المراجعة، أو أوقف الاستخدام مؤقتًا، وسجّل الحوادث حتى لا يتكرر الخطأ نفسه.
كيف يبدو التطبيق الضعيف والتطبيق القوي للذكاء الاصطناعي المسؤول عمليًا؟
صيغة ضعيفة: يرسل سام إلى فريق المطالبات رسالة بريد إلكتروني تذكّرهم بـ'إعادة التحقّق من إجابات الذكاء الاصطناعي'، ويضيف سطرًا إلى دليل الموظفين. لا أحد يعرف المقصود بإعادة التحقّق، ويعني استخدام حساب دخول مشترك أنه لا يمكن معرفة من أرسل ماذا، ولا يُكتشف تحديث الحالة الخاطئ التالي إلا عندما يشتكي عميل آخر.
صيغة قوية: يكتب سام ورقة ضوابط من صفحة واحدة لهذا الاستخدام وحده. السياسة: يجوز للمساعد صياغة مسودات الردود، لكن القرارات المتعلقة بالمطالبات والمبالغ والتواريخ تُنسخ من نظام المطالبات فقط، وليس من المسودة مطلقًا. المراجعة: يقرأ مسؤول معالجة المطالبة كل رد قبل إرساله، وتُحال الردود المتعلقة بالموافقات أو حالات الرفض إلى مسؤول أعلى رتبة. التوثيق: تُسجَّل في ملاحظة قصيرة غاية الاستخدام والتوجيه المعتمد وقاعدة المراجعة. المتابعة: يأخذ سام كل يوم جمعة عينة من 20 ردًا مرسلًا ويفحص الحالة ونبرة الخطاب والوعود. الحوادث: يُسجَّل أي بيان خاطئ يُرسل إلى عميل خلال يوم واحد، مع الإجراء المتخذ لتصحيحه. لكل مسؤول معالجة حساب دخول خاص به، مما يتيح تتبع المسودات.
| التحكم | المسؤول | الأدلة | كم مرة |
|---|---|---|---|
| سياسة الاستخدام | مسؤول العمليات | ورقة ضوابط من صفحة واحدة | تُجرى المراجعة كل ثلاثة أشهر |
| مراجعة بشرية | مسؤول معالجة المطالبات | اسم المسؤول عن المعالجة في كل رد | كل رد |
| اعتماد مسؤول أعلى | مسؤول معالجة أقدم | ملاحظة الموافقة | ردود الموافقة والرفض |
| فحص بالعينة | مسؤول العمليات | نتائج قائمة التحقق | أسبوعيًا، 20 ردًا |
| سجل الحوادث | مسؤول العمليات | إدخال السجل والتصحيح | خلال يوم عمل واحد |
كيف تعرف أن ضوابطك للاستخدام المسؤول للذكاء الاصطناعي تعمل بفاعلية؟
تكون ضوابطك فعّالة عندما تستطيع الإجابة عن ثلاثة أسئلة بأدلة: من راجع هذه المخرجات، وما مدى تكرار إخفاق المخرجات في استيفاء قائمة التحقق، وما الذي تغيّر بعد الحادثة الأخيرة؟ إذا كانت أي إجابة هي 'نفترض ذلك'، فهذا الضابط موجود على الورق فقط.
ابحث أيضًا عن العلامات التحذيرية: فحوصات العينات التي تنجح دائمًا، مما قد يعني أن قائمة التحقق متساهلة أكثر من اللازم؛ وخطوات المراجعة التي يتجاوزها الأشخاص عند الانشغال؛ وإدخالات السجل التي لم تتغير منذ تحديث الأداة.
ما الأخطاء الشائعة في الاستخدام المسؤول للذكاء الاصطناعي في الفرق الصغيرة؟
الخطأ الأكثر شيوعاً هو نسخ إطار عمل شركة كبيرة ثم عدم استخدامه مطلقاً. ومن الأخطاء الأخرى: استخدام بيانات دخول مشتركة تُضيع المسؤولية، وقواعد مراجعة تعامل رسالة تهنئة بعيد ميلاد وقراراً بشأن مطالبة بالطريقة نفسها، ومراقبة تنتظر ورود الشكاوى، ومعالجة الحوادث بصمت دون تحديث التعليمات أو السياسة. ابدأ باستخدام واحد ذي قيمة عالية، وحدد خمسة ضوابط، ثم توسّع انطلاقاً منها.
أين يقع موضوع الاستخدام المسؤول للذكاء الاصطناعي ضمن دليل دورات Tosheo.ai؟
يندرج درس الذكاء الاصطناعي المسؤول ضمن فئة الذكاء الاصطناعي المسؤول والسياسات، في دورة الإلمام بالذكاء الاصطناعي، بعد درس الذكاء الاصطناعي الأخلاقي وقبل درس تصميم المراجعة بمشاركة بشرية. تطلب منك المهمة التطبيقية كتابة ورقة ضوابط لاستخدام للذكاء الاصطناعي في دورك الوظيفي، وتتحقق الملاحظات المستندة إلى دليل التقييم من وجود مسؤول وأدلة ووتيرة تنفيذ لكل ضابط. ويمكن للمديرين المشتركين في خطة الفريق إسناد الدرس إلى كل من يستخدم أداة مشتركة.