إطار لحوكمة الذكاء الاصطناعي يمكن لشركة صغيرة تطبيقه

ما هو إطار حوكمة الذكاء الاصطناعي؟

إطار حوكمة الذكاء الاصطناعي هو النظام الإداري الذي تستند إليه سياسة الذكاء الاصطناعي لديك: فهو يحدد من يحق له اعتماد أداة ذكاء اصطناعي أو استخدام لها، وما يجب تسجيله، وكيف تُفحص المخاطر، ومتى تُراجع القرارات. تخبر سياسة الاستخدام المقبول الموظفين بما عليهم فعله؛ أما الحوكمة فتحدد ما تتضمنه تلك السياسة وتحافظ على دقتها.

كُتبت معظم الأطر المنشورة للمؤسسات الكبيرة التي تبني أنظمة ذكاء اصطناعي. وتحتاج الشركة التي تضم من 5 إلى 200 شخص وتستخدم مساعدات جاهزة إلى المنطق نفسه، لكن على نطاق أصغر بكثير. والهدف هو أن يكون لكل استخدام معتمد مسؤول وسبب وموعد مراجعة، وألا يضطر أحد إلى تخمين من يتخذ القرار.

تقدم هذه الصفحة معلومات عامة، وليست مشورة قانونية. إذا كنت تدمج الذكاء الاصطناعي في المنتجات، أو تؤتمت قرارات تتعلق بالأشخاص، أو تعمل في قطاع خاضع للتنظيم، فأنت بحاجة إلى مراجعة متخصصة تتجاوز ما يرد هنا.

كيف ينطبق إطار NIST لإدارة مخاطر الذكاء الاصطناعي على شركة صغيرة؟

إطار NIST لإدارة مخاطر الذكاء الاصطناعي هو إطار طوعي صدر في 26 يناير 2023، وينظم العمل على مخاطر الذكاء الاصطناعي ضمن أربع وظائف: الحوكمة، وتحديد السياق والمخاطر، والقياس، والإدارة. وتوضح NIST أنه مخصص للاستخدام الطوعي، وغير مرتبط بقطاع أو حالة استخدام محددة، بما يتيح المرونة للمؤسسات بمختلف أحجامها. وتوضح أيضًا أن بإمكان المستخدمين اختيار الفئات التي تناسب مواردهم وقدراتهم، وهو بالضبط ما ينبغي لفريق صغير فعله.

الحوكمة وظيفة شاملة: الثقافة والسياسات والأدوار والمساءلة. يحدّد رسم السياق الظروف التي يُستخدم فيها النظام والمخاطر المرتبطة بها. ويحلّل القياس تلك المخاطر ويراقبها باستخدام أساليب نوعية أو كمية. وتخصّص الإدارة الموارد للمخاطر المكتشفة وتشمل خطط الاستجابة للحوادث والتعافي منها. وتشير صفحة NIST إلى أن الإطار قيد المراجعة، لذا تحقّق من النسخة الحالية قبل الاقتباس منه.

الجدول أدناه هو تكييف أعددناه للفرق الصغيرة. وهو ليس ملفًا رسميًا من NIST، واستخدامه لا يجعل الشركة ممتثلة لأي متطلبات.

من ينبغي أن يتولى مسؤولية حوكمة الذكاء الاصطناعي في منشأة صغيرة؟

ينبغي أن يتولى شخص واحد محدد بالاسم مسؤولية حوكمة الذكاء الاصطناعي، مع آلية اعتماد واضحة للقرارات التي لا يمكنه اتخاذها بمفرده. عملياً، غالباً ما يكون هذا الشخص المؤسس أو الرئيس التنفيذي للعمليات في شركة يقل عدد أفرادها عن 50 شخصاً، ومسؤول العمليات أو تقنية المعلومات الذي يرفع تقاريره إلى القيادة في شركة أكبر. وتشمل إرشادات الحوكمة لدى NIST تحمّل القيادة التنفيذية مسؤولية القرارات المتعلقة بمخاطر الذكاء الاصطناعي، وتحديد الأدوار وقنوات التواصل.

توزيع عملي للمسؤوليات في شركة برمجيات افتراضية تضم 60 موظفًا، هي كيستريل سيستمز: يتولى مدير العمليات مسؤولية السجل ويعتمد الأدوات الجديدة؛ ويعتمد المسؤول عن حماية البيانات أي استخدام يتضمن بيانات شخصية؛ ويعتمد كل رئيس قسم إجراءات سير العمل ويراجع المخرجات ضمن نطاقه؛ ويعتمد المدير العام المراجعة السنوية. أربعة أسماء تغطي جميع المسؤوليات، ويعرف كل شخص أي مسألة تقع ضمن مسؤوليته.

ما الذي ينبغي تدوينه في سجل الذكاء الاصطناعي؟

ينبغي أن يوثّق سجل الذكاء الاصطناعي كل أداة واستخدام معتمدين، مع باقة الاشتراك، والمهمة المسموح بها، والمعلومات المسموح بإدخالها، والمسؤول، والمراجع، وتاريخ المراجعة. تتضمن إرشادات الحوكمة الصادرة عن NIST آليات لحصر أنظمة الذكاء الاصطناعي، تُخصَّص لها الموارد وفقًا لأولويات المخاطر؛ ويكفي الشركة الصغيرة جدول بيانات مشترك.

وثّق تفاصيل الجهات الخارجية أيضًا، لأن معظم أنظمة الذكاء الاصطناعي التي تستخدمها الشركات الصغيرة تعود إلى مزوّدين. تتناول مواد الحوكمة لدى NIST سياسات مخاطر الذكاء الاصطناعي المرتبطة بالجهات الخارجية وإجراءات الطوارئ عند تعطل أنظمتها. وما ينبغي تدوينه في السجل هو: ما تنص عليه شروط المزوّد بشأن التدريب والاحتفاظ بالبيانات وحذفها، وآخر مرة تحقّقت فيها منها، وما ستفعله إذا أصبحت الأداة غير متاحة أو تغيّرت شروطها.

مثال على صف خاص بشركة كيستريل: "الأداة: مساحة عمل الأعمال في [المساعد]. الاستخدام: صياغة المستندات الداخلية وتلخيص الأبحاث المتاحة للجمهور. المعلومات: العامة والداخلية فقط. المسؤول: مدير العمليات. المراجع: المدير المباشر للكاتب لأي محتوى موجّه إلى جهة خارجية. تاريخ التحقق من شروط المورّد: [التاريخ]. البديل: الصياغة دون استخدام الذكاء الاصطناعي. المراجعة التالية: [التاريخ]."

كيف ينبغي اعتماد استخدام جديد للذكاء الاصطناعي؟

ينبغي اعتماد أي استخدام جديد للذكاء الاصطناعي من خلال طلب مكتوب قصير يجيب عن خمسة أسئلة، ليتمكن المسؤول من اتخاذ القرار بسرعة وتوثيقه. معظم الطلبات في الشركات الصغيرة منخفضة المخاطر، وينبغي ألا تستغرق أكثر من يوم، وألا تتطلب اجتماع لجنة. فبطء الإجراءات يشجع الناس على تجاوزها.

يتكون نموذج الطلب لدى كيستريل من خمسة أسطر. إذا تضمنت أي إجابة بيانات شخصية أو قرارًا يتعلق بشخص، يُحال الطلب للحصول على موافقة مسؤول البيانات قبل اعتماده.

ما المبادئ التي ينبغي أن تستند إليها سياسة حوكمة الذكاء الاصطناعي؟

لا توجد قائمة واحدة متفق عليها لمبادئ حوكمة الذكاء الاصطناعي؛ إذ تختلف المبادئ باختلاف الأطر، لذا اختر مجموعة مختصرة يستطيع فريقك تطبيقها. يحدد NIST خصائص للذكاء الاصطناعي الجدير بالثقة: الصلاحية والموثوقية، والسلامة، والأمن والقدرة على الصمود، والمساءلة والشفافية، والقابلية للشرح والتفسير، وتعزيز الخصوصية، والإنصاف مع إدارة التحيز الضار. ويعرض الدليل العملي للذكاء الاصطناعي الذي نشرته حكومة المملكة المتحدة في فبراير 2025 لموظفي الخدمة المدنية عشرة مبادئ، تبدأ بمعرفة ماهية الذكاء الاصطناعي وحدوده، وتشمل رقابة بشرية فعلية في المراحل المناسبة.

بالنسبة إلى شركة صغيرة، تكفي عادةً ثلاثة مبادئ للعمل: أن يكون لكل استخدام مسؤول محدد بالاسم؛ وألا تُرسل المعلومات إلا إلى الجهات المسموح لها بتلقيها؛ وأن يراجع شخص أي مخرجات تُستخدم ويتحمل مسؤوليتها. إذا تعذر على استخدام مقترح استيفاء المبادئ الثلاثة جميعًا، فهو غير جاهز للموافقة عليه.

يسأل الناس أحيانًا عن الركائز الثلاث لحوكمة الذكاء الاصطناعي. لا توجد مجموعة موحدة متفق عليها. ومن الطرق العملية لفهمها تقسيمها إلى الأشخاص (من يتخذ القرارات ومن يتلقى التدريب)، والإجراءات (كيف تُعتمد الاستخدامات وتُراجع)، والسجلات (السجل والقرارات الواردة فيه).

كم مرة ينبغي مراجعة قرارات حوكمة الذكاء الاصطناعي؟

راجع السجل بأكمله مرة واحدة على الأقل سنويًا، وراجع الإدخالات منفردة كلما غيّر مورّد شروطه، أو تغيّرت خطة، أو أضاف عقد عميل شروطًا تخص الذكاء الاصطناعي، أو أظهرت مشكلة مُبلّغ عنها أن أحد إجراءات العمل لا يعمل كما ينبغي. تتناول إرشادات الحوكمة الصادرة عن NIST المراقبة المستمرة والمراجعة الدورية لعملية إدارة المخاطر.

غالبًا ما تكفي نصف ساعة كل ثلاثة أشهر لشركة صغيرة: يقرأ المسؤول سجل المشكلات، ويتحقق من شرطين أو ثلاثة من شروط المورّدين، ويسأل رؤساء الأقسام عما إذا كان أي استخدام قد تغير، ويوقف أي أداة لا يستخدمها أحد. إيقاف الأدوات غير المستخدمة جزء من الحوكمة؛ وتتضمن إرشادات الحوكمة لدى NIST إجراءات لإخراج أنظمة الذكاء الاصطناعي من الخدمة بأمان.

ما موقع التدريب في حوكمة الذكاء الاصطناعي؟

التدريب هو جزء الحوكمة الذي يجعل القواعد قابلة للتطبيق. تتضمن إرشادات الحوكمة لدى NIST حصول العاملين على تدريب في إدارة مخاطر الذكاء الاصطناعي. وفي الاتحاد الأوروبي، توضح أسئلة المفوضية الأوروبية وأجوبتها بشأن الإلمام بالذكاء الاصطناعي والمتعلقة بالمادة 4 من قانون الذكاء الاصطناعي أنه لا يوجد نهج واحد يناسب الجميع، وأن الشهادات ليست مطلوبة، وأن سجلًا داخليًا للتدريب يكفي.

وثّق من تلقّى التدريب وعلى ماذا، واجعل التدريب منصبًا على المهام التي يؤديها الموظفون فعلًا. يجري تطوير Tosheo.ai لتوفير تدريب عملي بحسب الدور الوظيفي، مع عرض للمدير يوضّح تقدّم المهارات وإتمام التدريب؛ وهي ليست منصة حوكمة ولا تحتفظ بسجلك.

متى تحتاج شركة صغيرة إلى أكثر من ذلك؟

تحتاج إلى أكثر من إطار عمل مبسّط إذا كنت تطوّر أنظمة ذكاء اصطناعي، أو تدمج الذكاء الاصطناعي في منتج، أو تستخدمه لاتخاذ قرارات مؤثرة تتعلق بالأشخاص أو لدعمها، أو تعالج بيانات من فئات خاصة على نطاق واسع، أو تعمل في قطاع خاضع للتنظيم. قد تتطلب هذه الحالات تقييمات رسمية للمخاطر أو الأثر، وأنظمة إدارة قابلة للاعتماد، ومراجعة قانونية.

توجد برمجيات مخصصة لحوكمة الذكاء الاصطناعي، ويستهدف معظمها المؤسسات الأكبر حجمًا. أما الفريق الذي يستخدم عددًا قليلًا من المساعدين، فعادةً ما يكفيه سجل في جدول بيانات، وسياسة موجزة، وموعد للمراجعة، وهي أسهل في الحفاظ على تحديثها.

المصادر والنطاق

NIST، إطار إدارة مخاطر الذكاء الاصطناعي 1.0 (NIST الذكاء الاصطناعي 100-1)، يناير 2023 ↗

NIST، صفحة النظرة العامة على إطار إدارة مخاطر الذكاء الاصطناعي، تم التحقق في 16 أكتوبر 2026 ↗

الدليل العملي لإطار إدارة مخاطر الذكاء الاصطناعي لدى NIST: الحوكمة، تم التحقق في 16 أكتوبر 2026 ↗

GOV.UK، الدليل العملي للذكاء الاصطناعي لحكومة المملكة المتحدة، 10 فبراير 2025 ↗

المفوضية الأوروبية، الإلمام بالذكاء الاصطناعي - أسئلة وأجوبة، آخر تحديث في 27 يوليو 2026 ↗