لماذا تحتاج أدوات الذكاء الاصطناعي التوليدي إلى قواعد خاصة بها ضمن السياسة؟
تنتج الأدوات التوليدية نصوصًا أو صورًا أو مقاطع صوتية أو شيفرات جديدة، بدلًا من مجرد استرجاع المعلومات الموجودة أو فرزها، لذا ينتقل الخطر الرئيسي من المدخلات إلى المخرجات. تعيد أداة البحث صفحات يمكنك فحصها، بينما تعيد الأداة التوليدية مسودة تبدو واثقة قد تحتوي على وقائع مختلقة أو صياغات مقتبسة أو عرض متحيّز. ويجب أن تغطي السياسة كلا الاتجاهين.
يسرد ملف NIST للذكاء الاصطناعي التوليدي اثني عشر خطرًا ينفرد بها الذكاء الاصطناعي التوليدي أو يزيد من حدتها. وفي الشركات الصغيرة المعتادة، تكفي خمسة منها لتغطية معظم ما تحتاجه السياسة: الهلوسة (محتوى زائف يُعرض بثقة)، وخصوصية البيانات (التسريب أو الإفصاح غير المصرح به)، والملكية الفكرية (نسخ محتوى محمي أو كشف أسرار تجارية)، وسلامة المعلومات (محتوى لا يميز بين الحقيقة والرأي أو لا يقر بعدم اليقين)، وما تسميه NIST تهيئة العلاقة بين الإنسان والذكاء الاصطناعي، ويشمل ذلك التحيز للأتمتة والاعتماد المفرط.
يمكنك وضع هذه القواعد في المستند نفسه الذي يتضمن قواعد الاستخدام المقبول. وهذا ما تفعله شركات صغيرة كثيرة. تركز هذه الصفحة على البنود الخاصة بالمحتوى. وهي معلومات عامة وليست مشورة قانونية.
| المخاطر في ملف NIST | كيف يبدو في العمل | البند في السياسة الذي يعالج ذلك |
|---|---|---|
| الاختلاق | إحصائية مختلقة أو استشهاد بصفحة لا تذكر المعلومة | تحقّق من كل ادعاء واقعي بالرجوع إلى مصدر فتحته قبل استخدامه |
| خصوصية البيانات | لصق قائمة جهات اتصال أحد العملاء لإعداد رسائل باستخدام دمج المراسلات | فئات المعلومات المرتبطة بالحسابات المعتمدة |
| الملكية الفكرية | صورة بأسلوب فنان معروف، أو شيفرة منسوخة من مشروع خاضع لترخيص | قواعد تعليمات الأسلوب وإعادة الاستخدام والتحقق من التراخيص |
| سلامة المعلومات | ملخّص يعرض تخميناً على أنه حقيقة | اشترط إبقاء مواضع عدم اليقين واضحة في المسودات التي تمت مراجعتها |
| الاعتماد المفرط | قبول تحليل مولّد دون قراءة البيانات | حدّد القرارات التي تبقى بيد الإنسان |
ما الذي ينبغي أن تنص عليه سياسة استخدام ChatGPT للموظفين؟
ينبغي أن تحدد سياسة استخدام ChatGPT للموظفين الحساب الواجب استخدامه، وما يجب ألّا يُدرج أبدًا في أي تعليمة، وكيفية التحقق من الإجابة، ومن يمكن سؤاله، وأن تسري القواعد نفسها على Claude وGemini وCopilot والمساعدين المشابهين. لا بأس بذكر منتج واحد في العنوان توضيحًا للمقصود، لكن اكتب القواعد بحيث لا تحتاج إلى إعادة صياغتها عندما يضيف الفريق أداة أخرى.
أهم تمييز هو بين الحسابات الشخصية وحسابات الشركات. فقد تختلف خطط الأفراد وخطط الأعمال للمساعد نفسه في شروط استخدام البيانات للتدريب والاحتفاظ بها وصلاحيات تحكم المسؤول. فتذكر وثائق Microsoft، مثلًا، أن استخدام المؤسسات لخدمة Copilot Chat مشمول بملحق حماية البيانات لديها، وأن التعليمات والردود لا تُستخدم لتدريب النماذج الأساسية، مع اختلاف ضوابط التحكم بحسب الخطة. سجّل البيان المقابل لكل أداة تعتمدها، مع تاريخ التحقق منه، بدلًا من افتراض وجوده.
بند نموذجي: "استخدم [المساعد] من خلال حساب العمل الخاص بك لدى [الشركة] فقط. لا تستخدم حسابًا شخصيًا لإنجاز عمل الشركة، حتى لطرح سؤال سريع، لأن اتفاقيتنا مع المزوّد لا تشمل الحسابات الشخصية."
ما الذي ينبغي ألا يضعه الموظفون أبدًا في تعليمات موجّهة إلى الذكاء الاصطناعي التوليدي؟
يجب ألا يُدخل الموظفون كلمات المرور أو المفاتيح أو غيرها من الأسرار في أي تعليمات للذكاء الاصطناعي، وألا يُدخلوا معلومات سرية أو شخصية أو معلومات تخص العملاء إلا حين يسمح بذلك سير عمل معتمد. وتشير إرشادات المركز الوطني للأمن السيبراني في المملكة المتحدة إلى أن الاستعلام يكون مرئيًا للمؤسسة التي توفر النموذج، وتوصي بعدم إرسال استعلامات قد يسبب نشرها مشكلات.
تُعدّ الملفات المرفوعة جزءًا من التعليمات الموجّهة إلى الذكاء الاصطناعي. فجدول البيانات المرفق بطلب إنشاء رسم بياني يتضمن كل أعمدته، بما فيها الأعمدة التي لا يحتاجها الطلب. ومن السهل اتباع بند في السياسة ينص على "احذف الأعمدة التي لا تحتاجها قبل الرفع"، وهو يمنع خطأً شائعًا.
بند نموذجي: "قبل اللصق أو الرفع، أزل كل ما لا تحتاج إليه المهمة. لا تُدرج أسرارًا مطلقًا. لا تُدرج معلومات تخص العملاء أو معلومات شخصية ما لم يكن السجل يجيز استخدام تلك الأداة لتلك المهمة. إذا لم تكن متأكدًا، فاسأل [المسؤول] أولًا."
كيف ينبغي مراجعة المحتوى المولّد قبل استخدامه؟
ينبغي أن تتناسب مراجعة المحتوى المولّد مع وجهة استخدامه: فالعصف الذهني الخاص يحتاج إلى نظرة سريعة، والمخرج المقدّم للعميل يحتاج إلى تتبّع مصدر كل ادعاء، وأي محتوى قانوني أو مالي أو متعلق بالسلامة يحتاج إلى مراجع مؤهل. وينبغي أن تحدد السياسة من يراجع كل نوع من المخرجات، وعادةً ما يكون الشخص الذي سيرسله أو ينشره.
مثال تطبيقي من شركة افتراضية لاستشارات التوظيف تضم 15 شخصًا، هي فينويك تالنت. يكتب أحد المستشارين التعليمات التالية: "اكتب تحديثًا عن السوق من 150 كلمة للمديرين الماليين بشأن توظيف محاسبي الإدارة في ليدز." تقول المسودة إن الطلب ارتفع بشدة هذا العام وإن الرواتب زادت بنسبة محددة، مستشهدة بمسح رواتب مذكور بالاسم. لا يستطيع المستشار العثور على المسح أو النسبة.
مخرجات ضعيفة أُبقيت كما هي: "ارتفع الطلب على المحاسبين الإداريين في ليدز ارتفاعًا حادًا هذا العام، مع زيادة الرواتب بمقدار [القيمة] وفقًا لـ[الاستطلاع]." النسخة بعد المراجعة: "في الوظائف التي شغلناها هذا الربع، كان المديرون الماليون يسألون غالبًا عن فترات الإشعار وشروط العمل الهجين. ونلاحظ زيادة في العروض المضادة خلال مرحلة تقديم العرض الوظيفي." لا تستخدم النسخة المراجَعة إلا ما رصدته فينويك بنفسها. وبند السياسة الذي استند إليه التعديل هو: "احذف أي إحصائية أو استطلاع أو نتيجة لا يمكنك فتح مصدرها والتحقق منها."
هل تريد معرفة صلة هذا بدور وظيفي؟
استكشف الفترة التجريبية المخطط لها للفرق ↗متى ينبغي للموظفين الإفصاح عن أن المحتوى مولّد بالذكاء الاصطناعي؟
كحد أدنى، ينبغي للموظفين إبلاغ من يراجع عملهم عندما يكون جزء كبير من المسودة قد وُلّد بالذكاء الاصطناعي، والالتزام بأي عقد مع عميل أو قاعدة لمنصة أو قاعدة للنشر تفرض الإفصاح. وفيما عدا ذلك، يظل الإفصاح خيارًا للشركة يعتمد على الجمهور والسياق.
تختلف الأمثلة المنشورة. تطلب الإرشادات المؤقتة لموظفي مدينة بوسطن، المنشورة في مايو 2023، من الموظفين الإفصاح عن استخدام الذكاء الاصطناعي وذكر النموذج المستخدم، وتقترح عبارة إسناد مثل "أُنشئ هذا الوصف باستخدام ChatGPT 3.5 وحرّره" الموظف المعني. وهذا يناسب جهة عامة. أما الوكالة الصغيرة فقد ترى أن الإفصاح الداخلي للمراجع يكفي للنصوص المعتادة، مع وضع توضيح موجّه للجمهور عند استخدام صور مولّدة أو أصوات اصطناعية.
بند نموذجي: "أبلغ المراجع عندما يكون الذكاء الاصطناعي قد أنتج جزءًا كبيرًا من المسودة. ضع على الصور أو المقاطع الصوتية أو مقاطع الفيديو الموجّهة للعملاء والمولّدة بالذكاء الاصطناعي التصنيف التالي: [الصياغة]. اتبع أي تعليمات من العميل بشأن استخدام الذكاء الاصطناعي، فهي مقدّمة على هذا البند."
كيف ينبغي لسياسة الذكاء الاصطناعي التوليدي أن تتعامل مع حقوق النشر والصور؟
ينبغي أن تمنع السياسة الموظفين من تعمد إعادة إنتاج أعمال محمية، وأن تشترط التحقق من التراخيص قبل إعادة استخدام الشيفرات أو الأصول المولّدة، وأن تحظر توليد صور أو أصوات لأشخاص حقيقيين دون موافقتهم. وتدرج الوثيقة المرجعية الصادرة عن NIST تسهيل نسخ المحتوى المحمي بحقوق النشر أو العلامات التجارية أو التراخيص، وتسهيل كشف الأسرار التجارية، ضمن مخاطر الذكاء الاصطناعي التوليدي.
تختلف قوانين حقوق النشر المتعلقة بالمحتوى المولّد بالذكاء الاصطناعي من بلد إلى آخر، ولا تزال تتطور، لذا يجب ألا تتعهد السياسة بأن الشركة تملك كل محتوى مولّد أو تستطيع تسجيل حقوقه. بل ينبغي أن توضح كيفية تعامل الشركة مع عدم اليقين: مثلًا، يمكن استخدام الصور المولّدة بحرية في النماذج الأولية الداخلية، لكن أي محتوى مخصص لحملة عميل يُراجع أولًا للتأكد من توافقه مع شروط ترخيص الأداة وتعليمات العميل.
بنود نموذجية: "لا تطلب إنشاء محتوى بأسلوب فنان حيّ أو علامة تجارية بعينها، ولا تطلب من أداة إعادة إنتاج نص محمي بحقوق النشر. لا تنشئ صورًا أو مقاطع صوتية أو مقاطع فيديو لشخص حقيقي دون موافقته الخطية. راجع شروط الاستخدام التجاري للأداة قبل إدراج المواد المولّدة في أعمال العملاء." اطلب مشورة بشأن الوضع القانوني في نطاق اختصاصك.
ما القرارات التي ينبغي أن تبقى بيد الإنسان؟
يجب أن تظل القرارات ذات الأثر الكبير على شخص ما، مثل التوظيف والأجور والأداء والائتمان والشكاوى وكل ما يتعلق بالصحة أو السلامة، من مسؤولية شخص محدّد يراجع المعلومات التي تستند إليها. يمكن للأدوات التوليدية المساعدة في الصياغة أو التنظيم أو التلخيص لدعم تلك القرارات؛ لكن لا ينبغي لها اتخاذها.
يصف ملف NIST التحيز للأتمتة والاعتماد المفرط عليها بوصفهما جزءًا من مخاطر ترتيب التفاعل بين الإنسان والذكاء الاصطناعي. وتواجه السياسة ذلك باختبار بسيط: يجب أن يكون متخذ القرار قادرًا على شرح القرار دون الرجوع إلى ما قالته الأداة. وعند التعامل مع بيانات شخصية، تكون إرشادات ICO بشأن الذكاء الاصطناعي وحماية البيانات هي المرجع الرسمي في المملكة المتحدة؛ وتشير صفحاتها حاليًا إلى أنها قيد المراجعة في أعقاب صدور قانون البيانات (الاستخدام والوصول).
متى تكون سياسة الذكاء الاصطناعي التوليدي أداة غير مناسبة؟
لا تكفي سياسة للذكاء الاصطناعي التوليدي موجّهة إلى الموظفين إذا كنت تدمج خصائص توليدية في منتج، أو تضبط نماذج باستخدام بيانات العملاء، أو تنشر روبوت محادثة يتحدث إلى الجمهور نيابةً عنك. فهذه الاستخدامات تحتاج إلى مراجعة للمنتج والأمن والجوانب القانونية تتجاوز بكثير قواعد الموظفين.
كما أنه لا يمكن أن يحل محل الممارسة العملية. فمعرفة أن المسودة قد تتضمن رقمًا مختلقًا تختلف عن اكتشافه تحت ضغط موعد التسليم. يجري تطوير Tosheo.ai لتوفير هذه الخطوة العملية: من المخطط أن تتضمن مسارات التعلّم المخصصة للأدوار الوظيفية مهمة تطبيقية في نهاية كل درس باستخدام أداة ذكاء اصطناعي فعلية، وتُقيَّم المهمة وفق دليل تقييم بمعايير واضحة ومتاحة للاطلاع. ولا يصوغ Tosheo.ai سياستك أو يفرض تطبيقها.
المصادر والنطاق
NIST، ملف مخاطر الذكاء الاصطناعي التوليدي (NIST الذكاء الاصطناعي 600-1)، يوليو 2024 ↗
NCSC، ChatGPT والنماذج اللغوية الكبيرة: ما المخاطر؟، 14 مارس 2023 ↗
مدينة بوسطن، إرشادات مؤقتة لاستخدام الذكاء الاصطناعي التوليدي، الإصدار 1.1، 18 مايو 2023 ↗