सामग्री बनाने वाले AI उपकरणों के लिए अलग नीतिगत नियम क्यों ज़रूरी हैं?
जनरेटिव टूल मौजूदा जानकारी को केवल खोजने या छाँटने के बजाय नया पाठ, चित्र, ऑडियो या कोड बनाते हैं, इसलिए मुख्य जोखिम दी जाने वाली सामग्री से हटकर तैयार होने वाली सामग्री पर आ जाता है। खोज टूल ऐसे पेज लौटाता है जिन्हें आप जाँच सकते हैं; जनरेटिव टूल आत्मविश्वास भरा मसौदा देता है जिसमें मनगढ़ंत तथ्य, कहीं और से ली गई भाषा या पक्षपाती प्रस्तुति हो सकती है। नीति में दी जाने वाली और तैयार होने वाली, दोनों तरह की सामग्री शामिल होनी चाहिए।
NIST की जनरेटिव AI जोखिम रूपरेखा में बारह ऐसे जोखिम दिए गए हैं जो या तो जनरेटिव AI से ही जुड़े हैं या उसके कारण बढ़ जाते हैं। किसी सामान्य छोटे व्यवसाय की नीति में इनमें से पाँच सबसे अधिक काम आते हैं: मतिभ्रम (गलत सामग्री को पूरे विश्वास से सही बताना), डेटा की निजता (डेटा का लीक होना या बिना अनुमति खुलासा), बौद्धिक संपदा (संरक्षित सामग्री की नकल या व्यापारिक रहस्यों का खुलासा), सूचना की विश्वसनीयता (ऐसी सामग्री जो तथ्य और राय में अंतर न करे या अनिश्चितता को स्वीकार न करे) और जिसे NIST मानव-AI व्यवस्था कहता है, जिसमें स्वचालन पूर्वाग्रह और अत्यधिक निर्भरता शामिल हैं।
आप इन नियमों को अपने स्वीकार्य उपयोग के नियमों वाले दस्तावेज़ में ही रख सकते हैं। कई छोटी कंपनियाँ ऐसा करती हैं। यह पृष्ठ सामग्री-विशिष्ट प्रावधानों पर केंद्रित है। यह सामान्य जानकारी है, कानूनी सलाह नहीं।
| NIST प्रोफ़ाइल में जोखिम | काम में इसका इस्तेमाल कैसा दिखता है | इस स्थिति पर लागू नीति का नियम |
|---|---|---|
| मनगढ़ंत जानकारी | कोई मनगढ़ंत आँकड़ा या ऐसे पृष्ठ का हवाला जिसमें वह बात कही ही नहीं गई है | उपयोग से पहले हर तथ्यात्मक दावे को स्रोत खोलकर उससे मिलाएँ |
| डेटा की गोपनीयता | अलग-अलग प्राप्तकर्ताओं के लिए ईमेल तैयार करने हेतु ग्राहक की संपर्क सूची चिपकाना | स्वीकृत खातों से जुड़ी जानकारी की श्रेणियाँ |
| बौद्धिक संपदा | किसी पहचाने जाने वाले कलाकार की शैली में बनी तस्वीर, या लाइसेंस वाले प्रोजेक्ट से कॉपी किया गया कोड | शैली संबंधी निर्देशों, दोबारा इस्तेमाल और लाइसेंस की जाँच के नियम |
| जानकारी की अखंडता | ऐसा सारांश जो अनुमान को तथ्य की तरह पेश करे | सुनिश्चित करें कि समीक्षा किए गए मसौदों में अनिश्चितता स्पष्ट बनी रहे |
| अत्यधिक निर्भरता | डेटा पढ़े बिना AI से तैयार विश्लेषण स्वीकार करना | तय करें कि कौन-से फ़ैसले इंसान ही लेगा |
कर्मचारियों के लिए ChatGPT नीति में क्या लिखा होना चाहिए?
कर्मचारियों के लिए ChatGPT नीति में यह स्पष्ट होना चाहिए कि किस खाते का इस्तेमाल करना है, प्रॉम्प्ट में क्या कभी नहीं डालना है, जवाब की जाँच कैसे करनी है और सवाल किससे पूछना है। यही नियम Claude, Gemini, Copilot और ऐसे दूसरे सहायकों पर भी लागू होने चाहिए। स्पष्टता के लिए शीर्षक में किसी एक उत्पाद का नाम देना ठीक है, लेकिन नियम ऐसे लिखें कि टीम के कोई दूसरा टूल जोड़ने पर उन्हें दोबारा न लिखना पड़े।
सबसे महत्वपूर्ण अंतर निजी और कंपनी के खातों के बीच है। एक ही सहायक की उपभोक्ता और व्यावसायिक योजनाओं में प्रशिक्षण, डेटा रखने की अवधि और व्यवस्थापक के नियंत्रण संबंधी शर्तें अलग हो सकती हैं। उदाहरण के लिए, Microsoft के दस्तावेज़ बताते हैं कि संगठनों में इस्तेमाल किया जाने वाला Copilot Chat उसके डेटा सुरक्षा परिशिष्ट के अंतर्गत आता है और निर्देशों तथा उत्तरों का उपयोग आधारभूत मॉडलों को प्रशिक्षित करने के लिए नहीं किया जाता; नियंत्रण योजना के अनुसार बदलते हैं। अनुमान लगाने के बजाय, अपने हर स्वीकृत साधन के लिए इसी तरह का कथन और उसे जाँचने की तारीख दर्ज करें।
नमूना शर्त: "[सहायक] का उपयोग केवल अपने [कंपनी] के व्यावसायिक खाते से करें। कंपनी के काम के लिए निजी खाते का उपयोग न करें, एक छोटा-सा सवाल पूछने के लिए भी नहीं, क्योंकि निजी खाते प्रदाता के साथ हमारे समझौते के दायरे में नहीं आते।"
कर्मचारियों को जनरेटिव AI को दिए जाने वाले निर्देश में क्या कभी नहीं डालना चाहिए?
कर्मचारियों को किसी निर्देश में पासवर्ड, कुंजियाँ या अन्य गुप्त जानकारी कभी नहीं डालनी चाहिए। गोपनीय, ग्राहक-संबंधी या व्यक्तिगत जानकारी केवल तभी डालनी चाहिए जब किसी स्वीकृत कार्यप्रक्रिया में इसकी अनुमति हो। ब्रिटेन के राष्ट्रीय साइबर सुरक्षा केंद्र के मार्गदर्शन में बताया गया है कि मॉडल उपलब्ध कराने वाला संगठन आपकी पूछी गई बात देख सकता है। इसलिए ऐसी बातें न भेजने की सलाह दी गई है जिनके सार्वजनिक होने पर समस्या हो सकती है।
अपलोड की गई फ़ाइलें भी प्रॉम्प्ट मानी जाती हैं। चार्ट बनवाने के लिए संलग्न की गई स्प्रेडशीट में उसके सभी कॉलम जाते हैं, वे भी जिनकी सवाल के लिए ज़रूरत नहीं थी। नीति में यह प्रावधान कि "अपलोड करने से पहले गैरज़रूरी कॉलम हटा दें" आसानी से अपनाया जा सकता है और एक आम गलती को रोकता है।
नमूना प्रावधान: "चिपकाने या अपलोड करने से पहले वह सब हटा दें जिसकी कार्य में ज़रूरत नहीं है। गोपनीय जानकारियाँ कभी शामिल न करें। ग्राहक की या व्यक्तिगत जानकारी तब तक शामिल न करें, जब तक रजिस्टर में उस उपकरण और कार्य को स्वीकृति न मिली हो। अगर आपको संदेह हो, तो पहले [ज़िम्मेदार व्यक्ति] से पूछें।"
तैयार की गई सामग्री को उपयोग से पहले कैसे जाँचना चाहिए?
तैयार की गई सामग्री की जाँच उसके इस्तेमाल के अनुसार होनी चाहिए: निजी विचार-मंथन के लिए एक नज़र डालना काफ़ी है, ग्राहक को दिए जाने वाले काम में हर दावे का स्रोत जाँचना ज़रूरी है, और कानूनी, वित्तीय या सुरक्षा से जुड़ी किसी भी सामग्री की समीक्षा योग्य व्यक्ति को करनी चाहिए। नीति में हर तरह के परिणाम के लिए जाँच करने वाला व्यक्ति तय होना चाहिए, आम तौर पर वही व्यक्ति जो उसे भेजेगा या प्रकाशित करेगा।
15 लोगों वाली एक काल्पनिक भर्ती परामर्श कंपनी, फ़ेनविक टैलेंट, का एक विस्तृत उदाहरण। एक सलाहकार प्रॉम्प्ट देता है: "लीड्स में प्रबंधन लेखाकारों की भर्ती पर वित्त निदेशकों के लिए 150-शब्दों का बाज़ार स्थिति विवरण लिखें।" मसौदा एक नामित वेतन सर्वेक्षण का हवाला देते हुए कहता है कि इस साल माँग तेज़ी से बढ़ी है और वेतन एक निश्चित प्रतिशत बढ़े हैं। सलाहकार को न वह सर्वेक्षण मिलता है, न वह आँकड़ा।
कमज़ोर नतीजा ज्यों का त्यों रखा गया: "[सर्वेक्षण] के अनुसार, इस साल लीड्स में प्रबंधन लेखाकारों की माँग तेज़ी से बढ़ी और वेतन में [आँकड़ा] की बढ़ोतरी हुई।" समीक्षा के बाद का संस्करण: "इस तिमाही में हमने जिन पदों पर भर्ती की, उनमें वित्त निदेशकों ने सबसे अधिक नोटिस अवधि और कार्यालय व घर से काम करने की शर्तों के बारे में पूछा। नौकरी का प्रस्ताव दिए जाने के चरण में हमें अधिक जवाबी प्रस्ताव देखने को मिल रहे हैं।" समीक्षा किए गए संस्करण में केवल वही बातें हैं जो फ़ेनविक ने खुद देखी हैं। इस बदलाव का आधार बनी नीति की शर्त: "ऐसा हर आँकड़ा, सर्वेक्षण या नतीजा हटा दें जिसका स्रोत आप खोलकर पुष्टि नहीं कर सकते।"
देखना चाहते हैं कि यह किसी भूमिका से कैसे जुड़ता है?
टीम के लिए नियोजित परीक्षण के बारे में जानें ↗कर्मचारियों को कब बताना चाहिए कि सामग्री AI से बनाई गई थी?
कम-से-कम, जब मसौदे का बड़ा हिस्सा AI से तैयार कराया गया हो, तो कर्मचारियों को अपने समीक्षक को यह बताना चाहिए और ऐसे हर ग्राहक अनुबंध, मंच के नियम या प्रकाशन नियम का पालन करना चाहिए जिसमें यह जानकारी देना ज़रूरी हो। इसके आगे, जानकारी देने का निर्णय कंपनी का है, जो पाठकों और संदर्भ पर निर्भर करता है।
सार्वजनिक रूप से उपलब्ध उदाहरण अलग-अलग हैं। बोस्टन नगर प्रशासन के कर्मचारियों के लिए May 2023 में प्रकाशित अंतरिम दिशानिर्देश कर्मचारियों से AI के उपयोग की जानकारी देने और इस्तेमाल किए गए मॉडल का नाम बताने को कहते हैं। वे श्रेय देने के लिए ऐसी पंक्ति जोड़ने का सुझाव भी देते हैं: "यह विवरण ChatGPT 3.5 से तैयार किया गया है और इसका संपादन किया है" संबंधित कर्मचारी ने। यह किसी सार्वजनिक संस्था के लिए उपयुक्त है। एक छोटी एजेंसी यह तय कर सकती है कि सामान्य लेखन के लिए अंदरूनी तौर पर समीक्षक को जानकारी देना पर्याप्त है, जबकि AI से बनाई गई तस्वीरों या कृत्रिम आवाज़ों के लिए बाहरी दर्शकों को भी स्पष्ट जानकारी दी जाए।
नमूना शर्त: "जब किसी मसौदे का बड़ा हिस्सा AI ने तैयार किया हो, तो अपने समीक्षक को बताएँ। ग्राहकों को दिखाई या सुनाई जाने वाली AI-निर्मित तस्वीरों, ऑडियो या वीडियो पर [उपयुक्त शब्दावली] का लेबल लगाएँ। AI के उपयोग के बारे में ग्राहक के निर्देशों का पालन करें; उन्हें इस शर्त पर प्राथमिकता मिलेगी।"
जनरेटिव AI नीति में कॉपीराइट और चित्रों के बारे में क्या प्रावधान होने चाहिए?
नीति को कर्मचारियों द्वारा संरक्षित रचनाओं की जानबूझकर नकल करने से रोकना चाहिए, तैयार किए गए कोड या सामग्री का दोबारा इस्तेमाल करने से पहले लाइसेंस की जाँच अनिवार्य करनी चाहिए और सहमति के बिना वास्तविक लोगों की तस्वीरें या आवाज़ें बनाने पर रोक लगानी चाहिए। NIST की जोखिम रूपरेखा में जनरेटिव AI के जोखिमों के तहत कॉपीराइट, ट्रेडमार्क या लाइसेंस से संरक्षित सामग्री की नकल आसान होना और व्यापारिक गोपनीय जानकारी का उजागर होना आसान होना शामिल हैं।
AI से बनी सामग्री पर कॉपीराइट कानून हर देश में अलग है और अभी भी विकसित हो रहा है, इसलिए नीति में यह वादा नहीं होना चाहिए कि कंपनी हर तैयार आउटपुट की मालिक है या उसका पंजीकरण करा सकती है। इसमें बताया जाना चाहिए कि कंपनी अनिश्चितता से कैसे निपटती है: उदाहरण के लिए, तैयार की गई छवियों का आंतरिक नमूने बनाने के लिए बिना रोक-टोक उपयोग किया जाता है, लेकिन ग्राहक के अभियान के लिए किसी भी सामग्री का उपयोग करने से पहले उसे टूल की लाइसेंस शर्तों और ग्राहक के निर्देशों के अनुरूप जाँचा जाता है।
नमूना शर्तें: "किसी नामित जीवित कलाकार या ब्रांड की शैली में सामग्री बनाने का निर्देश न दें और न ही किसी टूल से कॉपीराइट-संरक्षित पाठ की नकल करने को कहें। किसी वास्तविक व्यक्ति की लिखित सहमति के बिना उसकी तस्वीरें, ऑडियो या वीडियो न बनाएँ। तैयार की गई सामग्री को ग्राहक के काम में इस्तेमाल करने से पहले टूल की व्यावसायिक उपयोग की शर्तें जाँचें।" अपने क्षेत्र में लागू कानूनी स्थिति पर सलाह लें।
कौन-से फ़ैसले इंसान के हाथ में ही रहने चाहिए?
ऐसे निर्णय जिनका किसी व्यक्ति पर महत्वपूर्ण प्रभाव पड़ता है—जैसे भर्ती, वेतन, प्रदर्शन, ऋण, शिकायतों और स्वास्थ्य या सुरक्षा से जुड़े निर्णय—एक नामित व्यक्ति के पास ही रहने चाहिए, जो उनसे जुड़ी मूल जानकारी की समीक्षा करे। जनरेटिव AI टूल इन निर्णयों के लिए मसौदा तैयार करने, सामग्री को व्यवस्थित करने या सारांश बनाने में मदद कर सकते हैं; उन्हें ये निर्णय नहीं लेने चाहिए।
NIST की प्रोफ़ाइल में स्वचालन के प्रति पक्षपात और उस पर अत्यधिक निर्भरता को मानव-AI व्यवस्था से जुड़े जोखिम का हिस्सा बताया गया है। एक नीति इसका मुकाबला एक सरल कसौटी से करती है: निर्णय लेने वाला व्यक्ति यह बताए बिना अपना निर्णय समझा सके कि टूल ने क्या कहा था। जहाँ व्यक्तिगत डेटा शामिल हो, वहाँ AI और डेटा सुरक्षा पर ICO का मार्गदर्शन यूनाइटेड किंगडम का आधिकारिक संदर्भ है; इसके पृष्ठों पर फ़िलहाल लिखा है कि डेटा (उपयोग और पहुँच) अधिनियम के बाद इस मार्गदर्शन की समीक्षा चल रही है।
किन स्थितियों में जनरेटिव AI नीति सही उपाय नहीं है?
अगर आप किसी उत्पाद में सामग्री बनाने वाली AI सुविधाएँ जोड़ रहे हैं, ग्राहक डेटा पर मॉडलों को विशेष रूप से प्रशिक्षित कर रहे हैं या अपनी ओर से जनता से बात करने वाला चैटबॉट लगा रहे हैं, तो कर्मचारियों के लिए बनाई गई जनरेटिव AI नीति पर्याप्त नहीं है। इनके लिए उत्पाद, सुरक्षा और कानूनी समीक्षा चाहिए, जिसका दायरा कर्मचारी नियमों से कहीं आगे जाता है।
यह अभ्यास की जगह भी नहीं ले सकता। यह जानना कि किसी मसौदे में मनगढ़ंत आँकड़ा हो सकता है, और समय-सीमा के दबाव में उसे पहचान लेना, अलग बातें हैं। Tosheo.ai को इसी अभ्यास के लिए बनाया जा रहा है: योजना है कि हर भूमिका के लिए पाठों की एक शृंखला हो, जिसमें हर पाठ के अंत में किसी वास्तविक AI टूल में खुद करके पूरा करने वाला कार्य दिया जाए और उसका मूल्यांकन स्पष्ट मानदंडों के आधार पर हो। यह आपकी नीति का मसौदा तैयार नहीं करता और न ही उसे लागू करता है।
स्रोत और दायरा
NIST, जनरेटिव AI प्रोफ़ाइल (NIST AI 600-1), जुलाई 2024 ↗
NCSC, ChatGPT और बड़े भाषा मॉडल: जोखिम क्या है?, 14 March 2023 ↗
बोस्टन नगर, जनरेटिव AI के उपयोग के लिए अंतरिम दिशानिर्देश, संस्करण 1.1, 18 मई 2023 ↗
ICO, AI और डेटा संरक्षण पर मार्गदर्शन (समीक्षाधीन), 16 अक्टूबर 2026 को जाँचा गया ↗