AI के ज़िम्मेदार इस्तेमाल पर एक बयान देना ही काफ़ी क्यों नहीं है?
ज़िम्मेदार AI पर केवल एक वक्तव्य काफ़ी नहीं है, क्योंकि वह इरादे बताता है और उसमें ऐसा कुछ नहीं होता जो किसी व्यस्त सहकर्मी को बताए कि मंगलवार दोपहर उसे क्या करना है। नियंत्रण ही वक्तव्य को व्यवहार में बदलते हैं।
60 लोगों वाले एक काल्पनिक बीमा ब्रोकर, मेरिडियन कवर, की कल्पना करें। इसकी दावा टीम दावे की स्थिति के बारे में ग्राहकों के ईमेल के जवाबों का मसौदा बनाने के लिए AI सहायक इस्तेमाल करना शुरू करती है। निदेशक संचालन प्रमुख, सैम, से कहते हैं कि 'सुनिश्चित करें कि हम AI का ज़िम्मेदारी से इस्तेमाल करें'। सैम के पास आज इंट्रानेट पर एक वाक्य है, 'मेरिडियन AI का नैतिक और ज़िम्मेदार तरीके से इस्तेमाल करता है', सहायक का एक साझा लॉगिन है, इस बात का कोई रिकॉर्ड नहीं है कि किन जवाबों के मसौदे AI ने बनाए, और एक ग्राहक की शिकायत है जिसे बताया गया था कि उसका दावा मंज़ूर हो गया है, जबकि उसकी जाँच अभी चल रही थी।
AI के ज़िम्मेदार इस्तेमाल के बुनियादी तौर-तरीके क्या हैं?
AI के ज़िम्मेदार इस्तेमाल की बुनियादी प्रथाएँ हैं: इस्तेमाल की लिखित नीति, AI कहाँ इस्तेमाल होता है इसका रजिस्टर, जोखिम के अनुरूप मानवीय समीक्षा का चरण, हर इस्तेमाल का संक्षिप्त दस्तावेज़ीकरण, नमूनों की जाँच के साथ निगरानी, और घटना की सूचना देने व उसे संभालने की तय प्रक्रिया। NIST का AI जोखिम प्रबंधन ढाँचा इस तरह के काम को चार कार्यों में बाँटता है: शासन, संदर्भ की पहचान, मापन और प्रबंधन।
शासन: नीति लिखें और ज़िम्मेदार व्यक्ति तय करें
स्पष्ट करें कि कौन-से टूल स्वीकृत हैं, उनमें कौन-सा डेटा डाला जा सकता है और AI के हर उपयोग की ज़िम्मेदारी किसकी है। NIST के अनुसार, शासन का अर्थ ऐसी संस्कृति, नीतियाँ और जवाबदेही बनाना है जिन पर अन्य कार्य निर्भर करते हैं।
मानचित्रण: हर उपयोग और उसका संदर्भ दर्ज करें
हर उपयोग के लिए रजिस्टर में एक पंक्ति दर्ज करें: उद्देश्य, उपयोगकर्ता, टूल, शामिल डेटा और गड़बड़ी होने पर कौन प्रभावित हो सकता है।
मापन: तय समय पर गुणवत्ता की जाँच करें
शिकायतों से समस्याएँ सामने आने का इंतज़ार करने के बजाय, नियमित रूप से कुछ चुने हुए आउटपुट को एक छोटी जाँच-सूची के आधार पर परखें और त्रुटि दर दर्ज करें।
प्रबंधन: जो मिले, उस पर कार्रवाई करें
निर्देश सुधारें, समीक्षा के चरण को अधिक सख्त बनाएँ या इस्तेमाल रोक दें, और घटनाओं का रिकॉर्ड रखें ताकि वही गलती दोबारा न हो।
व्यवहार में AI का कमजोर और प्रभावी जिम्मेदार उपयोग कैसा होता है?
कमज़ोर तरीका: सैम दावा निपटान टीम को ईमेल भेजकर 'AI के जवाबों की दोबारा जाँच करने' की याद दिलाता है और कर्मचारी पुस्तिका में एक पंक्ति जोड़ देता है। किसी को नहीं पता कि दोबारा जाँचने का मतलब क्या है। साझा लॉगिन के कारण कोई नहीं बता सकता कि किसने क्या भेजा, और स्थिति के बारे में अगली गलत जानकारी का पता तभी चलता है जब कोई दूसरा ग्राहक शिकायत करता है।
मज़बूत तरीका: सैम इस एक उपयोग के लिए एक पन्ने की नियंत्रण-पत्रिका लिखता है। नीति: सहायक जवाबों के मसौदे बना सकता है, लेकिन दावों से जुड़े निर्णय, रकम और तारीखें केवल दावा प्रणाली से ली जाएँगी, मसौदे से कभी नहीं। समीक्षा: भेजने से पहले हर जवाब ज़िम्मेदार कर्मचारी पढ़ता है, और मंज़ूरी या अस्वीकृति वाले जवाब वरिष्ठ कर्मचारी के पास जाते हैं। दस्तावेज़ीकरण: एक छोटे नोट में उद्देश्य, स्वीकृत प्रॉम्प्ट और समीक्षा का नियम दर्ज किया जाता है। निगरानी: हर शुक्रवार सैम भेजे गए जवाबों में से 20 का नमूना लेकर उनकी स्थिति, लहजे और वादों की जाँच करता है। घटनाएँ: ग्राहक को दी गई कोई भी गलत जानकारी एक दिन के भीतर दर्ज की जाती है, साथ ही किए गए सुधार को भी लिखा जाता है। हर ज़िम्मेदार कर्मचारी का अपना लॉगिन होता है, इसलिए पता लगाया जा सकता है कि मसौदा किसने बनाया।
| नियंत्रण | ज़िम्मेदार व्यक्ति | प्रमाण | कितनी बार |
|---|---|---|---|
| उपयोग नीति | संचालन प्रमुख | एक पेज का नियंत्रण पत्रक | हर तिमाही समीक्षा की जाती है |
| मानवीय समीक्षा | बीमा दावे सँभालने वाला कर्मचारी | हर जवाब पर उसे संभालने वाले व्यक्ति का नाम | हर जवाब |
| वरिष्ठ की मंज़ूरी | वरिष्ठ ज़िम्मेदार व्यक्ति | मंज़ूरी संबंधी टिप्पणी | मंज़ूरी और इनकार के जवाब |
| चुने हुए नमूनों की जाँच | संचालन प्रमुख | जाँच-सूची के नतीजे | हर सप्ताह, 20 जवाब |
| घटना का रिकॉर्ड | संचालन प्रमुख | लॉग में दर्ज विवरण और सुधार | एक कार्य दिवस के भीतर |
आप कैसे जानें कि AI के ज़िम्मेदार इस्तेमाल के लिए आपके नियंत्रण कारगर हैं?
आपके नियंत्रण तभी काम कर रहे हैं जब आप सबूत के साथ तीन सवालों के जवाब दे सकें: इस आउटपुट की समीक्षा किसने की, आउटपुट कितनी बार जाँच-सूची पर खरे नहीं उतरते और पिछली घटना के बाद क्या बदला? अगर किसी भी सवाल का जवाब 'हम ऐसा मानकर चलते हैं' है, तो वह नियंत्रण सिर्फ़ कागज़ पर है।
चेतावनी के संकेत भी देखें: नमूने के तौर पर की गई जाँचों का हमेशा सफल होना, जिसका मतलब हो सकता है कि जाँच-सूची बहुत ढीली है; समीक्षा के वे चरण जिन्हें लोग व्यस्त होने पर छोड़ देते हैं; और रजिस्टर की वे प्रविष्टियाँ जो टूल अपडेट होने के बाद से बदली ही नहीं हैं।
छोटी टीमों में AI के ज़िम्मेदार इस्तेमाल में आम तौर पर कौन-सी गलतियाँ होती हैं?
सबसे आम गलती किसी बड़ी कंपनी का ढाँचा अपनाना और फिर उसका कभी इस्तेमाल न करना है। अन्य गलतियाँ हैं: साझा लॉगिन, जिनसे जवाबदेही खत्म हो जाती है; ऐसे समीक्षा नियम जो जन्मदिन के संदेश और किसी दावे पर निर्णय को एक जैसा मानते हैं; ऐसी निगरानी जो शिकायतों का इंतज़ार करती है; और घटनाओं को निर्देश या नीति में बदलाव किए बिना चुपचाप ठीक कर देना। एक अधिक उपयोगी काम से शुरू करें, पाँच नियंत्रण तय करें और फिर दायरा बढ़ाएँ।
Tosheo.ai की पाठ्यसूची में ज़िम्मेदार AI कहाँ शामिल है?
ज़िम्मेदार AI, AI साक्षरता पाठ्यक्रम की ज़िम्मेदार AI और नीति श्रेणी में है। यह नैतिक AI के पाठ के बाद और मानवीय समीक्षा की प्रक्रिया तैयार करने वाले पाठ से पहले आता है। अभ्यास कार्य में आपको अपनी भूमिका में AI के किसी उपयोग के लिए एक नियंत्रण पत्रक लिखना होता है। मूल्यांकन मानदंडों पर आधारित प्रतिक्रिया में यह जाँचा जाता है कि हर नियंत्रण के लिए ज़िम्मेदार व्यक्ति, प्रमाण और जाँच की आवृत्ति तय है या नहीं। टीम योजना वाले प्रबंधक इसे साझा टूल इस्तेमाल करने वाले सभी लोगों को सौंप सकते हैं।
स्रोत और दायरा
OECD.AI, OECD के AI सिद्धांत (19 October 2026 को जाँचा गया) ↗