सामान्य नौकरी में AI से जुड़ी नैतिक समस्या कैसी हो सकती है?
कार्यस्थल पर AI से जुड़ी नैतिक समस्या अक्सर किसी छोटे शॉर्टकट जैसी दिखती है: ऐसी रैंकिंग जिसे कोई जाँचता नहीं, ऐसा पत्र जिस पर कोई हस्ताक्षर नहीं करता या ऐसी स्प्रेडशीट जिसे किसी ऐसे टूल में पेस्ट कर दिया गया जिसकी कभी मंज़ूरी ही नहीं मिली।
35 लोगों वाली एक काल्पनिक किराये की संपत्ति एजेंसी, कैल्डर लेटिंग्स, की कल्पना करें। इसकी संपत्ति प्रबंधक, नादिया, को सोमवार सुबह दो काम करने हैं। पहला, सप्ताहांत में रखरखाव के 60 अनुरोध आए हैं और वह चाहती है कि AI सहायक उन्हें तात्कालिकता के आधार पर क्रम दे। दूसरा, 14 किरायेदारों का किराया बकाया है और वह सहायक से याद दिलाने वाले पत्रों के मसौदे बनवाना चाहती है। उसकी बेतरतीब जानकारी कुछ ऐसी है: 'बॉयलर काम नहीं कर रहा, 2 बच्चे, फ़्लैट 4B'; 'नल फिर टपक रहा है!!'; 'बेडरूम में फफूँद, किरायेदार के मुताबिक अस्थमा है'; 'बकाया सूची संलग्न: नाम, रकम, फ़ोन नंबर, और अकेली माँ, नौकरी चली गई जैसे नोट्स'। इनमें से हर पंक्ति में एक नैतिक निर्णय छिपा है, जिसे लेते समय शायद उसे उसका एहसास न हो।
सरल शब्दों में, AI के नैतिक इस्तेमाल के सिद्धांत क्या हैं?
नैतिक AI के सिद्धांत पाँच सवालों में समेटे जा सकते हैं: क्या यह निष्पक्ष है, क्या यह पारदर्शी है, क्या यह गोपनीयता की रक्षा करता है, कौन जवाबदेह है और क्या इससे नुकसान हो सकता है? कृत्रिम बुद्धिमत्ता की नैतिकता पर यूनेस्को की सिफ़ारिश और आर्थिक सहयोग एवं विकास संगठन के AI सिद्धांत जैसे अंतरराष्ट्रीय ढाँचों में लंबी सूचियाँ हैं, लेकिन ये पाँच सवाल दफ़्तर में काम करने वाले अधिकांश लोगों के सामने आने वाले निर्णयों को समेट लेते हैं।
निष्पक्षता: क्या इससे समान परिस्थितियों वाले लोगों के साथ अलग-अलग व्यवहार होगा?
जाँचें कि क्या ऐसे कारणों से नतीजों की रैंकिंग, अंक या भाषा बदलती है जिनका असर नहीं पड़ना चाहिए, जैसे किसी का नाम, पता या उसकी अंग्रेज़ी लिखने की क्षमता।
पारदर्शिता: क्या प्रभावित लोगों को पता होगा कि AI का इस्तेमाल हुआ था?
पूछें कि क्या कोई ग्राहक, सहकर्मी या किरायेदार उचित रूप से यह उम्मीद करेगा कि उसे बताया जाए, और क्या आप समझा सकेंगे कि नतीजा कैसे निकाला गया।
निजता: क्या आपने काम की ज़रूरत से ज़्यादा व्यक्तिगत डेटा साझा किया?
जब तक कार्य के लिए सचमुच ज़रूरी न हो, नाम, संपर्क विवरण और संवेदनशील टिप्पणियाँ हटा दें, और केवल उन्हीं टूल का उपयोग करें जिन्हें आपके नियोक्ता ने मंज़ूरी दी है।
जवाबदेही: निर्णय पर किसका नाम है?
AI की मदद से लिए गए हर फ़ैसले के लिए ऐसा व्यक्ति होना चाहिए जिसने उसकी समीक्षा की हो और जो उसके लिए जवाबदेह हो। 'AI ने सुझाया था' कहने से ज़िम्मेदारी तय नहीं होती।
नुकसान: अगर यह गलत है, तो नुकसान किसका होगा?
कल्पना करें कि वास्तविक परिस्थितियों में सबसे गंभीर गलती क्या हो सकती है और उसका नुकसान कौन उठाएगा। किसी व्यक्ति को जितना ज़्यादा नुकसान हो सकता है, आउटपुट की उतनी ही ज़्यादा जाँच ज़रूरी है।
AI के नैतिक उपयोग से जुड़ा कमजोर और बेहतर निर्णय कैसा होता है?
कमज़ोर तरीका: नादिया टिप्पणियों वाले कॉलम समेत बकाया राशि की पूरी स्प्रेडशीट चिपकाती है और कहती है: 'इन किरायेदारों को कड़े शब्दों में पत्र लिखें कि वे भुगतान करें, नहीं तो उन्हें बेदख़ल किया जाएगा।' वह सहायक से रखरखाव की सूची को 'महत्त्व के अनुसार' क्रम देने को भी कहती है। नतीजे में टपकते नल को फफूँद से ऊपर रखा जाता है, क्योंकि उस किरायेदार ने लंबा, गुस्से भरा संदेश लिखा था। पत्रों में उस किरायेदार के लिए भी बार-बार बेदख़ली का ज़िक्र होता है जिसकी टिप्पणियों में हाल ही में नौकरी छूटने की बात है। निजी टिप्पणियाँ एक टूल में चली गईं, किसी ने पत्रों पर हस्ताक्षर नहीं किए, और प्राथमिकता जोखिम के बजाय तीखे शब्दों के आधार पर तय हुई।
बेहतर तरीका: नादिया नाम, फ़ोन नंबर और टिप्पणियों वाला कॉलम हटा देती है, फिर पूछती है: 'रखरखाव के इन अनुरोधों को पहले स्वास्थ्य और सुरक्षा के जोखिम, फिर संपत्ति के नुकसान और फिर आराम के आधार पर प्राथमिकता दें। हर स्थान का कारण एक पंक्ति में बताएँ। संदेश के लहजे या लंबाई पर ध्यान न दें।' प्राथमिकता सूची में बच्चों वाले घर के बॉयलर और बताई गई स्वास्थ्य समस्या वाले घर की फफूँद को सबसे ऊपर रखा जाता है। दोनों के साथ एक कारण है जिसे वह जाँच सकती है। पत्रों के लिए वह एक विनम्र प्रारूप माँगती है जिसमें बकाया रकम बताई गई हो, भुगतान योजना तय करने के लिए फ़ोन पर बात करने का विकल्प हो और मुफ़्त ऋण सलाह पाने की जगह का नाम हो। वह खुद नाम जोड़ती है, हर पत्र पढ़ती है और उस पर हस्ताक्षर करती है। अब पाँचों सवालों के जवाब हैं।
आप कैसे जाँचते हैं कि AI की मदद से लिया गया निर्णय नैतिक है?
AI की मदद से लिए गए फैसले की जाँच के लिए कार्रवाई करने से पहले पाँचों सवालों में से हर एक के सामने एक पंक्ति में जवाब लिखें। अगर किसी पंक्ति में जवाब नहीं लिख सकते, तो उसी हिस्से को ठीक करना या आगे किसी ज़िम्मेदार व्यक्ति के पास ले जाना ज़रूरी है।
| प्रश्न | नादिया का जवाब |
|---|---|
| निष्पक्ष? | प्राथमिकता तय करने में बताए गए जोखिम मानदंडों का उपयोग होता है, संदेश के लहजे का नहीं |
| पारदर्शी? | पत्रों की समीक्षा और उन पर हस्ताक्षर एक नामित व्यक्ति करता है |
| निजी? | उपयोग से पहले नाम, फ़ोन नंबर और टिप्पणियाँ हटा दी गईं |
| जवाबदेह? | क्रम निर्धारण और हर पत्र की ज़िम्मेदारी नादिया की है |
| नुकसान? | सबसे बुरी स्थिति में मरम्मत में देरी होगी; प्रमुख जोखिमों की जाँच इंसान करता है |
कार्यस्थल पर AI के नैतिक इस्तेमाल में आम तौर पर कौन-सी गलतियाँ होती हैं?
सबसे आम गलती नैतिकता को हर परिणाम पर लागू की जाने वाली आदत के बजाय केवल एक नीति-दस्तावेज़ मानना है। अन्य गलतियाँ हैं: किसी टूल को मशीन होने के कारण निष्पक्ष मान लेना, संवेदनशील नोट्स सिर्फ़ इसलिए चिपका देना कि वे उसी स्प्रेडशीट में थे, AI की तय की गई क्रमबद्ध सूची को उसका आधार पूछे बिना स्वीकार कर लेना, और ऐसे संवाद में AI की भागीदारी छिपाना जिसे लोग किसी इंसान द्वारा लिखा गया मानेंगे। जब कोई निर्णय किसी के घर, नौकरी, पैसे या स्वास्थ्य को प्रभावित करता हो, तो अकेले निर्णय लेने के बजाय उसे अधिकार रखने वाले व्यक्ति तक पहुँचाएँ।
Tosheo.ai की पाठ्यसूची में नैतिक AI कहाँ शामिल है?
नैतिक AI, AI साक्षरता पाठ्यक्रम में ज़िम्मेदार AI और नीति श्रेणी का हिस्सा है। इसमें ज़िम्मेदार AI के नियंत्रणों और मानवीय समीक्षा के पाठ भी शामिल हैं। Tosheo.ai पर व्यावहारिक कार्य में आपको अपनी भूमिका से जुड़ी एक छोटी स्थिति दी जाती है। आप AI टूल की मदद से निर्णय लेते हैं, और मूल्यांकन के मानदंडों के आधार पर मिली प्रतिक्रिया बताती है कि आपने किन प्रश्नों को छोड़ दिया।
स्रोत और दायरा
OECD.AI, OECD के AI सिद्धांत (19 October 2026 को जाँचा गया) ↗