इंसान से समीक्षा कराने का चरण अक्सर नाकाम क्यों हो जाता है?
मानवीय समीक्षा का चरण अक्सर इसलिए विफल होता है क्योंकि व्यक्ति को केवल AI का फैसला दिखता है, उसके पास जाँचने के लिए बहुत सारी चीज़ें होती हैं और उसे कभी बताया ही नहीं जाता कि क्या देखना है। ऐसे में मंज़ूरी देना सबसे तेज़ रास्ता बन जाता है। इसे बिना जाँच मंज़ूरी देना कहते हैं, और इससे वास्तविक निगरानी के बिना केवल निगरानी का आभास होता है।
25 लोगों वाले एक काल्पनिक थोक वितरक, ओकब्रिज सप्लाइज़, की कल्पना करें। एक AI टूल आपूर्तिकर्ताओं के इनवॉइस का मिलान खरीद ऑर्डर से करता है और हर एक पर 'मिलान हुआ' या 'मिलान नहीं हुआ' का निशान लगाता है। वित्त क्लर्क, प्रिया, मिलान वाले इनवॉइस के भुगतान को मंज़ूरी देती है। गुरुवार को उसकी लंबित सूची में लिखा है: '212 इनवॉइस, 205 का मिलान हुआ, 7 का मिलान नहीं हुआ'। हर पंक्ति में आपूर्तिकर्ता, रकम और एक हरा सही का निशान दिखता है। पिछले महीने 400 इकाइयों के एक आपूर्तिकर्ता इनवॉइस का भुगतान हो गया, जबकि केवल 40 मिली थीं, क्योंकि टूल ने ऑर्डर नंबर का मिलान किया और प्रिया ने सही का निशान देखकर मंज़ूरी दे दी।
प्रक्रिया में इंसान को कहाँ शामिल होना चाहिए?
जहाँ भी AI का नतीजा पैसों, किसी चीज़ तक किसी व्यक्ति की पहुँच, ग्राहक से किए वादे या कानूनी अथवा सुरक्षा संबंधी परिणाम को बदलता हो, वहाँ किसी व्यक्ति को समीक्षा में शामिल होना चाहिए—और यह बदलाव पलटना मुश्किल होने से पहले होना चाहिए। नियमित और आसानी से पलटे जा सकने वाले नतीजों की जाँच नमूने लेकर की जा सकती है।
उच्च जोखिम वाली प्रणालियों पर मानवीय निगरानी से जुड़ा EU AI Act का अनुच्छेद यही बात नियामक भाषा में कहता है: प्रणाली की निगरानी करने वाले लोगों को उसकी सीमाएँ समझनी चाहिए, स्वचालित नतीजों पर बिना सोचे भरोसा करने के पूर्वाग्रह के प्रति सचेत रहना चाहिए, और उसके आउटपुट को नज़रअंदाज़ करने, पलटने या रोकने में सक्षम होना चाहिए। भले ही यह अधिनियम आप पर लागू न हो, फिर भी व्यवस्था बनाते समय ये अच्छे लक्ष्य हैं।
प्रक्रिया में इंसान की समीक्षा शामिल करने के कौन-से तरीके हैं?
समीक्षा की चार आम व्यवस्थाएँ हैं। कौन-सी सही है, यह गलती से होने वाले नुकसान और जाँची जाने वाली मदों की संख्या पर निर्भर करता है।
कार्रवाई से पहले मंज़ूरी दें
कोई भी कार्रवाई होने से पहले एक व्यक्ति हर नतीजे को मंज़ूरी देता है। इसका इस्तेमाल ऐसे कामों के लिए करें जिनमें रकम या संभावित नुकसान बड़ा हो, लेकिन मामलों की संख्या कम हो, जैसे तय सीमा से अधिक भुगतान या ग्राहकों को रकम लौटाना।
अपवादों की समीक्षा
AI स्पष्ट मामलों को संभालता है और अनिश्चित या असामान्य मामलों को किसी व्यक्ति के पास भेजता है। यह तभी काम करता है जब मामले भेजने के नियमों की जाँच की गई हो और कुछ 'स्पष्ट' मामलों की भी जाँच होती रहे।
चुने हुए नमूनों का ऑडिट
परिणाम भेज दिए जाते हैं और बाद में कोई व्यक्ति उनमें से बेतरतीब ढंग से चुने गए नमूने की जाँच करता है। इसका उपयोग बड़ी मात्रा वाले ऐसे काम के लिए करें जिसे सुधारा या वापस लिया जा सके, जैसे आंतरिक सारांश।
पहले अपने दम पर
व्यक्ति AI का सुझाव देखने से पहले अपनी राय बनाता है। इसमें अधिक समय लगता है, लेकिन महत्वपूर्ण निर्णयों में यह AI के जवाब को ही शुरुआती आधार मान लेने से बचाता है।
समीक्षा की कमजोर और बेहतर रूपरेखा कैसी होती है?
कमज़ोर व्यवस्था: हर चालान हरे या लाल निशान के साथ प्रिया के पास जाता है। वह 20 मिनट में सही के निशान वाले 205 चालानों को मंज़ूरी दे देती है। उसे कहीं नहीं बताया जाता कि हर सही का निशान क्यों दिया गया, और यह भी नहीं जाँचा जाता कि वह अब भी ध्यान से देख रही है या नहीं।
बेहतर व्यवस्था: तय रकम से कम के जिन बिलों में ऑर्डर नंबर, मात्रा और प्रति इकाई कीमत डिलीवरी पर्ची से मेल खाते हैं, उनका भुगतान अपने-आप हो जाता है। प्रिया हर हफ़्ते उनमें से यादृच्छिक रूप से दस की जाँच करती है। तय सीमा से ऊपर की हर रकम, हर नया आपूर्तिकर्ता और मात्रा में हर अंतर उसके पास भेजा जाता है। तीनों विवरण साथ-साथ दिखाए जाते हैं और AI का कारण एक पंक्ति में दिया जाता है, जैसे 'बिल पर मात्रा 400, डिलीवर हुई 40'। महीने में एक बार वित्त प्रमुख बिना बताए कतार में दो ज्ञात त्रुटियाँ शामिल करता है, ताकि पुष्टि हो सके कि वे पकड़ी जाती हैं। प्रिया जब भी AI के निर्णय को बदलती है, उसे दर्ज भी करती है। निर्णय बदलने की संख्या अचानक शून्य हो जाना सफलता नहीं, चेतावनी माना जाता है।
आप कैसे जाँचते हैं कि समीक्षा सचमुच की गई है, न कि सिर्फ़ औपचारिक मंज़ूरी दी गई है?
मापकर जाँचें कि समीक्षा वाकई हो रही है: हर मद पर कितना समय लगा, समीक्षकों ने कितनी बार AI के निर्णय को बदला और जानबूझकर डाली गई परीक्षण की गलतियाँ पकड़ी गईं या नहीं। जो समीक्षक टूल से कभी असहमत नहीं होता, वह या तो बहुत अच्छे नतीजों की समीक्षा कर रहा है या समीक्षा कर ही नहीं रहा है। इनमें से क्या सच है, यह जानने के लिए प्रमाण चाहिए।
सिर्फ़ निष्कर्ष नहीं, सबूत भी दिखाएँ
AI के जवाब के साथ स्रोत के फ़ील्ड रखें, ताकि जाँच जल्दी हो सके।
कतार का आकार सीमित रखें
अगर कोई व्यक्ति काम की मात्रा के कारण ठीक से समीक्षा नहीं कर सकता, तो उससे और मेहनत करने को कहने के बजाय व्यवस्था बदलें।
अधिकार दें
समीक्षकों को अनुमति लिए बिना अस्वीकार करने या रोकने में सक्षम होना चाहिए।
चक्र का परीक्षण करें
समय-समय पर जानबूझकर ज्ञात गलतियाँ शामिल करें और दर्ज करें कि वे पकड़ी गईं या नहीं।
मानवीय समीक्षा वाली प्रक्रिया में आम तौर पर कौन-सी गलतियाँ होती हैं?
सबसे आम गलती किसी प्रक्रिया में बाकी कुछ बदले बिना एक समीक्षक जोड़ देना और फिर उसकी मंज़ूरी को इस बात का प्रमाण मान लेना है कि परिणाम सही था। अन्य गलतियाँ हैं: एक व्यक्ति से रोज़ सैकड़ों मदों को मंज़ूरी देने को कहना, साक्ष्य देखने के लिए अतिरिक्त क्लिक ज़रूरी बनाना, ऐसे निर्णयों की समीक्षा कार्रवाई हो जाने के बाद करना जिन्हें पलटा नहीं जा सकता, और यह पूछे बिना मानवीय हस्तक्षेप की घटती दर पर खुश होना कि वह घट क्यों रही है। स्वचालन पर ज़रूरत से ज़्यादा भरोसा सावधान लोगों को भी प्रभावित करता है, इसीलिए अच्छे इरादों से अधिक प्रक्रिया की बनावट मायने रखती है।
Tosheo.ai की पाठ्यसूची में प्रक्रिया में मानवीय भागीदारी कहाँ शामिल है?
प्रक्रिया में मानवीय समीक्षा, AI साक्षरता पाठ्यक्रम की ज़िम्मेदार AI और नीति श्रेणी में, नैतिक AI और ज़िम्मेदार AI के नियंत्रणों के बाद आती है। एजेंट-आधारित AI और स्वचालन के पाठों में इस पर फिर चर्चा होती है, जहाँ टूल सुझाव देने के बजाय कार्रवाई करते हैं। व्यावहारिक कार्य में आपको अपने काम के किसी समीक्षा चरण को नए सिरे से तैयार करना होता है। मूल्यांकन मानदंडों के आधार पर मिलने वाली प्रतिक्रिया यह जाँचती है कि समीक्षा का चरण, साक्ष्य और अधिकार स्पष्ट हैं या नहीं।