माणसाकडून पुनरावलोकन करण्याचा टप्पा अनेकदा अपयशी का ठरतो?
मानवी तपासणीची पायरी अनेकदा निष्फळ ठरते, कारण तपासणाऱ्या व्यक्तीला फक्त AI चा निकाल दिसतो, तपासण्यासाठी खूप गोष्टी असतात आणि नेमके काय पाहायचे हे कधीच सांगितलेले नसते. त्यामुळे मंजुरी देणे हा सर्वांत जलद मार्ग ठरतो. याला न तपासता मंजुरी देणे म्हणतात; यात प्रत्यक्ष देखरेख नसते, फक्त तिचा आभास निर्माण होतो.
ओकब्रिज सप्लाइज नावाच्या एका काल्पनिक, 25 जणांच्या घाऊक वितरकाची कल्पना करा. एक AI साधन पुरवठादारांची बीजके खरेदी आदेशांशी जुळवते आणि प्रत्येकावर 'जुळते' किंवा 'जुळत नाही' अशी खूण करते. वित्त लिपिक प्रिया जुळणारी बीजके देयकासाठी मंजूर करते. गुरुवारी तिच्या यादीत दिसते: '212 बीजके, 205 जुळतात, 7 जुळत नाहीत'. प्रत्येक ओळीत पुरवठादार, रक्कम आणि हिरवी बरोबरची खूण दिसते. मागच्या महिन्यात फक्त 40 नग मिळाले असतानाही पुरवठादाराच्या 400 नगांच्या बीजकाचे पैसे दिले गेले, कारण साधनाने ऑर्डर क्रमांक जुळवला आणि प्रियाने बरोबरची खूण पाहून मंजुरी दिली.
प्रक्रियेत मानवी सहभाग कुठे असावा?
AI च्या निष्पत्तीमुळे आर्थिक बाबी, एखाद्या व्यक्तीला मिळणारा प्रवेश किंवा हक्क, ग्राहकाला दिलेले वचन अथवा कायदेशीर किंवा सुरक्षिततेशी संबंधित परिणाम बदलत असतील, तर त्या बदलापूर्वी मानवी तपासणी असावी—विशेषतः बदल मागे घेणे कठीण होण्याआधी. नेहमीच्या आणि सहज मागे घेता येणाऱ्या निष्पत्तींसाठी त्याऐवजी नमुना तपासणी करता येते.
उच्च-जोखीम प्रणालींवरील मानवी देखरेखीबाबत EU AI Act मधील कलम हाच मुद्दा नियामक भाषेत मांडते: प्रणालीवर देखरेख ठेवणाऱ्यांना तिच्या मर्यादा समजल्या पाहिजेत, स्वयंचलित निकालांवर अति विश्वास ठेवण्याच्या प्रवृत्तीची जाणीव असली पाहिजे आणि तिचे आउटपुट दुर्लक्षित करणे, उलटवणे किंवा थांबवणे शक्य असले पाहिजे. हा कायदा तुम्हाला लागू होत नसला, तरी रचनेसाठी ही चांगली उद्दिष्टे आहेत.
मानवी सहभाग असलेल्या पुनरावलोकनाची रचना कोणकोणत्या प्रकारे करता येते?
पुनरावलोकनाच्या चार प्रचलित पद्धती आहेत. चूक झाल्यास होणारे नुकसान आणि तपासायच्या बाबींची संख्या यांवर योग्य पद्धत अवलंबून असते.
कृतीपूर्वी मंजुरी द्या
कोणतीही कृती होण्यापूर्वी एक व्यक्ती प्रत्येक निष्पत्तीला मंजुरी देते. ठरावीक मर्यादेपेक्षा जास्त देयके किंवा ग्राहकांना परतावा देणे यांसारख्या जास्त आर्थिक जोखीम असलेल्या, पण कमी प्रमाणात होणाऱ्या कामांसाठी हे वापरा.
अपवादांचे पुनरावलोकन
AI स्पष्ट प्रकरणे हाताळते आणि अनिश्चित किंवा नेहमीपेक्षा वेगळी प्रकरणे एखाद्या व्यक्तीकडे पाठवते. कोणती प्रकरणे कुणाकडे पाठवायची याचे नियम तपासलेले असतील आणि काही 'स्पष्ट' प्रकरणांचीही पडताळणी होत असेल, तरच हे चालते.
निवडक नमुन्यांचे लेखापरीक्षण
तयार झालेले काम पुढे पाठवले जाते आणि नंतर एखादी व्यक्ती त्यातील यादृच्छिक नमुना तपासते. अंतर्गत सारांशांसारख्या मोठ्या प्रमाणातील, ज्यातील चुका नंतर दुरुस्त करता येतात अशा कामासाठी ही पद्धत वापरा.
आधी स्वतंत्र प्रयत्न
AI ची सूचना पाहण्यापूर्वी व्यक्ती स्वतःचे मत तयार करते. याला जास्त वेळ लागतो, पण महत्त्वाचे निर्णय घेताना AI च्या उत्तरावरच विचार अडकून राहण्यापासून संरक्षण मिळते.
पुनरावलोकनाची कमकुवत आणि सुधारित रचना कशी असते?
कमकुवत आराखडा: प्रत्येक बीजक हिरव्या किंवा लाल खुणेसह प्रियाकडे जाते. ती 20 मिनिटांत 205 बरोबर खुणांना मंजुरी देते. प्रत्येक खूण का दिली आहे हे तिला कुठेही समजत नाही आणि ती अजूनही लक्ष देत आहे का, हेही कुठे तपासले जात नाही.
सुधारित रचना: ठरावीक रकमेपेक्षा कमी रकमेची बीजके, ज्यांतील मागणी क्रमांक, प्रमाण आणि प्रति नग किंमत हे सर्व माल मिळाल्याच्या पावतीशी जुळतात, त्यांचे पैसे आपोआप दिले जातात. प्रिया दर आठवड्याला यादृच्छिकपणे निवडलेली दहा बीजके तपासते. मर्यादेपेक्षा जास्त रक्कम, नवीन पुरवठादार किंवा प्रमाणात कोणताही फरक असल्यास, ते बीजक तिच्याकडे पाठवले जाते. त्यात तिन्ही रकाने शेजारीशेजारी आणि AI चे कारण एका ओळीत दिलेले असते, जसे की 'बीजकावरील प्रमाण 400, मिळालेले 40'. चुका पकडल्या जात आहेत याची खात्री करण्यासाठी वित्त प्रमुख महिन्यातून एकदा न सांगता दोन माहीत असलेल्या चुका तपासणीच्या रांगेत घालतात. प्रिया AI चा निर्णय बदलते त्या प्रत्येक वेळेची नोंदही ठेवते. निर्णय बदलण्याचे प्रमाण अचानक शून्यावर आले, तर ते यश न मानता इशारा मानले जाते.
पुनरावलोकन खरोखर केले जात आहे, केवळ औपचारिक मंजुरी दिली जात नाही, हे कसे तपासावे?
पुनरावलोकन खरोखर होते का हे मोजून तपासा: प्रत्येक बाबीवर दिलेला वेळ, पुनरावलोकनकर्ते कितीदा AI चा निर्णय बदलतात आणि मुद्दाम घातलेल्या चाचणीतील चुका पकडल्या जातात का. साधनाशी कधीच असहमत न होणारा पुनरावलोकनकर्ता एकतर अतिशय चांगल्या निष्पत्तीचे पुनरावलोकन करत असतो किंवा अजिबात पुनरावलोकन करत नसतो; यापैकी काय खरे आहे हे समजण्यासाठी पुरावा हवा.
केवळ निष्कर्ष नव्हे, तर पुरावे दाखवा
तपासणी पटकन करता यावी म्हणून स्रोतामधील माहितीची क्षेत्रे AI च्या उत्तराशेजारी ठेवा.
प्रतीक्षा रांगेवर मर्यादा घाला
एखाद्या व्यक्तीला इतक्या मोठ्या प्रमाणातील काम नीट तपासता येत नसेल, तर तिला अधिक प्रयत्न करायला सांगण्याऐवजी रचना बदला.
अधिकार द्या
पुनरावलोकन करणाऱ्यांना परवानगी न घेता नाकारता किंवा थांबवता आले पाहिजे.
पुनरावृत्ती चक्राची चाचणी करा
अधूनमधून माहीत असलेल्या चुका समाविष्ट करा आणि त्या सापडतात का याची नोंद ठेवा.
प्रक्रियेत मानवी देखरेख ठेवताना होणाऱ्या सामान्य चुका कोणत्या?
सर्वात सामान्य चूक म्हणजे प्रक्रियेत बाकी काहीही न बदलता एक पुनरावलोकनकर्ता जोडणे आणि त्याची मंजुरी म्हणजे निष्पत्ती बरोबर असल्याचा पुरावा मानणे. इतर चुका: एका व्यक्तीला दिवसाला शेकडो बाबी मंजूर करायला सांगणे, पुरावे पाहण्यासाठी अतिरिक्त क्लिक करावे लागतील अशी रचना ठेवणे, मागे घेता न येणाऱ्या निर्णयांचे पुनरावलोकन कृती झाल्यानंतर करणे आणि मानवी हस्तक्षेपाने निर्णय बदलण्याचे प्रमाण का घटले हे न विचारता त्याचा आनंद साजरा करणे. स्वयंचलित प्रणालीवर जास्त विश्वास ठेवण्याचा पूर्वग्रह सावध लोकांवरही परिणाम करतो, म्हणूनच चांगल्या हेतूंपेक्षा प्रक्रियेची रचना अधिक महत्त्वाची असते.
Tosheo.ai च्या अभ्यासक्रम सूचीमध्ये प्रक्रियेतील मानवी सहभाग हा विषय कुठे येतो?
प्रक्रियेत मानवी सहभाग हा धडा AI साक्षरता अभ्यासक्रमातील जबाबदार AI आणि धोरण या विभागात, नैतिक AI आणि जबाबदार AI साठीची नियंत्रणे यांनंतर येतो. स्वायत्तपणे काम करणारा AI आणि स्वयंचलन या धड्यांत हा विषय पुन्हा येतो, जिथे साधने केवळ सूचना देत नाहीत तर कृती करतात. प्रत्यक्ष कृतीत तुम्हाला तुमच्या कामातील एखादा तपासणीचा टप्पा नव्याने आखायचा असतो. तपासणीचा टप्पा, पुरावे आणि अधिकार हे सर्व स्पष्ट आहेत का, हे गुणांकन निकषांनुसार दिलेल्या अभिप्रायात तपासले जाते.