માણસ દ્વારા સમીક્ષાનું પગલું ઘણી વાર નિષ્ફળ કેમ જાય છે?
માનવીય સમીક્ષાનું પગલું ઘણી વાર નિષ્ફળ જાય છે, કારણ કે વ્યક્તિને ફક્ત AIનો નિર્ણય જ દેખાય છે, તપાસવા માટે ઘણી બધી બાબતો હોય છે અને શું જોવાનું છે તે ક્યારેય જણાવવામાં આવતું નથી. તેથી મંજૂરી આપવી સૌથી ઝડપી રીત બની જાય છે. આને વિચાર્યા વિના મંજૂરી આપવી કહેવાય છે, અને તે વાસ્તવિક દેખરેખ વિના દેખરેખનો આભાસ ઊભો કરે છે.
25 લોકોના એક કાલ્પનિક જથ્થાબંધ વિતરક, ઓકબ્રિજ સપ્લાઇઝની કલ્પના કરો. AI સાધન સપ્લાયરના ઇન્વૉઇસને ખરીદીના ઓર્ડર સાથે સરખાવે છે અને દરેક પર 'મેળ' અથવા 'મેળ નથી' એવું ચિહ્ન મૂકે છે. નાણાં વિભાગની કારકુન પ્રિયા મેળ ખાતાં ઇન્વૉઇસને ચુકવણી માટે મંજૂર કરે છે. ગુરુવારે તેની કામની કતારમાં લખ્યું છે: '212 ઇન્વૉઇસ, 205 મેળ, 7 મેળ નથી'. દરેક પંક્તિમાં સપ્લાયર, રકમ અને લીલી નિશાની દેખાય છે. ગયા મહિને માત્ર 40 એકમ પહોંચાડાયા હોવા છતાં 400 એકમ માટેના સપ્લાયર ઇન્વૉઇસની ચુકવણી થઈ ગઈ, કારણ કે સાધને ઓર્ડર નંબરનો મેળ જોયો અને પ્રિયાએ લીલી નિશાની જોઈને મંજૂરી આપી.
પ્રક્રિયામાં માનવ સહભાગિતા ક્યાં હોવી જોઈએ?
જ્યાં પણ AIનું પરિણામ નાણાં, કોઈ વ્યક્તિની કોઈ વસ્તુ કે સેવા મેળવવાની સુલભતા, ગ્રાહકને આપેલી બાંહેધરી અથવા કાનૂની કે સલામતી સંબંધિત પરિણામને બદલે છે, ત્યાં માનવીની સમીક્ષા હોવી જોઈએ—અને તે ફેરફાર પાછો ફેરવવો મુશ્કેલ બને તે પહેલાં. નિયમિત અને પાછાં ફેરવી શકાય તેવાં પરિણામો નમૂના તપાસથી ચકાસી શકાય છે.
ઉચ્ચ જોખમવાળી પ્રણાલીઓની માનવીય દેખરેખ અંગેનો EU AI Act નો અનુચ્છેદ આ જ વાત નિયમનકારી ભાષામાં કહે છે: પ્રણાલી પર દેખરેખ રાખનાર લોકોએ તેની મર્યાદાઓ સમજવી જોઈએ, સ્વચાલિત પરિણામો પર આંધળો ભરોસો રાખવાના પૂર્વગ્રહથી સચેત રહેવું જોઈએ અને તેના આઉટપુટને અવગણવા, ઉલટાવવા અથવા અટકાવવા સક્ષમ હોવું જોઈએ. આ કાયદો તમને લાગુ ન પડતો હોય તો પણ, રચના માટે આ સારા લક્ષ્યો છે.
પ્રક્રિયામાં માનવ સમીક્ષા સામેલ કરવાની કઈ પદ્ધતિઓ છે?
સમીક્ષા ગોઠવવાની ચાર સામાન્ય રીતો છે. કઈ રીત યોગ્ય છે તેનો આધાર ભૂલથી થનારા નુકસાન અને સમીક્ષા કરવાની વસ્તુઓની સંખ્યા પર છે.
ક્રિયા પહેલાં મંજૂરી આપો
કંઈ પણ થાય તે પહેલાં વ્યક્તિ દરેક પરિણામને મંજૂરી આપે છે. નક્કી કરેલી મર્યાદાથી વધુની ચુકવણીઓ અથવા ગ્રાહકોને નાણાં પરત આપવા જેવાં ઊંચા ખર્ચવાળાં, ઓછી સંખ્યામાં થતાં કામ માટે તેનો ઉપયોગ કરો.
અપવાદોની સમીક્ષા
AI સ્પષ્ટ કિસ્સા સંભાળે છે અને અનિશ્ચિત કે અસામાન્ય કિસ્સા વ્યક્તિને સોંપે છે. આ ત્યારે જ કામ કરે છે જ્યારે સોંપવાના નિયમોનું પરીક્ષણ થયું હોય અને કેટલાક 'સ્પષ્ટ' કિસ્સા પણ તપાસવામાં આવતા હોય.
નમૂના આધારિત ઑડિટ
પરિણામો મોકલી દેવાય છે, અને પછી કોઈ વ્યક્તિ તેમાંથી આકસ્મિક રીતે પસંદ કરેલા નમૂનાની તપાસ કરે છે. આંતરિક સારાંશ જેવા મોટા જથ્થામાં થતા અને જેની અસર પાછી ફેરવી શકાય તેવા કામ માટે વાપરો.
પહેલાં જાતે કરો
AIનું સૂચન જોતાં પહેલાં વ્યક્તિ પોતાનો અભિપ્રાય બનાવે છે. આ ધીમું છે, પરંતુ મહત્ત્વના નિર્ણયો લેતી વખતે AIના જવાબને જ આધાર માની બેસવાથી બચાવે છે.
સમીક્ષાની નબળી અને સુધારેલી રૂપરેખા કેવી હોય છે?
નબળી રચના: દરેક ઇન્વૉઇસ લીલા કે લાલ ચિહ્ન સાથે પ્રિયા પાસે જાય છે. તે 20 મિનિટમાં 205 ટિક-ચિહ્નવાળી બાબતોને મંજૂરી આપે છે. દરેક ટિક શા માટે અપાઈ છે તે તેને ક્યાંય જણાવાતું નથી અને તે હજી ધ્યાનથી જોઈ રહી છે કે નહીં તેની કોઈ ચકાસણી થતી નથી.
સુધારેલી રચના: નક્કી કરેલી રકમથી ઓછાં એવાં બિલ, જેમાં ઑર્ડર નંબર, જથ્થો અને એકમદીઠ કિંમત બધું જ ડિલિવરી નોંધ સાથે મેળ ખાય, તેની ચુકવણી આપમેળે થાય છે અને પ્રિયા દર અઠવાડિયે યાદૃચ્છિક રીતે પસંદ કરેલાં દસ બિલ તપાસે છે. મર્યાદાથી વધુ રકમ, કોઈ નવો સપ્લાયર કે જથ્થામાં કોઈ પણ તફાવત હોય તો તે તેની પાસે મોકલાય છે, જેમાં ત્રણેય વિગતો બાજુબાજુ અને AIનું કારણ એક પંક્તિમાં હોય છે, જેમ કે 'બિલમાં જથ્થો 400, પહોંચાડેલો 40'. મહિને એક વાર, નાણાં વિભાગના વડા ચુપચાપ બે જાણીતી ભૂલો સમીક્ષાની કતારમાં ઉમેરે છે જેથી તે પકડાય છે તેની ખાતરી થાય. પ્રિયા જ્યારે પણ AIનો નિર્ણય બદલે ત્યારે તેની નોંધ પણ રાખે છે. નિર્ણય બદલવાના કિસ્સા અચાનક શૂન્ય થઈ જાય તો તેને સફળતા નહીં, ચેતવણી ગણવામાં આવે છે.
સમીક્ષા ખરેખર થઈ રહી છે કે માત્ર ઔપચારિક મંજૂરી અપાઈ રહી છે તે કેવી રીતે ચકાસવું?
સમીક્ષા ખરેખર થાય છે કે નહીં તે માપીને તપાસો: દરેક વસ્તુ પાછળ કેટલો સમય ખર્ચાય છે, સમીક્ષકો કેટલી વાર AIનો નિર્ણય બદલે છે અને પરીક્ષણ માટે જાણીજોઈને મૂકેલી ભૂલો પકડાય છે કે નહીં. સાધન સાથે ક્યારેય અસહમત ન થતો સમીક્ષક કાં તો બહુ સારા પરિણામની સમીક્ષા કરી રહ્યો છે અથવા બિલકુલ સમીક્ષા કરતો નથી; આ બેમાંથી શું સાચું છે તે જાણવા પુરાવા જરૂરી છે.
માત્ર નિષ્કર્ષ નહીં, પુરાવા પણ બતાવો
AIના જવાબની બાજુમાં મૂળ સ્રોતનાં ફીલ્ડ મૂકો જેથી ચકાસણી ઝડપથી થઈ શકે.
કતાર મર્યાદિત રાખો
જો કોઈ વ્યક્તિ કામના જથ્થાની યોગ્ય સમીક્ષા ન કરી શકે, તો તેને વધુ પ્રયત્ન કરવાનું કહેવાને બદલે રચના બદલો.
સત્તા આપો
સમીક્ષકો પરવાનગી લીધા વિના નકારી શકે કે થોભાવી શકે તે જરૂરી છે.
ચક્રની કસોટી કરો
સમયાંતરે જાણીતી ભૂલો સામેલ કરો અને તે પકડાય છે કે નહીં તેની નોંધ રાખો.
પ્રક્રિયામાં માનવીય દેખરેખ રાખતી વખતે થતી સામાન્ય ભૂલો કઈ છે?
સૌથી સામાન્ય ભૂલ એ છે કે બીજું કંઈ બદલ્યા વિના પ્રક્રિયામાં સમીક્ષક ઉમેરવો અને પછી તેમની મંજૂરીને પરિણામ સાચું હોવાના પુરાવા તરીકે માનવી. અન્ય ભૂલો: એક વ્યક્તિને દરરોજ સેંકડો બાબતો મંજૂર કરવા કહેવું, પુરાવા જોવા માટે વધારાની ક્લિક કરવી પડે તેવી ગોઠવણી કરવી, પાછા ન ફેરવી શકાય તેવા નિર્ણયોમાં કાર્યવાહી થઈ ગયા પછી સમીક્ષા કરવી, અને માણસ દ્વારા નિર્ણય બદલવાનો દર ઘટે ત્યારે તેનું કારણ પૂછ્યા વિના ખુશ થવું. સ્વચાલિત પ્રણાલીના નિર્ણયને વધુ પડતો સાચો માનવાનો પક્ષપાત સાવચેત લોકોને પણ અસર કરે છે, તેથી જ સારા ઇરાદા કરતાં પ્રક્રિયાની રચના વધુ મહત્ત્વની છે.
Tosheo.aiની અભ્યાસસૂચિમાં પ્રક્રિયામાં માનવ સહભાગિતાનું સ્થાન ક્યાં છે?
પ્રક્રિયામાં માનવીય સમીક્ષાનો પાઠ AI સાક્ષરતા અભ્યાસક્રમની જવાબદાર AI અને નીતિ શ્રેણીમાં, નૈતિક AI અને જવાબદાર AI માટેનાં નિયંત્રણો પછી આવે છે. એજન્ટ આધારિત AI અને સ્વચાલનના પાઠોમાં આ વિષય ફરી આવે છે, જ્યાં સાધનો સૂચન કરવાને બદલે કાર્યવાહી કરે છે. પ્રાયોગિક કાર્યમાં તમારે તમારા પોતાના કામના સમીક્ષાના એક પગલાની રચના ફરી કરવાની છે, અને મૂલ્યાંકનના માપદંડો મુજબ મળતો પ્રતિસાદ તપાસે છે કે સમીક્ષાનો તબક્કો, પુરાવા અને સત્તા બધું સ્પષ્ટ છે કે નહીં.