மனிதர் சரிபார்க்கும் படிநிலை ஏன் அடிக்கடி தோல்வியடைகிறது?
AI அளித்த தீர்ப்பை மட்டுமே ஒருவர் பார்ப்பது, சரிபார்க்க வேண்டியவை அளவுக்கு அதிகமாக இருப்பது, எதைப் பார்க்க வேண்டும் என்று அவரிடம் சொல்லப்படாதது ஆகியவற்றால் மனிதச் சரிபார்ப்புப் படி பெரும்பாலும் தோல்வியடைகிறது. இதனால் ஒப்புதல் அளிப்பதே மிக விரைவான வழியாகிவிடுகிறது. இதுவே ஆராயாமல் ஒப்புதல் அளிப்பது எனப்படுகிறது; உண்மையான மேற்பார்வை இல்லாமல், அது இருப்பது போன்ற தோற்றத்தை மட்டும் அளிக்கிறது.
ஓக்பிரிட்ஜ் சப்ளைஸ் என்ற கற்பனையான, 25 பேர் கொண்ட மொத்த விநியோக நிறுவனத்தை எடுத்துக்கொள்ளுங்கள். ஒரு செயற்கை நுண்ணறிவுக் கருவி, வழங்குநர்களின் விலைப்பட்டியல்களைக் கொள்முதல் ஆணைகளுடன் ஒப்பிட்டு, ஒவ்வொன்றையும் 'பொருந்துகிறது' அல்லது 'பொருந்தவில்லை' என்று குறிக்கிறது. கணக்குப் பிரிவு எழுத்தர் பிரியா, பொருந்துபவற்றுக்குப் பணம் செலுத்த ஒப்புதல் அளிக்கிறார். ஒரு வியாழக்கிழமை அவரது பணிவரிசை இவ்வாறு உள்ளது: '212 விலைப்பட்டியல்கள், 205 பொருந்துகின்றன, 7 பொருந்தவில்லை'. ஒவ்வொரு வரியிலும் வழங்குநர், தொகை, ஒரு பச்சைச் சரிக்குறி உள்ளன. கடந்த மாதம் 40 பொருட்கள் மட்டுமே விநியோகிக்கப்பட்டிருந்தபோதும், 400 பொருட்களுக்கான வழங்குநர் விலைப்பட்டியலுக்குப் பணம் செலுத்தப்பட்டது. கருவி ஆர்டர் எண்ணைப் பொருத்திப் பார்த்தது; பிரியா சரிக்குறியைப் பார்த்து ஒப்புதல் அளித்தார்.
செயல்முறையில் எந்த இடத்தில் மனித மேற்பார்வை இருக்க வேண்டும்?
AI வெளியீடு பணம், ஒருவர் எதையாவது அணுகும் உரிமை, வாடிக்கையாளருக்கு அளித்த உறுதி, சட்டம் அல்லது பாதுகாப்பு சார்ந்த விளைவு ஆகியவற்றை மாற்றும் இடங்களில் மனிதச் சரிபார்ப்பு இருக்க வேண்டும். அந்த மாற்றத்தைத் திரும்பப் பெறுவது கடினமாவதற்கு முன்பே அது நடக்க வேண்டும். வழக்கமான, திரும்ப மாற்றக்கூடிய வெளியீடுகளுக்குப் பதிலாக மாதிரி அடிப்படையிலான சரிபார்ப்பைப் பயன்படுத்தலாம்.
அதிக ஆபத்துள்ள அமைப்புகளை மனிதர்கள் மேற்பார்வையிடுவது குறித்த EU AI Act பிரிவு இதே கருத்தை ஒழுங்குமுறை மொழியில் கூறுகிறது: ஒரு அமைப்பை மேற்பார்வையிடுபவர்கள் அதன் வரம்புகளைப் புரிந்திருக்க வேண்டும், தானியக்க முடிவுகளை அளவுக்கு மீறி நம்பும் சார்பு குறித்து விழிப்புடன் இருக்க வேண்டும், அதன் வெளியீட்டைப் புறக்கணிக்கவோ மாற்றியமைக்கவோ நிறுத்தவோ முடிந்திருக்க வேண்டும். அந்தச் சட்டம் உங்களுக்குப் பொருந்தாவிட்டாலும், இவை நல்ல வடிவமைப்பு இலக்குகளாகும்.
மனித மேற்பார்வையுடன் கூடிய மதிப்பாய்வை எந்தெந்த முறைகளில் வடிவமைக்கலாம்?
பொதுவாகப் பயன்படுத்தப்படும் மதிப்பாய்வு முறைகள் நான்கு உள்ளன. எது சரியானது என்பது, ஒரு பிழையால் ஏற்படும் இழப்பையும் மதிப்பாய்வு செய்ய வேண்டிய உருப்படிகளின் எண்ணிக்கையையும் பொறுத்தது.
செயலுக்கு முன் ஒப்புதல் பெறுங்கள்
எந்த நடவடிக்கையும் நடப்பதற்கு முன், ஒவ்வொரு வெளியீட்டிற்கும் ஒருவர் ஒப்புதல் அளிக்கிறார். குறிப்பிட்ட வரம்பை மீறும் பணம் செலுத்துதல் அல்லது வாடிக்கையாளர்களுக்குப் பணத்தைத் திருப்பித் தருதல் போன்ற, அதிகச் செலவுள்ள, குறைந்த எண்ணிக்கையிலான பணிகளுக்கு இதைப் பயன்படுத்தவும்.
விதிவிலக்குகளை மதிப்பாய்வு செய்தல்
தெளிவான நிகழ்வுகளை AI கையாள்கிறது; உறுதியற்ற அல்லது வழக்கத்திற்கு மாறானவற்றை ஒரு நபருக்கு அனுப்புகிறது. அனுப்பும் விதிகள் சோதிக்கப்பட்டு, 'தெளிவான' நிகழ்வுகளில் சிலவும் தொடர்ந்து சரிபார்க்கப்பட்டால் மட்டுமே இது செயல்படும்.
மாதிரித் தணிக்கை
வெளியீடுகள் அனுப்பப்படுகின்றன; பின்னர் ஒருவர் அவற்றில் சீரற்ற முறையில் தேர்ந்தெடுத்த சிலவற்றைச் சரிபார்க்கிறார். உள் பயன்பாட்டுச் சுருக்கங்கள் போன்ற, திருத்தக்கூடியதும் அதிக எண்ணிக்கையில் செய்யப்படுவதுமான பணிகளுக்கு இதைப் பயன்படுத்தவும்.
முதலில் சுயமாக முயலுங்கள்
AI பரிந்துரையைப் பார்ப்பதற்கு முன் அந்த நபர் தமது சொந்தக் கருத்தை உருவாக்குகிறார். இது மெதுவானது. ஆனால் முக்கியமான மதிப்பீடுகளில் AI பதிலையே அடிப்படையாகப் பற்றிக்கொள்வதிலிருந்து பாதுகாக்கிறது.
பலவீனமான மதிப்பாய்வு வடிவமைப்பும் மேம்படுத்தப்பட்ட வடிவமைப்பும் எப்படி இருக்கும்?
பலவீனமான வடிவமைப்பு: ஒவ்வொரு விலைப்பட்டியலும் பச்சை அல்லது சிவப்புக் குறியுடன் பிரியாவிடம் செல்கிறது. அவர் 20 நிமிடங்களில் 205 சரிக் குறிகளுக்கு ஒப்புதல் அளிக்கிறார். ஒவ்வொரு சரிக் குறியும் ஏன் வழங்கப்பட்டது என்பதை அவருக்கு எதுவும் தெரிவிப்பதில்லை; அவர் தொடர்ந்து கவனிக்கிறாரா என்பதையும் எதுவும் சோதிப்பதில்லை.
மேம்படுத்தப்பட்ட வடிவமைப்பு: நிர்ணயிக்கப்பட்ட தொகைக்குக் கீழுள்ள விலைப்பட்டியல்களில் ஆர்டர் எண், அளவு, அலகு விலை ஆகிய அனைத்தும் விநியோகக் குறிப்புடன் பொருந்தினால், பணம் தானாகச் செலுத்தப்படுகிறது. பிரியா ஒவ்வொரு வாரமும் சீரற்ற முறையில் தேர்ந்தெடுக்கப்பட்ட பத்து விலைப்பட்டியல்களைச் சரிபார்க்கிறார். வரம்புக்கு மேற்பட்ட தொகை, புதிய வழங்குநர், அளவில் வேறுபாடு ஆகியவற்றில் ஏதேனும் இருந்தால், அந்த மூன்று புலங்களும் அருகருகே காட்டப்பட்டு, 'விலைப்பட்டியலில் அளவு 400, வழங்கப்பட்டது 40' போன்ற AI காரணம் ஒரு வரியில் அவருக்கு அனுப்பப்படுகிறது. மாதம் ஒருமுறை, பிழைகள் கண்டுபிடிக்கப்படுகின்றனவா என்பதை உறுதிப்படுத்த, தெரிந்த இரண்டு பிழைகளை நிதித் தலைவர் முன்னறிவிப்பின்றி வரிசையில் சேர்க்கிறார். AI முடிவை மாற்றும் ஒவ்வொரு முறையும் பிரியா அதைப் பதிவு செய்கிறார். மாற்றங்களின் எண்ணிக்கை திடீரெனப் பூஜ்ஜியமாகக் குறைந்தால், அது வெற்றியாக அல்ல, எச்சரிக்கையாகக் கருதப்படுகிறது.
மதிப்பாய்வு வெறும் பெயரளவு ஒப்புதலாக இல்லாமல் உண்மையாக நடைபெறுகிறதா என்பதை எப்படிச் சரிபார்ப்பது?
மதிப்பாய்வு உண்மையில் நடைபெறுகிறதா என்பதை அளவிடுங்கள்: ஒவ்வொரு உருப்படிக்கும் செலவிடப்படும் நேரம், மதிப்பாய்வாளர்கள் எத்தனை முறை AI முடிவை மாற்றுகிறார்கள், சோதனைக்காக வேண்டுமென்றே சேர்க்கப்பட்ட பிழைகள் கண்டறியப்படுகின்றனவா என்பவற்றைப் பாருங்கள். கருவியுடன் ஒருபோதும் முரண்படாத மதிப்பாய்வாளர், மிகச் சிறந்த வெளியீட்டை மதிப்பாய்வு செய்கிறார் அல்லது மதிப்பாய்வே செய்வதில்லை. இதில் எது உண்மை என்பதை அறிய உங்களுக்கு ஆதாரம் தேவை.
தீர்ப்புகளை மட்டும் அல்ல, ஆதாரங்களையும் காட்டுங்கள்
சரிபார்ப்பை விரைவாகச் செய்ய, AI பதிலுக்கு அருகிலேயே மூலத் தகவல் புலங்களை வையுங்கள்.
காத்திருப்பு வரிசையின் அளவைக் கட்டுப்படுத்துங்கள்
ஒருவரால் அந்தப் பணியளவை முறையாக மதிப்பாய்வு செய்ய முடியாவிட்டால், இன்னும் கடினமாக முயற்சி செய்யச் சொல்வதற்குப் பதிலாக வடிவமைப்பை மாற்றுங்கள்.
அதிகாரம் அளிக்கவும்
அனுமதி கேட்காமலேயே நிராகரிக்கவோ இடைநிறுத்தவோ ஆய்வாளர்களால் முடிய வேண்டும்.
செயல்சுழற்சியைச் சோதிக்கவும்
அவ்வப்போது தெரிந்த பிழைகளைச் சேர்த்து, அவை கண்டறியப்படுகின்றனவா என்பதைப் பதிவு செய்யவும்.
மனித மேற்பார்வையுடன் செயல்படும் முறையில் ஏற்படும் பொதுவான தவறுகள் என்ன?
ஒரு செயல்முறையில் வேறு எதையும் மாற்றாமல் ஒரு மதிப்பாய்வாளரை மட்டும் சேர்த்துவிட்டு, அவரது ஒப்புதலை வெளியீடு சரியானது என்பதற்கான சான்றாகக் கருதுவதே மிகவும் பொதுவான தவறு. பிற தவறுகள்: ஒருவரை ஒரு நாளில் நூற்றுக்கணக்கான உருப்படிகளுக்கு ஒப்புதல் அளிக்கச் சொல்வது, ஆதாரங்களைப் பார்க்கக் கூடுதல் சொடுக்கல்கள் தேவைப்படுமாறு மறைப்பது, மாற்ற முடியாத முடிவுகளில் செயல் நடந்த பிறகு மதிப்பாய்வு செய்வது, தானியங்கு முடிவுகளை மனிதர்கள் மாற்றும் விகிதம் குறைவதற்கான காரணத்தைக் கேட்காமல் அதைக் கொண்டாடுவது. தானியக்கத்தை அளவுக்கு மீறி நம்பும் சார்பு கவனமாகச் செயல்படுபவர்களையும் பாதிக்கிறது. அதனால்தான் நல்ல நோக்கங்களைவிட வடிவமைப்பு முக்கியமானது.
Tosheo.ai பாடத் தொகுப்பில் மனித மேற்பார்வை எந்தப் பகுதியில் இடம்பெறுகிறது?
AI அறிவுப் பாடநெறியில், நெறிமுறையுடன் AI பயன்பாடு மற்றும் பொறுப்பான AI கட்டுப்பாடுகள் ஆகியவற்றுக்குப் பிறகு, பொறுப்பான AI மற்றும் கொள்கை பிரிவில் செயல்முறையில் மனிதப் பங்கேற்பு இடம்பெறுகிறது. பரிந்துரைப்பதற்குப் பதிலாகக் கருவிகள் செயல்படும் AI முகவர்கள் மற்றும் தானியக்கப் பாடங்களிலும் இது மீண்டும் வருகிறது. உங்கள் சொந்தப் பணியில் உள்ள ஒரு மதிப்பாய்வுப் படியை மறுவடிவமைக்கச் செயல்முறைப் பயிற்சி கேட்கிறது. மதிப்பாய்வுக் கட்டம், ஆதாரங்கள், அதிகாரம் ஆகிய அனைத்தும் தெளிவாக உள்ளனவா என்பதை மதிப்பீட்டு அளவுகோல்களின் அடிப்படையிலான பின்னூட்டம் சரிபார்க்கிறது.