AI மாயத்தோற்றங்கள்: அவை என்ன, ஏன் ஏற்படுகின்றன, என்ன செய்ய வேண்டும்

செயற்கை நுண்ணறிவின் மாயத்தோற்றம் என்றால் என்ன?

AI மாயத்தோற்றம் என்பது உருவாக்க AI கருவி நம்பிக்கையுடன் முன்வைக்கும், ஆனால் தவறான, புனையப்பட்ட அல்லது அதற்குக் கொடுக்கப்பட்ட உள்ளீட்டால் ஆதரிக்கப்படாத வெளியீடு. NIST அமைப்பின் உருவாக்க AI விவரக்குறிப்பு இதையே புனைவு உருவாக்கம் எனக் குறிப்பிட்டு, உருவாக்க அமைப்புகள் பிழையான அல்லது தவறான உள்ளடக்கத்தை உருவாக்கி நம்பிக்கையுடன் முன்வைப்பதாக விவரிக்கிறது. கொடுக்கப்பட்ட வழிமுறை அல்லது பிற உள்ளீட்டிலிருந்து விலகும் வெளியீடுகளையும், அதே உரையாடலில் முன்பு கூறப்பட்டவற்றுக்கு முரணான வெளியீடுகளையும் NIST இந்த வரையறையில் சேர்க்கிறது.

மாயத்தோற்றம் என்பது ஓர் உருவகம்; அது சற்றுத் தவறாகப் புரிந்துகொள்ளவும் வைக்கிறது. கருவி இல்லாதவற்றைக் காண்பதில்லை. சூழலுக்குப் புள்ளிவிவர அடிப்படையில் பொருத்தமாகத் தோன்றும் உரையை அது உருவாக்குகிறது; அப்படிப் பொருத்தமாகத் தோன்றும் உரை சில நேரங்களில் தவறாக இருக்கும். அதனால்தான் மாயத்தோற்றத்தால் உருவான பதில் பெரும்பாலும் பிழையாகத் தெரிவதில்லை. அது சாதாரணமான, நன்றாக எழுதப்பட்ட பதிலாகவே தெரிகிறது.

ChatGPT ஏன் மாயத்தோற்றப் பிழைகளைச் செய்கிறது?

ChatGPT மற்றும் அதைப் போன்ற கருவிகள், சரிபார்க்கப்பட்ட உண்மைகளைத் தேடி எடுப்பதற்காக அல்லாமல், உரையின் அடுத்த பகுதியாக வரக்கூடியதை உருவாக்குவதற்காக வடிவமைக்கப்பட்டுள்ளதால், உண்மைக்குப் புறம்பான தகவல்களை உண்மைபோல உருவாக்குகின்றன. உருவாக்க மாதிரிகளின் வடிவமைப்பிலிருந்து இயல்பாகவே இத்தகைய புனைவு ஏற்படுகிறது என்று NIST விளக்குகிறது: அவை தமது பயிற்சித் தரவின் புள்ளிவிவரப் பரவலைத் தோராயமாகப் பிரதிபலிக்கின்றன. இதனால் துல்லியமான பதில்கள் கிடைக்கலாம் என்றாலும், உண்மைக்குப் புறம்பான அல்லது முரண்பாடான பதில்களும் கிடைக்கலாம். வரையறுக்கப்பட்ட ஒரே பதில் இல்லாத நீண்ட பதில்களிலும், சிறப்பு நிபுணத்துவம் தேவைப்படும் கேள்விகளிலும் இந்தச் சிக்கல் குறிப்பாக முக்கியமானது என்று NIST குறிப்பிடுகிறது.

கலாய், நச்சும், வெம்பாலா மற்றும் ஜாங் ஆகியோரின் 2025 ஆய்வுக் கட்டுரை இந்த விளக்கத்தின் இரண்டாவது பகுதியை வழங்குகிறது. தனக்குத் தெரியாது என்று கூறும் மாதிரியைவிட, ஊகித்துப் பதிலளிக்கும் மாதிரி பல தரமதிப்பீட்டுச் சோதனைகளில் அதிக மதிப்பெண் பெறுகிறது. எனவே, பயிற்சி மற்றும் மதிப்பீட்டு நடைமுறைகள், உறுதியில்லை என்று ஒப்புக்கொள்வதைவிட ஊகிப்பதற்கே வெகுமதி அளிக்கும் போக்கைக் கொண்டுள்ளன என்று ஆசிரியர்கள் வாதிடுகின்றனர். அவர்களின் பார்வையில், தேர்வுகளில் சிறப்பாகச் செயல்படும் வகையில் மாதிரிகள் மேம்படுத்தப்படுகின்றன. துல்லியமான செயல்முறை எதுவாக இருந்தாலும், ஒரு ஊழியருக்கான நடைமுறைப் பாடம் ஒன்றுதான்: கருவி உறுதியாகப் பதிலளிப்பதை வைத்து, ஒரு கூற்று உண்மையா என்பதை அறிய முடியாது.

அதிகம் அறியப்படாத, சமீபத்திய, மிகத் துல்லியமான அல்லது நீங்கள் வழங்கிய தகவல்களுக்கு அப்பாற்பட்ட ஒன்றைப் பற்றிக் கேட்கும்போது மாயத்தோற்றப் பதில்கள் வருவதற்கான வாய்ப்பு அதிகம்: துல்லியமான எண்ணிக்கை, குறிப்பிட்ட நபரின் பொறுப்பு, மேற்கோள், நீதிமன்ற வழக்கு, ஒரு பொருளின் தற்போதைய விலை போன்றவை. நீங்கள் ஒட்டிய ஆவணத்தை மட்டுமே அடிப்படையாகக் கொண்டு செயல்படுமாறு கருவியிடம் கேட்டால், இத்தகைய பதில்கள் வருவதற்கான வாய்ப்பு குறையும்; ஆனாலும் முற்றிலும் இல்லாமல் போகாது.

பணியிடத்தில் AI மாயத்தோற்றங்கள் எப்படி வெளிப்படுகின்றன?

பணியிடத்தில், AI மாயத்தோற்றங்கள் பொதுவாகச் சரியானவை போலத் தோன்றும் சிறிய, குறிப்பான விவரங்களாக இருக்கும். பணியாளர்கள் அடிக்கடி எதிர்கொள்ளும் வடிவங்களை இந்தப் பட்டியல் உள்ளடக்குகிறது. அவற்றின் வடிவங்களை அடையாளம் காணக் கற்றுக்கொண்டால், அவற்றைக் கண்டுபிடிப்பது எளிதாகும்.

AI மாயத்தோற்றம் கண்டறியப்படாமல் போனால் என்ன நடக்கும்?

பொதுவில் நன்கு அறியப்பட்ட எடுத்துக்காட்டு Mata v. Avianca வழக்கு. இதற்கு 22 ஜூன் 2023 அன்று அமெரிக்காவின் நியூயார்க் தெற்கு மாவட்ட நீதிமன்றத்தில் தீர்ப்பு வழங்கப்பட்டது. ChatGPT உருவாக்கிய போலி மேற்கோள்களும் போலி வழக்கு மேற்காட்டுகளும் கொண்ட, உண்மையில் இல்லாத நீதிமன்றத் தீர்ப்புகளை உள்ளடக்கிய ஆவணத்தை வழக்கறிஞர்கள் நீதிமன்றத்தில் தாக்கல் செய்தனர். அவர்கள் நேர்மையற்ற நோக்கத்துடன் செயல்பட்டதாகக் கண்ட நீதிமன்றம், வழக்கறிஞர்களுக்கும் அவர்களது நிறுவனத்துக்கும் கூட்டாகவும் தனித்தனியாகவும் பொறுப்பேற்கும் வகையில் 5,000 அமெரிக்க டாலர்கள் அபராதம் விதித்தது. மேலும், தங்கள் வாடிக்கையாளருக்கும், புனையப்பட்ட தீர்ப்புகளில் பெயர்கள் தவறாகச் சேர்க்கப்பட்ட நீதிபதிகளுக்கும் கடிதம் எழுதுமாறு உத்தரவிட்டது. தண்டனையைப் பரிசீலிக்கும்போது, தொழில்நுட்பத் திறன் மற்றும் AI கருவிகள் குறித்த கட்டாயத் தொடர் சட்டக் கல்வியைத் தனது வழக்கறிஞர்களுக்கும் ஊழியர்களுக்கும் அந்த நிறுவனம் ஏற்பாடு செய்திருந்ததை நீதிமன்றம் குறிப்பிட்டது: வேறு சொற்களில் சொல்வதானால், தவறு நடந்த பிறகு பயிற்சி.

இதிலிருந்து கற்க வேண்டியது வழக்கறிஞர்கள் கவனக்குறைவானவர்கள் என்பதல்ல. புனையப்பட்ட மேற்கோள் உண்மையான மேற்கோளைப் போலவே தோன்றும் என்பதும், அதை நம்பியவர் பிழையைக் கண்டுபிடிக்க உதவியிருக்கும் ஒரே படியான மூலத்தைத் திறந்து பார்ப்பதைத் தவிர்த்துவிட்டார் என்பதும்தான். பணியிடத்தில் ஏற்படும் பெரும்பாலான செயற்கை நுண்ணறிவு மாயத்தோற்றங்கள் இதைவிடச் சிறியவை; எடுத்துக்காட்டாக, வாடிக்கையாளர் மின்னஞ்சலில் தவறான விநியோகத் தேதி அல்லது வணிக விளக்கக்காட்சியில் புனையப்பட்ட புள்ளிவிவரம். ஆனால் அடிப்படைத் தவறு ஒன்றுதான்.

செயற்கை நுண்ணறிவின் மாயத்தோற்றப் பிழைகள் இன்னும் ஒரு பிரச்சினையாக உள்ளனவா?

ஆம். மேற்கோள்களுடன் இணையத் தேடல், பதிவேற்றிய கோப்புகளிலிருந்து பதிலளிக்கும் வசதி போன்ற உதவிகரமான அம்சங்களை வழங்குநர்கள் சேர்த்துள்ளனர். ஆனால் AI மாயத்தோற்றங்களை முற்றிலும் நீக்கிவிட்டதாக அவர்களில் யாரும் கூறவில்லை. Claude பற்றிய Anthropic ஆவணங்களே, பரிந்துரைக்கப்படும் நுட்பங்கள் மாயத்தோற்றங்களைக் குறைக்கின்றனவே தவிர முற்றிலும் நீக்குவதில்லை என்று கூறுகின்றன. முக்கியமான தகவல்களை, குறிப்பாகப் பெரும் விளைவுகள் ஏற்படக்கூடிய முடிவுகளுக்குப் பயன்படுத்தும்போது, சரிபார்க்கவும் அறிவுறுத்துகின்றன. Gmail மற்றும் விரிதாள்களில் Gemini பயன்பாடு குறித்த Google உதவிப் பக்கங்கள், Gemini அம்சங்கள் தவறான அல்லது பொருத்தமற்ற தகவல்களைப் பரிந்துரைக்கக்கூடும் என்று எச்சரிக்கின்றன.

ஒரு கருவி இனி உண்மைக்குப் புறம்பான தகவல்களை உண்மைபோல் கூறுவதில்லை என்ற எந்தக் கூற்றையும் சந்தேகத்துடன் அணுகுங்கள். உங்கள் தேவைக்காக, எந்தச் சரிபார்ப்புகளுடன், எந்தப் பணிகளை ஒரு குறிப்பிட்ட கருவி போதுமான நம்பகத்தன்மையுடன் கையாளுகிறது என்பதே சிறந்த கேள்வி.

செயற்கை நுண்ணறிவின் மாயத்தோற்றப் பிழைகளை எப்படிக் குறைக்கலாம்?

கருவி தானாகக் கற்பித்து உருவாக்க வேண்டியவற்றைக் குறைப்பதன் மூலம் AI மாயத்தோற்றங்களைக் குறைக்கலாம்: அதற்கு மூலத் தகவலைக் கொடுங்கள், அந்த மூலத்தை மட்டுமே பயன்படுத்தச் சொல்லுங்கள், தெரியாது என்று கூற அனுமதியுங்கள், ஒவ்வொரு கூற்றுக்கும் ஆதாரம் காட்டச் சொல்லுங்கள். கீழே உள்ள நுட்பங்கள், மாயத்தோற்றங்களைக் குறைப்பது குறித்த Anthropic ஆவணங்கள் உள்ளிட்ட கருவி வழங்குநர்களின் வழிகாட்டுதல்களிலிருந்து எடுக்கப்பட்டு, தொழில்நுட்பம் சாராத பணிகளுக்கு ஏற்ப மாற்றப்பட்டுள்ளன. இவற்றில் எதுவும் சரிபார்க்க வேண்டிய தேவையை நீக்காது.

பல நுட்பங்களை இணைக்கும் எடுத்துக்காட்டு வழிமுறை: கீழே உள்ள கொள்கை உரையை மட்டும் பயன்படுத்தி, புறப்படுவதற்கு முந்தைய 48 மணிநேரத்திற்குள் முன்பதிவு செய்யப்படும் ஊழியர் பயணங்களுக்குப் பொருந்தும் மூன்று விதிகளைப் பட்டியலிடுங்கள். ஒவ்வொரு விதிக்கும், அது இடம்பெறும் வாக்கியத்தை அப்படியே மேற்கோள் காட்டுங்கள். கொள்கையில் ஏதேனும் விவரம் இல்லை என்றால், குறிப்பிடப்படவில்லை என்று எழுதுங்கள். பொதுவான அறிவைப் பயன்படுத்த வேண்டாம்.

AI உண்மைக்கு மாறான தகவலை உண்மையாகக் கூறுவதைக் கண்டறிவது நடைமுறையில் எப்படி இருக்கும்?

நார்த்கேட் சப்ளை என்ற கற்பனையான, 25 பேர் பணிபுரியும் பல் மருத்துவப் பொருட்கள் விநியோக நிறுவனத்தை எடுத்துக்கொள்ளுங்கள். விற்பனை ஒருங்கிணைப்பாளர் ஒருவர் நிறுவனத்தின் இரண்டு பக்கப் பொருட்களைத் திருப்பி அளிக்கும் கொள்கையை ஒட்டி, உதவியாளரிடம் கேட்கிறார்: திறக்கப்பட்ட பொருட்களை எவ்வளவு காலத்திற்குள் திருப்பி அளிக்கலாம்? மீண்டும் இருப்பில் சேர்ப்பதற்குக் கட்டணம் உள்ளதா? வழங்கப்பட்ட கொள்கையில், திறக்கப்படாத பொருட்களை 30 நாட்களுக்குள் திருப்பி அளிக்கலாம் என்றும், திறக்கப்பட்ட பொருட்கள் பழுதாக இருந்தால் மட்டுமே திருப்பி அளிக்கலாம் என்றும் உள்ளது. மீண்டும் இருப்பில் சேர்ப்பதற்கான கட்டணம் குறித்து எதுவும் இல்லை.

முதல் பதில்: திறக்கப்பட்ட பொருட்களை 14 நாட்களுக்குள் திருப்பி அனுப்பலாம்; அதற்கு 15 சதவீத மறுகையிருப்புக் கட்டணம் உண்டு. இந்த இரண்டு விவரங்களும் கற்பனையாகச் சேர்க்கப்பட்டவை. கொள்கையில் 14 நாட்கள் என்றோ கட்டணம் என்றோ எதுவும் குறிப்பிடப்படவில்லை. பல பொருள் திருப்பிக் கொடுக்கும் கொள்கைகளில் இவை இருப்பதால், இவை நம்பத்தகுந்தவையாகத் தோன்றுகின்றன. புள்ளிவிவர அடிப்படையில் வரக்கூடிய ஒரு பதில் இப்படித்தான் தவறாகிறது.

மேலே உள்ள முறைகளைப் பயன்படுத்தி ஒருங்கிணைப்பாளர் மீண்டும் கேள்வியை எழுப்புகிறார்: கொள்கையை மட்டும் பயன்படுத்துங்கள், வாக்கியத்தை மேற்கோள் காட்டுங்கள், தகவல் இல்லையென்றால் குறிப்பிடப்படவில்லை என்று எழுதுங்கள். இரண்டாவது பதில்: திறக்கப்பட்ட பொருட்கள்: குறைபாடு இருந்தால் மட்டுமே திருப்பித் தரலாம் (மேற்கோள்: பொருளில் குறைபாடு இருந்தால் மட்டுமே திறக்கப்பட்ட பொருட்களைத் திருப்பித் தரலாம்). மீண்டும் இருப்பில் சேர்ப்பதற்கான கட்டணம்: குறிப்பிடப்படவில்லை. ஆவணத்துடன் ஒப்பிட்டு இந்தப் பதிலைச் சில வினாடிகளில் சரிபார்க்கலாம். கட்டணம் பற்றிய விடுபட்ட தகவல் வாடிக்கையாளருக்கான மின்னஞ்சலில் சேர்வதற்குப் பதிலாகக் கொள்கைக்குப் பொறுப்பானவரிடம் செல்கிறது.

AI தவறான தகவலை உண்மைபோல் கூறியிருப்பதைக் கண்டறிந்த பிறகு ஊழியர் என்ன செய்ய வேண்டும்?

தவறான கூற்றை நீக்குங்கள் அல்லது திருத்துங்கள்; பிறகு யாராவது ஏற்கெனவே அதை நம்பிச் செயல்பட்டுள்ளார்களா என்பதைத் தீர்மானியுங்கள். வெளியீடு வெறும் வரைவாக மட்டுமே இருந்தால், அதைத் திருத்திவிட்டு அடுத்த பணிக்குச் செல்லுங்கள்; கருவி அந்த விவரத்தைப் புனைந்தது என்பதை உங்கள் மதிப்பாய்வில் குறிப்பிடுங்கள். அது ஏற்கெனவே அனுப்பப்பட்டிருந்தால், பகிரப்பட்டிருந்தால் அல்லது முடிவெடுக்கப் பயன்படுத்தப்பட்டிருந்தால், பொறுப்பானவரிடம் தெரிவியுங்கள்; அப்போதுதான் அவரால் அதைத் திருத்த முடியும். மற்றவர்கள் ஏற்கெனவே படித்த ஆவணத்தை யாருக்கும் சொல்லாமல் திருத்தாதீர்கள்.

எந்த வகையான கேள்விகளில் பிழை ஏற்பட்டது என்பதைச் சக ஊழியர்களிடம் தெரிவிப்பதும் உதவும். ஒவ்வொருவரும் ஒரே தவறைத் தனித்தனியாகக் கண்டறியும் குழுவைவிட, தவறியவற்றின் எடுத்துக்காட்டுகளைப் பகிரும் குழு விரைவாகக் கற்றுக்கொள்கிறது. வரைவொன்றைச் சரிபார்ப்பதற்கான படிப்படியான முறை, AI வெளியீட்டின் உண்மைத் தன்மையைச் சரிபார்க்கும் வழிகாட்டியில் உள்ளது.

எப்போது மோசமான AI பதில் ஒரு மாயத்தோற்றப் பிழையாக இருக்காது?

ஒவ்வொரு தவறான பதிலும் மாயத்தோற்றம் அல்ல; அதைச் சரிசெய்யும் முறையும் மாறுபடும். பயிற்சிக்குப் பிறகு தகவல் மாறியதால் கருவி பழைய பதிலைத் தந்தால், தற்போதைய ஆதாரத்தை வழங்குவதே தீர்வு. அது பாரபட்சமான அல்லது ஒருதலைப்பட்சமான பதிலைத் தந்தால், சிக்கல் தகவலைப் புனைவதில் அல்ல; அணுகுமுறையிலும் நியாயத்தன்மையிலும் உள்ளது. தெளிவற்ற வழிமுறையைப் பின்பற்றி நியாயமான, ஆனால் நீங்கள் விரும்பாத முடிவைத் தந்தால், தெளிவான பணிக் குறிப்பை வழங்குவதே தீர்வு. யாராவது வேண்டுமென்றே தவறாக வழிநடத்த AI-ஐப் பயன்படுத்தினால், அது நடத்தை சார்ந்த பிரச்சினை; பயிற்சி சார்ந்தது அல்ல.

குறிப்பிட்ட, அதிக விளைவுகளை ஏற்படுத்தக்கூடிய பணிக்கு ஒரு கருவி பாதுகாப்பானதா என்பதையும் இந்த வழிகாட்டியால் சொல்ல முடியாது. தனிநபர்கள் குறித்த சட்ட, மருத்துவ, நிதி அல்லது வேலைவாய்ப்பு முடிவுகளுக்கு, வெளியீடு எவ்வாறு உருவாக்கப்பட்டிருந்தாலும் தகுதிவாய்ந்த மதிப்பாய்வாளரைப் பயன்படுத்துங்கள்.

மூலங்களும் வரம்பும்

NIST, AI 600-1: ஆக்கமுறை AI விவரக்குறிப்பு, ஜூலை 2024 ↗

கலாய், நாகும், வெம்பாலா மற்றும் ஜாங், மொழி மாதிரிகள் ஏன் மாயத்தோற்றத் தகவல்களை உருவாக்குகின்றன, arXiv, 4 September 2025 ↗

Anthropic, Claude ஆவணங்கள்: செயற்கை நுண்ணறிவின் மாயத்தோற்றப் பிழைகளைக் குறைத்தல், பார்வையிட்ட நாள் 16 October 2026 ↗

Mata v. Avianca, Inc., 678 F.Supp.3d 443 (S.D.N.Y., 22 June 2023), CLLA தளத்தில் உள்ள நகல் ↗

Gmail உதவி, Gmail இல் Gemini உடன் இணைந்து பணியாற்றுதல், அணுகிய நாள் 16 October 2026 ↗

Google ஆவணத் தொகுப்பாளர்கள் உதவி, Google விரிதாள்களில் Gemini உடன் இணைந்து பணியாற்றுதல், அணுகிய நாள் 16 October 2026 ↗