AI का मतिभ्रम क्या है?
AI मतिभ्रम जनरेटिव AI टूल का ऐसा परिणाम है जिसे पूरे विश्वास के साथ प्रस्तुत किया जाता है, लेकिन जो गलत, मनगढ़ंत या उसे दी गई सामग्री से असमर्थित होता है। NIST की जनरेटिव AI प्रोफ़ाइल इसी बात के लिए मिथ्या गढ़ंत शब्द का उपयोग करती है और इसे ऐसी जनरेटिव प्रणालियों के रूप में बताती है जो त्रुटिपूर्ण या गलत सामग्री बनाती हैं और उसे विश्वास के साथ प्रस्तुत करती हैं। NIST की इस परिभाषा में ऐसे परिणाम भी शामिल हैं जो निर्देश या अन्य दी गई सामग्री से भटकते हैं, या उसी बातचीत में पहले कही गई बातों का खंडन करते हैं।
हैलुसिनेशन शब्द एक रूपक है और थोड़ा भ्रामक भी। टूल को कोई चीज़ दिखाई नहीं दे रही होती। वह ऐसा पाठ तैयार कर रहा होता है जो उस संदर्भ में सांख्यिकीय रूप से संभावित है, और कभी-कभी संभावित लगने वाला पाठ गलत होता है। इसीलिए हैलुसिनेशन शायद ही कभी गलती जैसा दिखता है। वह एक सामान्य, अच्छी तरह लिखा हुआ उत्तर लगता है।
ChatGPT मतिभ्रम क्यों करता है?
ChatGPT और ऐसे अन्य टूल मनगढ़ंत बातें तथ्य के रूप में पेश करते हैं, क्योंकि उन्हें सत्यापित तथ्य खोजने के लिए नहीं, बल्कि पाठ को संभावित रूप से आगे बढ़ाने के लिए बनाया गया है। NIST के अनुसार, इस तरह की मनगढ़ंत जानकारी जनरेटिव मॉडल की बनावट का स्वाभाविक परिणाम है: ये अपने प्रशिक्षण डेटा के सांख्यिकीय वितरण का अनुमान लगाते हैं। इससे सही उत्तर मिल सकते हैं, लेकिन तथ्यात्मक रूप से गलत या असंगत उत्तर भी मिल सकते हैं। NIST के अनुसार यह समस्या खास तौर पर खुले और विस्तृत उत्तरों तथा विशेषज्ञ जानकारी की ज़रूरत वाले सवालों में महत्वपूर्ण है।
कलाई, नाचुम, वेम्पाला और झांग का 2025 का एक शोधपत्र इस व्याख्या का दूसरा पहलू सामने रखता है। लेखकों का तर्क है कि प्रशिक्षण और मूल्यांकन की प्रक्रियाएँ अक्सर अनिश्चितता स्वीकार करने के बजाय अनुमान लगाने को पुरस्कृत करती हैं, क्योंकि कई मानक परीक्षणों में अनुमान लगाने वाले मॉडल को उस मॉडल से बेहतर अंक मिलते हैं जो कहता है कि उसे नहीं पता। उनके अनुसार, मॉडलों को इस तरह अनुकूलित किया जाता है कि वे परीक्षाओं में अच्छा प्रदर्शन करें। इसकी सटीक प्रक्रिया जो भी हो, कर्मचारी के लिए व्यावहारिक सीख वही है: टूल का आत्मविश्वास इस बारे में कुछ नहीं बताता कि कोई कथन सच है या नहीं।
जब आप किसी कम ज्ञात, हाल की, बहुत विशिष्ट या दी गई सामग्री से बाहर की बात के बारे में पूछते हैं, तो AI के मनगढ़ंत बातों को तथ्य के रूप में पेश करने की आशंका अधिक होती है: कोई सटीक आँकड़ा, किसी नामित व्यक्ति की भूमिका, कोई उद्धरण, अदालती मामला या किसी उत्पाद की मौजूदा कीमत। जब टूल से केवल आपके चिपकाए हुए दस्तावेज़ के आधार पर काम करने को कहा जाता है, तो इसकी आशंका कम होती है, हालाँकि तब भी यह संभव है।
काम के दौरान AI का मनगढ़ंत बातों को तथ्य की तरह पेश करना कैसा दिखता है?
काम के दौरान AI की मतिभ्रम संबंधी गलतियाँ आम तौर पर छोटी, विशिष्ट जानकारियों के रूप में सामने आती हैं जो सही लगती हैं। इस सूची में वे रूप शामिल हैं जिनसे कर्मचारियों का सबसे अधिक सामना होता है। इन रूपों को पहचानना सीखने से ऐसी गलतियाँ पकड़ना आसान हो जाता है।
मनगढ़ंत स्रोत
ऐसा संदर्भ, रिपोर्ट का शीर्षक, URL या उद्धरण जो मौजूद ही नहीं है, या मौजूद तो है लेकिन कुछ और कहता है।
गढ़े हुए विवरण
ऐसी तारीख, कीमत, प्रतिशत, नाम या पदनाम जो आपकी दी हुई सामग्री में कहीं नहीं है।
बढ़ा-चढ़ाकर दिखाई गई निश्चितता
ऐसा सारांश जो संभावना को निश्चितता में, या प्रस्तावित तारीख को पक्की तारीख में बदल दे।
बिना प्रमाण बताए गए कारण
किसी संख्या में बदलाव का ऐसा कारण जो डेटा से साबित नहीं होता।
गढ़ा हुआ तर्क
साफ़-सुथरा, चरणबद्ध तर्क जो गलत जवाब तक पहुँचाता है। NIST के अनुसार, मॉडल कभी-कभी जवाब के लिए तार्किक चरण बताते हैं, भले ही जवाब गलत हो।
अपनी ही बात का खंडन
ऐसा कथन जो कुछ संदेश पहले टूल की कही बात से मेल न खाता हो।
जब AI की मतिभ्रम वाली गलती पकड़ी नहीं जाती, तो क्या होता है?
सबसे चर्चित सार्वजनिक उदाहरण Mata v. Avianca है, जिसका फैसला न्यूयॉर्क के दक्षिणी जिले की अमेरिकी जिला अदालत ने 22 जून 2023 को किया था। वकीलों ने अदालत में ऐसा दस्तावेज़ दाखिल किया जिसमें ChatGPT से बनाए गए नकली उद्धरणों और फर्जी संदर्भों के साथ ऐसे न्यायिक निर्णय शामिल थे जो मौजूद ही नहीं थे। अदालत ने दुर्भावना पाई और वकीलों तथा उनकी फर्म पर संयुक्त और व्यक्तिगत रूप से 5,000 अमेरिकी डॉलर का जुर्माना लगाया। साथ ही, उन्हें अपने मुवक्किल और उन न्यायाधीशों को पत्र लिखने का आदेश दिया जिनके नाम मनगढ़ंत निर्णयों से झूठे तौर पर जोड़े गए थे। दंड पर विचार करते समय अदालत ने यह भी कहा कि फर्म ने अपने वकीलों और कर्मचारियों के लिए तकनीकी दक्षता और AI टूल पर अनिवार्य निरंतर कानूनी शिक्षा की व्यवस्था की थी: यानी प्रशिक्षण घटना हो जाने के बाद दिया गया।
सीख यह नहीं है कि वकील लापरवाह होते हैं। सीख यह है कि गढ़ा हुआ संदर्भ बिल्कुल असली जैसा दिखता है, और उस पर भरोसा करने वाले व्यक्ति ने वही एक कदम छोड़ दिया जिससे गलती पकड़ी जा सकती थी: स्रोत खोलकर देखना। कामकाज में AI के अधिकांश मतिभ्रम छोटे होते हैं, जैसे ग्राहक के ईमेल में डिलीवरी की गलत तारीख या प्रस्तुति में गढ़ा हुआ आँकड़ा, लेकिन चूक एक ही होती है।
देखना चाहते हैं कि यह किसी भूमिका से कैसे जुड़ता है?
टीम के लिए नियोजित परीक्षण के बारे में जानें ↗क्या AI का हैलुसिनेशन अब भी एक समस्या है?
हाँ। विक्रेताओं ने मददगार सुविधाएँ जोड़ी हैं, जैसे स्रोतों के संदर्भ सहित वेब खोज और अपलोड की गई फ़ाइलों से जवाब देने की क्षमता। लेकिन कोई भी यह दावा नहीं करता कि उसने मतिभ्रम पूरी तरह ख़त्म कर दिया है। Claude के लिए Anthropic के अपने दस्तावेज़ कहते हैं कि उसकी सुझाई गई तकनीकें मतिभ्रम कम करती हैं, लेकिन उन्हें पूरी तरह ख़त्म नहीं करतीं। वे महत्वपूर्ण जानकारी की पुष्टि करने की सलाह भी देते हैं, ख़ासकर बड़े असर वाले फ़ैसलों के लिए। Gmail और स्प्रेडशीट में Gemini के बारे में Google के सहायता पृष्ठ चेतावनी देते हैं कि Gemini की सुविधाएँ ग़लत या अनुपयुक्त जानकारी सुझा सकती हैं।
इस दावे को संदेह से देखें कि कोई टूल अब मनगढ़ंत जानकारी नहीं देता। बेहतर सवाल यह है कि आपकी ज़रूरत के लिए कोई खास टूल किन कार्यों को, किन जाँचों के साथ, पर्याप्त भरोसेमंद ढंग से करता है।
AI के मनगढ़ंत बातों को तथ्य के रूप में पेश करने की समस्या कैसे कम करें?
AI के मनगढ़ंत बातों को तथ्य की तरह पेश करने की संभावना घटाने के लिए, उसे अपनी ओर से जानकारी गढ़ने की गुंजाइश कम दें: उसे स्रोत दें, केवल उसी स्रोत का इस्तेमाल करने को कहें, यह कहने की अनुमति दें कि उसे नहीं पता, और हर दावे के लिए प्रमाण दिखाने को कहें। नीचे दी गई तकनीकें प्रदाताओं के मार्गदर्शन पर आधारित हैं, जिनमें ऐसी मनगढ़ंत जानकारी को कम करने के बारे में Anthropic के दस्तावेज़ भी शामिल हैं। इन्हें गैर-तकनीकी काम के लिए ढाला गया है। इनमें से कोई भी तकनीक जाँच की ज़रूरत खत्म नहीं करती।
कई तकनीकों को मिलाकर दिए गए निर्देश का उदाहरण: केवल नीचे दी गई नीति के पाठ का उपयोग करके उन तीन नियमों की सूची बनाएँ जो प्रस्थान से 48 घंटे के भीतर बुक की गई कर्मचारी यात्राओं पर लागू होते हैं। हर नियम के लिए वह सटीक वाक्य उद्धृत करें जिससे वह लिया गया है। अगर नीति में किसी बात का उल्लेख नहीं है, तो लिखें: उल्लेख नहीं है। सामान्य ज्ञान का उपयोग न करें।
स्रोत दें
टूल से यह पूछने के बजाय कि उसे क्या पता है, दस्तावेज़ पेस्ट करें या संलग्न करें। स्रोत सामग्री पर आधारित कार्यों में खुले सवालों के मुकाबले गलत नतीजे आने की संभावना कम होती है।
इसे स्रोत तक सीमित रखें
स्पष्ट रूप से कहें कि केवल दी गई सामग्री का उपयोग किया जाए, सामान्य ज्ञान का नहीं।
न जानने की गुंजाइश दें
उसे बताएँ कि जानकारी की कमी को अपनी ओर से भरने के बजाय लिखे: बताया नहीं गया है या मेरे पास पर्याप्त जानकारी नहीं है।
भाव माँगें
लंबे दस्तावेज़ों के लिए, उससे पहले हूबहू वाक्य निकालने को कहें, फिर उन्हीं उद्धरणों के आधार पर जवाब देने को कहें।
इससे इसके दावों की जाँच करवाएँ
मसौदा तैयार करने के बाद उससे हर दावे के समर्थन में एक उद्धरण खोजने और जिस दावे के समर्थन में कुछ न मिले, उसे हटाने को कहें।
अधिक सीमित सवाल पूछें
एक बार में एक स्पष्ट सवाल की जाँच करना, लंबे और खुले विषय वाले निबंध की जाँच करने से आसान है।
अलग-अलग बार चलाने के नतीजों की तुलना करें
एक ही सवाल दो बार पूछें। अगर उत्तरों में किसी तथ्य पर मतभेद हो, तो उस तथ्य को असत्यापित मानें।
व्यवहार में AI की मतिभ्रम संबंधी गलती कैसे पकड़ी जाती है?
दंत चिकित्सा की सामग्री वितरित करने वाली 25 कर्मचारियों की एक काल्पनिक कंपनी, नॉर्थगेट सप्लाई, का उदाहरण लें। एक बिक्री समन्वयक कंपनी की दो पन्नों की वापसी नीति चिपकाकर AI सहायक से पूछता है: खुले हुए उत्पादों को लौटाने के लिए हमारे यहाँ कितने दिन का समय है, और क्या दोबारा भंडारण में रखने का कोई शुल्क लगता है? दी गई नीति कहती है कि बिना खुले सामान को 30 दिनों के भीतर लौटाया जा सकता है और खुला हुआ सामान केवल खराब होने पर लौटाया जा सकता है। दोबारा भंडारण में रखने के शुल्क के बारे में उसमें कुछ नहीं कहा गया है।
पहला जवाब: खोले गए उत्पाद 14 दिनों के भीतर लौटाए जा सकते हैं, लेकिन उन पर 15 प्रतिशत का दोबारा स्टॉक में रखने का शुल्क लगेगा। दोनों बातें मनगढ़ंत हैं। नीति में न तो 14 दिनों का ज़िक्र है, न किसी शुल्क का। ये बातें विश्वसनीय लगती हैं क्योंकि कई वापसी नीतियों में ये शर्तें होती हैं। सांख्यिकीय रूप से संभावित जवाब ठीक इसी तरह गलत हो जाता है।
समन्वयक ऊपर दी गई तकनीकों के साथ सवाल दोबारा पूछता है: सिर्फ नीति का इस्तेमाल करें, संबंधित वाक्य उद्धृत करें और जानकारी न होने पर लिखा नहीं है लिखें। दूसरा जवाब: खोली गई वस्तुएँ: केवल खराब होने पर वापस की जा सकती हैं (उद्धरण: खोली गई वस्तुएँ केवल तभी वापस की जा सकती हैं जब उत्पाद खराब हो)। दोबारा स्टॉक में रखने का शुल्क: लिखा नहीं है। इस जवाब को दस्तावेज़ से कुछ ही सेकंड में जाँचा जा सकता है, और शुल्क की जानकारी में कमी को ग्राहक के ईमेल में डालने के बजाय नीति के जिम्मेदार व्यक्ति के पास भेजा जाता है।
AI के मनगढ़ंत जानकारी को तथ्य की तरह पेश करने का पता चलने पर कर्मचारी को क्या करना चाहिए?
गलत कथन हटा दें या सुधारें, फिर पता करें कि क्या कोई पहले ही उस पर भरोसा करके काम कर चुका है। अगर परिणाम केवल मसौदा था, तो उसे ठीक करके आगे बढ़ें और अपनी समीक्षा में दर्ज करें कि साधन ने वह जानकारी गढ़ी थी। अगर उसे पहले ही भेजा या साझा किया जा चुका है, या किसी फैसले में इस्तेमाल किया गया है, तो ज़िम्मेदार व्यक्ति को बताएँ ताकि वे उसे सुधार सकें। जिस दस्तावेज़ को दूसरे लोग पहले ही पढ़ चुके हों, उसे चुपचाप न बदलें।
सहकर्मियों को यह बताना भी मददगार होता है कि किस तरह के सवालों पर गलती हुई। जो टीम गलतियों के उदाहरण साझा करती है, वह उस टीम से जल्दी सीखती है जहाँ हर व्यक्ति अलग-अलग उसी गलती का पता लगाता है। किसी मसौदे की जाँच करने की चरणबद्ध विधि AI के जवाबों की तथ्य-जाँच संबंधी मार्गदर्शिका में दी गई है।
AI का खराब जवाब कब मतिभ्रम नहीं होता?
हर गलत जवाब AI का मतिभ्रम नहीं होता, और हर समस्या का हल भी अलग होता है। अगर टूल पुराना जवाब देता है क्योंकि उसके प्रशिक्षण के बाद जानकारी बदल गई थी, तो हल है ताज़ा स्रोत का इस्तेमाल। अगर जवाब पक्षपाती या एकतरफ़ा है, तो मुद्दा बात गढ़ने के बजाय नज़रिए और निष्पक्षता का है। अगर अस्पष्ट निर्देश से वह ऐसा नतीजा देता है जो उचित तो है लेकिन आपको नहीं चाहिए था, तो ज़रूरत बेहतर और स्पष्ट निर्देशों की है। और अगर कोई जानबूझकर गुमराह करने के लिए AI इस्तेमाल करता है, तो वह आचरण का मामला है, प्रशिक्षण का नहीं।
यह गाइड यह भी नहीं बता सकती कि कोई खास टूल किसी गंभीर परिणाम वाले खास काम के लिए सुरक्षित है। व्यक्तियों से जुड़े कानूनी, चिकित्सकीय, वित्तीय या रोज़गार संबंधी निर्णयों के लिए योग्य समीक्षक की मदद लें, चाहे सामग्री कैसे भी तैयार की गई हो।
स्रोत और दायरा
NIST, AI 600-1: जनरेटिव AI प्रोफ़ाइल, जुलाई 2024 ↗
Kalai, Nachum, Vempala और Zhang, भाषा मॉडल मतिभ्रम क्यों करते हैं, arXiv, 4 सितंबर 2025 ↗
Anthropic, Claude दस्तावेज़: हैलुसिनेशन कम करें, 16 अक्टूबर 2026 को देखा गया ↗
माटा बनाम एवियांका, इंक., 678 F.Supp.3d 443 (S.D.N.Y., 22 June 2023), CLLA पर उपलब्ध प्रति ↗
Gmail सहायता, Gmail में Gemini के साथ मिलकर काम करें, देखा गया 16 October 2026 ↗