AI चे आभास: ते काय असतात, का होतात आणि काय करावे

AI चे भास म्हणजे काय?

AI चे भ्रामक उत्तर म्हणजे जनरेटिव्ह AI साधनाने आत्मविश्वासाने सादर केलेली, पण खोटी, बनवलेली किंवा त्याला दिलेल्या माहितीचा आधार नसलेली निष्पत्ती. NIST च्या जनरेटिव्ह AI रूपरेषेत याच गोष्टीसाठी कल्पित कथन ही संज्ञा वापरली आहे आणि चुकीचा किंवा खोटा मजकूर तयार करून तो आत्मविश्वासाने सादर करणाऱ्या जनरेटिव्ह प्रणाली असे त्याचे वर्णन केले आहे. दिलेल्या सूचनेपासून किंवा इतर माहितीपासून भरकटणाऱ्या, किंवा त्याच संभाषणात आधी केलेल्या विधानांशी विसंगत असलेल्या निष्पत्तींचाही NIST या व्याख्येत समावेश करते.

हॅल्युसिनेशन, म्हणजेच भास, हा शब्द एक रूपक आहे आणि काहीसा दिशाभूल करणाराही आहे. साधनाला काही दिसत नसते. ते संदर्भानुसार सांख्यिकदृष्ट्या संभाव्य असा मजकूर तयार करत असते, आणि कधीकधी विश्वासार्ह वाटणारा मजकूर चुकीचा असतो. म्हणूनच असा भास क्वचितच चूक असल्यासारखा दिसतो. तो नेहमीच्या, व्यवस्थित लिहिलेल्या उत्तरासारखा दिसतो.

ChatGPT ला भास का होतात?

ChatGPT आणि तत्सम साधने चुकीची माहिती तथ्य म्हणून देतात, कारण ती पडताळलेली तथ्ये शोधून आणण्यासाठी नव्हे, तर मजकुराचा संभाव्य पुढील भाग तयार करण्यासाठी बनवलेली आहेत. NIST नुसार, अशा प्रकारची मनगढंत माहिती तयार होणे हा जनरेटिव्ह मॉडेलच्या रचनेचा नैसर्गिक परिणाम आहे: ही मॉडेल त्यांच्या प्रशिक्षण डेटातील सांख्यिकीय वितरणाचा अंदाज घेतात, आणि त्यामुळे अचूक उत्तरे तयार होऊ शकतात, तसेच वस्तुस्थितीच्या दृष्टीने चुकीची किंवा विसंगत उत्तरेही तयार होऊ शकतात. NIST नमूद करते की ही समस्या विशेषतः खुल्या स्वरूपाच्या, लांबलचक उत्तरांमध्ये आणि तज्ज्ञ ज्ञान आवश्यक असलेल्या प्रश्नांमध्ये महत्त्वाची ठरते.

कलई, नॅकम, वेम्पाला आणि झांग यांच्या 2025 मधील शोधनिबंधात या स्पष्टीकरणाचा दुसरा भाग मांडला आहे. लेखकांचा युक्तिवाद असा आहे की प्रशिक्षण आणि मूल्यमापनाच्या पद्धती अनिश्चितता मान्य करण्यापेक्षा अंदाज बांधण्याला अधिक बक्षीस देतात, कारण अनेक मानक चाचण्यांमध्ये अंदाज बांधणाऱ्या मॉडेलला माहीत नसल्याचे सांगणाऱ्या मॉडेलपेक्षा जास्त गुण मिळतात. त्यांच्या मांडणीनुसार, चाचण्यांत चांगली कामगिरी करण्यासाठी मॉडेल अनुकूल केली जातात. नेमकी यंत्रणा काहीही असो, कर्मचाऱ्यासाठी व्यावहारिक धडा तोच आहे: साधन किती आत्मविश्वासाने उत्तर देते यावरून एखादे विधान खरे आहे की नाही हे ठरत नाही.

फारशी ज्ञात नसलेली, अलीकडची, अतिशय विशिष्ट किंवा तुम्ही दिलेल्या माहितीच्या बाहेरची बाब विचारल्यास AI ने खोटी माहिती तथ्य म्हणून सांगण्याची शक्यता जास्त असते: एखादा अचूक आकडा, एखाद्या विशिष्ट व्यक्तीची भूमिका, एखादे उद्धरण, न्यायालयीन खटला किंवा एखाद्या उत्पादनाची सध्याची किंमत. तुम्ही चिकटवलेल्या दस्तऐवजावरच काम करण्यास साधनाला सांगितल्यास ही शक्यता कमी होते, पण पूर्णपणे नाहीशी होत नाही.

कामाच्या ठिकाणी AI चे भ्रामक प्रतिसाद कसे दिसतात?

कामाच्या ठिकाणी AI चे भास सहसा खरे वाटणाऱ्या छोट्या, नेमक्या तपशिलांच्या रूपात दिसतात. कर्मचाऱ्यांना सर्वाधिक आढळणारे प्रकार या यादीत आहेत. हे प्रकार ओळखायला शिकल्यावर ते पकडणे सोपे होते.

AI चे भ्रामक उत्तर ओळखले गेले नाही तर काय होते?

सर्वाधिक परिचित सार्वजनिक उदाहरण म्हणजे माटा विरुद्ध अविआन्का हे प्रकरण. त्याचा निर्णय न्यूयॉर्कच्या दक्षिण जिल्ह्यासाठीच्या अमेरिकन जिल्हा न्यायालयात 22 June 2023 रोजी झाला. वकिलांनी न्यायालयात दाखल केलेल्या दस्तऐवजात अस्तित्वात नसलेले न्यायनिर्णय होते. त्यात ChatGPT ने तयार केलेली बनावट उद्धरणे आणि बनावट संदर्भ होते. न्यायालयाने गैरहेतू असल्याचे ठरवून वकील आणि त्यांच्या संस्थेला संयुक्तपणे व स्वतंत्रपणे 5,000 अमेरिकी डॉलर्सचा आर्थिक दंड ठोठावला. तसेच त्यांना आपल्या अशिलाला आणि बनावट निर्णयांना ज्यांची नावे खोटेपणाने जोडली होती त्या न्यायाधीशांना पत्र लिहिण्याचे आदेश दिले. दंडाचा विचार करताना न्यायालयाने नोंदवले की संस्थेने आपल्या वकिलांसाठी आणि कर्मचाऱ्यांसाठी तंत्रज्ञानविषयक क्षमता आणि AI साधनांबाबत अनिवार्य सातत्यपूर्ण कायदेविषयक शिक्षणाची व्यवस्था केली होती: म्हणजेच, घटना घडल्यानंतरचे प्रशिक्षण.

यातून शिकण्यासारखे हे नाही की वकील निष्काळजी असतात. मुद्दा असा आहे की बनावट संदर्भ खऱ्या संदर्भासारखाच दिसतो, आणि त्यावर विसंबणाऱ्या व्यक्तीने तो पकडता आला असता अशी एकच पायरी वगळली: मूळ स्रोत उघडून पाहणे. कामाच्या ठिकाणी AI ने तथ्य म्हणून मांडलेली चुकीची माहिती बहुतेकदा यापेक्षा किरकोळ असते, जसे ग्राहकाच्या ईमेलमधील चुकीची वितरण तारीख किंवा प्रस्तावाच्या सादरीकरणातील बनवलेली आकडेवारी; पण चूक तीच असते.

AI ची भ्रामक उत्तरे ही अजूनही समस्या आहे का?

होय. पुरवठादारांनी संदर्भांसह वेब शोध आणि अपलोड केलेल्या फाइल्समधून उत्तरे देण्याची क्षमता यांसारखी उपयुक्त वैशिष्ट्ये जोडली आहेत, पण त्यांपैकी कोणीही भ्रामक उत्तरे पूर्णपणे दूर केल्याचा दावा केलेला नाही. Claude साठीच्या Anthropic च्या स्वतःच्या दस्तऐवजांनुसार, त्यांनी सुचवलेल्या तंत्रांमुळे भ्रामक उत्तरे कमी होतात, पण पूर्णपणे थांबत नाहीत. विशेषतः मोठे परिणाम होऊ शकणाऱ्या निर्णयांसाठी महत्त्वाच्या माहितीची पडताळणी करण्याचा सल्लाही ते देतात. Gmail आणि स्प्रेडशीटमधील Gemini साठीच्या Google च्या मदत पानांवर इशारा दिला आहे की Gemini ची वैशिष्ट्ये चुकीची किंवा अयोग्य माहिती सुचवू शकतात.

एखादे साधन आता भ्रामक उत्तरे देतच नाही असा कोणताही दावा संशयाने पाहा. त्यापेक्षा अधिक उपयुक्त प्रश्न असा आहे: तुमच्या उद्देशासाठी, कोणत्या तपासण्यांसह, कोणती कामे एखादे साधन पुरेशा विश्वासार्हपणे करते?

AI ने खोटी माहिती तथ्य म्हणून मांडण्याचे प्रकार कसे कमी करता येतील?

साधनाला स्वतःहून माहिती बनवण्याचा वाव कमी केल्याने भ्रामक उत्तरे कमी होतात: त्याला स्रोत द्या, फक्त तोच स्रोत वापरण्यास सांगा, माहीत नसल्यास तसे सांगण्याची मुभा द्या आणि प्रत्येक दाव्यासाठी पुरावा दाखवण्यास सांगा. खालील तंत्रे साधन पुरवठादारांच्या मार्गदर्शनावर आधारित आहेत. यात भ्रामक उत्तरे कमी करण्याबाबतच्या Anthropic च्या दस्तऐवजांचाही समावेश आहे. ही तंत्रे अतांत्रिक कामांसाठी अनुकूल केली आहेत. यांपैकी कोणतेही तंत्र पडताळणीची गरज दूर करत नाही.

अनेक तंत्रे एकत्र वापरणाऱ्या सूचनेचे उदाहरण: फक्त खाली दिलेल्या धोरणाच्या मजकुराचा वापर करून, प्रस्थानाच्या 48 तासांच्या आत आरक्षित केलेल्या कर्मचारी प्रवासाला लागू होणारे तीन नियम लिहा. प्रत्येक नियमासाठी, तो ज्या वाक्यातून घेतला आहे ते वाक्य जसेच्या तसे उद्धृत करा. धोरणात एखाद्या बाबीचा उल्लेख नसेल, तर नमूद केलेले नाही असे लिहा. सामान्य ज्ञान वापरू नका.

AI ने खोटी माहिती तथ्य म्हणून मांडल्याचे प्रत्यक्षात कसे ओळखले जाते?

दंतचिकित्सेसाठी लागणाऱ्या साहित्याचे वितरण करणारी नॉर्थगेट सप्लाय ही 25 कर्मचारी असलेली काल्पनिक कंपनी विचारात घ्या. विक्री समन्वयक कंपनीचे दोन पानांचे परतावा धोरण सहाय्यकात पेस्ट करतो आणि विचारतो: उघडलेली उत्पादने परत करण्यासाठी किती मुदत आहे आणि पुन्हा साठ्यात घेण्यासाठी शुल्क आकारले जाते का? दिलेल्या धोरणात म्हटले आहे की न उघडलेल्या वस्तू 30 दिवसांत परत करता येतात, उघडलेल्या वस्तू केवळ सदोष असतील तरच परत करता येतात, आणि पुन्हा साठ्यात घेण्याच्या शुल्काबद्दल त्यात काहीही म्हटलेले नाही.

पहिले उत्तर: उघडलेली उत्पादने 14 दिवसांच्या आत परत करता येतात, मात्र त्यासाठी 15 टक्के पुनर्साठवण शुल्क लागते. हे दोन्ही तपशील बनवलेले आहेत. धोरणात कुठेही 14 दिवसांचा किंवा शुल्काचा उल्लेख नाही. अनेक परतावा धोरणांत असे तपशील असतात म्हणून ते विश्वासार्ह वाटतात; सांख्यिकदृष्ट्या शक्य वाटणारे उत्तर नेमके असेच चुकते.

समन्वयक वरील पद्धती वापरून प्रश्न पुन्हा विचारतो: फक्त धोरण वापरा, संबंधित वाक्य उद्धृत करा, माहिती नसल्यास नमूद केलेले नाही असे लिहा. दुसरे उत्तर: उघडलेल्या वस्तू: दोष असल्यासच परत करता येतात (उद्धरण: उघडलेल्या वस्तू फक्त उत्पादनात दोष असल्यासच परत करता येतील). पुन्हा साठ्यात घेण्याचे शुल्क: नमूद केलेले नाही. हे उत्तर दस्तऐवजाशी काही सेकंदांत तपासता येते आणि शुल्काबाबतची उणीव ग्राहकाच्या ईमेलमध्ये जाण्याऐवजी धोरणाची जबाबदारी असलेल्या व्यक्तीकडे जाते.

AI ने खोटी माहिती तथ्य म्हणून दिल्याचे आढळल्यावर कर्मचाऱ्याने काय करावे?

खोटे विधान काढून टाका किंवा दुरुस्त करा, त्यानंतर कोणी आधीच त्यावर अवलंबून कृती केली आहे का ते ठरवा. तयार केलेला मजकूर केवळ मसुदा असेल, तर तो दुरुस्त करून पुढे जा आणि साधनाने तो तपशील बनवला होता, अशी नोंद तुमच्या परीक्षणात करा. तो आधीच पाठवला असेल, इतरांना दिला असेल किंवा एखाद्या निर्णयासाठी वापरला असेल, तर जबाबदार व्यक्तीला सांगा, जेणेकरून ती दुरुस्ती करू शकेल. इतरांनी आधीच वाचलेल्या दस्तऐवजात गुपचूप दुरुस्ती करू नका.

कोणत्या प्रकारच्या प्रश्नांमुळे चूक झाली, हे सहकाऱ्यांना सांगणेही उपयोगी ठरते. काय चुकले याची उदाहरणे एकमेकांना सांगणारा संघ, प्रत्येकाने तीच चूक स्वतंत्रपणे शोधून काढणाऱ्या संघापेक्षा लवकर शिकतो. मसुदा तपासण्याची टप्प्याटप्प्याची पद्धत AI ने दिलेल्या मजकुरातील तथ्ये तपासण्याच्या मार्गदर्शिकेत आहे.

AI चे चुकीचे उत्तर कधी भ्रामक निर्मिती नसते?

प्रत्येक चुकीचे उत्तर म्हणजे AIचा आभास नसतो आणि त्यावरील उपायही वेगवेगळे असतात. प्रशिक्षणानंतर माहिती बदलल्यामुळे साधनाने कालबाह्य उत्तर दिले, तर त्यावर उपाय म्हणजे अद्ययावत स्रोत. उत्तर पूर्वग्रहदूषित किंवा एकतर्फी असेल, तर प्रश्न माहिती बनवण्याचा नसून मांडणीचा आणि निष्पक्षतेचा आहे. अस्पष्ट सूचनेवरून तर्कसंगत पण नको असलेला परिणाम मिळाला, तर अधिक स्पष्ट सूचना देणे हा उपाय आहे. आणि कोणी जाणीवपूर्वक दिशाभूल करण्यासाठी AI वापरत असेल, तर तो वर्तनाचा प्रश्न आहे, प्रशिक्षणाचा नाही.

विशिष्ट उच्च-जोखमीच्या कामासाठी एखादे साधन सुरक्षित आहे, असेही हा मार्गदर्शक सांगू शकत नाही. व्यक्तींविषयीचे कायदेशीर, वैद्यकीय, आर्थिक किंवा रोजगारविषयक निर्णय घेताना, मजकूर कसा तयार झाला याची पर्वा न करता पात्र तपासनीसाची मदत घ्या.

स्रोत आणि व्याप्ती

NIST, AI 600-1: निर्मितीक्षम AI रूपरेषा, July 2024 ↗

कलई, नाचुम, वेम्पाला आणि झांग, भाषा मॉडेल्सना भास का होतात, arXiv, 4 September 2025 ↗

Anthropic, Claude दस्तऐवज: भ्रामक उत्तरे कमी करा, 16 ऑक्टोबर 2026 रोजी पाहिले ↗

माटा विरुद्ध अव्हिआन्का, इन्क., 678 F.Supp.3d 443 (S.D.N.Y., 22 June 2023), CLLA वर उपलब्ध प्रत ↗

Gmail मदत, Gmail मध्ये Gemini सोबत काम करा, पाहिले: 16 October 2026 ↗

Google दस्तऐवज संपादक मदत, Google स्प्रेडशीटमध्ये Gemini सोबत काम करा, पाहिले: 16 October 2026 ↗