AI નું હેલ્યુસિનેશન શું છે?
AIનું ભ્રામક સર્જન એટલે સામગ્રી સર્જતા AI સાધનનું એવું પરિણામ જે આત્મવિશ્વાસપૂર્વક રજૂ થાય, પરંતુ ખોટું હોય, ઉપજાવી કાઢેલું હોય અથવા તેને અપાયેલી માહિતીથી સમર્થિત ન હોય. NISTની જનરેટિવ AI રૂપરેખા આ જ બાબત માટે કલ્પિત વાતને હકીકત તરીકે રજૂ કરવાનો શબ્દપ્રયોગ કરે છે અને તેને એવી સર્જનાત્મક પ્રણાલીઓ તરીકે વર્ણવે છે જે ભૂલભરેલી કે ખોટી સામગ્રી બનાવે અને આત્મવિશ્વાસપૂર્વક રજૂ કરે. NISTની આ વ્યાખ્યામાં સૂચના કે અન્ય આપેલી માહિતીથી ભટકતાં પરિણામો અથવા એ જ વાતચીતમાં અગાઉ કરેલા નિવેદનોનો વિરોધ કરતાં પરિણામોનો પણ સમાવેશ થાય છે.
હેલ્યુસિનેશન શબ્દ એક રૂપક છે અને થોડો ગેરમાર્ગે દોરનારો પણ છે. સાધનને કોઈ ભાસ થતા નથી. તે સંદર્ભમાં આંકડાકીય રીતે સંભવિત લાગતું લખાણ તૈયાર કરે છે, અને ક્યારેક એવું લખાણ ખોટું હોય છે. તેથી જ હેલ્યુસિનેશન ભાગ્યે જ ભૂલ જેવું દેખાય છે. તે સામાન્ય, સારી રીતે લખાયેલા જવાબ જેવું દેખાય છે.
ChatGPTને તથ્યભ્રમ કેમ થાય છે?
ChatGPT અને તેના જેવાં સાધનો ભ્રામક તથ્યો રજૂ કરે છે કારણ કે તેઓ ચકાસેલાં તથ્યો શોધી લાવવા માટે નહીં, પરંતુ લખાણમાં આગળ શું આવવાની સંભાવના છે તે મુજબ લખાણ બનાવવા માટે રચાયેલાં છે. NIST મુજબ, તથ્યો ઘડી કાઢવાં એ જનરેટિવ મોડેલો જે રીતે બનાવવામાં આવે છે તેનું સ્વાભાવિક પરિણામ છે: તેઓ પોતાની તાલીમના ડેટાના આંકડાકીય વિતરણનો અંદાજ લગાવે છે, અને તેનાથી સચોટ જવાબો મળી શકે છે, પરંતુ હકીકતની દૃષ્ટિએ ખોટા કે અસંગત જવાબો પણ મળી શકે છે. NIST નોંધે છે કે આ સમસ્યા ખાસ કરીને મુક્ત સ્વરૂપના લાંબા જવાબો અને નિષ્ણાત જ્ઞાનની જરૂર હોય તેવા પ્રશ્નોમાં મહત્વની છે.
કલાઈ, નાચુમ, વેમ્પાલા અને ઝાંગનો 2025 નો સંશોધન લેખ આ સમજૂતીનો બીજો ભાગ રજૂ કરે છે. લેખકો દલીલ કરે છે કે તાલીમ અને મૂલ્યાંકનની પ્રક્રિયાઓ અનિશ્ચિતતા સ્વીકારવા કરતાં અનુમાન લગાવવાને વધુ ગુણ આપવાનું વલણ ધરાવે છે, કારણ કે ઘણા માપદંડો પર અનુમાન લગાવતું મોડેલ પોતાને ખબર નથી એમ કહેનારા મોડેલ કરતાં વધુ ગુણ મેળવે છે. તેમની સમજ મુજબ, મોડેલોને કસોટીઓમાં સારું પ્રદર્શન કરવા માટે તૈયાર કરવામાં આવે છે. તેની પાછળની ચોક્કસ પ્રક્રિયા ગમે તે હોય, કર્મચારી માટેનો વ્યવહારુ બોધ એક જ છે: સાધનનો આત્મવિશ્વાસ કોઈ નિવેદન સાચું છે કે નહીં તે વિશે કશું જ જણાવતો નથી.
જ્યારે તમે ઓછી જાણીતી, તાજેતરની, અત્યંત ચોક્કસ અથવા તમે આપેલી સામગ્રીની બહારની કોઈ બાબત વિશે પૂછો છો, ત્યારે AI ભ્રમણા થવાની શક્યતા વધુ હોય છે: કોઈ ચોક્કસ આંકડો, કોઈ નામિત વ્યક્તિની ભૂમિકા, કોઈ અવતરણ, અદાલતી કેસ કે ઉત્પાદનની હાલની કિંમત. જ્યારે સાધનને તમે ચોંટાડેલા દસ્તાવેજના આધારે જ કામ કરવાનું કહેવામાં આવે, ત્યારે તેની શક્યતા ઓછી હોય છે, જોકે તેમ છતાં તે થઈ શકે છે.
કામ પર AIના ભ્રમજનિત જવાબો કેવા હોય છે?
કામકાજમાં AIના ભ્રામક જવાબો સામાન્ય રીતે એવી નાની, ચોક્કસ વિગતોના રૂપમાં આવે છે જે સાચી લાગે છે. આ યાદીમાં એવા પ્રકારો સામેલ છે જે કર્મચારીઓને સૌથી વધુ જોવા મળે છે. આ પ્રકારોને ઓળખતાં શીખવાથી તેમને પકડવા સરળ બને છે.
ઉપજાવી કાઢેલા સ્રોતો
એવો સંદર્ભ, અહેવાલનું શીર્ષક, URL કે અવતરણ જે અસ્તિત્વમાં જ ન હોય, અથવા અસ્તિત્વમાં હોય પણ કંઈક જુદું જ કહેતું હોય.
મનઘડંત વિગતો
તમે આપેલી સામગ્રીમાં ક્યાંય ન હોય એવી તારીખ, કિંમત, ટકાવારી, નામ કે હોદ્દો.
નિશ્ચિતતાનું સ્તર વધારીને રજૂ કરવું
જે સારાંશ શક્યતાને નિશ્ચિતતામાં, અથવા સૂચવેલી તારીખને પુષ્ટિ થયેલી તારીખમાં ફેરવી દે.
પુરાવા વિનાનાં કારણો
આંકડો કેમ બદલાયો તેનું એવું કારણ જે ડેટામાં જોવા મળતું નથી.
ઉપજાવી કાઢેલી તર્કપ્રક્રિયા
સુવ્યવસ્થિત, પગલુંદરપગલું તર્ક જે ખોટા જવાબ તરફ દોરી જાય છે. NIST નોંધે છે કે જવાબ ખોટો હોય ત્યારે પણ મોડેલો ક્યારેક તેના માટે તાર્કિક પગલાં આપે છે.
પોતાની જ વાતનો વિરોધાભાસ
સાધને થોડા સંદેશા પહેલાં કહેલી કોઈ બાબત સાથે વિરોધાભાસ ધરાવતું નિવેદન.
AIની ભ્રમણાથી ઊભી થયેલી ખોટી માહિતી પકડાય નહીં તો શું થાય?
સૌથી જાણીતું જાહેર ઉદાહરણ Mata v. Avianca છે, જેનો નિર્ણય ન્યૂયોર્કના સધર્ન ડિસ્ટ્રિક્ટની યુએસ ડિસ્ટ્રિક્ટ કોર્ટમાં 22 June 2023ના રોજ આવ્યો હતો. વકીલોએ અદાલતમાં એવો દસ્તાવેજ રજૂ કર્યો જેમાં ChatGPTએ બનાવેલાં ખોટાં અવતરણો અને ખોટા સંદર્ભો સાથે અસ્તિત્વમાં ન હોય તેવા ન્યાયિક અભિપ્રાયો સામેલ હતા. અદાલતે દુર્ભાવનાપૂર્ણ વર્તન થયું હોવાનું ઠરાવ્યું અને વકીલો તથા તેમની પેઢી પર સંયુક્ત અને વ્યક્તિગત રીતે 5,000 યુએસ ડૉલરનો દંડ લાદ્યો. ઉપરાંત, તેમને પોતાના અસીલને અને બનાવટી અભિપ્રાયો સાથે જેમનાં નામ ખોટી રીતે જોડવામાં આવ્યાં હતાં તે ન્યાયાધીશોને પત્ર લખવાનો આદેશ આપ્યો. દંડ નક્કી કરતી વખતે અદાલતે નોંધ્યું કે પેઢીએ તેના વકીલો અને કર્મચારીઓ માટે તકનીકી કુશળતા અને AI સાધનો અંગે ફરજિયાત સતત કાનૂની શિક્ષણ ગોઠવ્યું હતું: બીજા શબ્દોમાં કહીએ તો, ઘટના બન્યા પછી તાલીમ.
અહીં શીખ એ નથી કે વકીલો બેદરકાર હોય છે. શીખ એ છે કે બનાવટી સંદર્ભ અસલી સંદર્ભ જેવો જ દેખાય છે, અને તેના પર આધાર રાખનાર વ્યક્તિએ તેને પકડી શકાતું એવું એક પગલું છોડી દીધું: સ્રોત ખોલીને જોવો. કાર્યસ્થળે AI દ્વારા થતી મોટાભાગની ભ્રામક રજૂઆતો નાની હોય છે, જેમ કે ગ્રાહકને મોકલેલા ઈમેઇલમાં ખોટી વિતરણ તારીખ અથવા રજૂઆતમાં બનાવટી આંકડો, પરંતુ નિષ્ફળતાનું મૂળ એક જ છે.
આ કોઈ ભૂમિકા સાથે કેવી રીતે જોડાય છે તે જોવા માંગો છો?
ટીમ માટે આયોજન હેઠળના અજમાયશી ઉપયોગ વિશે જાણો ↗શું AIના ભ્રામક જવાબો હજી પણ સમસ્યા છે?
હા. વિક્રેતાઓએ મદદરૂપ સુવિધાઓ ઉમેરી છે, જેમ કે સ્રોતના સંદર્ભો સાથે વેબ શોધ અને અપલોડ કરેલી ફાઇલોમાંથી જવાબ આપવાની ક્ષમતા, પરંતુ તેમાંથી કોઈ પણ AIની ભ્રામક રચનાઓ સંપૂર્ણપણે દૂર કરી હોવાનો દાવો કરતું નથી. Claude માટેના Anthropicના પોતાના દસ્તાવેજો કહે છે કે તેની ભલામણ કરેલી પદ્ધતિઓ ભ્રામક રચનાઓ ઘટાડે છે, પરંતુ તેને સંપૂર્ણપણે દૂર કરતી નથી, અને મહત્વની માહિતીની ખરાઈ કરવાની સલાહ આપે છે, ખાસ કરીને ગંભીર પરિણામો ધરાવતા નિર્ણયો માટે. Gmail અને Sheetsમાં Gemini માટેનાં Googleનાં સહાય પૃષ્ઠો ચેતવણી આપે છે કે Geminiની સુવિધાઓ ખોટી અથવા અયોગ્ય માહિતી સૂચવી શકે છે.
કોઈ સાધન હવે ભ્રામક તથ્યો ઘડતું નથી એવા કોઈપણ દાવાને શંકાની નજરે જુઓ. વધુ સારો પ્રશ્ન એ છે કે તમારા હેતુ માટે, કઈ ચકાસણીઓ સાથે, કોઈ ચોક્કસ સાધન કયાં કાર્યો પૂરતા ભરોસાપાત્ર રીતે કરી શકે છે.
AI ના ભ્રમો કેવી રીતે ઘટાડી શકાય?
સાધનને પોતાની તરફથી ઓછી વિગતો ઘડવી પડે એવું કરીને તમે ભ્રામક જવાબો ઘટાડી શકો છો: તેને સ્રોત આપો, માત્ર એ જ સ્રોત વાપરવાનું કહો, તેને જાણ ન હોય તો તેમ કહેવાની છૂટ આપો અને દરેક દાવા માટે પુરાવા બતાવવા કહો. નીચેની પદ્ધતિઓ સાધન પ્રદાતાઓના માર્ગદર્શનમાંથી લેવામાં આવી છે, જેમાં ભ્રામક જવાબો ઘટાડવા અંગેના Anthropicના દસ્તાવેજો પણ સામેલ છે, અને બિનતકનીકી કામ માટે અનુકૂળ બનાવવામાં આવી છે. આમાંથી કોઈ પણ પદ્ધતિ ચકાસણીની જરૂર દૂર કરતી નથી.
કેટલીક પદ્ધતિઓ જોડતી સૂચનાનું ઉદાહરણ: માત્ર નીચે આપેલા નીતિના લખાણનો ઉપયોગ કરીને, પ્રસ્થાનના 48 કલાકની અંદર બુક કરાયેલી કર્મચારીઓની મુસાફરીને લાગુ પડતા ત્રણ નિયમોની યાદી બનાવો. દરેક નિયમ માટે, તે જે વાક્યમાંથી લેવાયો છે તે વાક્ય બરાબર ઉતારો. જો નીતિમાં કોઈ બાબત આવરી લેવાઈ ન હોય, તો ઉલ્લેખ નથી એમ લખો. સામાન્ય જ્ઞાનનો ઉપયોગ કરશો નહીં.
મૂળ સ્રોત આપો
સાધનને તે શું જાણે છે તે પૂછવાને બદલે દસ્તાવેજ પેસ્ટ કરો અથવા જોડો. આપેલી સામગ્રી પર આધારિત કાર્યોમાં ખુલ્લા પ્રશ્નો કરતાં નિષ્ફળતાની શક્યતા ઓછી હોય છે.
તેને મૂળ સ્રોત પૂરતું મર્યાદિત રાખો
સ્પષ્ટપણે કહો કે ફક્ત આપેલી સામગ્રીનો ઉપયોગ કરવો, સામાન્ય જ્ઞાનનો નહીં.
ન જાણતા હોવું સ્વીકાર્ય બનાવો
ખૂટતી માહિતી જાતે ભરવાને બદલે ઉલ્લેખ નથી અથવા મારી પાસે પૂરતી માહિતી નથી એવું લખવા કહો.
ભાવપત્રકો માગો
લાંબા દસ્તાવેજો માટે, પહેલાં મૂળ વાક્યો જેમનાં તેમ તારવવા કહો, પછી એ અવતરણોના આધારે જવાબ આપવા કહો.
તેને તેના દાવા ચકાસવા કહો
મુસદ્દો તૈયાર થયા પછી, તેને દરેક દાવાને સમર્થન આપતું અવતરણ શોધવા અને જેને સમર્થન ન મળે એવો દરેક દાવો દૂર કરવા કહો.
વધુ ચોક્કસ પ્રશ્નો પૂછો
લાંબા, ખુલ્લા જવાબવાળા નિબંધ કરતાં એક સમયે એક ચોક્કસ પ્રશ્નનો જવાબ ચકાસવો સરળ છે.
અલગ-અલગ વખત ચલાવવાથી મળેલાં પરિણામોની સરખામણી કરો
એક જ પ્રશ્ન બે વાર પૂછો. જો જવાબોમાં કોઈ હકીકત વિશે મતભેદ હોય, તો તે હકીકતને અચકાસેલી માનો.
AIએ ખોટી વાતને હકીકત તરીકે રજૂ કરી હોય ત્યારે તેને વ્યવહારમાં કેવી રીતે પકડી શકાય છે?
દંતચિકિત્સા માટેની સામગ્રીનું વિતરણ કરતી 25-વ્યક્તિઓની એક કાલ્પનિક કંપની, નોર્થગેટ સપ્લાયનો વિચાર કરો. વેચાણ સંયોજક કંપનીની બે પાનાંની માલ પરત લેવાની નીતિ પેસ્ટ કરીને સહાયકને પૂછે છે: ખોલેલી વસ્તુઓ પરત કરવાની સમયમર્યાદા કેટલી છે, અને શું ફરી સ્ટોકમાં મૂકવાની ફી છે? આપેલી નીતિ કહે છે કે ન ખોલેલી વસ્તુઓ 30 દિવસની અંદર પરત કરી શકાય છે, ખોલેલી વસ્તુઓ માત્ર ખામીયુક્ત હોય તો જ પરત કરી શકાય છે, અને ફરી સ્ટોકમાં મૂકવાની ફી વિશે કંઈ કહેતી નથી.
પહેલો જવાબ: ખોલેલા ઉત્પાદનો 14 દિવસની અંદર પરત કરી શકાય છે, પરંતુ તેના પર ફરી સ્ટોકમાં મૂકવા માટે 15 ટકા શુલ્ક લાગશે. આ બંને વિગતો ઘડી કાઢેલી છે. નીતિમાં ક્યાંય 14 દિવસ કે કોઈ શુલ્કનો ઉલ્લેખ નથી. ઘણી પરત કરવાની નીતિઓમાં આવી વિગતો હોવાથી તે સાચી લાગે છે, અને આ જ રીતે આંકડાકીય રીતે સંભવિત લાગતો જવાબ ખોટો પડે છે.
સંકલનકર્તા ઉપરની પદ્ધતિઓ સાથે પ્રશ્ન ફરી પૂછે છે: ફક્ત નીતિનો ઉપયોગ કરો, વાક્ય ટાંકો, માહિતી ન હોય તો ઉલ્લેખ નથી લખો. બીજો જવાબ: ખોલેલી વસ્તુઓ: ખામીયુક્ત હોય તો જ પરત કરી શકાય (અવતરણ: ખોલેલી વસ્તુઓ ફક્ત ઉત્પાદન ખામીયુક્ત હોય ત્યારે જ પરત કરી શકાય છે). ફરી જથ્થામાં સામેલ કરવાની ફી: ઉલ્લેખ નથી. દસ્તાવેજ સામે આ જવાબ સેકન્ડોમાં ચકાસી શકાય છે અને ફી અંગેની ખૂટતી માહિતી ગ્રાહકના ઇમેઇલમાં જવાને બદલે નીતિ માટે જવાબદાર વ્યક્તિ પાસે જાય છે.
AIએ ખોટી વાતને હકીકત તરીકે રજૂ કરી હોવાનું જણાય ત્યારે કર્મચારીએ શું કરવું જોઈએ?
ખોટું નિવેદન દૂર કરો અથવા સુધારો, પછી નક્કી કરો કે કોઈએ તેના પર પહેલેથી આધાર રાખ્યો છે કે નહીં. જો આઉટપુટ માત્ર મુસદ્દો હતું, તો તેને સુધારીને આગળ વધો અને તમારી સમીક્ષામાં નોંધો કે સાધને તે વિગત ઉપજાવી કાઢી હતી. જો તે પહેલેથી મોકલાઈ ગયું હોય, શેર થયું હોય અથવા નિર્ણય લેવામાં વપરાયું હોય, તો જવાબદાર વ્યક્તિને જણાવો જેથી તેઓ તેને સુધારી શકે. અન્ય લોકો પહેલેથી વાંચી ચૂક્યા હોય એવા દસ્તાવેજમાં ચૂપચાપ સુધારો ન કરો.
કયા પ્રકારના પ્રશ્નોથી ભૂલ થઈ તે સહકર્મીઓને જણાવવું પણ મદદરૂપ થાય છે. શું ખોટું થયું તેનાં ઉદાહરણો વહેંચતી ટીમ, દરેક વ્યક્તિ એક જ નિષ્ફળતા અલગથી અનુભવે તેવી ટીમ કરતાં વધુ ઝડપથી શીખે છે. મુસદ્દો તપાસવાની પગલુંદરપગલું પદ્ધતિ AIના જવાબની તથ્યચકાસણી માટેની માર્ગદર્શિકામાં છે.
AIનો ખરાબ જવાબ ક્યારે ભ્રામક કલ્પના નથી હોતો?
દરેક ખરાબ જવાબ ભ્રામક કલ્પના નથી હોતો, અને તેનો ઉપાય પણ અલગ હોય છે. જો તાલીમ પછી માહિતી બદલાઈ હોવાથી સાધન જૂનો જવાબ આપે, તો ઉપાય છે વર્તમાન સ્રોત. જો તે પક્ષપાતી કે એકતરફી જવાબ આપે, તો મુદ્દો રજૂઆતના દૃષ્ટિકોણ અને નિષ્પક્ષતાનો છે, બનાવટી માહિતીનો નહીં. જો તે અસ્પષ્ટ સૂચનાને અનુસરીને વાજબી પરંતુ અનિચ્છિત પરિણામ આપે, તો ઉપાય છે વધુ સ્પષ્ટ સૂચના. અને જો કોઈ જાણીજોઈને ગેરમાર્ગે દોરવા AI વાપરે, તો તે આચરણનો પ્રશ્ન છે, તાલીમનો નહીં.
આ માર્ગદર્શિકા એ પણ કહી શકતી નથી કે કોઈ ચોક્કસ સાધન કોઈ ચોક્કસ ગંભીર પરિણામોવાળા કાર્ય માટે સલામત છે. વ્યક્તિઓ અંગેના કાનૂની, તબીબી, નાણાકીય અથવા રોજગાર સંબંધિત નિર્ણયો માટે, પરિણામ ગમે તે રીતે તૈયાર થયું હોય, લાયકાત ધરાવતા સમીક્ષકની મદદ લો.
સ્રોતો અને વ્યાપ
NIST, AI 600-1: જનરેટિવ AI પ્રોફાઇલ, July 2024 ↗
Kalai, Nachum, Vempala અને Zhang, ભાષા મોડેલો ભ્રમણા કેમ કરે છે, arXiv, 4 સપ્ટેમ્બર 2025 ↗
Anthropic, Claude દસ્તાવેજો: ભ્રામક જવાબો ઘટાડવા, 16 October 2026ના રોજ જોયું ↗
માતા વિરુદ્ધ એવિયાન્કા, ઇન્ક., 678 F.Supp.3d 443 (S.D.N.Y., 22 June 2023), CLLA પર ઉપલબ્ધ નકલ ↗
Gmail સહાય, Gmail માં Gemini સાથે સહકારથી કામ કરો, 16 October 2026 ના રોજ જોયેલું ↗