AI से मिले नतीजों की तथ्य-जाँच कैसे करें

विश्वसनीय लगने वाला जवाब पर्याप्त क्यों नहीं है?

सुनने में सही लगने वाला जवाब काफ़ी नहीं है, क्योंकि जनरेटिव AI गलत कथन, गढ़ा हुआ संदर्भ या गलत प्रसंग में इस्तेमाल किया गया सही तथ्य—सब कुछ एक ही आत्मविश्वास भरे लहजे में पेश कर सकता है। सहज भाषा के कारण इन समस्याओं को नज़रअंदाज़ करना आसान हो जाता है। NIST की जनरेटिव AI प्रोफ़ाइल मनगढ़ंत जानकारी देने को एक जोखिम मानती है और अपने सुझाए गए कदमों में AI के उत्तर में दिए गए स्रोतों और संदर्भों की समीक्षा और पुष्टि को शामिल करती है।

NIST यह भी बताता है कि AI के उत्तर में गढ़े हुए तर्क या संदर्भ हो सकते हैं, जो उत्तर को सही ठहराते दिखते हैं। इससे लोग उस पर अनुचित रूप से भरोसा कर सकते हैं। तर्कों का सुव्यवस्थित क्रम इस बात का प्रमाण नहीं है कि निष्कर्ष सही है। AI के मतिभ्रम पर दी गई मार्गदर्शिका बताती है कि ऐसा क्यों होता है; यह मार्गदर्शिका जाँच की नियमित प्रक्रिया के बारे में है।

आपको सबसे पहले किन दावों की जाँच करनी चाहिए?

पहले उन दावों की जाँच करें जिनके गलत होने के परिणाम सबसे गंभीर होंगे, और जिनके मनगढ़ंत होने की आशंका सबसे ज़्यादा है। कम जोखिम वाले आंतरिक मसौदे के हर शब्द को सत्यापित करने की ज़रूरत शायद ही पड़ती है, लेकिन ग्राहक को दिए जाने वाले प्रस्ताव में मौजूद आँकड़े को हमेशा सत्यापित करना चाहिए। यह तालिका आम तरह के दावों की जाँच की प्राथमिकता तय करने का व्यावहारिक तरीका देती है। इसे अपनी टीम के काम और अनुमोदन नियमों के अनुसार ढालें।

किसी स्रोत-संदर्भ की जाँच कैसे करनी चाहिए?

मूल स्रोत खोलें और कथन का समर्थन करने वाला अंश ढूँढें। लेखक या प्रकाशक, तारीख, दायरा और लागू सीमाएँ जाँचें। अगर पृष्ठ किसी अलग आबादी, समयावधि या सवाल पर चर्चा करता है, तो लिंक का असली होना पर्याप्त नहीं है। स्रोत दर्ज करें ताकि कोई दूसरा व्यक्ति भी वही जाँच कर सके।

अगर आपको समर्थन देने वाला अंश नहीं मिलता, तो मॉडल से उसके अपने स्रोत-संदर्भ की पुष्टि कराकर वहीं न रुक जाएँ। छूटा हुआ प्रमाण माँगें, कथन हटा दें या उसे अनसुलझा चिह्नित करें। दूसरा मॉडल सवाल सुझा सकता है, लेकिन दो मॉडलों की सहमति स्वतंत्र सत्यापन नहीं है। हो सकता है दोनों ने वही सही लगने वाली गलती सीखी हो।

आँकड़ों और तर्क की जाँच कैसे करें?

दिए गए डेटा से महत्वपूर्ण संख्याओं की किसी स्वतंत्र तरीके से दोबारा गणना करें, जैसे सूत्र, पिवट तालिका या कैलकुलेटर से। इकाइयों, अवधि और तुलना के आधार की पुष्टि करें। कुल योग सही हो सकता है, लेकिन उसमें बदलाव की वजह का स्पष्टीकरण निराधार हो सकता है, इसलिए गणना को कारण संबंधी किसी भी दावे से अलग रखें।

एक काल्पनिक तालिका में, राजस्व 80 से बढ़कर 92 इकाई और लागत 50 से बढ़कर 61 इकाई हो जाती है। बदलाव क्रमशः 12 और 11 इकाई के हैं, इसलिए मार्जिन 30 से बढ़कर 31 इकाई हो जाता है। केवल तालिका से यह पता नहीं चलता कि बदलाव किसी नए ग्राहक, कीमत में परिवर्तन या समय के अंतर के कारण हुआ। ज़िम्मेदारी से तैयार सार बदलाव बताता है और कारण पर निष्कर्ष नहीं देता, या बताता है कि कौन-से साक्ष्य से कारण स्पष्ट होगा। प्रतिशत और प्रतिशत अंकों के बीच भ्रम पर भी नज़र रखें, जो तैयार किए गए सारों में आम है।

AI से तैयार दस्तावेज़ के सारांश में तथ्यों की जाँच कैसे करें?

AI से तैयार सारांश में यह जाँचें कि उसमें क्या कहा गया है और क्या छोड़ दिया गया है। शुरुआत में सारांश से तीन या चार कथन लें और हर कथन को मूल पाठ में खोजें। फिर मूल पाठ के शीर्षक या हर खंड की शुरुआती पंक्तियाँ पढ़ें और देखें कि कोई महत्वपूर्ण बात छूटी तो नहीं है। अंत में, देखें कि कहीं शर्तें हटा तो नहीं दी गई हैं: हो सकता है की जगह होगा, कुछ मामलों में की जगह हमेशा, और मंज़ूरी के अधीन का पूरी तरह गायब हो जाना।

अगर सारांश के आधार पर कोई निर्णय लिया जाना है, तो सारांश बनाने से पहले टूल से हर बिंदु के लिए उद्धरण देने को कहें। Claude के लिए Anthropic का दस्तावेज़ीकरण लंबे दस्तावेज़ों के लिए इसी तरीके की सलाह देता है। साथ ही, टूल से ऐसे सभी दावे हटाने को कहने की भी सलाह देता है जिनके समर्थन में वह उद्धरण नहीं दे सकता। इससे सारांश की जाँच जल्दी हो जाती है, हालाँकि आपको फिर भी उद्धरणों को मूल पृष्ठ से मिलाकर पढ़ना होगा।

तथ्यों की पूरी जाँच कैसी होती है?

यह अभ्यास के लिए जानबूझकर कमियाँ रखकर बनाया गया एक मसौदा है। केस्ट्रल स्टूडियो नाम की एक काल्पनिक एजेंसी ने एक सहायक से ग्राहक द्वारा दिए गए उत्पाद विवरण का सारांश प्रस्तुति के लिए एक अनुच्छेद में लिखने को कहा। विवरण में कहा गया है कि ग्राहक का योजना बनाने वाला ऐप मार्च 2025 में शुरू हुआ था, उसमें एक मुफ़्त और एक सशुल्क विकल्प है, और उसके अपने 200 उपयोगकर्ताओं के सर्वेक्षण में पाया गया कि अधिकांश लोग उसे हर सप्ताह इस्तेमाल करते थे।

AI का मसौदा: 2024 की शुरुआत में जारी हुआ यह ऐप जल्द ही ब्रिटेन के सबसे लोकप्रिय योजनाकार ऐप में से एक बन गया है। हाल के एक स्वतंत्र सर्वेक्षण के अनुसार, 85 प्रतिशत उपयोगकर्ता इसे हर दिन खोलते हैं। इसमें एक मुफ़्त और एक प्रीमियम विकल्प है।

हर दावे की जाँच। शुरुआत की तारीख: निर्देशों में मार्च 2025 लिखा है, इसलिए 2024 की शुरुआत गलत है। ब्रिटेन के सबसे लोकप्रिय योजनाकारों में से एक: निर्देशों में इसके समर्थन में कुछ नहीं है, इसलिए इसे हटाएँ। हाल का स्वतंत्र सर्वेक्षण: निर्देशों में ग्राहक द्वारा अपने उपयोगकर्ताओं के बीच किए गए सर्वेक्षण का वर्णन है, इसलिए उसे स्वतंत्र कहना गलत है। 85 प्रतिशत हर दिन: निर्देशों में कहा गया है कि अधिकांश लोग इसे साप्ताहिक रूप से इस्तेमाल करते थे, इसलिए आँकड़ा और आवृत्ति दोनों मनगढ़ंत हैं। मुफ्त और सशुल्क स्तर: इसकी पुष्टि होती है।

समीक्षित अनुच्छेद: March 2025 में शुरू किए गए इस ऐप में एक मुफ़्त स्तर और एक सशुल्क स्तर उपलब्ध है। ग्राहक द्वारा 200 उपयोगकर्ताओं के बीच किए गए सर्वेक्षण में अधिकांश ने कहा कि वे इसे हर हफ़्ते इस्तेमाल करते हैं। समीक्षा के नोट में चार सुधार और हटाए गए एक दावे का विवरण है। प्रस्तुति ग्राहक को भेजने से पहले ग्राहक खाते का प्रभारी उसे मंज़ूरी देता है।

क्या AI अपने ही दिए जवाबों के तथ्यों की जाँच करने में आपकी मदद कर सकता है?

AI तथ्यों की जाँच व्यवस्थित करने में मदद कर सकता है, लेकिन उसे पूरा नहीं कर सकता। उपयोगी निर्देशों में ये शामिल हैं: इस मसौदे के हर तथ्यात्मक दावे को क्रमांकित सूची में लिखें; हर दावे के लिए संलग्न स्रोत से उसके समर्थन वाला वाक्य उद्धृत करें या असमर्थित लिखें; और ऐसी किसी भी संख्या की पहचान करें जो स्रोत में नहीं है। इससे एक अनुच्छेद जाँच-सूची में बदल जाता है।

AI स्वतंत्र जाँच नहीं कर सकता। उसी टूल से यह पूछने पर कि उसका जवाब सही है या नहीं, आम तौर पर आश्वासन ही मिलता है। एक ही सवाल कई बार पूछकर जवाबों की तुलना करने से विरोधाभास सामने आ सकते हैं—इस तरीके का वर्णन Anthropic के दस्तावेज़ों में है। लेकिन एक जैसे जवाब हर बार गलत भी हो सकते हैं। अंतिम कदम हमेशा स्रोत को खोलकर देखना या आँकड़े की दोबारा गणना करना है।

समीक्षा के रिकॉर्ड में क्या शामिल होना चाहिए?

मूल दावा, उसकी जाँच के लिए इस्तेमाल किया गया स्रोत या गणना, सुधार और अब भी अनसुलझे सवाल दर्ज रखें। उस व्यक्ति का नाम तय करें जो यह निर्णय लेने के लिए ज़िम्मेदार है कि नतीजा अपने निर्धारित इस्तेमाल के लिए उपयुक्त है या नहीं। यह रिकॉर्ड समीक्षा की जाँच संभव बनाता है, बिना यह दिखावा किए कि हर जोखिम खत्म हो गया है।

समीक्षा का रिकॉर्ड रखने के लिए किसी विशेष सॉफ़्टवेयर की ज़रूरत नहीं है। ज़्यादातर आंतरिक कामों के लिए दस्तावेज़ के अंत में एक छोटी टिप्पणी या टिप्पणियों की शृंखला पर्याप्त है। ग्राहकों को सौंपे जाने वाले काम के लिए अपनी सामान्य अनुमोदन प्रक्रिया अपनाएँ; AI की मदद लेने से यह नहीं बदलता कि अंतिम मंज़ूरी कौन देगा।

यह जाँच-सूची कब काफ़ी नहीं होती?

यह जाँच-सूची कामकाज की नियमित प्रक्रिया है, सटीकता का प्रमाणन नहीं। यह कानूनी सलाह, नियामकीय दस्तावेज़ दाखिल करने, चिकित्सा या सुरक्षा संबंधी जानकारी, लेखापरीक्षित वित्तीय आँकड़ों या किसी व्यक्ति के रोज़गार संबंधी निर्णयों के लिए पर्याप्त नहीं है। इनके लिए योग्य समीक्षक और मूल स्रोत चाहिए, चाहे मसौदा किसी भी टूल ने बनाया हो।

यह आपकी ज़रूरत से ज़्यादा भी हो सकता है। नए विचार जुटाने, बैठक के एजेंडे के लिए सुझावों की सूची बनाने या ऐसा शुरुआती मसौदा तैयार करने में जिसे केवल आप पढ़ेंगे, हर दावे की अलग-अलग जाँच शायद ही ज़रूरी हो। जाँच की गहराई इस हिसाब से तय करें कि गलत होने के क्या परिणाम होंगे।

स्रोत और दायरा

NIST, AI 600-1: जनरेटिव AI प्रोफ़ाइल, जुलाई 2024 ↗

Anthropic, Claude दस्तावेज़: हैलुसिनेशन कम करें, 16 अक्टूबर 2026 को देखा गया ↗