AI দিয়ে তৈরি ফলাফলের তথ্য কীভাবে যাচাই করবেন

বিশ্বাসযোগ্য মনে হয় এমন উত্তরই যথেষ্ট নয় কেন?

বিশ্বাসযোগ্য শোনায় এমন উত্তরই যথেষ্ট নয়। কারণ জেনারেটিভ AI মিথ্যা বক্তব্য, বানানো সূত্র বা ভুল প্রেক্ষাপটে ব্যবহার করা সঠিক তথ্য—সবই একই আত্মবিশ্বাসী ভঙ্গিতে উপস্থাপন করতে পারে। সাবলীল ভাষার কারণে এই সমস্যাগুলো সহজেই চোখ এড়িয়ে যায়। NIST-এর জেনারেটিভ AI প্রোফাইলে ভিত্তিহীন তথ্য বানিয়ে বলাকে ঝুঁকি হিসেবে চিহ্নিত করা হয়েছে। এর প্রস্তাবিত পদক্ষেপগুলোর মধ্যে আছে AI-এর উত্তরে ব্যবহৃত উৎস ও উদ্ধৃত সূত্র পর্যালোচনা এবং যাচাই করা।

NIST আরও জানায়, AI-এর উত্তরে বানানো যুক্তি বা সূত্র থাকতে পারে, যা উত্তরটিকে সমর্থন করে বলে মনে হয় এবং মানুষকে অযথা বিশ্বাস করতে প্ররোচিত করতে পারে। সাজানো যুক্তির ধারা থাকলেই সিদ্ধান্ত সঠিক হয় না। AI-এর হ্যালুসিনেশন নিয়ে নির্দেশিকায় এর কারণ ব্যাখ্যা করা হয়েছে; এই নির্দেশিকাটি যাচাইয়ের নিয়মিত পদ্ধতি নিয়ে।

কোন দাবিগুলো আপনার আগে যাচাই করা উচিত?

যেসব দাবি ভুল হলে সবচেয়ে গুরুতর পরিণতি হতে পারে এবং যেসব দাবি বানানো হওয়ার সম্ভাবনা সবচেয়ে বেশি, সেগুলি আগে যাচাই করুন। কম ঝুঁকির অভ্যন্তরীণ খসড়ার প্রতিটি শব্দ যাচাই করার প্রয়োজন সচরাচর হয় না, কিন্তু গ্রাহকের প্রস্তাবে দেওয়া সংখ্যাটি সবসময় যাচাই করা জরুরি। সারণিটি সাধারণ ধরনের দাবিগুলির মধ্যে কোনগুলি আগে যাচাই করতে হবে, তার ব্যবহারিক নির্দেশনা দেয়। আপনার দলের কাজ ও অনুমোদনের নিয়ম অনুযায়ী এটি মানিয়ে নিন।

তথ্যসূত্র কীভাবে খতিয়ে দেখবেন?

আসল উৎসটি খুলে বক্তব্যটির সমর্থনে থাকা অংশটি খুঁজুন। লেখক বা প্রকাশক, তারিখ, প্রযোজ্য ক্ষেত্র এবং কোনো শর্ত বা সীমাবদ্ধতা আছে কি না যাচাই করুন। পৃষ্ঠাটি যদি ভিন্ন জনগোষ্ঠী, সময়কাল বা প্রশ্ন নিয়ে আলোচনা করে, তবে লিংকটি আসল হওয়াই যথেষ্ট নয়। উৎসটি লিখে রাখুন, যাতে অন্য কেউ একইভাবে যাচাই করতে পারেন।

সমর্থনকারী অংশটি খুঁজে না পেলে, মডেলকে তার নিজের দেওয়া তথ্যসূত্র নিশ্চিত করতে বলে সেখানেই থেমে যাবেন না। অনুপস্থিত প্রমাণ চান, বক্তব্যটি সরিয়ে দিন অথবা অমীমাংসিত হিসেবে চিহ্নিত করুন। দ্বিতীয় কোনো মডেল প্রশ্নের পরামর্শ দিতে পারে, কিন্তু দুটি মডেলের একমত হওয়া স্বাধীন যাচাই নয়। দুটিই একই বিশ্বাসযোগ্য মনে হওয়া ভুল শিখে থাকতে পারে।

সংখ্যাগত তথ্য ও যুক্তি কীভাবে যাচাই করবেন?

দেওয়া তথ্য থেকে সূত্র, পিভট টেবিল বা ক্যালকুলেটরের মতো স্বাধীন কোনো পদ্ধতি ব্যবহার করে গুরুত্বপূর্ণ সংখ্যাগুলো আবার হিসাব করুন। একক, সময়কাল ও তুলনার ভিত্তি নিশ্চিত করুন। মোট সঠিক হলেও কেন তা বদলেছে, সেই ব্যাখ্যার পক্ষে প্রমাণ না-ও থাকতে পারে। তাই কারণ সম্পর্কে যেকোনো দাবি থেকে গাণিতিক হিসাব আলাদা রাখুন।

একটি কাল্পনিক সারণিতে আয় 80 থেকে 92 একক এবং খরচ 50 থেকে 61 একক হয়েছে। পরিবর্তন যথাক্রমে 12 ও 11 একক, তাই লাভের পরিমাণ 30 থেকে 31 একক হয়েছে। শুধু সারণি থেকে বোঝা যায় না এই পরিবর্তন নতুন গ্রাহক, মূল্য পরিবর্তন নাকি সময়গত পার্থক্যের কারণে হয়েছে। দায়িত্বশীল সারাংশে পরিবর্তনটি বলা হয় এবং কারণ নিয়ে সিদ্ধান্ত দেওয়া হয় না, অথবা কোন প্রমাণ পেলে কারণ নিশ্চিত করা যাবে তা জানানো হয়। শতাংশ ও শতাংশ পয়েন্ট গুলিয়ে ফেলা হয়েছে কি না, সেটিও খেয়াল করুন; তৈরি করা সারাংশে এটি প্রায়ই ঘটে।

AI দিয়ে তৈরি কোনো নথির সারসংক্ষেপের তথ্য কীভাবে যাচাই করবেন?

AI-এর সারসংক্ষেপে কী বলা হয়েছে এবং কী বাদ পড়েছে, দুটিই যাচাই করুন। প্রথমে সারসংক্ষেপ থেকে তিন বা চারটি বক্তব্য বেছে নিয়ে মূল লেখায় প্রতিটি খুঁজে দেখুন। তারপর মূল লেখার শিরোনামগুলো বা প্রতিটি অংশের প্রথম কয়েক লাইন পড়ে দেখুন গুরুত্বপূর্ণ কিছু বাদ গেছে কি না। শেষে বাদ পড়া শর্তসূচক শব্দ খুঁজুন: ‘হতে পারে’ বদলে ‘হবে’ হয়ে যাওয়া, ‘কিছু ক্ষেত্রে’ বদলে ‘সবসময়’ হয়ে যাওয়া, ‘অনুমোদন সাপেক্ষে’ পুরোপুরি হারিয়ে যাওয়া।

সারসংক্ষেপের ভিত্তিতে সিদ্ধান্ত নেওয়া হলে, সারসংক্ষেপ তৈরির আগে প্রতিটি বক্তব্যের জন্য উদ্ধৃতি দিতে টুলটিকে বলুন। Claude-এর জন্য Anthropic-এর নির্দেশনায় দীর্ঘ নথির ক্ষেত্রে এই পদ্ধতি অনুসরণের পরামর্শ দেওয়া হয়েছে। পাশাপাশি, যে দাবির সমর্থনে উদ্ধৃতি দেওয়া যায় না, তা বাদ দিতেও টুলটিকে বলতে বলা হয়েছে। এতে সারসংক্ষেপ দ্রুত যাচাই করা যায়, তবে উদ্ধৃতিগুলো মূল পাতার সঙ্গে মিলিয়ে পড়তে হবে।

সম্পূর্ণ তথ্য যাচাই কেমন হয়?

অনুশীলনের জন্য এখানে ইচ্ছাকৃতভাবে ত্রুটি রাখা একটি খসড়া দেওয়া হলো। কেস্ট্রেল স্টুডিও নামের একটি কাল্পনিক সংস্থা একটি সহকারীকে গ্রাহকের দেওয়া পণ্যের সংক্ষিপ্ত বিবরণ থেকে প্রস্তাবনা উপস্থাপনার জন্য এক অনুচ্ছেদের সারসংক্ষেপ তৈরি করতে বলেছিল। বিবরণে বলা আছে, গ্রাহকের পরিকল্পনা তৈরির অ্যাপটি মার্চ 2025-এ চালু হয়েছিল, এতে একটি বিনামূল্যের ও একটি অর্থপ্রদানের স্তর আছে, এবং নিজেদের 200 জন ব্যবহারকারীর ওপর জরিপে দেখা গেছে, তাঁদের বেশিরভাগই এটি প্রতি সপ্তাহে ব্যবহার করেন।

AI-এর খসড়া: 2024 সালের শুরুর দিকে চালু হওয়া অ্যাপটি অল্প সময়েই যুক্তরাজ্যের অন্যতম জনপ্রিয় পরিকল্পনা অ্যাপ হয়ে উঠেছে। সাম্প্রতিক একটি স্বাধীন সমীক্ষায় দেখা গেছে, 85 শতাংশ ব্যবহারকারী প্রতিদিন এটি খোলেন। এতে একটি বিনামূল্যের স্তর ও একটি প্রিমিয়াম স্তর রয়েছে।

প্রতিটি দাবি ধরে যাচাই। চালুর তারিখ: কাজের বিবরণে March 2025 বলা আছে, তাই 2024 সালের শুরুর দিক বলা ভুল। যুক্তরাজ্যের সবচেয়ে জনপ্রিয় পরিকল্পনাকারী সরঞ্জামগুলোর একটি: কাজের বিবরণে এর কোনো সমর্থন নেই, তাই বাদ দিন। সাম্প্রতিক স্বাধীন সমীক্ষা: বিবরণে গ্রাহকের নিজের ব্যবহারকারীদের ওপর করা সমীক্ষার কথা আছে, তাই স্বাধীন বলা ভুল। 85 শতাংশ প্রতিদিন: বিবরণে বলা হয়েছে বেশির ভাগ ব্যবহারকারী এটি সাপ্তাহিকভাবে ব্যবহার করতেন, তাই সংখ্যা ও ব্যবহারের হার দুটোই বানানো। বিনামূল্যের ও অর্থপ্রদত্ত স্তর: তথ্যসমর্থিত।

পর্যালোচিত অনুচ্ছেদ: মার্চ 2025-এ চালু হওয়া অ্যাপটিতে বিনামূল্যের ও সশুল্ক দুটি স্তর রয়েছে। গ্রাহকের নিজের করা 200 ব্যবহারকারীর জরিপে অধিকাংশই বলেছেন, তাঁরা এটি প্রতি সপ্তাহে ব্যবহার করেন। পর্যালোচনার নোটে চারটি সংশোধন ও সরিয়ে দেওয়া একটি দাবির তালিকা রয়েছে, এবং উপস্থাপনাটি গ্রাহকের কাছে যাওয়ার আগে গ্রাহক-সম্পর্কের দায়িত্বপ্রাপ্ত প্রধান অনুমোদন দেন।

AI কি নিজের তৈরি উত্তরের তথ্য যাচাই করতে আপনাকে সাহায্য করতে পারে?

তথ্য যাচাইয়ের কাজ গুছিয়ে নিতে AI সাহায্য করতে পারে, কিন্তু পুরো যাচাই শেষ করতে পারে না। কার্যকর নির্দেশনার উদাহরণ: এই খসড়ার প্রতিটি তথ্যগত দাবি নম্বরযুক্ত তালিকায় দাও; প্রতিটি দাবির জন্য সংযুক্ত উৎস থেকে সেটির সমর্থনকারী বাক্যটি উদ্ধৃত করো অথবা লেখো সমর্থন নেই; এবং উৎসে নেই এমন যেকোনো সংখ্যাগত তথ্য চিহ্নিত করো। এগুলো একটি অনুচ্ছেদকে যাচাইতালিকায় পরিণত করে।

AI যা করতে পারে না, তা হলো স্বাধীন যাচাইকারীর ভূমিকা পালন করা। একই টুলকে তার উত্তর ঠিক কি না জিজ্ঞেস করলে সাধারণত আশ্বাসই পাওয়া যায়। একই প্রশ্ন কয়েকবার করে উত্তরগুলো তুলনা করলে অসংগতি ধরা পড়তে পারে—Anthropic-এর নথিতে এই কৌশলের বর্ণনা আছে। তবে উত্তরগুলো প্রতিবার এক হলেও প্রতিবারই ভুল হতে পারে। শেষ ধাপ সব সময়ই হলো উৎস খুলে দেখা বা সংখ্যাটি আবার হিসাব করা।

পর্যালোচনার নথিতে কী কী থাকা উচিত?

মূল দাবি, তা যাচাই করতে ব্যবহৃত উৎস বা হিসাব, সংশোধন এবং এখনও অমীমাংসিত প্রশ্ন রেখে দিন। তৈরি করা ফলাফলটি নির্ধারিত ব্যবহারের উপযুক্ত কি না, সেই সিদ্ধান্তের দায়িত্ব কার, তা নামসহ উল্লেখ করুন। এই নথি থাকলে সব ঝুঁকি দূর হয়েছে এমন ভান না করেই পর্যালোচনাটি খতিয়ে দেখা যায়।

পর্যালোচনার রেকর্ড রাখতে বিশেষ সফটওয়্যার লাগে না। বেশিরভাগ অভ্যন্তরীণ কাজের জন্য নথির শেষে একটি ছোট নোট বা ধারাবাহিক মন্তব্যই যথেষ্ট। গ্রাহককে দেওয়া কাজের ক্ষেত্রে আপনার স্বাভাবিক অনুমোদন প্রক্রিয়া অনুসরণ করুন; AI-এর সহায়তা নিলেও চূড়ান্ত অনুমোদনের দায়িত্ব বদলায় না।

কখন এই যাচাইতালিকা যথেষ্ট নয়?

এই যাচাইতালিকা নিয়মিত কাজের একটি পদ্ধতি, নির্ভুলতার সনদ নয়। আইনি পরামর্শ, নিয়ন্ত্রক সংস্থায় দাখিলযোগ্য নথি, চিকিৎসা বা নিরাপত্তাসংক্রান্ত তথ্য, নিরীক্ষিত আর্থিক পরিসংখ্যান কিংবা কোনো ব্যক্তির কর্মসংস্থানসংক্রান্ত সিদ্ধান্তের জন্য এটি যথেষ্ট নয়। যে টুলেই খসড়া তৈরি হোক না কেন, এসবের জন্য যোগ্য পর্যালোচক ও মূল উৎস দরকার।

এটি আপনার প্রয়োজনের চেয়ে বেশিও হতে পারে। নতুন ধারণা খোঁজা, সভার আলোচ্যসূচির ধারণার তালিকা বা শুধু আপনার পড়ার জন্য তৈরি প্রাথমিক খসড়ার প্রতিটি দাবি আলাদা করে যাচাই করার প্রয়োজন সচরাচর হয় না। ভুল হলে তার পরিণতি কতটা গুরুতর হবে, সেই অনুযায়ী যাচাইয়ের গভীরতা ঠিক করুন।

উৎস ও পরিধি

NIST, AI 600-1: জেনারেটিভ AI প্রোফাইল, জুলাই 2024 ↗

Anthropic, Claude নির্দেশিকা: হ্যালুসিনেশন কমানো, দেখা হয়েছে 16 অক্টোবর 2026 ↗