AI হ্যালুসিনেশন: কী, কেন হয় এবং করণীয়

AI হ্যালুসিনেশন কী?

AI হ্যালুসিনেশন হলো জেনারেটিভ AI টুলের এমন ফলাফল, যা আত্মবিশ্বাসের সঙ্গে উপস্থাপন করা হলেও ভুল, বানানো বা টুলটিকে দেওয়া তথ্য দ্বারা সমর্থিত নয়। NIST-এর জেনারেটিভ AI প্রোফাইলে একই বিষয়ের জন্য কনফ্যাবুলেশন শব্দটি ব্যবহার করা হয়েছে। সেখানে একে জেনারেটিভ ব্যবস্থার ভুল বা মিথ্যা কনটেন্ট তৈরি ও আত্মবিশ্বাসের সঙ্গে উপস্থাপন করা হিসেবে বর্ণনা করা হয়েছে। NIST এই সংজ্ঞায় এমন ফলাফলও অন্তর্ভুক্ত করেছে, যা নির্দেশনা বা অন্য ইনপুট থেকে সরে যায়, অথবা একই কথোপকথনে আগে বলা কথার বিরোধিতা করে।

হ্যালুসিনেশন শব্দটি একটি রূপক, এবং কিছুটা বিভ্রান্তিকর। টুলটি অবাস্তব কিছু দেখছে না। এটি এমন লেখা তৈরি করছে যা সংশ্লিষ্ট প্রসঙ্গে পরিসংখ্যানগতভাবে সম্ভাব্য, আর কখনো কখনো বিশ্বাসযোগ্য মনে হওয়া সেই লেখা ভুল হয়। এ কারণেই হ্যালুসিনেশনকে সচরাচর ভুল বলে মনে হয় না। বরং সেটি স্বাভাবিক, ভালোভাবে লেখা উত্তর বলেই মনে হয়।

ChatGPT কেন ভুল তথ্যকে সত্য হিসেবে উপস্থাপন করে?

ChatGPT ও একই ধরনের টুল হ্যালুসিনেশন তৈরি করে, কারণ এগুলো যাচাইকৃত তথ্য খুঁজে আনার জন্য নয়, বরং লেখার পরের সম্ভাব্য অংশ তৈরি করার জন্য বানানো হয়েছে। NIST কনফ্যাবুলেশনকে জেনারেটিভ মডেলের নকশার স্বাভাবিক ফল হিসেবে বর্ণনা করে: এগুলো প্রশিক্ষণের তথ্যের পরিসংখ্যানগত বণ্টনের কাছাকাছি একটি রূপ তৈরি করে। এতে সঠিক ফল আসতে পারে, আবার তথ্যগতভাবে ভুল বা অসংগত ফলও আসতে পারে। NIST উল্লেখ করে, উন্মুক্ত ধরনের দীর্ঘ উত্তর এবং বিশেষজ্ঞ জ্ঞান দরকার এমন প্রশ্নের ক্ষেত্রে সমস্যাটি বিশেষভাবে প্রাসঙ্গিক।

কালাই, নাখুম, ভেম্পালা ও ঝাংয়ের 2025 সালের একটি গবেষণাপত্র এই ব্যাখ্যার দ্বিতীয় অংশ তুলে ধরে। লেখকদের যুক্তি হলো, প্রশিক্ষণ ও মূল্যায়ন পদ্ধতিতে অনিশ্চয়তা স্বীকার করার চেয়ে আন্দাজ করে উত্তর দেওয়াকে বেশি পুরস্কৃত করা হয়। কারণ, অনেক মানদণ্ডভিত্তিক পরীক্ষায় যে মডেল আন্দাজ করে উত্তর দেয়, সেটি যে মডেল জানে না বলে স্বীকার করে তার চেয়ে বেশি স্কোর পায়। তাঁদের ব্যাখ্যায়, মডেলগুলোকে পরীক্ষায় ভালো করার জন্যই উন্নত করা হয়। সুনির্দিষ্ট প্রক্রিয়া যা-ই হোক, কর্মীদের জন্য ব্যবহারিক শিক্ষাটি একই: টুলের আত্মবিশ্বাস দেখে কোনো বক্তব্য সত্য কি না বোঝা যায় না।

অল্প পরিচিত, সাম্প্রতিক, খুব নির্দিষ্ট বা আপনার দেওয়া উপকরণের বাইরের কিছু সম্পর্কে জিজ্ঞাসা করলে হ্যালুসিনেশন হওয়ার সম্ভাবনা বেশি: কোনো সুনির্দিষ্ট সংখ্যা, নির্দিষ্ট ব্যক্তির পদ, উদ্ধৃতি, আদালতের মামলা বা কোনো পণ্যের বর্তমান দাম। শুধু আপনার পেস্ট করা নথির ভিত্তিতে কাজ করতে বললে এই সম্ভাবনা কমে, তবে তখনও ঘটতে পারে।

কর্মক্ষেত্রে AI হ্যালুসিনেশন কেমন হয়?

কর্মক্ষেত্রে হ্যালুসিনেশন সাধারণত এমন ছোট, নির্দিষ্ট বিবরণ হিসেবে দেখা দেয়, যা শুনতে ঠিক মনে হয়। কর্মীরা সবচেয়ে বেশি যেসব ধরনের মুখোমুখি হন, তালিকায় সেগুলো রয়েছে। এই ধরনগুলো চিনতে শিখলে ভুল ধরা সহজ হয়।

হ্যালুসিনেশন ধরা না পড়লে কী হয়?

সবচেয়ে পরিচিত প্রকাশ্য উদাহরণ হলো Mata v. Avianca মামলা, যার রায় হয় 22 June 2023 তারিখে নিউইয়র্কের সাদার্ন ডিস্ট্রিক্টের মার্কিন জেলা আদালতে। আইনজীবীরা আদালতে এমন একটি নথি জমা দেন, যাতে ChatGPT-এর তৈরি ভুয়া উদ্ধৃতি ও তথ্যসূত্রসহ অস্তিত্বহীন বিচারিক মতামত ছিল। আদালত অসৎ উদ্দেশ্য ছিল বলে সিদ্ধান্ত দেয় এবং আইনজীবী ও তাঁদের প্রতিষ্ঠানের ওপর যৌথ ও পৃথকভাবে 5,000 মার্কিন ডলার জরিমানা আরোপ করে। তাঁদের মক্কেলকে এবং বানানো মতামতগুলোর সঙ্গে যেসব বিচারকের নাম মিথ্যাভাবে জোড়া হয়েছিল তাঁদের চিঠি লিখতেও নির্দেশ দেয়। শাস্তি বিবেচনার সময় আদালত উল্লেখ করে, প্রতিষ্ঠানটি তার আইনজীবী ও কর্মীদের জন্য প্রযুক্তিগত সক্ষমতা ও AI সরঞ্জাম বিষয়ে বাধ্যতামূলক ধারাবাহিক আইনি শিক্ষার ব্যবস্থা করেছে: অর্থাৎ, ঘটনা ঘটে যাওয়ার পরে প্রশিক্ষণ।

শিক্ষাটি এই নয় যে আইনজীবীরা অসতর্ক। শিক্ষাটি হলো, বানানো তথ্যসূত্র দেখতে ঠিক আসলটির মতোই হয়, আর যিনি তার ওপর নির্ভর করেছেন তিনি সেই একমাত্র ধাপটিই বাদ দিয়েছেন যা ভুলটি ধরতে পারত: উৎস খুলে দেখা। কর্মক্ষেত্রে অধিকাংশ হ্যালুসিনেশন ছোট হয়, যেমন গ্রাহকের ইমেইলে সরবরাহের ভুল তারিখ বা প্রস্তাব উপস্থাপনার স্লাইডে বানানো পরিসংখ্যান, কিন্তু ব্যর্থতার ধরন একই।

AI হ্যালুসিনেশন কি এখনো সমস্যা?

হ্যাঁ। সরবরাহকারীরা সূত্রসহ ওয়েব অনুসন্ধান এবং আপলোড করা ফাইল থেকে উত্তর দেওয়ার মতো সহায়ক সুবিধা যোগ করেছে, তবে তাদের কেউই দাবি করে না যে তারা AI-এর হ্যালুসিনেশন দূর করেছে। Claude-এর জন্য Anthropic-এর নিজস্ব নথিতে বলা হয়েছে, তাদের সুপারিশ করা কৌশলগুলো হ্যালুসিনেশন কমায়, কিন্তু পুরোপুরি দূর করে না। সেখানে গুরুত্বপূর্ণ তথ্য যাচাই করার পরামর্শও দেওয়া হয়েছে, বিশেষ করে গুরুতর পরিণতির সম্ভাবনা আছে এমন সিদ্ধান্তের ক্ষেত্রে। Gmail ও Sheets-এ Gemini ব্যবহারের বিষয়ে Google-এর সহায়তা পৃষ্ঠাগুলো সতর্ক করে যে Gemini-এর সুবিধাগুলো ভুল বা অনুপযুক্ত তথ্য প্রস্তাব করতে পারে।

কোনো টুল আর হ্যালুসিনেশন করে না—এমন দাবি সন্দেহের চোখে দেখুন। বরং প্রশ্ন করুন, আপনার উদ্দেশ্যে কোন নির্দিষ্ট টুল কোন যাচাইব্যবস্থার সঙ্গে কোন কাজ যথেষ্ট নির্ভরযোগ্যভাবে করতে পারে।

AI-এর হ্যালুসিনেশন কীভাবে কমাতে পারেন?

টুলকে নিজে থেকে যত কম তথ্য বানাতে হয়, ততই হ্যালুসিনেশন কমে: তাকে উৎস দিন, শুধু সেই উৎস ব্যবহার করতে বলুন, জানা না থাকলে তা বলার অনুমতি দিন এবং প্রতিটি দাবির পক্ষে প্রমাণ দেখাতে বলুন। নিচের কৌশলগুলো সরবরাহকারীদের নির্দেশিকা থেকে নেওয়া, যার মধ্যে হ্যালুসিনেশন কমানো নিয়ে Anthropic-এর নথিও রয়েছে; এগুলো অপ্রযুক্তিগত কাজের উপযোগী করা হয়েছে। কোনো কৌশলই যাচাই করার প্রয়োজন দূর করে না।

একাধিক কৌশল মিলিয়ে তৈরি নির্দেশনার উদাহরণ: শুধু নিচের নীতিমালার লেখা ব্যবহার করে, যাত্রা শুরুর 48 ঘণ্টার মধ্যে বুক করা কর্মীদের ভ্রমণের ক্ষেত্রে প্রযোজ্য তিনটি নিয়মের তালিকা দিন। প্রতিটি নিয়মের জন্য যে বাক্যটি থেকে সেটি নেওয়া হয়েছে, তা হুবহু উদ্ধৃত করুন। নীতিমালায় কোনো বিষয় অন্তর্ভুক্ত না থাকলে লিখুন উল্লেখ নেই। সাধারণ জ্ঞান ব্যবহার করবেন না।

বাস্তবে হ্যালুসিনেশন ধরা হয় কীভাবে?

দাঁতের চিকিৎসার সামগ্রী বিতরণকারী একটি কাল্পনিক 25 জনের প্রতিষ্ঠান, নর্থগেট সাপ্লাইয়ের কথা ভাবুন। একজন বিক্রয় সমন্বয়কারী প্রতিষ্ঠানের দুই পৃষ্ঠার পণ্য ফেরত নীতি পেস্ট করে সহকারীকে জিজ্ঞেস করলেন: খোলা পণ্য কত দিনের মধ্যে ফেরত নেওয়া হয়, আর আবার মজুতে নেওয়ার জন্য কি কোনো ফি আছে? দেওয়া নীতিতে বলা আছে, না-খোলা পণ্য 30 দিনের মধ্যে ফেরত দেওয়া যায়, খোলা পণ্য কেবল ত্রুটিপূর্ণ হলে ফেরত দেওয়া যায়, এবং আবার মজুতে নেওয়ার ফি সম্পর্কে কিছু বলা নেই।

প্রথম উত্তর: খোলা পণ্য 14 দিনের মধ্যে ফেরত দেওয়া যাবে, তবে পুনরায় মজুত করার জন্য 15 শতাংশ ফি প্রযোজ্য। দুটো তথ্যই বানানো। নীতিতে কোথাও 14 দিন বা কোনো ফি-এর উল্লেখ নেই। অনেক ফেরত নীতিতে এমন শর্ত থাকে বলে এগুলো বিশ্বাসযোগ্য মনে হয়। পরিসংখ্যানগতভাবে সম্ভাব্য একটি উত্তর ঠিক এভাবেই ভুল হয়।

সমন্বয়কারী ওপরের কৌশলগুলো দিয়ে প্রশ্নটি আবার করেন: শুধু নীতিমালা ব্যবহার করুন, বাক্যটি উদ্ধৃত করুন, তথ্য না থাকলে উল্লেখ নেই লিখুন। দ্বিতীয় উত্তর: খোলা পণ্য: শুধু ত্রুটিপূর্ণ হলে ফেরত দেওয়া যাবে (উদ্ধৃতি: খোলা পণ্য কেবল পণ্যটি ত্রুটিপূর্ণ হলেই ফেরত দেওয়া যাবে)। পুনরায় মজুত করার ফি: উল্লেখ নেই। নথির সঙ্গে মিলিয়ে এই উত্তর কয়েক সেকেন্ডেই যাচাই করা যায়, আর ফি-সংক্রান্ত অনুপস্থিত তথ্য গ্রাহকের ইমেইলে ঢোকার বদলে নীতিমালার দায়িত্বে থাকা ব্যক্তির কাছে যায়।

AI-এর হ্যালুসিনেশন শনাক্ত করার পর একজন কর্মীর কী করা উচিত?

ভুল বক্তব্যটি সরিয়ে দিন বা সংশোধন করুন, তারপর দেখুন কেউ ইতিমধ্যে সেটির ওপর নির্ভর করেছেন কি না। ফলাফলটি শুধু খসড়া হলে, সেটি ঠিক করে এগিয়ে যান এবং আপনার পর্যালোচনায় লিখে রাখুন যে সরঞ্জামটি ওই তথ্য বানিয়েছিল। সেটি ইতিমধ্যে পাঠানো, শেয়ার করা বা কোনো সিদ্ধান্তে ব্যবহার করা হয়ে থাকলে, দায়িত্বপ্রাপ্ত ব্যক্তিকে জানান, যাতে তিনি তা সংশোধন করতে পারেন। অন্যরা ইতিমধ্যে পড়েছেন এমন নথি চুপিসারে সংশোধন করবেন না।

কোন ধরনের প্রশ্ন থেকে ভুলটি হয়েছে, তা সহকর্মীদের জানানোও কাজে আসে। যে দলে প্রত্যেকে আলাদাভাবে একই ভুল আবিষ্কার করেন, তার চেয়ে ভুলের উদাহরণ ভাগ করে নেওয়া দল দ্রুত শেখে। খসড়া যাচাইয়ের ধাপে ধাপে পদ্ধতিটি AI-এর তৈরি ফলের তথ্য যাচাইয়ের নির্দেশিকায় আছে।

কখন AI-এর খারাপ উত্তর হ্যালুসিনেশন নয়?

প্রতিটি খারাপ উত্তরই হ্যালুসিনেশন নয়, আর প্রতিটির সমাধানও আলাদা। টুলটির প্রশিক্ষণের পরে তথ্য বদলে যাওয়ায় সেটি পুরোনো উত্তর দিলে, সমাধান হলো হালনাগাদ উৎস ব্যবহার করা। পক্ষপাতদুষ্ট বা একপেশে উত্তর দিলে, সমস্যাটি মনগড়া তথ্য নয়, বরং বিষয়টি কীভাবে উপস্থাপন করা হচ্ছে এবং নিরপেক্ষতা বজায় থাকছে কি না। অস্পষ্ট নির্দেশনা অনুসরণ করে যুক্তিসংগত কিন্তু অনাকাঙ্ক্ষিত ফল দিলে, আরও স্পষ্ট নির্দেশনা দিতে হবে। আর কেউ ইচ্ছাকৃতভাবে বিভ্রান্ত করতে AI ব্যবহার করলে, সেটি আচরণগত বিষয়, প্রশিক্ষণের বিষয় নয়।

এই নির্দেশিকাও বলতে পারে না যে কোনো নির্দিষ্ট গুরুত্বপূর্ণ কাজে কোনো টুল নিরাপদ। কোনো ব্যক্তিকে নিয়ে আইনি, চিকিৎসা, আর্থিক বা কর্মসংস্থানসংক্রান্ত সিদ্ধান্তের ক্ষেত্রে, ফলাফল যেভাবেই তৈরি হোক না কেন, যোগ্য পর্যালোচকের সাহায্য নিন।

উৎস ও পরিধি

NIST, AI 600-1: জেনারেটিভ AI প্রোফাইল, জুলাই 2024 ↗

কালাই, নাচুম, ভেম্পালা ও ঝাং, ভাষা মডেল কেন হ্যালুসিনেশন করে, arXiv, 4 সেপ্টেম্বর 2025 ↗

Anthropic, Claude নির্দেশিকা: হ্যালুসিনেশন কমানো, দেখা হয়েছে 16 অক্টোবর 2026 ↗

Mata v. Avianca, Inc., 678 F.Supp.3d 443 (S.D.N.Y., 22 June 2023), CLLA-তে সংরক্ষিত অনুলিপি ↗

Gmail সহায়তা, Gmail-এ Gemini-এর সঙ্গে কাজ করুন, দেখা হয়েছে 16 October 2026 ↗

Google Docs সম্পাদক সহায়তা, Google Sheets-এ Gemini-এর সঙ্গে কাজ করুন, দেখা হয়েছে 16 October 2026 ↗