মানুষ দিয়ে পর্যালোচনার ধাপটি প্রায়ই কেন ব্যর্থ হয়?
মানুষের পর্যালোচনার ধাপ প্রায়ই ব্যর্থ হয়, কারণ পর্যালোচক শুধু AI-এর সিদ্ধান্তটি দেখেন, তাঁকে অতিরিক্তসংখ্যক বিষয় যাচাই করতে হয় এবং কী খুঁজতে হবে তা কখনো জানানো হয় না। ফলে অনুমোদন দেওয়াই সবচেয়ে দ্রুত উপায় হয়ে দাঁড়ায়। একে নামমাত্র অনুমোদন বলা হয়; এতে তদারকির চেহারা থাকে, কিন্তু প্রকৃত তদারকি থাকে না।
ওকব্রিজ সাপ্লাইজ নামে 25 জনের একটি কাল্পনিক পাইকারি পরিবেশকের কথা ভাবুন। একটি AI টুল সরবরাহকারীর চালানের সঙ্গে ক্রয়াদেশ মিলিয়ে প্রতিটিকে 'মিলেছে' বা 'মেলেনি' হিসেবে চিহ্নিত করে। অর্থ বিভাগের কর্মী প্রিয়া মিলে যাওয়া চালানগুলো পরিশোধের অনুমোদন দেন। বৃহস্পতিবার তাঁর কাজের তালিকায় দেখা যায়: '212টি চালান, 205টি মিলেছে, 7টি মেলেনি'। প্রতিটি সারিতে সরবরাহকারী, টাকার পরিমাণ এবং একটি সবুজ টিকচিহ্ন দেখা যায়। গত মাসে মাত্র 40 ইউনিট সরবরাহ করা হলেও 400 ইউনিটের একটি চালান পরিশোধ করা হয়েছিল, কারণ টুলটি অর্ডার নম্বর মিলিয়েছিল আর প্রিয়া টিকচিহ্ন দেখে অনুমোদন দিয়েছিলেন।
প্রক্রিয়ার কোন কোন জায়গায় মানুষের তত্ত্বাবধান থাকা উচিত?
AI-এর কোনো ফলাফলের কারণে অর্থের লেনদেন, কোনো কিছুতে কারও প্রবেশাধিকার, গ্রাহককে দেওয়া প্রতিশ্রুতি কিংবা আইনগত বা নিরাপত্তাসংক্রান্ত ফলাফলে পরিবর্তন এলে সেখানে মানুষের পর্যালোচনা থাকা উচিত। সেই পরিবর্তন ফেরানো কঠিন হয়ে যাওয়ার আগেই তা করতে হবে। নিয়মিত ও সহজে ফেরানো যায় এমন ফলাফল নমুনা বেছে যাচাই করা যেতে পারে।
উচ্চ ঝুঁকির ব্যবস্থায় মানুষের তদারকি নিয়ে EU AI Act-এর ধারায় একই কথা নিয়ন্ত্রক ভাষায় বলা হয়েছে: যাঁরা কোনো ব্যবস্থা তদারক করেন, তাঁদের সেটির সীমাবদ্ধতা বুঝতে হবে, স্বয়ংক্রিয় ব্যবস্থার ফলকে অন্ধভাবে বিশ্বাস করার প্রবণতা সম্পর্কে সচেতন থাকতে হবে, এবং এর আউটপুট উপেক্ষা, প্রত্যাহার বা বন্ধ করতে সক্ষম হতে হবে। আইনটি আপনার ক্ষেত্রে প্রযোজ্য না হলেও, নকশার লক্ষ্য হিসেবে এগুলো উপযোগী।
প্রক্রিয়ায় মানুষের পর্যালোচনা রাখার কী কী ব্যবস্থা রয়েছে?
পর্যালোচনার চারটি প্রচলিত পদ্ধতি আছে। কোনটি উপযুক্ত, তা নির্ভর করে ভুলের ক্ষতি কতটা এবং কতগুলো বিষয় পর্যালোচনা করতে হবে, তার ওপর।
কাজের আগে অনুমোদন দিন
কোনো পদক্ষেপ নেওয়ার আগে একজন ব্যক্তি প্রতিটি ফলাফল অনুমোদন করেন। বেশি অর্থ জড়িত কিন্তু সংখ্যায় কম এমন কাজে এটি ব্যবহার করুন, যেমন নির্দিষ্ট সীমার বেশি অর্থ প্রদান বা গ্রাহককে অর্থ ফেরত দেওয়া।
ব্যতিক্রম পর্যালোচনা
AI স্পষ্ট ক্ষেত্রগুলো সামলায় এবং অনিশ্চিত বা অস্বাভাবিক ক্ষেত্রগুলো একজন মানুষের কাছে পাঠায়। এটি কেবল তখনই কাজ করে, যখন পাঠানোর নিয়মগুলো পরীক্ষা করা হয় এবং কিছু 'স্পষ্ট' ক্ষেত্রও যাচাই করা হয়।
নমুনাভিত্তিক নিরীক্ষা
তৈরি করা ফলাফল পাঠিয়ে দেওয়া হয়, পরে একজন ব্যক্তি এলোমেলোভাবে বাছাই করা কিছু নমুনা যাচাই করেন। অভ্যন্তরীণ সারসংক্ষেপের মতো বেশি পরিমাণে করা হয় এবং ভুল হলে সংশোধন করা যায়, এমন কাজে ব্যবহার করুন।
আগে নিজে চেষ্টা করুন
ব্যক্তি AI-এর পরামর্শ দেখার আগে নিজের মত তৈরি করেন। এতে সময় বেশি লাগে, তবে গুরুত্বপূর্ণ বিচারবিবেচনায় AI-এর উত্তরকে প্রাথমিক ভিত্তি ধরে নেওয়ার প্রভাব থেকে সুরক্ষা মেলে।
পর্যালোচনার দুর্বল ও উন্নত পরিকল্পনা কেমন হয়?
দুর্বল নকশা: প্রতিটি চালান সবুজ বা লাল চিহ্ন দিয়ে প্রিয়ার কাছে যায়। সে 20 মিনিটে 205টি টিকচিহ্ন অনুমোদন করে। প্রতিটি টিকচিহ্ন কেন দেওয়া হয়েছে তা বোঝার কোনো উপায় নেই, আর সে এখনও মন দিয়ে দেখছে কি না তা যাচাই করারও ব্যবস্থা নেই।
উন্নত ব্যবস্থা: নির্ধারিত অঙ্কের নিচের চালানে অর্ডার নম্বর, পরিমাণ ও একক মূল্য—সবই সরবরাহপত্রের সঙ্গে মিললে স্বয়ংক্রিয়ভাবে অর্থ পরিশোধ হয়। Priya প্রতি সপ্তাহে দৈবভাবে বেছে নেওয়া দশটি চালান পরীক্ষা করেন। সীমার বেশি অঙ্কের চালান, নতুন সরবরাহকারীর চালান বা পরিমাণে যেকোনো অমিল তাঁর কাছে যায়। সেখানে তিনটি তথ্য পাশাপাশি থাকে এবং এক লাইনে AI-এর কারণ দেওয়া থাকে, যেমন 'চালানে পরিমাণ 400, সরবরাহ হয়েছে 40'। মাসে একবার অর্থ বিভাগের প্রধান আগে থেকে জানা দুটি ভুল কাউকে না জানিয়ে পর্যালোচনার তালিকায় যোগ করেন, সেগুলো ধরা পড়ছে কি না নিশ্চিত করতে। Priya যখনই AI-এর সিদ্ধান্ত বদলান, তা নথিভুক্তও করেন। হঠাৎ সিদ্ধান্ত বদলানোর সংখ্যা শূন্য হয়ে গেলে সেটিকে সাফল্য নয়, সতর্কসংকেত হিসেবে দেখা হয়।
পর্যালোচনা সত্যিই হচ্ছে, নাকি না দেখেই অনুমোদন দেওয়া হচ্ছে, তা কীভাবে যাচাই করবেন?
পর্যালোচনা সত্যিই হচ্ছে কি না তা মেপে যাচাই করুন: প্রতিটি বিষয়ে কত সময় ব্যয় হচ্ছে, পর্যালোচকেরা কতবার AI-এর সিদ্ধান্ত বদলাচ্ছেন এবং পরীক্ষার জন্য ইচ্ছাকৃতভাবে রাখা ভুলগুলো ধরা পড়ছে কি না। যে পর্যালোচক কখনো টুলের সঙ্গে দ্বিমত করেন না, তিনি হয় খুব ভালো ফলাফল পর্যালোচনা করছেন, নয়তো আদৌ পর্যালোচনা করছেন না। কোনটি ঘটছে তা জানতে প্রমাণ দরকার।
শুধু সিদ্ধান্ত নয়, প্রমাণও দেখান
দ্রুত যাচাই করার জন্য AI-এর উত্তরের পাশে উৎসের তথ্যক্ষেত্রগুলো রাখুন।
অপেক্ষমাণ কাজের সংখ্যা সীমিত রাখুন
কাজের পরিমাণ এত বেশি হলে যে একজন ব্যক্তি তা যথাযথভাবে পর্যালোচনা করতে পারেন না, তাঁকে আরও চেষ্টা করতে না বলে পদ্ধতি বদলান।
কর্তৃত্ব দিন
অনুমতি না নিয়েই পর্যালোচকদের প্রত্যাখ্যান করতে বা সাময়িকভাবে থামাতে পারতে হবে।
চক্রটি পরীক্ষা করুন
মাঝেমধ্যে জানা ভুল যুক্ত করুন এবং সেগুলো ধরা পড়ছে কি না নথিবদ্ধ করুন।
প্রক্রিয়ায় মানুষের পর্যালোচনা রাখার ক্ষেত্রে সাধারণ ভুলগুলো কী?
সবচেয়ে সাধারণ ভুল হলো প্রক্রিয়ায় আর কিছু না বদলে একজন পর্যালোচক যোগ করা, তারপর তাঁর অনুমোদনকে ফলাফল সঠিক হওয়ার প্রমাণ বলে ধরে নেওয়া। অন্য ভুলগুলো হলো: একজনকে দিনে শত শত বিষয় অনুমোদন করতে বলা, প্রমাণ দেখতে বাড়তি ক্লিকের প্রয়োজন রাখা, অপরিবর্তনীয় সিদ্ধান্তের ক্ষেত্রে কাজ হয়ে যাওয়ার পরে পর্যালোচনা করা এবং মানুষের হস্তক্ষেপে সিদ্ধান্ত বদলানোর হার কমছে কেন তা না জেনেই সন্তুষ্ট হওয়া। স্বয়ংক্রিয় ব্যবস্থার ওপর অতিরিক্ত নির্ভরতার পক্ষপাত সতর্ক মানুষকেও প্রভাবিত করে, তাই ভালো উদ্দেশ্যের চেয়ে প্রক্রিয়ার নকশা বেশি গুরুত্বপূর্ণ।
Tosheo.ai-এর পাঠ্যতালিকায় প্রক্রিয়ায় মানুষের তত্ত্বাবধান রাখার বিষয়টি কোথায় রয়েছে?
AI সাক্ষরতা কোর্সের দায়িত্বশীল AI ও নীতিমালা বিভাগে, নৈতিক AI এবং দায়িত্বশীল AI-এর নিয়ন্ত্রণব্যবস্থার পরে রয়েছে প্রক্রিয়ায় মানুষের পর্যালোচনার পাঠটি। স্বয়ংক্রিয়ভাবে কাজ করা AI ও স্বয়ংক্রিয়করণের পাঠেও বিষয়টি ফিরে আসে, যেখানে সরঞ্জামগুলো শুধু পরামর্শ না দিয়ে নিজেরাই কাজ করে। হাতে-কলমে করার কাজে আপনাকে নিজের কাজের একটি পর্যালোচনার ধাপ নতুন করে সাজাতে বলা হয়। মূল্যায়ন-মানদণ্ডভিত্তিক প্রতিক্রিয়ায় যাচাই করা হয়, পর্যালোচনার পর্যায়, প্রমাণ ও সিদ্ধান্ত নেওয়ার ক্ষমতা—সবই স্পষ্ট কি না।