দায়িত্বশীল AI ব্যবহারের বিষয়ে একটি বিবৃতি কেন যথেষ্ট নয়?
দায়িত্বশীল AI ব্যবহারের ঘোষণা যথেষ্ট নয়, কারণ এতে শুধু অভিপ্রায় বলা হয়। মঙ্গলবার বিকেলে একজন ব্যস্ত সহকর্মী কী করবেন, সে কথা এতে কোথাও বলা থাকে না। নিয়ন্ত্রণব্যবস্থাই ঘোষণাকে বাস্তব আচরণে রূপ দেয়।
মেরিডিয়ান কভার নামে 60 জনের একটি কাল্পনিক বিমা ব্রোকার প্রতিষ্ঠানের কথা ভাবুন। এর দাবি নিষ্পত্তির দল গ্রাহকদের বিমা দাবির অবস্থা নিয়ে আসা ইমেইলের উত্তরের খসড়া করতে একটি AI সহকারী ব্যবহার শুরু করে। পরিচালকেরা কার্যক্রমপ্রধান স্যামকে বলেন, 'আমরা যেন দায়িত্বশীলভাবে AI ব্যবহার করি, তা নিশ্চিত করুন'। বর্তমানে স্যামের কাছে আছে ইন্ট্রানেটে একটি বাক্য, 'মেরিডিয়ান নৈতিক ও দায়িত্বশীলভাবে AI ব্যবহার করে', সহকারীতে ঢোকার একটি যৌথ লগইন, কোন উত্তরগুলো AI দিয়ে খসড়া করা হয়েছে তার কোনো রেকর্ড নেই, এবং এক গ্রাহকের অভিযোগ—তাঁর দাবি তখনও মূল্যায়নাধীন থাকা সত্ত্বেও তাঁকে বলা হয়েছিল যে সেটি অনুমোদিত হয়েছে।
দায়িত্বশীলভাবে AI ব্যবহারের মূল চর্চাগুলো কী?
দায়িত্বশীলভাবে AI ব্যবহারের মূল চর্চাগুলো হলো লিখিত ব্যবহারনীতি, কোথায় AI ব্যবহার হচ্ছে তার তালিকা, ঝুঁকি অনুযায়ী মানুষের পর্যালোচনার ধাপ, প্রতিটি ব্যবহারের সংক্ষিপ্ত নথি, নমুনাভিত্তিক যাচাইয়ের মাধ্যমে নজরদারি, এবং কোনো ঘটনা ঘটলে তা জানানোর ও সামলানোর ব্যবস্থা। NIST-এর AI ঝুঁকি ব্যবস্থাপনা কাঠামো এ ধরনের কাজকে চারটি ভাগে সাজায়: পরিচালননীতি নির্ধারণ, পরিস্থিতি চিহ্নিত করা, পরিমাপ করা এবং ব্যবস্থাপনা করা।
পরিচালনা: নীতিমালা লিখুন এবং দায়িত্বপ্রাপ্ত ব্যক্তিদের নাম উল্লেখ করুন
কোন টুলগুলো অনুমোদিত, কী ধরনের তথ্য দেওয়া যাবে এবং AI-এর প্রতিটি ব্যবহারের দায়িত্ব কার, তা স্পষ্ট করুন। NIST-এর বর্ণনায়, শাসনব্যবস্থা গড়ে তোলার অর্থ হলো এমন সংস্কৃতি, নীতি ও জবাবদিহি তৈরি করা, যার ওপর অন্য কাজগুলো নির্ভর করে।
প্রক্রিয়ার চিত্র তৈরি: প্রতিটি ব্যবহার ও তার প্রেক্ষাপট নথিভুক্ত করুন
প্রতিবার ব্যবহারের জন্য নিবন্ধনে এক লাইনের তথ্য রাখুন: উদ্দেশ্য, ব্যবহারকারী, টুল, সংশ্লিষ্ট তথ্য এবং ভুল হলে কারা প্রভাবিত হতে পারেন।
পরিমাপ: নির্দিষ্ট সময়সূচি অনুযায়ী মান যাচাই করুন
সমস্যা ধরতে শুধু অভিযোগের ওপর নির্ভর না করে, নিয়মিত কিছু আউটপুট নমুনা হিসেবে বেছে নিয়ে একটি সংক্ষিপ্ত যাচাইতালিকা অনুযায়ী পরীক্ষা করুন এবং ত্রুটির হার নথিভুক্ত করুন।
ব্যবস্থাপনা: যা পান তার ভিত্তিতে ব্যবস্থা নিন
নির্দেশনা সংশোধন করুন, পর্যালোচনার ধাপ আরও কঠোর করুন বা ব্যবহার স্থগিত রাখুন, আর ঘটনাগুলো নথিভুক্ত করুন যাতে একই ভুলের পুনরাবৃত্তি না হয়।
বাস্তবে AI-এর দায়িত্বশীল ব্যবহারের দুর্বল ও কার্যকর চর্চা কেমন হয়?
দুর্বল ব্যবস্থা: স্যাম দাবি নিষ্পত্তি দলকে ইমেইলে 'AI-এর উত্তর আবার ভালো করে যাচাই করতে' মনে করিয়ে দেয় এবং কর্মীদের নির্দেশিকায় একটি লাইন যোগ করে। ভালো করে যাচাই বলতে কী বোঝায় তা কেউ জানে না, একই লগইন ব্যবহার করায় কে কী পাঠিয়েছে তা বোঝা যায় না, আর অগ্রগতির পরবর্তী ভুল তথ্যটি ধরা পড়ে কেবল আরেকজন গ্রাহক অভিযোগ করার পর।
কার্যকর সংস্করণ: স্যাম শুধু এই ব্যবহারের জন্য এক পাতার নিয়ন্ত্রণপত্র লেখেন। নীতি: সহকারী উত্তরের খসড়া তৈরি করতে পারে, কিন্তু দাবি-সংক্রান্ত সিদ্ধান্ত, অর্থের পরিমাণ ও তারিখ কেবল দাবি ব্যবস্থাপনার ব্যবস্থা থেকেই নেওয়া হবে, কখনো খসড়া থেকে নয়। পর্যালোচনা: পাঠানোর আগে প্রতিটি উত্তর দায়িত্বপ্রাপ্ত কর্মী পড়বেন এবং অনুমোদন বা প্রত্যাখ্যান-সংক্রান্ত উত্তর জ্যেষ্ঠ দায়িত্বপ্রাপ্ত কর্মীর কাছে যাবে। নথিভুক্তকরণ: একটি সংক্ষিপ্ত নোটে উদ্দেশ্য, অনুমোদিত নির্দেশনা ও পর্যালোচনার নিয়ম লেখা থাকবে। পর্যবেক্ষণ: প্রতি শুক্রবার স্যাম পাঠানো উত্তর থেকে নমুনা হিসেবে 20টি বেছে নিয়ে দাবির অবস্থা, ভাষার ধরন ও প্রতিশ্রুতি যাচাই করেন। ঘটনা: গ্রাহককে কোনো ভুল তথ্য দেওয়া হলে এক দিনের মধ্যে তা এবং সংশোধনের জন্য নেওয়া পদক্ষেপ নথিভুক্ত করা হয়। প্রত্যেক দায়িত্বপ্রাপ্ত কর্মীর নিজস্ব লগইন থাকে, তাই কে কোন খসড়া তৈরি করেছেন তা শনাক্ত করা যায়।
| নিয়ন্ত্রণ | দায়িত্বপ্রাপ্ত ব্যক্তি | প্রমাণ | কত ঘন ঘন |
|---|---|---|---|
| ব্যবহার নীতি | কার্যক্রম পরিচালনার প্রধান | এক পৃষ্ঠার নিয়ন্ত্রণপত্র | প্রতি তিন মাসে পর্যালোচনা করা হয় |
| মানুষের পর্যালোচনা | বিমা দাবি ব্যবস্থাপক | প্রতিটি উত্তরে দায়িত্বপ্রাপ্ত ব্যক্তির নাম | প্রতিটি উত্তর |
| জ্যেষ্ঠ কর্মকর্তার চূড়ান্ত অনুমোদন | জ্যেষ্ঠ দায়িত্বপ্রাপ্ত ব্যক্তি | অনুমোদনের নোট | অনুমোদন ও প্রত্যাখ্যানের উত্তর |
| নমুনাভিত্তিক যাচাই | কার্যক্রম পরিচালনার প্রধান | যাচাইতালিকার ফলাফল | প্রতি সপ্তাহে, 20টি উত্তর |
| ঘটনার লগ | কার্যক্রম পরিচালনার প্রধান | নথিতে অন্তর্ভুক্তি ও সংশোধন | এক কর্মদিবসের মধ্যে |
দায়িত্বশীল AI ব্যবহারের জন্য আপনার নিয়ন্ত্রণব্যবস্থাগুলো কাজ করছে কি না, কীভাবে বুঝবেন?
আপনার নিয়ন্ত্রণব্যবস্থা কাজ করছে তখনই, যখন প্রমাণসহ তিনটি প্রশ্নের উত্তর দিতে পারেন: এই ফলাফল কে পর্যালোচনা করেছেন, কতবার ফলাফল যাচাইতালিকার শর্ত পূরণ করতে ব্যর্থ হয় এবং শেষ ঘটনার পর কী বদলেছে? কোনো উত্তর যদি হয় 'আমরা তা ধরে নিচ্ছি', তাহলে সেই নিয়ন্ত্রণব্যবস্থা শুধু কাগজেই আছে।
সতর্কসংকেতও খুঁজুন: নমুনাভিত্তিক যাচাইয়ে সব সময় উত্তীর্ণ হওয়া, যার অর্থ যাচাইতালিকা যথেষ্ট কঠোর নয়; ব্যস্ত থাকলে মানুষ যে পর্যালোচনার ধাপগুলো বাদ দেন; এবং সরঞ্জাম হালনাগাদ হওয়ার পরও নিবন্ধনে অপরিবর্তিত থাকা তথ্য।
ছোট দলে দায়িত্বশীলভাবে AI ব্যবহারের ক্ষেত্রে সাধারণ ভুলগুলো কী?
সবচেয়ে সাধারণ ভুল হলো বড় কোনো প্রতিষ্ঠানের কাঠামো নকল করে তা আর কখনো ব্যবহার না করা। অন্য ভুলগুলো হলো: যৌথ লগইনের কারণে জবাবদিহি না থাকা, জন্মদিনের বার্তা ও দাবি-সংক্রান্ত সিদ্ধান্তের জন্য একই পর্যালোচনার নিয়ম রাখা, অভিযোগ আসা পর্যন্ত পর্যবেক্ষণে কোনো পদক্ষেপ না নেওয়া এবং প্রম্পট বা নীতি না বদলে চুপচাপ সমস্যা ঠিক করে ফেলা। বেশি মূল্য যোগ করে এমন একটি ব্যবহার দিয়ে শুরু করুন, পাঁচটি নিয়ন্ত্রণব্যবস্থা নির্ধারণ করুন এবং সেখান থেকে পরিসর বাড়ান।
Tosheo.ai-এর পাঠ্যতালিকায় দায়িত্বশীল AI ব্যবহারের বিষয়টি কোথায় রয়েছে?
দায়িত্বশীল AI পাঠটি AI সাক্ষরতা কোর্সের দায়িত্বশীল AI ও নীতিমালা বিভাগে রয়েছে, নৈতিক AI পাঠের পরে এবং মানুষের পর্যালোচনা অন্তর্ভুক্ত করার নকশাবিষয়ক পাঠের আগে। হাতে-কলমে কাজে আপনাকে নিজের কাজের ভূমিকায় AI-এর একটি ব্যবহারের জন্য নিয়ন্ত্রণপত্র লিখতে বলা হয়। মূল্যায়ন নির্দেশিকা অনুযায়ী প্রতিক্রিয়ায় যাচাই করা হয়, প্রতিটি নিয়ন্ত্রণের দায়িত্বপ্রাপ্ত ব্যক্তি, প্রমাণ এবং প্রয়োগের নির্দিষ্ট বিরতি আছে কি না। দলীয় প্ল্যানের ব্যবস্থাপকেরা একই টুল ব্যবহার করেন এমন সবাইকে এই পাঠ দিতে পারেন।
উৎস ও পরিধি
OECD.AI, OECD-এর AI নীতিমালা (যাচাই করা হয়েছে 19 October 2026) ↗