মোবাইল ব্যাংকিং থেকে শুরু করে সরকারি পরিষেবা পর্যন্ত, কৃত্রিম বুদ্ধিমত্তা নিঃশব্দে বাংলাদেশ ও এর বাইরে লক্ষ লক্ষ মানুষের জীবনকে প্রভাবিত করে এমন সিদ্ধান্ত গঠন করছে। এই সিস্টেমগুলি গতি ও দক্ষতার প্রতিশ্রুতি দেয় এবং অনেক ক্ষেত্রেই তারা ঠিক তা-ই প্রদান করে। তবে যথাযথ শাসন ছাড়া, তারা ব্যক্তিদের বাদ দিতে পারে, বৈষম্য করতে পারে এবং জনগণের আস্থা ক্ষুণ্ণ করতে পারে। খাতগুলিতে কৃত্রিম বুদ্ধিমত্তার গ্রহণ ত্বরান্বিত হলে, নৈতিক ব্যবহার একটি তাৎক্ষণিক প্রয়োজন হয়ে দাঁড়ায়। এই হাতিয়ারগুলির পরিমাপ ও গতি অভূতপূর্ব। কিন্তু এই অগ্রগতির সাথে সাথে একটি মৌলিক প্রশ্ন আসে: যখন মেশিনগুলি সরাসরি মানুষের জীবনকে প্রভাবিত করে এমন সিদ্ধান্তগুলিকে প্রভাবিত করে, তখন কে দায়ী থাকে?
কৃত্রিম বুদ্ধিমত্তাকে নৈতিকভাবে ব্যবহার করা মানে হল প্রযুক্তিটি মানুষের সেবা করে, উল্টোটি নয়। স্বাস্থ্যসেবা খাতে, কৃত্রিম বুদ্ধিমত্তা রোগ সনাক্ত করতে সাহায্য করতে পারে এবং চিকিত্সার ফলাফল উন্নত করতে পারে। তবে যখন সিস্টেমগুলি পক্ষপাতদুষ্ট বা অসম্পূর্ণ তথ্যের উপর প্রশিক্ষিত হয়, তখন নির্দিষ্ট রোগীদের ভুল রোগ নির্ণয় করা হতে পারে, উপেক্ষা করা হতে পারে বা বাদ দেওয়া হতে পারে। শিক্ষা খাতে, কৃত্রিম বুদ্ধিমত্তা শিক্ষার পথকে ব্যক্তিগত করতে পারে, কিন্তু নিরাপত্তা ব্যবস্থা ছাড়া এটি ছাত্রদের গোপনীয়তাকে আপস করতে পারে বা উচ্চ-মানের ডিজিটাল হাতিয়ার সহ এবং ছাড়া ব্যক্তিদের মধ্যে বিদ্যমান অসমতা বাড়াতে পারে।
এই ঝুঁকিগুলি আর কাল্পনিক নয়। অনৈতিক কৃত্রিম বুদ্ধিমত্তার ব্যবহারের পরিণতিগুলি ইতিমধ্যেই দৃশ্যমান। মুখের স্বীকৃতি প্রযুক্তি, এখন অনেক দেশে আইন প্রয়োগকারী এবং সরকারি সংস্থাগুলি দ্বারা ব্যবহৃত, প্রায়শই গাঢ় ত্বকের রঙের মানুষদের উচ্চ হারে ভুল শনাক্ত করার ক্ষেত্রে দেখা গেছে। নথিভুক্ত ক্ষেত্রে, নির্দোষ ব্যক্তিদের প্রশ্ন করা হয়েছে, আটক করা হয়েছে বা একটি অ্যালগরিদম একটি ভুল মিল তৈরি করার কারণে জনসমক্ষে লজ্জিত করা হয়েছে। প্রযুক্তিটি ডিজাইন করা হয়েছে এমনভাবে কাজ করেছে, কিন্তু নৈতিক তত্ত্বাবধানের অনুপস্থিতি দক্ষতাকে অন্যায়ে পরিণত করেছে।
স্বয়ংক্রিয় নিয়োগ সিস্টেমগুলি আরেকটি সতর্কতা প্রদান করে। কিছু কৃত্রিম বুদ্ধিমত্তা-চালিত নিয়োগ সরঞ্জামগুলি ঐতিহাসিক তথ্যের উপর প্রশিক্ষিত হয়েছিল যা অতীতের নিয়োগ প্যাটার্নকে প্রতিফলিত করেছিল যা নির্দিষ্ট লিঙ্গ, প্রতিষ্ঠান বা সামাজিক পটভূমিকে অগ্রাধিকার দিয়েছিল। ফলে, যোগ্য প্রার্থীরা নিঃশব্দে বাদ দেওয়া হয়েছিল, কখনও জানতে পারেনি কেন তাদের আবেদনগুলি ব্যর্থ হয়েছে। যখন বৈষম্য একটি অ্যালগরিদমের ভিতরে নিহিত থাকে, তখন এটি সনাক্ত করা, চ্যালেঞ্জ করা বা সংশোধন করা আরও কঠিন হয়ে পড়ে। স্বয়ংকরণের মাধ্যমে পক্ষপাত দূর হয় না; এটি কম দৃশ্যমান এবং অবতরণ করা আরও কঠিন হয়ে পড়ে।
আর্থিক পরিষেবাগুলি সম্ভবত সবচেয়ে স্পষ্টভাবে এই ঝুঁকিগুলি চিত্রিত করে। কৃত্রিম বুদ্ধিমত্তা চালিত ঋণের স্কোরিং এবং ঝুঁকি মূল্যায়ন ব্যবস্থাগুলি ক্রমবর্ধমানভাবে সিদ্ধান্ত নিচ্ছে যে কে ঋণ, ক্রেডিট কার্ড বা এমনকি মৌলিক ব্যাংকিং পরিষেবাগুলিতে অ্যাক্সেস পেতে পারে। অনেক ক্ষেত্রে, মানুষকে কোনও স্পষ্ট ব্যাখ্যা বা আপিলের সুযোগ ছাড়াই সহায়তা অস্বীকার করা হয়। ছোট ব্যবসার মালিক, অসংগঠিত শ্রমিক এবং কম আয়ের পরিবারের জন্য, এই সিদ্ধান্তগুলি নির্ধারণ করতে পারে যে তারা এগিয়ে যায় বা পিছনে পড়ে যায়। এটি শাসনের ব্যর্থতা।
সমস্যাটি নিজেই কৃত্রিম বুদ্ধিমত্তা নয়, বরং এর ব্যবহারের চারপাশে স্পষ্ট রক্ষণাবেক্ষণের অভাব। এটি সেখানেই কৃত্রিম বুদ্ধিমত্তা শাসন সমালোচনামূলক হয়ে ওঠে। ব্যবহারিক পরিভাষায়, শাসন মানে সিদ্ধান্ত নেওয়া কে স্বয়ংক্রিয় সিদ্ধান্তের জন্য দায়ী, কীভাবে সেই সিদ্ধান্তগুলি পর্যালোচনা করা হয় এবং সিস্টেমগুলি ক্ষতি করলে কী হয়। এটি পক্ষপাতের জন্য পরীক্ষা করা, নিশ্চিত করা যে সিদ্ধান্তগুলি সরল ভাষায় ব্যাখ্যা করা যেতে পারে এবং মানুষকে দায়বদ্ধ রাখা, বিশেষ করে যখন কৃত্রিম বুদ্ধিমত্তা জীবিকা, অধিকার বা প্রয়োজনীয় পরিষেবাগুলিতে প্রভাব ফেলে।
যখন শাসন ভালভাবে করা হয়, তখন কৃত্রিম বুদ্ধিমত্তা একটি অস্পৃশ্য 'ব্ল্যাক বক্স' হতে বন্ধ করে এবং মানুষের প্রশ্ন এবং বিশ্বাস করার কিছু হয়ে ওঠে। স্বাস্থ্যসেবায়, এটি নিশ্চিত করে যে ডাক্তার, অ্যালগরিদম নয়, চূড়ান্ত ক্লিনিকাল সিদ্ধান্ত নেয়। ব্যাংকিংয়ে, এটি গ্রাহকদের স্বয়ংক্রিয় ঋণ মূল্যায়ন বুঝতে এবং চ্যালেঞ্জ করতে দেয়। পাবলিক পরিষেবাগুলিতে, এর অর্থ হল নাগরিকদের অ্যালগরিদম ব্যবহার করা হলে অবহিত করা হয় এবং ফলাফলগুলিতে আপিল করার জন্য একটি স্পষ্ট পথ দেওয়া হয়।
বাংলাদেশ একটি সময়োপযোগী উদাহরণ অফার করে যে কেন এটি বিষয়। ডিজিটাল আর্থিক পরিষেবাগুলি দ্রুত প্রসারিত হওয়ার সাথে সাথে, ব্যাংক এবং আর্থিক প্রতিষ্ঠানগুলি প্রতারণা সনাক্তকরণ, লেনদেন পর্যবেক্ষণ, গ্রাহক প্রোফাইলিং এবং ঋণ মূল্যায়নের জন্য কৃত্রিম বুদ্ধিমত্তা এবং উন্নত বিশ্লেষণের উপর ক্রমবর্ধমানভাবে নির্ভর করছে। এই স্কেলে স্বয়ংকরণ এড়ানো যায় না। তবে, বাংলাদেশ ইনস্টিটিউট অফ ব্যাংক ম্যানেজমেন্টের নেতৃত্বে আলোচনা এবং গবেষণা উদ্যোগগুলি পুনরাবৃত্তিমূলকভাবে একটি ব্যবধান তুলে ধরেছে: যখন ব্যাংকিং খাত জুড়ে ডেটা বিশ্লেষণ এবং কৃত্রিম বুদ্ধিমত্তার ব্যবহার বাড়ছে, শাসন, ব্যাখ্যাযোগ্যতা এবং গ্রাহক সচেতনতা সর্বদা তাল মিলিয়ে চলেনি। শক্তিশালী অভ্যন্তরীণ নীতি, পরিষ্কার দায়বদ্ধতা এবং নিয়ন্ত্রক প্রত্যাশার সাথে ঘনিষ্ঠ সারিবদ্ধতার প্রয়োজনীয়তা ধারাবাহিকভাবে জোর দেওয়া হয়েছে।
ব্যাংকের জন্য ভালো আই গভর্নেন্স ব্যবহারিক পদক্ষেপ দিয়ে শুরু হতে পারে। প্রতিষ্ঠানগুলোকে স্পষ্ট অভ্যন্তরীণ নীতি তৈরি করা উচিত যেখানে আই ব্যবহার করা যাবে, যেখানে এটি ব্যবহার করা উচিত নয় এবং কোন সিদ্ধান্তগুলি সর্বদা মানুষের পর্যালোচনা জড়িত হওয়া উচিত যেমন ঋণ প্রত্যাখ্যান, অ্যাকাউন্ট ফ্রিজ বা উচ্চ-ঝুঁকিপূর্ণ গ্রাহক শ্রেণীবিভাগ। গ্রাহকদের সহজ ভাষায় স্বয়ংক্রিয় সিদ্ধান্তের ব্যাখ্যা পাওয়া উচিত, সেইসাথে সহজ এবং অ্যাক্সেসযোগ্য আপিল ব্যবস্থা। নিয়মিত মডেল যাচাই, পক্ষপাত পরীক্ষা এবং ডকুমেন্টেশনকে মানক ঝুঁকি নিয়ন্ত্রণ হিসাবে বিবেচনা করা উচিত, ক্রেডিট, অপারেশনাল বা সাইবার সিকিউরিটি ঝুঁকি ব্যবস্থাপনা থেকে আলাদা নয়।
এই ব্যবস্থাগুলি নিয়ন্ত্রণ থেকে আলাদা নয়। তারা বাংলাদেশ ব্যাংক দ্বারা সেট করা বিদ্যমান প্রত্যাশার সাথে ঘনিষ্ঠভাবে সারিবদ্ধ। যা ইতিমধ্যেই শক্তিশালী ঝুঁকি ব্যবস্থাপনা, গ্রাহক সুরক্ষা, অভ্যন্তরীণ নিয়ন্ত্রণ, ডেটা নিরাপত্তা, মডেল যাচাই এবং তথ্য ও যোগাযোগ প্রযুক্তি শাসনের উপর জোর দেয়। নৈতিক আই গভর্নেন্স বর্তমান আইন এবং তত্ত্বাবধায়ক কাঠামোর সাথে সামঞ্জস্যপূর্ণ, যার মধ্যে ডেটা সুরক্ষা বাধ্যবাধকতা এবং ভোক্তা সুরক্ষা প্রয়োজনীয়তা রয়েছে। জটিলতা যোগ করার পরিবর্তে, এটি বিদ্যমান সম্মতি প্রক্রিয়াগুলিতে একীভূত করা যেতে পারে।
একই নীতিগুলি ব্যাংকিংয়ের বাইরেও প্রযোজ্য। স্বাস্থ্যসেবায়, আই টুলগুলি ক্লিনিকাল বিচারকে সমর্থন করা উচিত, তা প্রতিস্থাপন করা উচিত নয়। শিক্ষায়, ছাত্রদের ডেটা রক্ষা করতে হবে এবং স্বয়ংক্রিয় মূল্যায়নগুলি ন্যায়সঙ্গত, ব্যাখ্যাযোগ্য এবং পর্যালোচনার জন্য উন্মুক্ত হওয়া উচিত। পাবলিক পরিষেবাগুলিতে, স্বচ্ছতা অপরিহার্য। নাগরিকদের জানতে হবে যখন অ্যালগরিদমগুলি সিদ্ধান্ত প্রভাবিত করে এবং তাদের পরিষেবা বা সুযোগে প্রবেশাধিকারকে প্রভাবিত করে এমন ফলাফলগুলি প্রশ্নবিদ্ধ করার অধিকার থাকা উচিত।
কার্যকর আই গভর্নেন্সের জন্য বিপুল বিনিয়োগ বা জটিল সিস্টেমের প্রয়োজন হয় না। অনেক সুরক্ষা সহজ। সংস্থাগুলি উচ্চ-প্রভাব সিদ্ধান্তের জন্য মানুষের তত্ত্বাবধান প্রয়োজন, নিয়মিত পক্ষপাত এবং প্রভাব পরীক্ষা করতে পারে এবং স্বয়ংক্রিয় ফলাফলের জন্য স্পষ্ট ব্যাখ্যা প্রদান করতে পারে। একজন নির্দিষ্ট আই বা নীতিশাস্ত্র নেতার মাধ্যমে স্পষ্ট দায়িত্ব নির্ধারণ করে দায়িত্ব মানুষের কাছে, সিস্টেমের কাছে নয়। কিছু দেশে, পাবলিক সংস্থাগুলি এখন অ্যালগরিদম রেজিস্টার বজায় রাখে যা স্বয়ংক্রিয় সিদ্ধান্ত গ্রহণের ব্যবহার করা হয়েছে তা খোলাখুলিভাবে তালিকাভুক্ত করে, যা উল্লেখযোগ্যভাবে পাবলিক আস্থা বাড়ায়।
আন্তর্জাতিকভাবে, গতি বাড়ছে। অর্থনৈতিক সহযোগিতা ও উন্নয়ন সংস্থা এবং জাতিসংঘ শিক্ষা, বিজ্ঞান ও সাংস্কৃতিক সংস্থার মতো প্রতিষ্ঠানগুলি ন্যায্যতা, স্বচ্ছতা এবং মানব তত্ত্বাবধান কেন্দ্রিক নীতিগুলি বিকাশ করেছে। ইনস্টিটিউট অফ ইলেকট্রিক্যাল অ্যান্ড ইলেকট্রনিক্স ইঞ্জিনিয়ার্স দায়িত্বশীল এআই নকশার জন্য নৈতিক নির্দেশিকা জারি করেছে। ইউরোপে, সাধারণ ডেটা সুরক্ষা নিয়ম ব্যক্তিদের ক্ষতিকারক স্বয়ংক্রিয় সিদ্ধান্ত গ্রহণ এবং ব্যক্তিগত ডেটার অপব্যবহার থেকে রক্ষা করে। সাম্প্রতিককালে, আইএসও/আইইসি ৪২০০১ মানটি সংস্থাগুলিকে আর্থিক বা সাইবার নিরাপত্তা ঝুঁকি ব্যবস্থাপনার জন্য ব্যবহৃত পদ্ধতির অনুরূপ একটি কাঠামোগত উপায়ে এআই ঝুঁকিগুলি পরিচালনা করার জন্য সরবরাহ করেছে।
এআই আইন, প্রতিষ্ঠান এবং জনসাধারণের সচেতনতা মেলে যেতে পারে তার চেয়ে দ্রুত এগিয়ে যাচ্ছে। কার্যকর শাসন ছাড়া, দুর্বল তত্ত্বাবধান অসমতা গভীর করার, বিশ্বাসকে ক্ষতিগ্রস্ত করার এবং ডিজিটাল রূপান্তরের সুবিধাগুলিকে ক্ষুণ্ন করার ঝুঁকি রয়েছে। সরকারগুলিকে অবশ্যই উদ্ভাবনকে সুরক্ষার সাথে ভারসাম্য বজায় রাখতে হবে। সংস্থাগুলিকে অবশ্যই এআই সিস্টেমে নৈতিক চিন্তাভাবনা প্রতিষ্ঠা করতে হবে, পরবর্তী চিন্তাভাবনা নয়। পেশাদারদের অবশ্যই স্মরণ রাখতে হবে যে এআই একটি হাতিয়ার, মানব বিচারের প্রতিস্থাপন নয়। তত্ত্বাবধান, জবাবদিহিতা এবং সাধারণ বোধগম্যতা এখনও গুরুত্বপূর্ণ। শক্তিশালী শাসন, স্বচ্ছতা এবং ভাগ করা মূল্যবোধ সহ, এআই সমাজকে সমর্থন করে অন্তর্ভুক্তি, বিশ্বাস শক্তিশালী করে এবং বাংলাদেশ এবং তার বাইরে প্রকৃত সুবিধা প্রদান করতে পারে।
বিএম জাহিদুল হক একজন তথ্য নিরাপত্তা অফিসার।