এআই গভর্ন্যান্স ও ঝুঁকির মেট্রিক
এআই ব্যবহারে একটি লাইভ সেবার যেকোনো পরিবর্তনের মতোই শৃঙ্খলা লাগে: কোথায় আছে, কার মালিকানায়, কতটা ঝুঁকিপূর্ণ, কীভাবে পরীক্ষিত ও বদলানো হয়, এবং কিছু ভুল হলে কী ঘটে জানুন, মানুষ প্রকৃতপক্ষে প্রয়োগ করতে পারে এমন তদারকিসহ।
সারসংক্ষেপ ও অনুপ্রেরণা
এআই একটি প্রতিষ্ঠানে অনেক দরজা দিয়ে আসে। একটি দল একটি কোডিং সহকারী গ্রহণ করে। একজন বিক্রেতা ইতিমধ্যে ব্যবহারে থাকা একটি পণ্যে একটি জেনারেটিভ ফিচার যোগ করে। একজন কর্মী একটি পাবলিক টুলে একটি নথি পেস্ট করেন। একটি বিভাগ অনুরোধ স্কোর করতে একটি মডেল গড়ে। প্রতিটি নিজস্ব সুবিধা ও ঝুঁকিসহ এআই-এর একটি ব্যবহার, এবং কয়েকটি এক জায়গায় দৃশ্যমান। গভর্ন্যান্স হলো সেই কাঠামো, নীতি ও অনুশীলনের সেট যা সেই ব্যবহারকে জানা, জবাবদিহিযোগ্য ও যথেষ্ট নিরাপদ করে। ঝুঁকির মেট্রিক বলে গভর্ন্যান্স কাজ করছে কি না।
ITIL-এর নির্মাণ উপাদান আছে: সেবা মূল্য ব্যবস্থার গভর্ন্যান্স, ঝুঁকি ব্যবস্থাপনা, পরিবর্তন সক্ষমকরণ, তথ্য নিরাপত্তা ব্যবস্থাপনা, সরবরাহকারী ব্যবস্থাপনা এবং ধারাবাহিক উন্নয়ন। এজাইল ও ডেভঅপসের কাজের ধরন ছোট, নিয়ন্ত্রিত, ফেরানোযোগ্য পরিবর্তন এবং পাইপলাইনে স্বয়ংক্রিয় যাচাইয়ের অভ্যাস জোগায়। এআই গভর্ন্যান্সের একটি আলাদা বিশ্ব লাগে না। এর এই অনুশীলন লাগে প্রচলিত সফটওয়্যারের চেয়ে ভিন্নভাবে আচরণ করা জিনিসে প্রয়োগ করা।
এআই-এর ভিন্নতা কী?
- আচরণ পরিসংখ্যানগত এবং কোডের বদল ছাড়াই বদলাতে পারে। একটি মডেল বিক্রেতার হালনাগাদ, তার ইনপুটের বদল বা প্রম্পটের বদলের পরে ভিন্নভাবে আচরণ করতে পারে। উৎপাদনে সে যে তথ্য দেখে তা যে তথ্যে পরীক্ষিত তা থেকে সরতে পারে, যন্ত্র শিক্ষণে একটি ঘটনা যা সরণ নামে পরিচিত। একটি ব্যবস্থা নীরবে ক্ষয়ে যেতে পারে।
- আউটপুট পুরোপুরি অনুমানযোগ্য নয়। পরীক্ষা প্রতিটি ইনপুট আচ্ছাদন করতে পারে না, তাই মূল্যায়ন প্রমাণ নয়, নমুনা ও লক্ষ্যভিত্তিক পরীক্ষায়। ব্যবস্থা এমনভাবে ব্যর্থ হতে পারে যা তাদের নির্মাতারা অনুমান করেননি।
- ক্ষতি ছড়ানো ও অসম হতে পারে। অ্যালগরিদমিক পক্ষপাত হলো পদ্ধতিগত ত্রুটি যা কিছু গোষ্ঠীর জন্য অন্যায্য ফলাফলে নিয়ে যায়। এটি তথ্য, নকশা বা ব্যবহার থেকে উদ্ভূত হতে পারে, এবং সামগ্রিক নির্ভুলতার অঙ্কে না-ও দেখা দিতে পারে।
- নতুন আক্রমণের তল দেখা দেয়। প্রম্পট ইনজেকশন হলো এমন আক্রমণ যেখানে ইনপুট তথ্যে লুকানো নির্দেশ একটি ভাষা মডেলকে অনভিপ্রেত আচরণে চালিত করে। মডেলকে তথ্য প্রকাশ বা তাদের মালিকদের অনভিপ্রেত কাজ নিতে প্ররোচিত করা যেতে পারে।
- সরবরাহকারীর ওপর নির্ভরতা গভীর। অনেক এআই সক্ষমতা বাইরের প্রদানকারী থেকে আসে, কীভাবে গড়া বা বদলানো হয় সে বিষয়ে সীমিত দৃশ্যমানতাসহ। সরবরাহকারীর পরিমাপ আরও গুরুত্বপূর্ণ (দেখুন বিষয় 8.4, সরবরাহকারী ও চুক্তির মেট্রিক)।
- নিয়ম উদীয়মান এবং জায়গা অনুযায়ী ভিন্ন। এআই নিয়ে আইন, মান ও নির্দেশনা দ্রুত বিকশিত হচ্ছে। ইউরোপীয় ইউনিয়নের কৃত্রিম বুদ্ধিমত্তা আইন ধাপে ধাপে প্রযোজ্য বাধ্যবাধকতাসহ একটি ঝুঁকি-ভিত্তিক পদ্ধতি নেয়, এবং অন্য এখতিয়ার ভিন্ন পথে যাচ্ছে। এআই ব্যবস্থাপনা ব্যবস্থা নিয়ে ISO/IEC 42001 এবং NIST এআই ঝুঁকি ব্যবস্থাপনা কাঠামোর মতো মান কাঠামো দেয়। এই বিষয়ে নির্দিষ্ট নিয়ম সম্পর্কে বিবৃতি 2026 সালের অক্টোবর অনুযায়ী তারিখযুক্ত এবং আবার যাচাই করা উচিত, এবং আইনি পরামর্শ আপনার বাধ্যবাধকতা পরিচালনা করা উচিত। বৃহত্তর ক্ষেত্রকে বিভিন্নভাবে দায়িত্বশীল এআই বা বিশ্বাসযোগ্য এআই বলে বর্ণনা করা হয়, এবং আইন এআই-কে কীভাবে দেখবে প্রশ্নটি কৃত্রিম বুদ্ধিমত্তার নিয়ন্ত্রণ-এর বিষয়।
গভর্ন্যান্স দুটি বিপরীত উপায়ে ব্যর্থ হতে পারে। এটি এত ভারী হতে পারে যে দল তা এড়ায়, এবং এআই-এর ব্যবহার ছায়া আইটি হিসেবে লুকিয়ে যায়। অথবা এটি একটি কাগজের অনুশীলন হতে পারে, এমন নীতি ও নিবন্ধসহ যা চর্চা প্রতিফলিত করে না। এজাইল লক্ষ্য মধ্যপথ পরামর্শ দেয়: নিয়ম ঠিক করায় অংশীজনদের ধারাবাহিক জড়িত থাকা, কম-ঝুঁকির ব্যবহারের জন্য ছোট ও দ্রুত অনুমোদন, যেখানে ক্ষতি সম্ভব সেখানে গভীরতর পর্যবেক্ষণ, এবং অভিজ্ঞতা বাড়ার সঙ্গে নিয়ন্ত্রণের ধারাবাহিক উন্নয়ন। পরিষ্কার সীমানাসহ অনুপ্রাণিত মানুষ, তাদের মধ্যে বিচার ব্যবহার করতে বিশ্বস্ত, সমস্যা জানাবে। শাস্তির ভয় পাওয়া মানুষ জানাবে না।
গুডহার্টের সূত্র থেকে রক্ষাবেষ্টনী গভর্ন্যান্সের পরিমাপে প্রযোজ্য: “নিবন্ধিত এআই ব্যবহারের শতাংশ” লক্ষ্য হলে নিবন্ধ কেউ না পড়া এন্ট্রিতে ভরে, এবং প্রকৃত ব্যবহার দৃষ্টির বাইরে থাকে (দেখুন বিষয় 1.2, গুডহার্টের সূত্র ও মেট্রিকের মনস্তত্ত্ব)।
এই বিষয় অংশ 8-এর ঝুঁকি, সম্মতি ও নিরাপত্তার বিষয় এবং এই অংশের আগের বিষয়গুলির ওপর গড়ে।
মূল নীতিসমূহ
- এআই কোথায় ব্যবহৃত জানুন। পণ্যে গাঁথা এবং কর্মীরা নিজে গ্রহণ করা ব্যবহারসহ ব্যবহারের নিবন্ধ হলো ভিত্তি।
- ঝুঁকির সঙ্গে পর্যবেক্ষণ মেলান। কম-ঝুঁকির ব্যবহারের জন্য হালকা, পরিণতিপূর্ণগুলির জন্য গভীরতর।
- মডেল ও প্রম্পটের বদলকে পরিবর্তন গণ্য করুন। পরীক্ষা, ঝুঁকির অনুপাতে অনুমোদন এবং ফেরানোর ক্ষমতা লাগে।
- ব্যবহারের আগে ও সময়ে মূল্যায়ন করুন। বাস্তবসম্মত ক্ষেত্রে পরীক্ষা করুন, এবং উৎপাদনে পরীক্ষা চালু রাখুন।
- অর্থপূর্ণ মানুষের তদারকি রাখুন। একজন মানুষকে বুঝতে, প্রশ্ন করতে ও অগ্রাহ্য করতে পারতে হবে, এবং তা করার সময় ও কর্তৃত্ব থাকতে হবে।
- দোষারোপ ছাড়া ইনসিডেন্ট থেকে শিখুন। এআই ব্যর্থতা নতুন, এবং প্রতিবেদন হলো প্রতিষ্ঠান কীভাবে শেখে।
- নিরাপদ ক্ষেত্রে অনুমোদন দ্রুত করুন। ধীর গভর্ন্যান্স ব্যবহারকে দৃষ্টির বাইরে ঠেলে।
মেট্রিকের সংজ্ঞা
| মেট্রিক | সংজ্ঞা | সূত্র | একক | তথ্যের উৎস | ITIL অনুশীলন | এজাইল সমতুল্য | পর্যায়কাল |
|---|---|---|---|---|---|---|---|
| এআই ব্যবহার নিবন্ধের আওতা | স্বাধীন উপায়ে পাওয়া যে এআই ব্যবহারের একজন মালিক ও একটি ঝুঁকির শ্রেণিসহ নিবন্ধে আছে তার অংশ | মালিক ও ঝুঁকির শ্রেণিসহ নিবন্ধে থাকা ব্যবহার / স্বাধীন আবিষ্কারে (ক্রয়, ব্যয়, পরিচয়, নেটওয়ার্ক ও কর্মীদের প্রতিবেদন) পাওয়া ব্যবহার | শতাংশ | নিবন্ধ, ক্রয় ও ব্যয়ের তথ্য, পরিচয়ের লগ, জরিপ | গভর্ন্যান্স; আইটি সম্পদ ব্যবস্থাপনা; ঝুঁকি ব্যবস্থাপনা | দৃশ্যমান কাজ ও পরিষ্কার মালিকানা | ত্রৈমাসিক |
| ঝুঁকি মূল্যায়নের সময়োপযোগিতা | প্রয়োজনীয় চক্রের মধ্যে একটি ঝুঁকি মূল্যায়নসহ মাঝারি ও উচ্চ-ঝুঁকির ব্যবহারের অংশ | চক্রের মধ্যে মূল্যায়িত ব্যবহার / মাঝারি ও উচ্চ-ঝুঁকির ব্যবহার | শতাংশ | ঝুঁকি মূল্যায়ন | ঝুঁকি ব্যবস্থাপনা; তথ্য নিরাপত্তা ব্যবস্থাপনা | ঝুঁকির নিয়মিত প্রতিফলন | ত্রৈমাসিক |
| পরিবর্তন নিয়ন্ত্রণের আওতা | প্রয়োজনীয় পরীক্ষাসহ পরিবর্তন নিয়ন্ত্রণের মধ্য দিয়ে যাওয়া উৎপাদনে মডেল, প্রম্পট, টুল ও তথ্যের উৎসের পরিবর্তনের অংশ | ঝুঁকির অনুপাতে পরিবর্তনের রেকর্ড, পরীক্ষা ও অনুমোদনসহ পরিবর্তন / শনাক্ত পরিবর্তন | শতাংশ | সংস্করণ ইতিহাস ও বিক্রেতার রিলিজ নোটের সঙ্গে তুলনা করা পরিবর্তনের রেকর্ড | পরিবর্তন সক্ষমকরণ; রিলিজ ও ডিপ্লয়মেন্ট ব্যবস্থাপনা | ছোট, নিয়ন্ত্রিত, ফেরানোযোগ্য পরিবর্তন | মাসিক |
| মূল্যায়নের সময়োপযোগিতা | একটি বর্তমান মূল্যায়ন (নির্ভুলতা, নিরাপত্তা ও যেখানে প্রাসঙ্গিক ন্যায্যতা) এবং সহনীয়তার মধ্যে ফলসহ উৎপাদন ব্যবহারের অংশ | চক্রের মধ্যে একটি মূল্যায়ন ও গ্রহণযোগ্য ফলসহ ব্যবহার / পরিধির উৎপাদন ব্যবহার | শতাংশ | মূল্যায়নের রেকর্ড | মান নিশ্চয়তা; ঝুঁকি ব্যবস্থাপনা | আচরণের জন্য কাজ শেষ হওয়ার সংজ্ঞা | ত্রৈমাসিক |
| মানুষের তদারকির প্রমাণের হার | নমুনা-নেওয়া পরিণতিপূর্ণ আউটপুট বা সিদ্ধান্তের যে অংশে একটি লিপিবদ্ধ, সারগর্ভ মানুষের পর্যালোচনা আছে তার অংশ | ফল বদলাতে পারত এমন নথিভুক্ত পর্যালোচনাসহ নমুনা-নেওয়া আইটেম / নমুনা নেওয়া আইটেম | শতাংশ | নমুনা-নেওয়া সিদ্ধান্তের রেকর্ড | ঝুঁকি ব্যবস্থাপনা; গভর্ন্যান্স | রিলিজের আগে পর্যালোচনা | মাসিক |
| এআই ইনসিডেন্টের হার ও নিয়ন্ত্রণে আনার সময় | এআই জড়িত ইনসিডেন্ট (ক্ষতিকর আউটপুট, তথ্য উন্মুক্ত, অনিরাপদ কাজ) প্রতি ব্যবহারে এবং তা নিয়ন্ত্রণে আনার সময় | প্রতি ত্রৈমাসিকে প্রতি উৎপাদন ব্যবহারে ইনসিডেন্ট; শনাক্তকরণ থেকে নিয়ন্ত্রণে আনা পর্যন্ত ঘণ্টার মধ্যমা ও 85তম পার্সেন্টাইল | ইনসিডেন্ট; ঘণ্টা | এআই ট্যাগ করা ইনসিডেন্টের রেকর্ড | ইনসিডেন্ট ব্যবস্থাপনা; তথ্য নিরাপত্তা ব্যবস্থাপনা | দোষারোপহীন সাড়া ও শেখা | ত্রৈমাসিক |
| সরবরাহকারীর এআই যথাযথ যাচাইয়ের সময়োপযোগিতা | জটিল সেবায় এআই ফিচার জোগানো যে সরবরাহকারীর এআই-নির্দিষ্ট মূল্যায়ন বর্তমান তার অংশ | বর্তমান এআই মূল্যায়নসহ সরবরাহকারী / এআই ফিচারসহ জটিল সরবরাহকারী | শতাংশ | সরবরাহকারীর মূল্যায়ন | সরবরাহকারী ব্যবস্থাপনা; ঝুঁকি ব্যবস্থাপনা | নির্ভরতার নিয়মিত পর্যালোচনা | ত্রৈমাসিক |
নিবন্ধে “এআই ব্যবহার” ব্যাপকভাবে সংজ্ঞায়িত করুন: আপনার গড়া মডেল, আপনার কেনা সেবা, পণ্যের ভেতরের ফিচার এবং কর্মীদের ব্যবহৃত টুল। ঝুঁকির শ্রেণি ও চক্র নীতিতে ঠিক করা। নিবন্ধের আওতা স্বাধীন আবিষ্কারের বিপরীতে মাপা, নিবন্ধের বিপরীতে নয়। পরিবর্তন নিয়ন্ত্রণের আওতায় বদল শনাক্ত করার একটি উপায় লাগে: সংস্করণ নিয়ন্ত্রণ, বিক্রেতার বিজ্ঞপ্তি, কনফিগারেশন পর্যবেক্ষণ। মানুষের তদারকির প্রমাণে প্রয়োজন যে পর্যালোচনা ফল বদলাতে পারত, একটি বোতামে ক্লিক হয়েছে তা নয়। ইনসিডেন্টের হার ব্যবহার ও ব্যবস্থা বর্ণনা করে এবং মানুষকে রেট করতে ব্যবহৃত হয় না।
সুপারিশসমূহ
জানুন ও শ্রেণিবদ্ধ করুন
1. কেবল জিজ্ঞেস করে নয়, খুঁজে নিবন্ধ গড়ুন। একটি জরিপ ও একটি নীতি দিয়ে শুরু করুন, তারপর ক্রয় ও ব্যয়ের রেকর্ড, পরিচয় ও প্রবেশাধিকারের লগ, নেটওয়ার্ক ও ক্লাউডের বিলিংয়ের তথ্য এবং বিক্রেতার পণ্যের হালনাগাদের বিপরীতে যাচাই করুন। আপনার ইতিমধ্যে মালিকানাধীন টুলে গাঁথা এআই ফিচার অন্তর্ভুক্ত করুন। চমক আশা করুন: মানুষ এমন টুল ব্যবহার করে যা আপনি অনুমোদন করেননি, প্রায়ই ভালো কারণে। সেগুলিকে তথ্য গণ্য করুন (দেখুন বিষয় 7.2, সফটওয়্যার সম্পদ ও লাইসেন্সের মেট্রিক)।
2. প্রতিটি ব্যবহারে একজন মালিক ও একটি ঝুঁকির শ্রেণি দিন। মালিক হলেন ব্যবহার ও তার ফলের জন্য দায়ী ব্যক্তি। ঝুঁকির শ্রেণি ব্যবস্থা ব্যর্থ হলে ক্ষতি প্রতিফলিত করে: কে প্রভাবিত, মানুষ সম্পর্কে সিদ্ধান্ত জড়িত কি না, এটি নিজে কাজ করে কি না, কোন তথ্য ছোঁয়, এবং প্রভাব কতটা ফেরানো যায়। পরিষ্কার নিয়মসহ কম শ্রেণি ব্যবহার করুন। NIST এআই ঝুঁকি ব্যবস্থাপনা কাঠামো, ISO/IEC 42001 এবং প্রযোজ্য আইনের মতো স্বীকৃত কাঠামো থেকে নিন, এবং আপনার প্রেক্ষাপটে মানান।
3. অনুমোদন আনুপাতিক করুন। কম-ঝুঁকির ব্যবহারের জন্য কয়েকটি প্রশ্নসহ একটি দ্রুত সেলফ-সার্ভিস নিবন্ধনই যথেষ্ট। পরিণতিপূর্ণ ব্যবহারের জন্য একটি ঝুঁকি মূল্যায়ন, মূল্যায়নের ফল, একটি সংজ্ঞায়িত মানুষের তদারকির নকশা এবং অনুমোদন দাবি করুন। নিরাপদ সংখ্যাগরিষ্ঠের জন্য একটি দ্রুত পথ মানুষকে ব্যবস্থার ভেতরে রাখে, এবং বিপজ্জনক কয়েকটির জন্য একটি ধীর পথ তাদের সঠিক পর্যবেক্ষণ দেয়।
পরীক্ষা করুন ও পরিবর্তন নিয়ন্ত্রণ করুন
4. ব্যবহারের আগে ও সময়ে বাস্তবসম্মত ক্ষেত্রে মূল্যায়ন করুন। বাস্তব ইনপুট প্রতিফলিত করা পরীক্ষার ক্ষেত্রের একটি সেট গড়ুন, কঠিন ও প্রতিপক্ষ ক্ষেত্রসহ, এবং লিখিত মানদণ্ডের বিপরীতে আউটপুট স্কোর করুন। যেখানে মানুষ প্রভাবিত হতে পারে সেখানে নিরাপত্তা ও ন্যায্যতার যাচাই অন্তর্ভুক্ত করুন। একটি সূচিতে এবং মডেল, প্রম্পট বা তথ্য বদলালেই মূল্যায়ন আবার চালান। একটি রেড টিম, যে গোষ্ঠী দুর্বলতা খুঁজতে ইচ্ছাকৃতভাবে ব্যবস্থা আক্রমণ করে, উচ্চতর-ঝুঁকির ব্যবহারের জন্য একটি উপযোগী অনুশীলন। সহায়তাপ্রাপ্ত কাজের নমুনার অনুশীলন দেখুন (দেখুন বিষয় 10.2, এআই-সহায়তাপ্রাপ্ত কাজের পরিমাপ)।
5. মডেল, প্রম্পট ও টুলকে পরিবর্তন নিয়ন্ত্রণের অধীনে রাখুন। প্রম্পট ও কনফিগারেশনের সংস্করণ কোডের মতো রাখুন। বদলের জন্য ঝুঁকির অনুপাতে পরীক্ষা ও অনুমোদন দাবি করুন, সেগুলি লিপিবদ্ধ করুন, এবং ফেরানোর ক্ষমতা রাখুন। বিজ্ঞপ্তি ছাড়াই আচরণ বদলাতে পারা বিক্রেতা-চালিত মডেল হালনাগাদ অনুসরণ করুন, এবং আপনাকে কীভাবে জানানো হবে সরবরাহকারীদের সঙ্গে একমত হোন। একটি মডেলের উন্নয়নকে নিয়ন্ত্রণ লাগা পরিবর্তন গণ্য করুন (দেখুন বিষয় 4.3, পরিবর্তন সক্ষমকরণের মেট্রিক)।
6. উৎপাদনে পর্যবেক্ষণ করুন। ইনপুট ও আউটপুটে সরণ, বাড়তে থাকা ত্রুটি ও অগ্রাহ্যের হার এবং অস্বাভাবিক ধরন দেখুন। পর্যালোচনা ডাকে এমন সীমা ঠিক করুন। যে ব্যবস্থা কাজ নেয় তার জন্য কাজের লগ পর্যবেক্ষণ করুন। পর্যবেক্ষণ হলো পরীক্ষা যে সমস্যা মিস করেছে তা কীভাবে খুঁজবেন।
মানুষের তদারকি বাস্তব রাখুন
7. কাজ করতে পারে এমন তদারকি নকশা করুন। একটি দ্রুত ব্যবস্থার প্রতিটি আউটপুট পর্যালোচনা করা মানুষ তাল রাখতে পারেন না, এবং যা বুঝতে পারেন না তা অনুমোদন করতে বলা মানুষ তদারকি দিচ্ছেন না। মানুষ কী করেন, তাঁর কী তথ্য আছে, কত সময়, এবং অগ্রাহ্য করার কী কর্তৃত্ব সংজ্ঞায়িত করুন। পর্যালোচনা সারগর্ভ কি না যাচাই করতে নমুনা নিন। স্বয়ংক্রিয়তার পক্ষপাত, যন্ত্রের আউটপুট গ্রহণের প্রবণতা, সম্পর্কে সতর্ক থাকুন (দেখুন বিষয় 10.1, সেবা ব্যবস্থাপনার পরিমাপে এআই)।
8. নিরীক্ষার ট্রেইল রাখুন। গোপনীয়তার নিয়ম ও সংরক্ষণের সীমা মেনে অনুসন্ধান সমর্থন করে এমনভাবে ইনপুট, আউটপুট, সংস্করণ, সিদ্ধান্ত ও কাজ লিপিবদ্ধ করুন। একটি নিরীক্ষার ট্রেইল আপনাকে উত্তর দিতে দেয় কী ঘটেছে ও কেন। মানুষ সম্পর্কে পরিণতিপূর্ণ সিদ্ধান্তের জন্য ভাবুন আপনি কী ব্যাখ্যা দিতে পারেন এবং আপিলের কোন পথ আছে (দেখুন বিষয় 8.3, সম্মতি ও নিরীক্ষার মেট্রিক)।
9. তথ্য রক্ষা করুন এবং কারসাজি প্রতিরোধ করুন। এআই ব্যবস্থা কোন তথ্য দেখতে ও পাঠাতে পারে নিয়ন্ত্রণ করুন। প্রম্পট ইনজেকশন ও তথ্য ফাঁসের জন্য পরীক্ষা করুন, বিশেষত বাইরের বিষয়বস্তু পড়া বা টুলে প্রবেশাধিকারসহ ব্যবস্থার জন্য। যে এজেন্ট কাজ করে তার জন্য ব্যবহৃত ন্যূনতম বিশেষাধিকারের নীতি প্রয়োগ করুন (দেখুন বিষয় 10.3, এআই এজেন্ট ও চ্যাটবটের মেট্রিক, এবং বিষয় 8.1, নিরাপত্তা ইনসিডেন্ট ও দুর্বলতার মেট্রিক)। নকশার সময় গোপনীয়তা বিবেচনা করুন এবং তথ্য সুরক্ষার বিশেষজ্ঞদের জড়ান।
সাড়া দিন ও শিখুন
10. এআই ইনসিডেন্টকে ইনসিডেন্ট গণ্য করুন। কী গোনা হয় সংজ্ঞায়িত করুন: ক্ষতিকর বা পক্ষপাতদুষ্ট আউটপুট, তথ্য উন্মুক্ত, অনিরাপদ কাজ, ব্যবহারকারীদের কাছে পৌঁছানো উল্লেখযোগ্য ত্রুটি। এআই ট্যাগসহ আপনার স্বাভাবিক ইনসিডেন্ট প্রক্রিয়া ব্যবহার করুন, দোষারোপহীনভাবে পর্যালোচনা করুন, এবং শিক্ষা মূল্যায়ন ও নিয়ন্ত্রণে ফেরত দিন। কর্মী ও ব্যবহারকারীদের জন্য প্রতিবেদন সহজ করুন। নিয়ন্ত্রণে আনার সময় যেকোনো ইনসিডেন্টের মতোই গুরুত্বপূর্ণ (দেখুন বিষয় 3.4, বড় ইনসিডেন্টের মেট্রিক)।
11. সরবরাহকারীদের এআই পরিচালনা করুন। সরবরাহকারীদের জিজ্ঞেস করুন তারা কোন এআই ফিচার ব্যবহার করে, কীভাবে পরীক্ষা ও বদলানো হয়, তথ্য কীভাবে সামলানো হয় এবং ইনসিডেন্ট কীভাবে প্রতিবেদিত হয়। যেখানে গুরুত্বপূর্ণ সেখানে চুক্তিতে এআই-নির্দিষ্ট শর্ত যোগ করুন, উল্লেখযোগ্য মডেল বদলের নোটিশসহ। একটি চক্রে জটিল সরবরাহকারীদের আবার মূল্যায়ন করুন (দেখুন বিষয় 8.4, সরবরাহকারী ও চুক্তির মেট্রিক)।
12. গভর্ন্যান্স নিজেই পর্যালোচনা করুন। প্রতি ত্রৈমাসিকে পরিমাপ কী দেখায় যাচাই করুন: কোথায় ব্যবহার অনিবন্ধিত গেছে, কোন অনুমোদন খুব ধীর ছিল, কোন নিয়ন্ত্রণ সমস্যা ধরেনি। নীতি ও পথ সামঞ্জস্য করুন। পর্যালোচনায় কর্মী ও ব্যবহারকারীদের জড়ান। নিয়ম ছোট, পরিষ্কার ও বর্তমান রাখুন, এবং যে নিয়ন্ত্রণ নিজের খরচ অর্জন করে না তা অবসর দিন।
কারসাজির উপায় ও রক্ষাবেষ্টনী
| মেট্রিক | কীভাবে এতে কারসাজি করা হয় | সংশ্লিষ্ট রক্ষাবেষ্টনী মেট্রিক বা অনুশীলন |
|---|---|---|
| এআই ব্যবহার নিবন্ধের আওতা | শতাংশ বাড়াতে তুচ্ছ ব্যবহার নিবন্ধন করা; হর কেবল নিবন্ধিতে সীমিত | হরের জন্য স্বাধীন আবিষ্কার; মানের জন্য নিবন্ধের এন্ট্রির নমুনা নিন; অনিবন্ধিত ব্যবহারের জন্য ক্ষমা |
| ঝুঁকি মূল্যায়নের সময়োপযোগিতা | সবসময় পাস করা হালকা-স্পর্শের মূল্যায়ন; কম-ঝুঁকির ব্যবহার মূল্যায়ন করা | মূল্যায়নের গভীরতা পর্যালোচনা করুন; ঝুঁকির শ্রেণি মানদণ্ডের সঙ্গে মেলে কি না যাচাই করুন |
| পরিবর্তন নিয়ন্ত্রণের আওতা | বিক্রেতার বদল শনাক্ত না করা; পরে পরিবর্তন লিপিবদ্ধ করা | সংস্করণ ইতিহাস ও বিক্রেতার বিজ্ঞপ্তির মাধ্যমে শনাক্তকরণ; রিলিজের আগে টাইমস্ট্যাম্প করা পরিবর্তনের রেকর্ড |
| মূল্যায়নের সময়োপযোগিতা | সহজ ক্ষেত্রে মূল্যায়ন; ফল দেখার পরে সহনীয়তা বাছা | স্বাধীন পক্ষের পর্যালোচনা করা পরীক্ষার সেট; আগে ঠিক করা সীমা |
| মানুষের তদারকির প্রমাণের হার | না পড়ে অনুমোদনে ক্লিক করা; ফল বদলাতে পারত না এমন পর্যালোচনা নথিভুক্ত করা | সারবস্তুর জন্য পর্যালোচনার নমুনা নিন; বসানো জানা ত্রুটি; পর্যালোচকের বোঝা |
| এআই ইনসিডেন্টের হার ও নিয়ন্ত্রণে আনার সময় | ইনসিডেন্ট প্রতিবেদন না করা; সংজ্ঞা সংকীর্ণ করা | সহজ, দোষারোপহীন প্রতিবেদন; ব্যবহারকারীর অভিযোগ ও নিরীক্ষার অনুসন্ধানের সঙ্গে তুলনা করুন |
| সরবরাহকারীর এআই যথাযথ যাচাইয়ের সময়োপযোগিতা | বিপণন দ্বারা উত্তর দেওয়া প্রশ্নমালা; প্রমাণ ছাড়া মূল্যায়ন | জটিল সরবরাহকারীর জন্য প্রমাণের প্রয়োজন; স্বাধীন যাচাই |
একটি সুস্থ পাঠ হলো স্বাধীন আবিষ্কার যা নিশ্চিত করে এমন একটি নিবন্ধ, ঝুঁকির সঙ্গে মেলে এমন মূল্যায়ন, নিয়ন্ত্রণের মধ্য দিয়ে যাওয়া পরিবর্তন, বর্তমান রাখা মূল্যায়ন, প্রকৃত ত্রুটি খুঁজে পাওয়া তদারকি, সহজে প্রতিবেদিত ও দ্রুত নিয়ন্ত্রণে আসা ইনসিডেন্ট, এবং সরবরাহকারী যারা কী বদলায় তা ভাগ করে।
সমঝোতা: সুবিধা ও অসুবিধা
| পদ্ধতি | শক্তি | দুর্বলতা |
|---|---|---|
| প্রতিটি এআই ব্যবহারের কেন্দ্রীয় অনুমোদন | নিয়ন্ত্রণ, সংগতি | ধীর; ব্যবহারকে লুকিয়ে দেয় |
| ঝুঁকির স্তরসহ সেলফ-সার্ভিস নিবন্ধন | নিরাপদ সংখ্যাগরিষ্ঠের জন্য দ্রুত | ভালো মানদণ্ড ও স্পট যাচাই লাগে |
| পাবলিক টুলে নিষেধাজ্ঞা | তথ্য উন্মুক্ততা কমায় | ছায়া ব্যবহার; হারানো সুবিধা |
| নির্দেশনাসহ অনুমোদিত টুল | দৃশ্যমান ও পরিচালনাযোগ্য ব্যবহার | জোগান ও সহায়তা লাগে |
| ভারী নথি | নিরীক্ষার প্রমাণ | বোঝা; চর্চা প্রতিফলিত নাও করতে পারে |
| পাইপলাইনে স্বয়ংক্রিয় মূল্যায়ন | ধারাবাহিক, সংগত | ভালো পরীক্ষার সেট লাগে; নতুন ব্যর্থতা মিস করতে পারে |
| সবকিছুর মানুষের পর্যালোচনা | নিরাপত্তা | মাপে বাড়ে না; ক্লান্তি |
| ঝুঁকি-ভিত্তিক নমুনা | ব্যবহারিক | কিছু ব্যর্থতা পিছলে যায় |
গদ্যে উত্তর হলো অনুমোদিত টুল এবং কম-ঝুঁকির ব্যবহারের জন্য একটি দ্রুত পথ দেওয়া, পরিণতিপূর্ণগুলিতে পর্যবেক্ষণ কেন্দ্রীভূত করা, মূল্যায়ন ও পর্যবেক্ষণ স্বয়ংক্রিয় করা, এবং মানুষের তদারকি সেখানে রাখা যেখানে তা সত্যিই কাজ করতে পারে।
আপনার দলের সঙ্গে আলোচনার প্রশ্ন
1. আজ আমরা কোথায় এআই ব্যবহার করি যা কোনো তালিকায় নেই? দলকে সৎভাবে জিজ্ঞেস করুন, এবং ক্ষমা দিন। খসড়া, সারসংক্ষেপ, কোডিং ও বিশ্লেষণের জন্য ব্যবহৃত টুল দেখুন, পণ্যের ভেতরেরগুলিসহ। সঞ্চালকের বিচার ছাড়া ব্যবহার লিপিবদ্ধ করা উচিত। কে সেগুলি নিবন্ধন করবেন এবং কোনগুলি কাছ থেকে দেখা দরকার একমত হোন।
2. আমাদের সবচেয়ে পরিণতিপূর্ণ এআই ব্যবহার একটি ক্ষতিকর ভুল করলে আমরা কীভাবে জানতাম এবং কী করতাম? শনাক্তকরণ, নিয়ন্ত্রণে আনা, যোগাযোগ ও শেখার ধরে হাঁটুন। পর্যবেক্ষণ, মালিকানা এবং এটি বন্ধ করার কর্তৃত্বের ফাঁক নোট করুন। একটি উন্নয়নে একমত হোন।
3. আমাদের নিচে কেউ অনুমোদন না করেই কী বদলাতে পারে? মডেল, প্রম্পট, তথ্যের উৎস এবং বিক্রেতার হালনাগাদ তালিকাভুক্ত করুন। প্রতিটির জন্য জিজ্ঞেস করুন এটি বদলেছে আমরা কীভাবে জানতাম এবং কীভাবে পরীক্ষা করতাম। কোথায় শনাক্তকরণ বা পরীক্ষা যোগ করবেন একমত হোন।
4. আমাদের প্রক্রিয়ায় যে ব্যক্তি এআই আউটপুট পর্যালোচনা করেন তিনি কি বাস্তবসম্মতভাবে একটি গুরুতর ত্রুটি ধরতে পারতেন? পরিমাণ, তথ্য, সময় ও কর্তৃত্ব দেখুন। একটি বসানো ত্রুটি দিয়ে পরীক্ষা করুন। পর্যালোচনা কাজ করতে না পারলে আরও এআই যোগ করার আগে প্রক্রিয়া পুনঃনকশা করুন।
5. আমাদের কোন নিয়ম একজন ব্যস্ত সহকর্মী অনুসরণ করা সহজ মনে করবেন, এবং কোনটি এড়িয়ে যাবেন? বর্তমান নিয়ম তালিকাভুক্ত করুন এবং প্রকৃত কাজের প্রবাহের বিপরীতে পরীক্ষা করুন। নিয়ম কেন এড়ানো হয় আলোচনা করুন। নিরাপদ পথকে সহজ পথ করে এমন বদলে একমত হোন।
6. আমাদের সরবরাহকারীরা তাদের এআই সম্পর্কে আমাদের কী বলেছে, এবং আমরা কী জিজ্ঞেস করিনি? সাম্প্রতিক প্রশ্নমালা ও চুক্তি যাচাই করুন। এআই ফিচারসহ জটিল সরবরাহকারী এবং তথ্যের ফাঁক শনাক্ত করুন। পরের পর্যালোচনার জন্য প্রশ্নে একমত হোন।
চারটি দৃষ্টিকোণ
পণ্য ও ডেলিভারি দল
ডেলিভারি দল এআই ফিচার গড়ে ও গ্রহণ করে, এবং তারা গভর্ন্যান্সকে ঘর্ষণ বা সাহায্য হিসেবে অনুভব করে। তাদের আগে ব্যবহার নিবন্ধন করা, বাস্তবসম্মত ক্ষেত্রে পরীক্ষা করা, প্রম্পট ও মডেল সংস্করণ নিয়ন্ত্রণে রাখা, এবং কাজ করে এমন তদারকি নকশা করা উচিত। কম-ঝুঁকির ব্যবহারের দ্রুত অনুমোদন থেকে তারা উপকৃত হয়।
সেবা ও পরিচালনা দল
পরিচালনা দল উৎপাদনে এআই চালায় এবং তার ইনসিডেন্টে সাড়া দেয়। তাদের সরণের জন্য পর্যবেক্ষণ করা, কাজের লগ রাখা, এআই ইনসিডেন্ট ট্যাগ করা, এবং একটি ব্যবস্থা বন্ধ করার কর্তৃত্ব ও উপায় থাকা উচিত। তারা নিজেরাও এআই ব্যবহার করে এবং একই নিয়ম অনুসরণ করা উচিত।
নেতৃত্ব ও গভর্ন্যান্স
নেতারা ঝুঁকির ক্ষুধা ঠিক করেন এবং ফলের জন্য জবাবদিহি করেন। তাঁদের নিবন্ধ, মূল্যায়ন ও পর্যবেক্ষণে অর্থায়ন করা, মেনে নেওয়া যে কিছু এআই ব্যবহার পাস করবে না, ব্যবহারের স্বাধীন আবিষ্কার চাওয়া, এবং ইনসিডেন্ট ও নিয়ন্ত্রণে আনার সময় অনুসরণ করা উচিত। গভর্ন্যান্স সংস্থার নিয়ম ছোট রাখা, নিয়মিত পর্যালোচনা করা, এবং কর্মী ও ব্যবহারকারীদের কণ্ঠস্বর নিশ্চিত করা উচিত।
গ্রাহক ও ব্যবহারকারী
ব্যবহারকারীরা এআই-এর সিদ্ধান্ত ও আউটপুট দ্বারা প্রভাবিত হন, প্রায়ই না জেনে। তাঁদের প্রভাবিত করা বিষয়ে এআই জড়িত থাকলে জানার, একজন মানুষের কাছে পৌঁছানোর এবং সিদ্ধান্ত চ্যালেঞ্জ করার যোগ্যতা আছে। অভিযোগ ও আপিল গভর্ন্যান্স বাস্তবে কীভাবে কাজ করে সে বিষয়ে অপরিহার্য প্রমাণ।
বাস্তবে: একটি এজাইল ITIL উদাহরণ
একটি আঞ্চলিক ব্যাংকের প্রযুক্তি ও পরিচালনা বিভাগ একজন কর্মী একটি পাবলিক টুলে গ্রাহকের বিবরণ পেস্ট করার পরে একটি এআই নীতি গ্রহণ করে। সম্মতি দল একটি নিবন্ধ প্রকাশ করে এবং প্রতিটি ব্যবহার তালিকাভুক্ত হওয়ার আশা করে। নিচের সংখ্যা দৃষ্টান্তমূলক।
তিন মাস পরে নিবন্ধে 38টি এআই ব্যবহার তালিকাভুক্ত। প্রযুক্তি ঝুঁকির প্রধান স্বাধীন উপায়ে যাচাই করেন: ক্রয় ও ব্যয়ের তথ্য, এআই সেবায় সাইন-ইন দেখানো পরিচয়ের লগ, নেটওয়ার্কের তথ্য এবং একটি বেনামি কর্মী জরিপ। আবিষ্কার 94টি ব্যবহার পায়, তাই নিবন্ধের আওতা 40 শতাংশ। সতেরোটি ব্যাংকের ইতিমধ্যে লাইসেন্স করা টুলের ভেতরের ফিচার, এবং বারোটি কর্মীদের ব্যবহৃত পাবলিক টুল। 38টি নিবন্ধিত ব্যবহারের মধ্যে কেবল 14টির একটি ঝুঁকির শ্রেণি আছে, এবং সর্বোচ্চ-ঝুঁকির তিনটি, জালিয়াতির সতর্কবার্তা স্কোর করা একটি মডেল, গ্রাহকদের জন্য একটি চ্যাটবট এবং অভিযোগের সারসংক্ষেপ করা একটি টুল, গত এক বছরে কোনো মূল্যায়ন নেই। জালিয়াতি মডেলের কনফিগারেশন ও চ্যাটবটের প্রম্পটের বদল দল সরাসরি করে, এবং শেষ ত্রৈমাসিকের পরিবর্তনের রেকর্ড সংস্করণ ইতিহাসে পাওয়া পরিবর্তনের 21 শতাংশ আচ্ছাদন করে। মডেলের বাতিল করা 60টি জালিয়াতির সতর্কবার্তার একটি নমুনা দেখায় 52টির জন্য মানুষের পর্যালোচনা লিপিবদ্ধ, কিন্তু পাঁচটি জানা মিসের একটি বসানো সেট কেবল একজন পর্যালোচক ধরেছেন, কারণ প্রত্যেক পর্যালোচক দিনে কয়েকশো সতর্কবার্তা সামলান। একটি ইনসিডেন্ট, যেখানে চ্যাটবট গ্রাহকদের পুরোনো ফি-র পরিমাণ দিয়েছিল, একটি অভিযোগে ধরা পড়ে, এবং নিয়ন্ত্রণে আনতে ছয় দিন লাগে কারণ এটি বন্ধ করার কর্তৃত্ব কারও ছিল না।
প্রযুক্তি ঝুঁকির প্রধান দলগুলির সঙ্গে গভর্ন্যান্স পুনঃনকশা করেন। পাঁচটি প্রশ্নের একটি সংক্ষিপ্ত সেলফ-সার্ভিস নিবন্ধন কম-ঝুঁকির ব্যবহারকে মিনিটে নিবন্ধে বসায়, এবং একটি ক্ষমার সময় কর্মীদের তাঁদের ব্যবহার করা টুল তালিকাভুক্ত করতে উৎসাহিত করে। ঝুঁকির শ্রেণি ক্ষতি, তথ্য ও স্বায়ত্তশাসনের ভিত্তিতে। উচ্চতর-ঝুঁকির ব্যবহারে একটি মূল্যায়ন, বাস্তবসম্মত ও প্রতিপক্ষ ক্ষেত্রের বিপরীতে একটি মূল্যায়ন এবং একটি সংজ্ঞায়িত তদারকির নকশা লাগে। মডেল, প্রম্পট ও টুল ঝুঁকির অনুপাতে পরীক্ষাসহ পরিবর্তন নিয়ন্ত্রণের অধীনে যায়, এবং চ্যাটবটের প্রম্পট ফেরানোসহ সংস্করণ রাখা হয়। জালিয়াতির সতর্কবার্তার প্রক্রিয়া এমনভাবে পুনঃনকশা করা হয় যে পর্যালোচকেরা কম, ভালো-অগ্রাধিকারের সতর্কবার্তা সামলান, এবং বসানো ত্রুটি তাঁদের শনাক্তকরণ পরীক্ষা করে। প্রতিটি উচ্চ-ঝুঁকির ব্যবহারের জন্য একজন নামকৃত মালিকের এটি বন্ধ করার কর্তৃত্ব আছে, এবং ইনসিডেন্টের সাড়া এআই আচ্ছাদন করে। ব্যাংকের ক্লাউড ও এআই সরবরাহকারীদের জিজ্ঞেস করা হয় তারা কোন এআই ফিচার ব্যবহার করে এবং বদল কীভাবে জানানো হয়।
দুই ত্রৈমাসিক পরে স্বাধীন আবিষ্কার দিয়ে নিবন্ধের আওতা 88 শতাংশ, সব উচ্চ-ঝুঁকির ব্যবহার চক্রের মধ্যে মূল্যায়িত ও পরীক্ষিত, পরিবর্তন নিয়ন্ত্রণের আওতা 84 শতাংশ, পর্যালোচকদের বসানো ত্রুটি শনাক্তকরণ 5-এর মধ্যে 4-এ ওঠে, এবং একটি এআই ইনসিডেন্ট নিয়ন্ত্রণে আনার সময়ের মধ্যমা 3 ঘণ্টা। কর্মীরা বেশির ভাগ কাজে অনুমোদিত টুল ব্যবহার করেন। একজন জ্যেষ্ঠ নির্বাহী 100 শতাংশ নিবন্ধের আওতার লক্ষ্য চান। প্রযুক্তি ঝুঁকির প্রধান স্বাধীন আবিষ্কারের বিপরীতে আওতা, মূল্যায়নের সময়োপযোগিতা এবং ইনসিডেন্ট সামলানো অনুসরণের প্রস্তাব করেন, ব্যাখ্যা করে যে আবিষ্কার ছাড়া একটি নিবন্ধ 100 শতাংশে পৌঁছাতে এবং তবুও ঝুঁকি মিস করতে পারে। সিদ্ধান্ত লিপিবদ্ধ।
খাতভিত্তিক দৃষ্টিভঙ্গি
স্টার্টআপ। গতি গুরুত্বপূর্ণ এবং ঝুঁকি বেশির ভাগ তথ্য উন্মুক্ততা ও অনির্ভরযোগ্য আউটপুট। মালিকসহ টুল ও ব্যবহারের একটি সংক্ষিপ্ত তালিকা রাখুন, কোথায় কোন তথ্য ব্যবহার করা যাবে সে বিষয়ে কয়েকটি পরিষ্কার নিয়ম ঠিক করুন, এবং প্রম্পটের সংস্করণ রাখুন। আশ্বাসের জন্য গ্রাহকদের দাবি বাড়লে পুনর্বিবেচনা করুন।
ছোট ব্যবসা। কর্মীরা পাবলিক টুল ব্যবহার করবেন। একটি অনুমোদিত বিকল্প দিন, তথ্য নিয়ে এক পাতার একটি নিয়ম লিখুন, এবং টুল কীভাবে ব্যবহৃত হয় পর্যালোচনা করুন। সরবরাহকারীদের তাদের এআই ফিচার সম্পর্কে জিজ্ঞেস করুন, এবং এআই যেখানে গ্রাহক বা কর্মী সম্পর্কে সিদ্ধান্ত নেয় তার একটি রেকর্ড রাখুন।
বড় প্রতিষ্ঠান। মাপ একটি পরিচালনা মডেল লাগে: নিবন্ধ, ঝুঁকির স্তর, মূল্যায়নের মান, পরিবর্তন নিয়ন্ত্রণ ও ইনসিডেন্টের প্রক্রিয়া, বিদ্যমান ঝুঁকি ও নিরাপত্তা কাজের সঙ্গে সংহত। স্বাধীন আবিষ্কার ব্যবহার করুন, পাইপলাইনে মূল্যায়ন স্বয়ংক্রিয় করুন, এবং মানের সঙ্গে সারিবদ্ধ হোন। দলকে একটি দ্রুত পথ দিন।
সরকার ও সরকারি খাত। নাগরিকদের প্রভাবিত করা সিদ্ধান্ত স্বচ্ছতা, ন্যায্যতা ও আপিলের দায় আনে, এবং ক্রয় ও আইনি কাঠামো ঠিক করে কী অনুমোদিত। যেখানে প্রয়োজন সেখানে উচ্চ-প্রভাবের ব্যবহারের সর্বজনীন রেকর্ড রাখুন, অধিকারের ওপর প্রভাব মূল্যায়ন করুন, মানুষকে অর্থপূর্ণভাবে চক্রে রাখুন, এবং বর্তমান আইন ও নির্দেশনা যাচাই করুন (দেখুন বিষয় 8.5, নিয়ন্ত্রক ও সরকারি প্রতিবেদন)।
ব্যবসায়িক যুক্তি: প্রেরণা, ROI ও TCO
খরচের মধ্যে আছে নিবন্ধ গড়া ও রক্ষণাবেক্ষণের প্রচেষ্টা, আবিষ্কারের টুলিং বা বিশ্লেষণ, ঝুঁকি মূল্যায়ন, মূল্যায়নের সেট ও চালানো, প্রম্পট ও মডেলের পরিবর্তন নিয়ন্ত্রণ, পর্যবেক্ষণ, প্রশিক্ষণ এবং ইনসিডেন্টের সাড়ার সক্ষমতা। গভর্ন্যান্স উচ্চতর-ঝুঁকির ব্যবহারে কিছু বিলম্বও যোগ করে। এই খরচ ব্যবহারের সংখ্যা ও ঝুঁকির সঙ্গে মাপে বাড়ে, যা কম-ঝুঁকির অনুমোদন হালকা রাখার একটি কারণ।
প্রতিদানের মধ্যে আছে এড়ানো ক্ষতি ও উন্মুক্ততা, নিরীক্ষা ও নিয়ন্ত্রক পর্যালোচনায় কম চমক, পরিষ্কার নিয়মের মাধ্যমে দ্রুততর নিরাপদ গ্রহণ, এবং গ্রাহক ও কর্মীদের আস্থা। আপনার নিজের তথ্য থেকে যুক্তি গড়ুন: নিবন্ধের বাইরে পাওয়া ব্যবহারের সংখ্যা ও তাদের ছোঁয়া তথ্য, ইনসিডেন্ট ও তাদের খরচ, আগে ও পরে অ্যাডহক অনুমোদনে ব্যয় করা সময়, এবং নিরীক্ষার অনুসন্ধান। এআই ইনসিডেন্ট বা জরিমানা নিয়ে প্রকাশিত পরিসংখ্যান অনুসরণযোগ্য উৎস ও আপনার প্রেক্ষাপটে প্রাসঙ্গিকতা ছাড়া উদ্ধৃত করা এড়ান। শাসন না করার খরচ অন্তর্ভুক্ত করুন, যার মধ্যে আছে উল্লেখযোগ্য আইনি ও সুনামের ক্ষতির সম্ভাবনা (দেখুন বিষয় 7.7, বিনিয়োগে প্রতিদান ও ব্যবসায়িক যুক্তি)।
অ্যান্টি-প্যাটার্ন ও ফাঁদ
- কেউ যাচাই করে না এমন একটি নিবন্ধ। আওতা উঁচু দেখায় এবং প্রকৃত ব্যবহার মিস করে। স্বাধীন আবিষ্কার ব্যবহার করুন।
- সার্বজনীন নিষেধাজ্ঞা। এগুলি ব্যবহারকে লুকিয়ে দেয়। অনুমোদিত টুল ও একটি দ্রুত পথ দিন।
- প্রম্পট ও মডেলকে এমন কনফিগারেশন গণ্য করা যার কেউ মালিক নেই। আচরণ অলক্ষ্যে বদলায়। পরিবর্তন নিয়ন্ত্রণের অধীনে রাখুন।
- একবার মূল্যায়ন। ব্যবস্থা সরে ও বদলায়। সূচিতে এবং বদলে আবার চালান।
- শুধু নামে তদারকি। পর্যালোচকেরা যা দেখতে পান না তা ধরতে পারেন না। বসানো ত্রুটি দিয়ে পরীক্ষা করুন এবং বোঝা ঠিক করুন।
- বন্ধ করার কর্তৃত্ব নেই। নিয়ন্ত্রণে আনতে কয়েক দিন লাগে। ব্যবস্থা থামানোর ক্ষমতাসহ মালিকের নাম দিন।
- সরবরাহকারীদের এআই উপেক্ষা। আপনার ঝুঁকিতে তাদের ঝুঁকি অন্তর্ভুক্ত। জিজ্ঞেস করুন, চুক্তি করুন, এবং আবার মূল্যায়ন করুন।
- যে নিয়ম কেউ অনুসরণ করতে পারে না। এড়ানো হয়। ছোট রাখুন এবং নিরাপদ পথ সহজ করুন।
পরিপক্বতার মডেল
| মাত্রা | 1 সূচনা | 2 বিকাশ | 3 প্রমিতকরণ | 4 পরিচালনা | 5 সমন্বয় |
|---|---|---|---|---|---|
| জানা ও শ্রেণিবদ্ধ করা | এআই ব্যবহারের কোনো দৃশ্য নেই | নীতি ও একটি আংশিক তালিকা | মালিক ও ঝুঁকির শ্রেণিসহ নিবন্ধ; আওতার জন্য স্বাধীন আবিষ্কার ব্যবহৃত | আওতা, মূল্যায়নের সময়োপযোগিতা ও অনুমোদনের সময় পরিচালিত | ব্যবসা ইউনিট ও সরবরাহকারী জুড়ে ভাগ করা নিবন্ধের দৃশ্য; নিয়ন্ত্রক ও ব্যবহারকারীদের সঙ্গে শ্রেণি পর্যালোচিত |
| পরীক্ষা ও পরিবর্তন | অ্যাডহক | কিছু ব্যবহারের জন্য কিছু মূল্যায়ন | বাস্তবসম্মত ক্ষেত্রে মূল্যায়ন; প্রম্পট ও মডেল পরিবর্তন নিয়ন্ত্রণের অধীনে | ধারাবাহিক মূল্যায়ন ও সরণ পর্যবেক্ষণ; আওতা পরিচালিত | পাইপলাইনে স্বয়ংক্রিয়, ঝুঁকি-ভিত্তিক মূল্যায়ন ও পরিবর্তন, স্বাধীনভাবে নিরীক্ষিত |
| তদারকি ও শেখা | বিশ্বাসের ওপর নির্ভরতা | নীতিতে পর্যালোচনা আছে | তদারকি নকশা করা ও নমুনা নেওয়া; এআই ইনসিডেন্ট ট্যাগ ও দোষারোপহীন পর্যালোচিত | বসানো-ত্রুটি পরীক্ষা, নিয়ন্ত্রণে আনার সময় ও সরবরাহকারীর মূল্যায়ন পরিচালিত | কর্মী, ব্যবহারকারী ও অংশীদারদের সঙ্গে যৌথভাবে বিকশিত তদারকি, ইনসিডেন্ট থেকে শেখা ও নীতি |
চেকলিস্ট
- একটি নিবন্ধ একজন মালিক ও একটি ঝুঁকির শ্রেণিসহ এআই ব্যবহার তালিকাভুক্ত করে, স্বাধীন আবিষ্কারের বিপরীতে যাচাই করা।
- কম-ঝুঁকির ব্যবহারের জন্য একটি দ্রুত পথ, এবং পরিণতিপূর্ণগুলির জন্য একটি গভীরতর পথ আছে।
- উচ্চতর-ঝুঁকির ব্যবহারের একটি বর্তমান ঝুঁকি মূল্যায়ন ও একটি সংজ্ঞায়িত তদারকির নকশা আছে।
- বাস্তবসম্মত ও প্রতিপক্ষ ক্ষেত্রে মূল্যায়ন বর্তমান এবং বদলালে আবার চালানো হয়।
- প্রম্পট, মডেল, টুল ও তথ্যের উৎসের সংস্করণ রাখা এবং পরিবর্তন নিয়ন্ত্রণের অধীনে।
- উৎপাদন পর্যবেক্ষণ সরণ, ত্রুটি, অগ্রাহ্য ও অস্বাভাবিক কাজ দেখে।
- তদারকি বসানো ত্রুটি দিয়ে পরীক্ষিত, এবং পর্যালোচকের বোঝা বাস্তবসম্মত।
- নিরীক্ষার ট্রেইল গোপনীয়তা ও সংরক্ষণের নিয়মের মধ্যে অনুসন্ধান সমর্থন করে।
- এআই ইনসিডেন্ট ট্যাগ করা, দোষারোপহীন পর্যালোচিত, এবং মালিকেরা ব্যবস্থা বন্ধ করতে পারেন।
- এআই ফিচারসহ সরবরাহকারী মূল্যায়িত এবং উল্লেখযোগ্য বদল জানাতে বাধ্য।
এআই প্রম্পট
এআই ব্যবহারের জন্য একটি ঝুঁকির শ্রেণিবিভাগের খসড়া করুন।
ভুল হলে ক্ষতি, কে প্রভাবিত, মানুষ সম্পর্কে সিদ্ধান্তের জড়িত থাকা, কাজের স্বায়ত্তশাসন, তথ্যের
সংবেদনশীলতা ও ফেরানোযোগ্যতার ভিত্তিতে [type of organization]-এ এআই ব্যবহারের জন্য একটি
সরল ঝুঁকির শ্রেণিবিভাগ (তিন বা চার স্তর) প্রস্তাব করুন। প্রতিটি স্তরের জন্য উদাহরণ ব্যবহার,
প্রয়োজনীয় অনুমোদন ও প্রমাণ এবং পর্যালোচনার চক্র বলুন। আইনি সিদ্ধান্ত বলবেন না। আপনার অনুমান
এবং আইন, ঝুঁকি ও নিরাপত্তার বিশেষজ্ঞদের সঙ্গে নিশ্চিত করার বিষয় তালিকাভুক্ত করুন।
একটি নিবন্ধনের ফর্ম নকশা করুন।
নতুন এআই ব্যবহারের জন্য আটটির বেশি নয় প্রশ্নের একটি সংক্ষিপ্ত সেলফ-সার্ভিস নিবন্ধনের ফর্ম নকশা
করুন যা স্বয়ংক্রিয়ভাবে একটি প্রাথমিক ঝুঁকির শ্রেণি বরাদ্দ করে এবং উচ্চতর-ঝুঁকির ব্যবহার পর্যালোচনায়
পাঠায়। উদ্দেশ্য, তথ্য, প্রভাবিত ব্যবহারকারী, স্বায়ত্তশাসন, বিক্রেতা ও মালিক আচ্ছাদন করুন। কম-ঝুঁকির
ক্ষেত্রে এটি কীভাবে দ্রুত রাখবেন ব্যাখ্যা করুন। আপনার অনুমান এবং ভুল শ্রেণিবিভাগের ঝুঁকি
তালিকাভুক্ত করুন।
একটি মূল্যায়নের সেটের পরিকল্পনা করুন।
আমরা [process]-এ [task]-এর জন্য এআই ব্যবহার করি। একটি মূল্যায়নের সেট নকশা করতে সাহায্য করুন:
বাস্তবসম্মত ক্ষেত্রের ধরন, কঠিন ও প্রতিপক্ষ ক্ষেত্র, শুদ্ধ ও নিরাপদ আউটপুটের লিখিত মানদণ্ড, যেখানে
মানুষ প্রভাবিত সেখানে ন্যায্যতার যাচাই, কত বড় সেট ব্যবহারিক, কত ঘন ঘন আবার চালাবেন, এবং কোন
বদল পুনরায় চালানো ডাকবে। একটি সেট যথেষ্ট দাবি করবেন না। আপনার অনুমান ও সীমা তালিকাভুক্ত
করুন।
একটি এআই ইনসিডেন্ট পর্যালোচনা করুন।
একটি এআই-সংক্রান্ত ইনসিডেন্টের বিবরণ এখানে: [paste, without personal data]। একটি দোষারোপহীন
পর্যালোচনার খসড়া করুন: সময়রেখা, কীভাবে শনাক্ত হয়েছিল, অবদানকারী উপাদান (তথ্য, প্রম্পট, মডেল,
তদারকি, সরবরাহকারী, প্রক্রিয়া), প্রভাব, কী নিয়ন্ত্রণে এনেছিল, এবং মালিকসহ কাজ। মূল্যায়ন, পর্যবেক্ষণ
ও পরিবর্তন নিয়ন্ত্রণে বদল পরামর্শ দিন। ব্যক্তিকে দোষ দেবেন না। আপনার অনুমান ও খোলা প্রশ্ন
তালিকাভুক্ত করুন।
এআই স্কিল
- এজাইল ITIL মেট্রিক্স স্কিল: একটি এআই গভর্ন্যান্স বা ঝুঁকির মেট্রিকের জোড়া রক্ষাবেষ্টনী খুঁজতে ব্যবহার করুন।
- এজাইল ITIL মেট্রিক্স রক্ষণাবেক্ষণ স্কিল: একটি এআই গভর্ন্যান্স মেট্রিকের এন্ট্রি স্বাধীন প্রমাণ ব্যবহার করে এবং তার কারসাজির উপায় ও রক্ষাবেষ্টনী বহন করে কি না যাচাই করতে ব্যবহার করুন।
মূল শিক্ষণীয় বিষয়
- স্বাধীন আবিষ্কারে এআই নিবন্ধ গড়ুন, এবং নিরাপদ ব্যবহারের জন্য একটি দ্রুত পথসহ ঝুঁকির সঙ্গে পর্যবেক্ষণ মেলান।
- মডেল, প্রম্পট, টুল ও তথ্যের উৎসকে পরীক্ষা, অনুমোদন ও ফেরানো লাগা পরিবর্তন গণ্য করুন।
- ব্যবহারের আগে এবং ব্যবহারের সময়ে বাস্তবসম্মত ও প্রতিপক্ষ ক্ষেত্রে মূল্যায়ন করুন।
- কাজ করতে পারে এমন মানুষের তদারকি নকশা করুন, এবং বসানো ত্রুটি দিয়ে পরীক্ষা করুন।
- এআই ইনসিডেন্টকে অন্য ইনসিডেন্টের মতো দোষারোপহীন পর্যালোচনাসহ সামলান, এবং মালিকদের ব্যবস্থা বন্ধ করার ক্ষমতা দিন।
- সরবরাহকারীদের তাদের এআই সম্পর্কে জিজ্ঞেস করুন, এবং নিয়ম ছোট ও নিরাপদ পথ সহজ রাখুন।
তথ্যসূত্র ও আরও পড়ার জন্য
- National Institute of Standards and Technology, Artificial Intelligence Risk Management Framework (AI RMF 1.0), NIST AI 100-1, 2023.
- ISO/IEC 42001, Information technology: Artificial intelligence: Management system, International Organization for Standardization, 2023.
- ISO/IEC 23894, Information technology: Artificial intelligence: Guidance on risk management, International Organization for Standardization, 2023.
- European Parliament and Council, Regulation (EU) 2024/1689 laying down harmonised rules on artificial intelligence (Artificial Intelligence Act), 2024.
- Organisation for Economic Co-operation and Development, OECD AI Principles, 2019 (updated 2024).
- Mitchell, M., et al., "Model Cards for Model Reporting," Proceedings of the Conference on Fairness, Accountability, and Transparency, 2019.
- Beck, K., et al., Principles behind the Agile Manifesto, 2001, https://agilemanifesto.org/principles.html.
- Wikipedia, Algorithmic bias.
- Wikipedia, Prompt injection.
- Wikipedia, Artificial Intelligence Act.
- Wikipedia, Responsible AI.
- Wikipedia, Regulation of artificial intelligence.
- Wikipedia, Shadow IT.
- Wikipedia, Goodhart's law.
- Wikipedia, Audit trail.