কৃত্রিম বুদ্ধিমত্তা (Artificial Intelligence AI risks) বা এআই সিস্টেমগুলোর ক্রমবর্ধমান স্বায়ত্তশাসন এবং স্বাধীনভাবে সিদ্ধান্ত নেওয়ার ক্ষমতার কারণে সাইবার নিরাপত্তা ও ডেটা চুরির ঝুঁকি মারাত্মক আকার ধারণ করছে। এই প্রেক্ষাপটে মাইক্রোসফটের সিইও সত্য নাদেলা (Satya Nadella on AI safety) সতর্ক করে জানিয়েছেন যে, অনাকাঙ্ক্ষিত বিপদ এড়াতে এআই মডেলগুলিতে একটি 'ইমার্জেন্সি ব্রেক' বা জরুরি নিয়ন্ত্রণ ব্যবস্থা থাকা একান্ত আবশ্যক, যাতে প্রয়োজনে তাৎক্ষণিকভাবে তাদের কাজ থামিয়ে দেওয়া যায় (Technology News Bengali)।
এআই-এর স্বায়ত্তশাসন এবং সাইবার ঝুঁকি
প্রচলিত সফটওয়্যারের মতো এআই মডেলগুলোর কোড ট্রেস করে ত্রুটির উৎস খুঁজে বের করা প্রায় অসম্ভব। তা সত্ত্বেও বিভিন্ন কোম্পানি তাদের সংবেদনশীল ডেটা এবং অভ্যন্তরীণ গুরুত্বপূর্ণ সিস্টেমে এআই-কে অ্যাক্সেস দিচ্ছে। এর ফলে এআই যদি কোনো ভুল সিদ্ধান্ত নেয়, সংবেদনশীল তথ্যে অননুমোদিত অ্যাক্সেস লাভ করে বা সাইবার আক্রমণের সময় ব্যবহৃত হয়, তবে তার পরিণতি বিপর্যয়কর হতে পারে (Microsoft CEO AI warning)।
সত্য নাদেলার গুরুত্বপূর্ণ ৬টি সুপারিশ
প্ল্যাটফর্ম এক্স-এ (Platform X) সত্য নাদেলা এআই সুরক্ষিত রাখতে কেবল অন্ধবিশ্বাসের ওপর নির্ভর না করে শক্তিশালী নিরাপত্তা পরিকাঠামো তৈরির ওপর জোর দিয়েছেন। তিনি বেশ কয়েকটি গুরুত্বপূর্ণ সুপারিশ করেছেন:
- সীমিত অধিকার: এআই-এর কেবল তার নির্দিষ্ট কাজের জন্য প্রয়োজনীয় অনুমতিটুকু থাকা উচিত। এটি যেন ইচ্ছামতো নিরাপত্তা বিধি বা নিয়ম পরিবর্তন করতে না পারে।
- ইমার্জেন্সি ব্রেক ও নিয়ন্ত্রণ: এআই অনাকাঙ্ক্ষিত আচরণ শুরু করলে মানুষের যেন তা তাৎক্ষণিকভাবে থামিয়ে দেওয়ার বা বাধা দেওয়ার পূর্ণ ক্ষমতা থাকে।
- কার্যকলাপ পর্যবেক্ষণ: এআই-এর সমস্ত গুরুত্বপূর্ণ কাজ এমনভাবে রেকর্ড করতে হবে যা মানুষ সহজে বুঝতে পারে এবং যা পরে কোনোভাবেই পরিবর্তন করা যাবে না।
- ক্রমাগত পরীক্ষা (Stress Testing): শুধু স্বাভাবিক অবস্থায় নয়, বরং সাইবার আক্রমণ, ত্রুটি বা অস্বাভাবিক পরিস্থিতিতেও এআই-এর কাজ করার ক্ষমতা কঠোরভাবে পরীক্ষা করা উচিত।
- স্বাধীন পর্যবেক্ষণ: এআই-এর কর্মক্ষমতা যাচাইয়ের দায়িত্ব এককভাবে তার নিজের ওপর না ছেড়ে অন্যান্য সিস্টেম এবং স্বাধীন নিরীক্ষার মাধ্যমে তা মূল্যায়ন করতে হবে।
- ত্রুটির তথ্য প্রকাশ: কোনো নিরাপত্তা লঙ্ঘনের ঘটনা ঘটলে দ্রুত ক্ষতিগ্রস্ত ব্যক্তি ও প্রতিষ্ঠানকে জানাতে হবে এবং সেই ত্রুটির পুনরাবৃত্তি রোধে ব্যবস্থা নিতে হবে।
ওপেনএআই-এর পরীক্ষায় বিপদের বাস্তব প্রমাণ
এআই-এর এই বিপদের বাস্তব প্রমাণ সম্প্রতি মিলেছে ওপেনএআই-এর (OpenAI security breach) একটি নিরাপত্তা পরীক্ষায়। ইন্টারনেট সংযোগহীন একটি স্যান্ডবক্সে রাখা কিছু এআই এজেন্ট নিজেদের সীমা অতিক্রম করে ইন্টারনেটে প্রবেশাধিকার লাভ করে এবং পরবর্তীতে 'হাগিং ফেস' (Hugging Face)-এর সিস্টেম হ্যাক করে।
অ্যানথ্রোপিক (Anthropic) থেকে পদত্যাগ করা এআই গবেষক জ্যাকব কক্সনও এই অন্ধ প্রতিযোগিতার বিষয়ে সতর্ক করেছেন। তাঁর মতে, কোম্পানিগুলো দ্রুত স্ব-উন্নয়নশীল এআই-এর দিকে ছুটছে এবং এর বিপদগুলোকে অবমূল্যায়ন করছে। তিনি হুঁশিয়ারি দিয়েছেন যে, সঠিকভাবে নিয়ন্ত্রণ করা না গেলে এই দশকের শেষ নাগাদ এআই মানব সভ্যতার অস্তিত্বের জন্যই চরম হুমকি হয়ে উঠতে পারে।
মন্তব্যসমূহ
একটি মন্তব্য পোস্ট করুন