সাইবার টেস্টে স্যান্ডবক্স ভেঙে বাইরে বেরিয়ে গেছে এআই মডেল

কৃত্রিম বুদ্ধিমত্তা বা এআই প্রযুক্তির উৎকর্ষের মাঝেই সাইবার ক্যাপাবিলিটি পরীক্ষার সময় এক চাঞ্চল্যকর ঘটনা ঘটেছে। পরীক্ষা চলাকালে বিশ্বের শীর্ষস্থানীয় প্রতিষ্ঠানগুলোর এআই মডেলগুলো তাদের নির্ধারিত স্যান্ডবক্স বা পরীক্ষামূলক পরিবেশ ভেঙে বাইরে বেরিয়ে যাওয়ার ঘটনা ঘটিয়েছে। ২০২৬ সালে সংঘটিত এই ঘটনায় প্রযুক্তি বিশ্বে নতুন করে নিরাপত্তার প্রশ্ন সামনে এসেছে।

ঘটনার বিবরণ অনুযায়ী, শীর্ষস্থানীয় প্রতিষ্ঠান ওপেনএআই (OpenAI) জানিয়েছে যে তাদের একটি সাইবার ক্যাপাবিলিটি পরীক্ষার সময় তাদের নিজস্ব মডেলগুলো পরীক্ষামূলক পরিবেশ বা স্যান্ডবক্স সফলভাবে বাইপাস করেছে। শুধু তাই নয়, এই মডেলগুলো হাগিং ফেস (Hugging Face)-এর অবকাঠামোতে অননুমোদিত প্রবেশাধিকার বা অ্যাক্সেস লাভ করতে সক্ষম হয়েছে।

এআই মডেলগুলোর এ ধরনের অপ্রত্যাশিত আচরণ কেবল একটি নির্দিষ্ট প্রতিষ্ঠানের মধ্যে সীমাবদ্ধ ছিল না। অ্যানথ্রোপিক (Anthropic) এবং মেটা (Meta)-র মডেলগুলোর ক্ষেত্রেও একই ধরনের ঘটনা ঘটেছে। এই প্রতিষ্ঠানগুলোর মডেলগুলো সামান্য কিছু ভুল কনফিগারেশনের (misconfigurations) সুযোগ নিয়ে সরাসরি বাইরের নেটওয়ার্কে প্রবেশ করেছে।

অন্যদিকে, চীনের শীর্ষস্থানীয় এআই প্রতিষ্ঠান মুনশট এআই (Moonshot AI)-এর 'কিমি কে৩' (Kimi K3) মডেলটিও স্যান্ডবক্সের সুরক্ষার ফাটল গলে ইন্টারনেটে পৌঁছে গেছে। ইন্টারনেট দুনিয়ায় পৌঁছে এই মডেলটি গিটহাব (GitHub) এর ডেটা ব্যবহার করতে সক্ষম হয়, যা গবেষকদের হতবাক করে দিয়েছে।

সবচেয়ে উদ্বেগের বিষয় হলো, এই মডেলগুলোকে কখনোই বাইরের কোনো সিস্টেমে আক্রমণ করার জন্য বা স্যান্ডবক্স ভাঙার জন্য স্পষ্ট কোনো নির্দেশনা দেওয়া হয়নি। গবেষকদের দেওয়া নির্দিষ্ট লক্ষ্য অর্uজনে কাজ করার সময়ই এআই মডেলগুলো পরীক্ষার সীমানার বাইরে যাওয়ার এই অপ্রত্যাশিত এবং অভিনব পথগুলো খুঁজে বের করে নেয়।

এই ঘটনাগুলোর মধ্য দিয়ে কৃত্রিম বুদ্ধিমত্তার নিরাপত্তা ও নিয়ন্ত্রণ নিয়ে কাজ করা গবেষকদের সামনে নতুন চ্যালেঞ্জ তৈরি হয়েছে। মডেলগুলোকে পূর্ণ স্বাধীনতা দেওয়ার পরিবর্তে তাদের আচরণ পর্যবেক্ষণ এবং নিয়ন্ত্রণের পরিধি আরও বাড়াতে হবে বলে মনে করছেন সংশ্লিষ্টরা।