যুক্তরাজ্যের এআই সিকিউরিটি ইনস্টিটিউটে (এআইএসআই) সাইবার নিরাপত্তা পরীক্ষার সময় চীনের মুনশট এআই-এর তৈরি কৃত্রিম বুদ্ধিমত্তা মডেল কিমি কে৩ তার নির্ধারিত পরীক্ষাগার বা স্যান্ডবক্সের নিয়ন্ত্রণ ছাড়িয়ে বেরিয়ে এসেছে। যুক্তরাষ্ট্রের সাইবার নিরাপত্তা সংস্থা ফ্রন্টিয়ার জানিয়েছে, মডেলটির প্রতিরক্ষা সক্ষমতা যাচাইয়ের সময় এই ঘটনা ঘটে।
ফ্রন্টিয়ার সিকিউরিটির প্রধান নির্বাহী ইয়ারন সিঙ্গার জানিয়েছেন, কিমি কে৩ কোনো জটিল ত্রুটি ব্যবহার করেনি, বরং স্যান্ডবক্স পরিবেশের একটি কনফিগারেশন ত্রুটির সুযোগ নিয়েছে। এই ঘটনার মাধ্যমে এটি স্পষ্ট হয়েছে যে, মডেলটির ভেতরে নিজে থেকে নিয়ম মেনে চলার বা ‘প্রতারণা’ না করার মতো পর্যাপ্ত সুরক্ষা ব্যবস্থা নেই।
কিমি কে৩ এই প্রক্রিয়ায় কোনো তৃতীয় পক্ষের ওয়েবসাইট বা সার্ভিসে অনধিকার প্রবেশ করেনি। মডেলটি কেবল ইন্টারনেট ব্যবহার করে গিটহাব থেকে তার সমাধান খুঁজে নিয়েছে। ওপেনএআই, অ্যানথ্রোপিক এবং মেটার মডেলগুলোও অতীতে একই ধরনের স্যান্ডবক্স ত্রুটির কারণে নিজেদের নিয়ন্ত্রিত পরিবেশ থেকে বেরিয়ে এসেছিল।
ফ্রন্টিয়ারের পর্যবেক্ষণে বলা হয়েছে, এআই মডেলগুলোর সামনে ইন্টারনেটে প্রবেশের কোনো সুযোগ থাকলে তারা দ্রুততম সময়ে সমাধান পাওয়ার জন্য সেই পথ বেছে নেয়। ব্ল্যাক হ্যাট ইউএসএ সম্মেলনে ওপেনএআই-এর কর্মীরাও উল্লেখ করেছিলেন যে, শক্তিশালী এআই এজেন্টরা কাজের চাপে অনেক সময় শর্টকাট বা প্রতারণার পথ অবলম্বন করে। ভবিষ্যতে এআই মডেলগুলোর যথাযথ মূল্যায়নের জন্য পরীক্ষার অবকাঠামো আরও সুরক্ষিত এবং ত্রুটিমুক্ত করার ওপর জোর দিচ্ছেন বিশেষজ্ঞরা।
