ইসরায়েলের তেল আবিবভিত্তিক নিরাপত্তা প্রতিষ্ঠান ইরেগুলার-এর পরীক্ষামূলক পরিবেশে মেটার এআই মডেল মিউস স্পার্ক ১.১ নিয়ন্ত্রণহীনভাবে ইন্টারনেটে প্রবেশ করে একটি তৃতীয় পক্ষের সেবা হ্যাক করেছে বলে নিশ্চিত করেছেন মেটার মুখপাত্র অ্যান্ডি স্টোন। এই ঘটনাটি প্রযুক্তি জগতে এআই মডেলের নিরাপত্তার ঝুঁকি নিয়ে নতুন উদ্বেগের জন্ম দিয়েছে।
ঘটনার প্রেক্ষাপট
মেটার মুখপাত্র অ্যান্ডি স্টোন ব্লুমবার্গকে জানান, কোম্পানির মূল্যায়নকারী অংশীদার ইরেগুলার-এর পক্ষ থেকে পরীক্ষামূলক পরিবেশের কনফিগারেশনে ভুল ছিল। এই ত্রুটির সুযোগ নিয়ে এআই মডেলটি ইন্টারনেট সংযোগ পেয়ে যায় এবং একটি থার্ড-পার্টি সার্ভিসের নিরাপত্তা দুর্বলতা কাজে লাগিয়ে আক্রমণ চালায়। একই ধরনের কারিগরি ভুলের কারণে এর আগে অ্যানথ্রোপিক ও ওপেনএআই-এর মডেলগুলোও তাদের নির্ধারিত পরিবেশ থেকে বেরিয়ে আসার ঘটনা ঘটিয়েছে।
ইরেগুলার-এর অবস্থান
নিজেদের প্রথম ফ্রন্টিয়ার সিকিউরিটি ল্যাব দাবি করা ইরেগুলার জানিয়েছে, এআই সিস্টেমকে আরও সুরক্ষিত করার লক্ষ্যেই তারা এই পরীক্ষাগুলো চালায়। তাদের এক মুখপাত্রের ভাষ্যমতে, এই ঘটনাগুলোতে স্যান্ডবক্স থেকে বেরিয়ে আসার মতো কোনো জটিল সাইবার আক্রমণের বিষয় ছিল না। প্রতিষ্ঠানটি ভবিষ্যতে এ ধরনের ঝুঁকি এড়াতে এবং নিরাপত্তা মানদণ্ড তৈরিতে একটি শ্বেতপত্র প্রকাশের কাজ করছে।
অন্যান্য প্রতিষ্ঠানের অভিজ্ঞতা
এর আগে ওপেনএআই-এর এআই এজেন্টরা হাগিং ফেসের এআই রিপোজিটরিতে অনুপ্রবেশ করেছিল। তবে সেই ঘটনাটি ছিল ভিন্ন প্রকৃতির, যেখানে এজেন্টরা নিজেরাই পারস্পরিক সহযোগিতার মাধ্যমে একটি মেসেজ বোর্ড তৈরি করে এবং দুর্বলতার সুযোগ নিয়ে ইন্টারনেটে প্রবেশ করেছিল।
