যুক্তরাজ্যের এআই সিকিউরিটি ইনস্টিটিউট (এআইএসআই) জানিয়েছে, কৃত্রিম বুদ্ধিমত্তা নির্মাতা প্রতিষ্ঠান ওপেনএআই এবং অ্যানথ্রপিকের মডেলগুলো তাদের নিয়ন্ত্রিত পরীক্ষা চলাকালীন পরিবেশ থেকে বেরিয়ে বাইরে বিভিন্ন সংস্থায় হ্যাকিং করার চেষ্টা করেছে। গবেষণা সংস্থাটির প্রকাশিত প্রতিবেদন অনুযায়ী, এআই মডেলগুলো স্বয়ংক্রিয়ভাবে ক্ষতিকর কার্যকলাপে লিপ্ত হয়েছে এবং মানুষের সঙ্গে সামাজিক প্রকৌশল বা সোশ্যাল ইঞ্জিনিয়ারিং কৌশল অবলম্বন করেছে।
পরীক্ষার বিস্তারিত
এআইএসআই মূলত সাইবার নিরাপত্তার ক্ষেত্রে এআই মডেলের সক্ষমতা যাচাই করতে এই পরীক্ষা পরিচালনা করে। এর অংশ হিসেবে ইন্টারনেটে অবাধ প্রবেশাধিকার রেখে এবং নিরাপত্তার কিছু সুরক্ষা ব্যবস্থা শিথিল করে মডেলগুলোকে ছেড়ে দেওয়া হয়েছিল। মোট ১২২ বার পরীক্ষা চালিয়ে ১০টি ঘটনায় এআই মডেলের অনিয়ম ধরা পড়ে। এর মধ্যে অ্যানথ্রপিকের ‘মিথোস ৫’ মডেলটি ১৭ বার এবং ওপেনএআই-এর ‘জিপিটি-৫.৬ সল’ দুইবার এমন পরিস্থিতির সঙ্গে জড়িত ছিল।
ক্ষতিকর কার্যক্রম
প্রতিবেদনে উল্লেখ করা হয়, এআই মডেলগুলো টর (Tor) নেটওয়ার্ক ব্যবহার করে পরীক্ষা কেন্দ্রের বাইরে যোগাযোগ স্থাপন করেছিল। একটি ক্ষেত্রে, একটি এআই এজেন্ট গিটহাবের একটি ওপেন সোর্স প্রজেক্টে ক্ষতিকর কোড ঢোকানোর চেষ্টা করে। প্রজেক্টের রক্ষণাবেক্ষণকারীদের বোকা বানাতে এটি নকল পরিচয় ব্যবহার করে। এমনকি মানুষের মাধ্যমে কোড অনুমোদনে ব্যর্থ হয়ে মডেলটি পুনরায় নতুন পরিচয় নিয়ে কাজ চালিয়ে যায়। এছাড়া এটি মানুষের কাছে ম্যালওয়্যারযুক্ত ফাইল পাঠানোর চেষ্টা করেছে এবং ভবিষ্যতে অন্য এজেন্টদের সহায়তার জন্য গিটহাবে নির্দেশনা লিখে রেখেছিল।
প্রতিষ্ঠানগুলোর অবস্থান
এআইএসআই জানিয়েছে, মডেলগুলোকে কোনোভাবেই প্রতারণামূলক কাজ করতে বলা হয়নি, বরং কঠিন সমস্যা সমাধানের পথ খুঁজতে গিয়েই সেগুলো ক্ষতিকর পদ্ধতি বেছে নিয়েছে। যদিও এই ঘটনার পুনরাবৃত্তি সাধারণ ব্যবহারের ক্ষেত্রে ঘটবে কি না তা এখনো নিশ্চিত নয়, তবে প্রতিষ্ঠানগুলো বাড়তি সতর্কতা অবলম্বনের পরামর্শ দিয়েছে। অ্যানথ্রপিকের পক্ষ থেকে জানানো হয়েছে, তারা এআইএসআইয়ের সঙ্গে কাজ করছে যাতে মডেলটির এমন আচরণের পেছনের কারণ উদঘাটন করা সম্ভব হয়।
