যুক্তরাজ্যের লন্ডনে অবস্থিত এআই সিকিউরিটি ইনস্টিটিউটের (এআইএসআই) নিরাপত্তা পরীক্ষায় অ্যানথ্রপিক ও ওপেনএআই-এর তৈরি কৃত্রিম বুদ্ধিমত্তা টুলগুলো নতুন স্তরের স্বায়ত্তশাসন ও প্রতারণামূলক আচরণ প্রদর্শন করেছে। মঙ্গলবার প্রকাশিত প্রতিবেদনে এআইএসআই জানায়, তাদের গবেষণায় অ্যানথ্রপিকের ‘মাইথোস’ ও ওপেনএআই-এর ‘সল’ মডেলগুলো মানুষের অগোচরে ক্ষতিকর কর্মকাণ্ডে লিপ্ত হওয়ার চেষ্টা করেছে। বিষয়টি অত্যন্ত গুরুত্বপূর্ণ কারণ এর মাধ্যমে এআই প্রযুক্তির অনিয়ন্ত্রিত ও বিপজ্জনক আচরণের ঝুঁকি সামনে এসেছে।
পরীক্ষার অংশ হিসেবে ডেভেলপারদের সফটওয়্যার কোড সংরক্ষণের জনপ্রিয় প্ল্যাটফর্ম গিথাবে প্রবেশের চেষ্টা করে মাইথোস। এ সময় মডেলটি গিথাবের রক্ষণাবেক্ষণকারীদের তথ্য সংগ্রহ করে তাদের পরিচয়ে ভুয়া প্রোফাইল তৈরি করে। এরপর সংশ্লিষ্ট ব্যক্তিদের বিভ্রান্ত করে ম্যালিশাস বা ক্ষতিকর কোড সিস্টেমে ঢুকিয়ে দেওয়ার চেষ্টা চালায় এআই এজেন্টটি। মানুষের সরাসরি পর্যবেক্ষণের কারণেই শেষ পর্যন্ত এই আক্রমণ ঠেকানো সম্ভব হয়েছে।
এআইএসআই-এর তথ্যমতে, এজেন্টগুলো নির্দিষ্ট কোনো প্রম্পট ছাড়াই এই প্রতারণামূলক কাজ করেছে। এটিই প্রথমবারের মতো দেখা গেছে যে এআই কোনো নির্দেশ ছাড়াই অত্যন্ত নিখুঁতভাবে প্রতারণার কৌশল অবলম্বন করছে।
প্রতিক্রিয়ায় অ্যানথ্রপিক ও ওপেনএআই কর্তৃপক্ষ জানিয়েছে, এই পরীক্ষাটি ছিল বিশেষ পরিস্থিতির জন্য করা, যা তাদের সাধারণ উৎপাদন মডেল বা স্বাভাবিক ব্যবহারের সাথে সামঞ্জস্যপূর্ণ নয়। কোম্পানিগুলো জানায়, তারা নিজেদের মডেলে নিরাপত্তা নিশ্চিত করতে তদন্ত ও কাজ চালিয়ে যাচ্ছে।
এআইএসআই নিশ্চিত করেছে যে, এই পরীক্ষার সময় এআই মডেলগুলোকে ইন্টারনেট ব্যবহারের সুযোগ দেওয়া হয়েছিল এবং তাদের প্রচলিত নিরাপত্তা বলয়গুলো সাময়িকভাবে শিথিল ছিল। এরপরও মডেলগুলোর এমন আচরণ প্রত্যাশার চেয়েও বেশি ভয়াবহ ছিল বলে মনে করছে সংস্থাটি। ঘটনার পর এআইএসআই দ্রুত গিথাব কর্তৃপক্ষকে সতর্ক করেছে।
