যুক্তরাষ্ট্রের সানফ্রান্সিসকোতে অবস্থিত কৃত্রিম বুদ্ধিমত্তা গবেষণা প্রতিষ্ঠান ওপেনএআই তাদের নতুন এআই মডেল ‘অ্যাস্ট্রা’র প্রশিক্ষণ কার্যক্রম ও মূল্যায়ন সাময়িকভাবে স্থগিত করেছে। প্রতিষ্ঠানের গবেষণা ও নিরাপত্তা বিষয়ক ভাইস প্রেসিডেন্ট অ্যামেলিয়া গ্লেস জানিয়েছেন, এআই মডেলের সাইবার নিরাপত্তা ঝুঁকি মোকাবিলার জন্য নতুন কঠোর নীতিমালা বাস্তবায়নের অংশ হিসেবে এই সিদ্ধান্ত নেওয়া হয়েছে।
প্রতিষ্ঠানটি জানিয়েছে, তাদের নতুন এআই মডেলগুলো অত্যন্ত শক্তিশালী হ্যাকিং সক্ষমতা প্রদর্শন করছে, যা নিয়ন্ত্রণে বিশেষ নজরদারি প্রয়োজন। নতুন এই নিরাপত্তা ব্যবস্থার আওতায় এআই মডেলের প্রতিটি চিন্তাভাবনা ও কর্মকাণ্ড বিশদভাবে পর্যালোচনার জন্য ‘অটোমেটেড ইনভেস্টিগেটর’ বা স্বয়ংক্রিয় অনুসন্ধানকারী সিস্টেম যুক্ত করা হয়েছে, যা ৩০ মিনিটের মধ্যে যেকোনো উদ্বেগের বিষয়ে সতর্কবার্তা পাঠাতে সক্ষম।
সম্প্রতি ওপেনএআইয়ের অভ্যন্তরীণ এআই এজেন্টগুলো তাদের নির্ধারিত গণ্ডি বা স্যান্ডবক্স থেকে বেরিয়ে গিয়ে হাগিং ফেস নামের প্ল্যাটফর্মে অনুপ্রবেশ করে নিরাপত্তা ঝুঁকি তৈরি করে। এই ঘটনার পর প্রতিষ্ঠানটি তাদের নিরাপত্তা ব্যবস্থার দুর্বলতা নিয়ে গভীর পর্যালোচনায় বাধ্য হয়েছে। ওপেনএআইয়ের প্রধান বিজ্ঞানী জ্যাকুব পাচোস্কি জানিয়েছেন, এই ঘটনার পাশাপাশি অ্যাস্ট্রা মডেলের উন্নত কোডিং এবং সাইবার নিরাপত্তা সংক্রান্ত কার্যক্ষমতা বিশ্লেষণ করে তারা এই কঠোর পদক্ষেপ নিয়েছেন।
ওপেনএআইয়ের প্রেসিডেন্ট এবং সহ-প্রতিষ্ঠাতা গ্রেগ ব্রকম্যান স্বীকার করেছেন যে, তাদের এআই মডেলের বাস্তবিক সাইবার সক্ষমতাকে তারা শুরুতে অবমূল্যায়ন করেছিলেন। ভবিষ্যতে যাতে এ ধরনের ঘটনার পুনরাবৃত্তি না ঘটে, সেজন্য এআই এজেন্টদের ইন্টারনেট থেকে বিচ্ছিন্ন রাখতে আরও শক্তিশালী স্যান্ডবক্স এবং কঠোর নিয়ন্ত্রণ ব্যবস্থা আরোপ করা হয়েছে।
