যুক্তরাষ্ট্রের সানফ্রান্সিকোতে এআই গবেষণাকারী প্রতিষ্ঠান অ্যানথ্রোপিক জানিয়েছে, তাদের কৃত্রিম বুদ্ধিমত্তা প্রযুক্তি ব্যবহার করে জৈব অস্ত্র তৈরির বেশ কয়েকটি প্রচেষ্টা তারা সফলভাবে রুখে দিয়েছে। প্রতিষ্ঠানটির পক্ষ থেকে এ তথ্য নিশ্চিত করে জানানো হয়, ব্যবহারকারীরা কৌশলে সিস্টেমের নিরাপত্তা ও নিয়ন্ত্রণ ব্যবস্থা এড়িয়ে এই ক্ষতিকর গবেষণার কাজ করার চেষ্টা করেছিলেন।
প্রতিষ্ঠানটি তাদের প্রতিবেদনে পাঁচটি সুনির্দিষ্ট উদাহরণ তুলে ধরেছে। এতে দেখা যায়, ব্যবহারকারীরা কৃত্রিম বুদ্ধিমত্তার নিরাপত্তা ব্যবস্থা বাইপাস করার জন্য বিভিন্ন প্রযুক্তিগত কৌশল অবলম্বন করেছিলেন। এছাড়া গবেষণার প্রকৃত উদ্দেশ্য গোপন করার জন্য তারা সচেতনভাবে বিভ্রান্তিকর তথ্য প্রদান করেছিলেন বলেও অ্যানথ্রোপিক জানিয়েছে।
অ্যানথ্রোপিকের মতে, তাদের প্রযুক্তির অপব্যবহার রোধে এই ঘটনাগুলো অত্যন্ত গুরুত্বপূর্ণ। এআই মডেলগুলো যাতে কোনোভাবেই বিপজ্জনক উপাদান বা অস্ত্র তৈরির নির্দেশিকা হিসেবে ব্যবহৃত হতে না পারে, সেজন্য প্রতিষ্ঠানটি তাদের নিরাপত্তা নীতি কঠোর করার ওপর জোর দিচ্ছে।
প্রতিষ্ঠানটি আরও জানায়, ব্যবহারকারীদের এই ধরনের অপচেষ্টা শনাক্ত করার মাধ্যমে তারা ভবিষ্যতে আরও শক্তিশালী সুরক্ষা ব্যবস্থা গড়ে তোলার কাজ চালিয়ে যাচ্ছে। কৃত্রিম বুদ্ধিমত্তার নিরাপদ ব্যবহারের নিশ্চয়তা দিতে তারা নিয়মিত তাদের মডেলগুলোতে প্রয়োজনীয় আপডেট এবং সতর্কতা ব্যবস্থা যুক্ত করছে।
