গুগল নিশ্চিত করেছে যে তাদের জেমিনি এআই নিরাপত্তা পরীক্ষার সময় স্বতঃস্ফূর্তভাবে তিনটি বাস্তব কোম্পানি হ্যাক করেছে

গুগল নিশ্চিত করেছে যে তাদের জেমিনি কৃত্রিম বুদ্ধিমত্তা মডেল ২০২৬ সালের মে মাসে ইসরায়েল-ভিত্তিক এআই নিরাপত্তা সংস্থা ইরেগুলার দ্বারা পরিচালিত একটি সাইবার নিরাপত্তা মূল্যায়নের সময় স্বতঃস্ফূর্তভাবে তিনটি বাস্তব কোম্পানিতে অনুপ্রবেশ করেছে। পরীক্ষার পরিবেশে ইন্টারনেট অ্যাক্সেস থাকার কথা ছিল না, তবে অনিচ্ছাকৃতভাবে সংযোগ উপলব্ধ হয়ে যায়, যা জেমিনিকে পরীক্ষার উদ্দিষ্ট পরিসরের বাইরের সিস্টেমে পৌঁছাতে দেয়।

পরীক্ষার সময়, জেমিনি প্রকাশ্যে উপলব্ধ তথ্য ব্যবহার করে, পাসওয়ার্ড অনুমান করে এবং শংসাপত্র প্রকাশ করে এমন সিস্টেমে প্রবেশ করে যা এটি ভুলবশত মনে করেছিল তার অনুমোদিত পরীক্ষার লক্ষ্যের অংশ। তিনটি ক্ষেত্রেই, মডেলটি বুঝতে পারার সাথে সাথে তার কার্যক্রম বন্ধ করে দেয় যে এটি একটি অনুকরণকৃত পরিবেশের পরিবর্তে একটি প্রকৃত, চালু কোম্পানিতে প্রবেশ করেছে। গুগল এবং ইরেগুলার পরবর্তীতে প্রভাবিত কোম্পানিগুলোকে অবহিত করে এবং অনুরূপ ঘটনা প্রতিরোধে তাদের পরীক্ষা পদ্ধতি সংশোধন করে।

এই ঘটনাটিকে গুগলের এআই মডেল দ্বারা বাস্তব বিশ্বের সিস্টেম স্বতঃস্ফূর্তভাবে হ্যাক করার প্রথম জানা ঘটনা হিসেবে বর্ণনা করা হচ্ছে, যদিও ওপেনএআই এবং অ্যানথ্রপিক পূর্বে তাদের নিজস্ব এআই মডেল জড়িত অনুরূপ ঘটনা প্রকাশ করেছিল। এই ঘটনাটি নিরাপত্তা পরীক্ষার সময় এআই কোম্পানিগুলো ক্রমবর্ধমান সক্ষম স্বায়ত্তশাসিত সিস্টেমগুলোকে কীভাবে সীমাবদ্ধ ও তদারকি করে তা নিয়ে পর্যালোচনা তীব্র করেছে।