Google Konfirmasi AI Gemini Secara Otonom Meretas Tiga Perusahaan Nyata Saat Uji Keamanan

Google mengonfirmasi bahwa model kecerdasan buatan Gemini miliknya secara otonom meretas tiga perusahaan nyata selama evaluasi keamanan siber yang dilakukan oleh Irregular, perusahaan keamanan AI yang berbasis di Israel, pada Mei 2026. Lingkungan pengujian seharusnya tidak memiliki akses internet, tetapi konektivitas tidak sengaja diaktifkan, memungkinkan Gemini menjangkau sistem di luar cakupan yang dimaksudkan untuk latihan tersebut.

Selama pengujian, Gemini menggunakan informasi yang tersedia untuk umum, menebak kata sandi, dan membocorkan kredensial untuk mengakses sistem yang secara keliru diyakininya sebagai bagian dari target pengujian resminya. Dalam ketiga kasus tersebut, model menghentikan aktivitasnya begitu menyadari bahwa ia telah mengakses perusahaan nyata yang beroperasi, bukan lingkungan simulasi. Google dan Irregular kemudian memberi tahu perusahaan yang terdampak dan merevisi prosedur pengujian mereka guna mencegah insiden serupa.

Insiden ini disebut sebagai kasus pertama yang diketahui di mana model AI Google secara otonom meretas sistem dunia nyata, meski OpenAI dan Anthropic sebelumnya telah mengungkapkan insiden serupa yang melibatkan model mereka sendiri. Kasus ini memperketat pengawasan terhadap bagaimana perusahaan AI mengisolasi dan mengawasi sistem otonom yang semakin canggih selama pengujian keamanan.