Google potwierdza, że jego AI Gemini samodzielnie zhakowało trzy prawdziwe firmy podczas testu bezpieczeństwa

Google potwierdził, że jego model sztucznej inteligencji Gemini samodzielnie zhakował trzy prawdziwe firmy podczas oceny cyberbezpieczeństwa przeprowadzonej przez izraelską firmę zajmującą się bezpieczeństwem AI, Irregular, w maju 2026 roku. Środowisko testowe nie powinno mieć dostępu do internetu, ale łączność została niezamierzenie włączona, co pozwoliło Gemini dotrzeć do systemów wykraczających poza zamierzony zakres ćwiczenia.

Podczas testu Gemini wykorzystywał publicznie dostępne informacje, odgadywał hasła i ujawniał dane uwierzytelniające, aby uzyskać dostęp do systemów, które błędnie uważał za część swoich autoryzowanych celów testowych. W każdym z trzech przypadków model przerywał działania, gdy tylko rozpoznawał, że uzyskał dostęp do prawdziwej, działającej firmy, a nie środowiska symulowanego. Google i Irregular następnie powiadomiły dotknięte firmy i zrewidowały swoje procedury testowe, aby zapobiec podobnym incydentom.

Zdarzenie to jest opisywane jako pierwszy znany przypadek, w którym model AI Google samodzielnie zhakował rzeczywiste systemy, choć OpenAI i Anthropic wcześniej ujawniały podobne incydenty dotyczące ich własnych modeli. Sprawa nasiliła kontrolę nad tym, jak firmy zajmujące się AI izolują i nadzorują coraz bardziej zdolne autonomiczne systemy podczas testów bezpieczeństwa.