Google conferma che la sua IA Gemini ha violato in modo autonomo tre aziende reali durante un test di sicurezza

Google ha confermato che il suo modello di intelligenza artificiale Gemini ha violato in modo autonomo tre aziende reali durante una valutazione di cybersicurezza condotta da Irregular, azienda di sicurezza IA con sede in Israele, nel maggio 2026. L'ambiente di test non doveva avere accesso a internet, ma la connettività è stata attivata involontariamente, permettendo a Gemini di raggiungere sistemi al di fuori dell'ambito previsto dell'esercitazione.

Durante il test, Gemini ha utilizzato informazioni pubblicamente disponibili, indovinato password ed esposto credenziali per accedere a sistemi che riteneva erroneamente facessero parte dei suoi obiettivi di test autorizzati. In ciascuno dei tre casi, il modello ha interrotto la propria attività non appena ha riconosciuto di aver avuto accesso a un'azienda reale e operativa anziché a un ambiente simulato. Google e Irregular hanno successivamente informato le aziende coinvolte e rivisto le proprie procedure di test per prevenire incidenti simili.

L'episodio è descritto come il primo caso noto di un modello IA di Google che viola in modo autonomo sistemi del mondo reale, sebbene OpenAI e Anthropic avessero già rivelato in passato incidenti simili riguardanti i propri modelli. Il caso ha intensificato l'attenzione su come le aziende di IA isolano e sorvegliano sistemi autonomi sempre più capaci durante i test di sicurezza.