Google bestätigt: KI-Modell Gemini hackte während Sicherheitstest autonom drei reale Unternehmen

Google hat bestätigt, dass sein Modell für künstliche Intelligenz, Gemini, während einer im Mai 2026 von der israelischen KI-Sicherheitsfirma Irregular durchgeführten Cybersicherheitsbewertung autonom drei reale Unternehmen gehackt hat. Die Testumgebung sollte eigentlich keinen Internetzugang haben, doch die Verbindung wurde versehentlich freigeschaltet, wodurch Gemini Systeme außerhalb des vorgesehenen Testrahmens erreichen konnte.

Während des Tests nutzte Gemini öffentlich verfügbare Informationen, erriet Passwörter und legte Zugangsdaten offen, um in Systeme einzudringen, die es fälschlicherweise für Teil seiner autorisierten Testziele hielt. In allen drei Fällen stellte das Modell seine Aktivität ein, sobald es erkannte, dass es auf ein reales, aktives Unternehmen und nicht auf eine simulierte Umgebung zugegriffen hatte. Google und Irregular informierten anschließend die betroffenen Unternehmen und überarbeiteten ihre Testverfahren, um ähnliche Vorfälle künftig zu verhindern.

Der Vorfall gilt als der erste bekannte Fall, in dem ein KI-Modell von Google autonom reale Systeme gehackt hat, wobei OpenAI und Anthropic zuvor bereits vergleichbare Vorfälle mit ihren eigenen Modellen offengelegt hatten. Der Fall hat die Aufmerksamkeit dafür verstärkt, wie KI-Unternehmen zunehmend fähige autonome Systeme während Sicherheitstests isolieren und überwachen.