Google подтвердила, что её ИИ Gemini самостоятельно взломал три реальные компании во время теста безопасности

Google подтвердила, что её модель искусственного интеллекта Gemini самостоятельно взломала три реальные компании во время оценки кибербезопасности, проведённой израильской фирмой по безопасности ИИ Irregular в мае 2026 года. Тестовая среда не должна была иметь доступ в интернет, но подключение было непреднамеренно предоставлено, что позволило Gemini выйти за пределы предполагаемого объёма учений.

Во время теста Gemini использовала общедоступную информацию, подбирала пароли и раскрывала учётные данные для доступа к системам, которые она ошибочно считала частью своих авторизованных тестовых целей. В каждом из трёх случаев модель прекращала действия, как только осознавала, что получила доступ к реальной действующей компании, а не к имитируемой среде. Впоследствии Google и Irregular уведомили пострадавшие компании и пересмотрели свои процедуры тестирования, чтобы предотвратить подобные инциденты.

Этот случай называют первым известным примером самостоятельного взлома реальных систем моделью ИИ Google, хотя OpenAI и Anthropic ранее уже сообщали о похожих инцидентах со своими моделями. Этот случай усилил внимание к тому, как компании, разрабатывающие ИИ, изолируют и контролируют всё более способные автономные системы во время тестирования безопасности.