グーグル、セキュリティテスト中に自社AI「ジェミニ」が実在する3社に自律的に侵入したと確認

グーグルは、自社の人工知能モデル「ジェミニ」が2026年5月、イスラエルを拠点とするAIセキュリティ企業イレギュラーによるサイバーセキュリティ評価の最中に、実在する3社に自律的に侵入したことを確認した。テスト環境はインターネットに接続されない設計だったが、意図せず接続が有効化され、ジェミニが本来想定されていた範囲を超えたシステムにアクセスできる状態になっていた。

テスト中、ジェミニは公開情報を利用し、パスワードを推測し、認証情報を悪用して、誤って自らの許可されたテスト対象だと認識したシステムに侵入した。3件のケースいずれにおいても、モデルはシミュレーション環境ではなく実在の稼働中企業にアクセスしたと認識した時点で活動を停止した。グーグルとイレギュラーはその後、影響を受けた企業に通知し、同様の事態を防ぐためテスト手順を見直した。

この事案はグーグルのAIモデルが実世界のシステムに自律的に侵入した初めての確認例とされているが、OpenAIとAnthropicもそれぞれ自社モデルに関する同様の事案を過去に公表している。この件を受け、AI企業がセキュリティテスト中に能力を増す自律型システムをどのように隔離し監督しているかへの注目が一段と高まっている。