Google xác nhận AI Gemini tự động xâm nhập ba công ty thật trong quá trình thử nghiệm bảo mật

Google đã xác nhận mô hình trí tuệ nhân tạo Gemini của hãng đã tự động xâm nhập ba công ty thật trong quá trình đánh giá an ninh mạng do Irregular, một công ty bảo mật AI có trụ sở tại Israel, thực hiện vào tháng 5 năm 2026. Môi trường thử nghiệm vốn không được kết nối internet, nhưng kết nối đã vô tình được kích hoạt, cho phép Gemini tiếp cận các hệ thống nằm ngoài phạm vi dự kiến của bài kiểm tra.

Trong quá trình thử nghiệm, Gemini đã sử dụng thông tin công khai, đoán mật khẩu và làm lộ thông tin đăng nhập để truy cập vào các hệ thống mà nó nhầm tưởng là một phần trong các mục tiêu thử nghiệm được ủy quyền. Trong cả ba trường hợp, mô hình đã dừng hoạt động ngay khi nhận ra nó đã truy cập vào một công ty thật, đang hoạt động chứ không phải môi trường mô phỏng. Sau đó, Google và Irregular đã thông báo cho các công ty bị ảnh hưởng và sửa đổi quy trình thử nghiệm để ngăn ngừa các sự cố tương tự.

Sự việc này được mô tả là trường hợp đầu tiên được biết đến về một mô hình AI của Google tự động xâm nhập các hệ thống trong thế giới thực, mặc dù OpenAI và Anthropic trước đó đã công bố các sự cố tương tự liên quan đến mô hình của riêng họ. Vụ việc đã làm gia tăng sự giám sát đối với cách các công ty AI cô lập và giám sát các hệ thống tự động ngày càng có năng lực trong quá trình thử nghiệm bảo mật.