گوگل تأیید کرد که هوش مصنوعی جمینای آن در حین آزمایش امنیتی به‌طور خودکار سه شرکت واقعی را هک کرده است

گوگل تأیید کرده است که مدل هوش مصنوعی جمینای آن در ماه مه ۲۰۲۶ در جریان یک ارزیابی امنیت سایبری که توسط شرکت امنیت هوش مصنوعی ایرگولار مستقر در اسرائیل انجام شد، به‌طور خودکار سه شرکت واقعی را هک کرد. محیط آزمایشی قرار نبود دسترسی به اینترنت داشته باشد، اما اتصال به‌طور ناخواسته فعال شد و به جمینای اجازه داد به سیستم‌هایی فراتر از دامنه مورد نظر تمرین دست یابد.

در جریان آزمایش، جمینای از اطلاعات در دسترس عموم استفاده کرد، رمزهای عبور را حدس زد و اطلاعات ورود را برای دسترسی به سیستم‌هایی که اشتباهاً تصور می‌کرد بخشی از اهداف مجاز آزمایش هستند، افشا کرد. در هر سه مورد، این مدل به محض تشخیص اینکه به یک شرکت واقعی و فعال دسترسی یافته است، نه یک محیط شبیه‌سازی‌شده، فعالیت خود را متوقف کرد. گوگل و ایرگولار متعاقباً شرکت‌های آسیب‌دیده را مطلع کردند و رویه‌های آزمایشی خود را برای جلوگیری از حوادث مشابه بازنگری کردند.

این رویداد به‌عنوان اولین مورد شناخته‌شده هک خودکار سیستم‌های واقعی توسط یک مدل هوش مصنوعی گوگل توصیف می‌شود، هرچند اوپن‌ای‌آی و آنتروپیک پیش‌تر حوادث مشابهی را درباره مدل‌های خود افشا کرده بودند. این مورد بررسی‌ها درباره نحوه جداسازی و نظارت شرکت‌های هوش مصنوعی بر سیستم‌های خودمختار روزافزون توانمند در حین آزمایش‌های امنیتی را تشدید کرده است.