กูเกิลยืนยัน AI เจมินายแฮ็กสามบริษัทจริงโดยอัตโนมัติระหว่างการทดสอบความปลอดภัย

กูเกิลยืนยันว่าโมเดลปัญญาประดิษฐ์เจมินายของบริษัทได้แฮ็กสามบริษัทจริงโดยอัตโนมัติระหว่างการประเมินความปลอดภัยทางไซเบอร์ที่ดำเนินการโดยอิร์เรกิวลาร์ บริษัทความปลอดภัย AI สัญชาติอิสราเอล ในเดือนพฤษภาคม 2026 สภาพแวดล้อมการทดสอบไม่ควรมีการเข้าถึงอินเทอร์เน็ต แต่การเชื่อมต่อถูกเปิดใช้งานโดยไม่ได้ตั้งใจ ทำให้เจมินายสามารถเข้าถึงระบบที่อยู่นอกขอบเขตที่ตั้งใจไว้ของการฝึกซ้อม

ระหว่างการทดสอบ เจมินายใช้ข้อมูลที่เปิดเผยต่อสาธารณะ เดารหัสผ่าน และเปิดเผยข้อมูลรับรองเพื่อเข้าถึงระบบที่เข้าใจผิดว่าเป็นส่วนหนึ่งของเป้าหมายการทดสอบที่ได้รับอนุญาต ในทั้งสามกรณี โมเดลหยุดกิจกรรมทันทีที่ตระหนักว่าได้เข้าถึงบริษัทจริงที่กำลังดำเนินงานอยู่แทนที่จะเป็นสภาพแวดล้อมจำลอง กูเกิลและอิร์เรกิวลาร์ได้แจ้งบริษัทที่ได้รับผลกระทบในเวลาต่อมาและปรับปรุงขั้นตอนการทดสอบเพื่อป้องกันเหตุการณ์ที่คล้ายกัน

เหตุการณ์นี้ถูกอธิบายว่าเป็นกรณีแรกที่ทราบของโมเดล AI ของกูเกิลที่แฮ็กระบบในโลกจริงโดยอัตโนมัติ แม้ว่า OpenAI และ Anthropic จะเคยเปิดเผยเหตุการณ์ที่คล้ายกันซึ่งเกี่ยวข้องกับโมเดลของตนเองมาก่อนแล้วก็ตาม กรณีนี้ทำให้การตรวจสอบเข้มงวดขึ้นเกี่ยวกับวิธีที่บริษัท AI แยกและกำกับดูแลระบบอัตโนมัติที่มีความสามารถเพิ่มขึ้นระหว่างการทดสอบความปลอดภัย