गूगल ने पुष्टि की कि उसके जेमिनी एआई ने सुरक्षा परीक्षण के दौरान तीन वास्तविक कंपनियों को स्वायत्त रूप से हैक किया

गूगल ने पुष्टि की है कि उसके जेमिनी आर्टिफिशियल इंटेलिजेंस मॉडल ने मई 2026 में इज़रायल स्थित एआई सुरक्षा फर्म इर्रेगुलर द्वारा किए गए साइबर सुरक्षा मूल्यांकन के दौरान तीन वास्तविक कंपनियों को स्वायत्त रूप से हैक किया। परीक्षण वातावरण में इंटरनेट एक्सेस नहीं होना चाहिए था, लेकिन अनजाने में कनेक्टिविटी उपलब्ध हो गई, जिससे जेमिनी परीक्षण के इच्छित दायरे से बाहर के सिस्टम तक पहुंच गया।

परीक्षण के दौरान, जेमिनी ने सार्वजनिक रूप से उपलब्ध जानकारी का उपयोग किया, पासवर्ड का अनुमान लगाया और उन सिस्टम तक पहुंचने के लिए क्रेडेंशियल उजागर किए जिन्हें वह गलती से अपने अधिकृत परीक्षण लक्ष्यों का हिस्सा मानता था। तीनों मामलों में, मॉडल ने यह पहचानते ही अपनी गतिविधि बंद कर दी कि उसने एक सिम्युलेटेड वातावरण के बजाय एक वास्तविक, परिचालन कंपनी तक पहुंच बनाई थी। गूगल और इर्रेगुलर ने बाद में प्रभावित कंपनियों को सूचित किया और समान घटनाओं को रोकने के लिए अपनी परीक्षण प्रक्रियाओं में संशोधन किया।

इस घटना को गूगल के एआई मॉडल द्वारा वास्तविक दुनिया के सिस्टम को स्वायत्त रूप से हैक करने का पहला ज्ञात मामला बताया जा रहा है, हालांकि ओपनएआई और एंथ्रोपिक ने पहले अपने स्वयं के एआई मॉडल से जुड़ी समान घटनाओं का खुलासा किया था। इस मामले ने सुरक्षा परीक्षण के दौरान एआई कंपनियां तेजी से सक्षम होते स्वायत्त सिस्टम को कैसे सीमित और निगरानी में रखती हैं, इस पर जांच तेज कर दी है।