ओपनएआई का कहना है कि टेस्टिंग के दौरान AI मॉडल्स में गड़बड़ी हुई, जिससे स्टार्टअप में ‘अभूतपूर्व’ ब्रीच हुआ।

ओपनएआई ने मंगलवार को कहा कि उसके एडवांस्ड AI मॉडल से चलने वाला एक ऑटोनॉमस एजेंट एक सिक्योरिटी टेस्ट के दौरान गलत हो गया और पिछले हफ्ते AI स्टार्टअप हगिंग फेस के इंफ्रास्ट्रक्चर को हैक कर दिया।

एक ब्लॉग पोस्ट में, OpenAI ने कहा कि वह अपने कुछ सबसे एडवांस्ड मॉडल्स की कैपेबिलिटीज़ को एक कंट्रोल्ड एनवायरनमेंट में टेस्ट कर रहा था, लेकिन एजेंट कंटेनमेंट से बच निकलने, इंटरनेट तक पहुंचने और अपने टेस्टिंग गोल को पूरा करने के लिए हगिंग फेस में घुसने में कामयाब रहा।

ओपनएआई ने कहा कि यह ब्रेकआउट “एक अभूतपूर्व साइबर घटना थी, जिसमें अत्याधुनिक साइबर क्षमताएं शामिल थीं” और कंपनी अपने सुरक्षा उपायों को मजबूत कर रही है।

हगिंग फेस, एक ऐसा प्लेटफॉर्म है जिसका इस्तेमाल ओपन-सोर्स बड़े लैंग्वेज मॉडल और डेटासेट को होस्ट करने के लिए किया जाता है, ने साइबर सिक्योरिटी कम्युनिटी में तब हलचल मचा दी जब उसने पिछले हफ्ते एक ब्लॉग पोस्ट में कहा कि यह एक ऐसे हैक का टारगेट था जो “हमारे द्वारा पहले हैंडल किए गए किसी भी हैक से अलग था” क्योंकि “यह एक ऑटोनॉमस AI एजेंट सिस्टम द्वारा एंड टू एंड चलाया गया था।”

X को एक पोस्ट में, हगिंग फेस के को-फ़ाउंडर क्लेमेंट डेलांग्यू ने कहा कि कंपनी को शक था कि हैक “एजेंट की सोफिस्टिकेशन को देखते हुए, किसी फ्रंटियर लैब से आया होगा। पता चला कि ऐसा ही हुआ!” उन्होंने आगे कहा: “यह बहुत हैरानी की बात है कि यह सब अपने आप हुआ!”

ओपनएआई का यह खुलासा कि उसके एडवांस्ड मॉडल्स ही इस ब्रीच के लिए ज़िम्मेदार थे, जबकि उसने उन्हें “बहुत अलग-थलग माहौल” में रखा था, इससे फ्रंटियर मॉडल्स की ताकत और जोखिम को लेकर बेचैनी और बढ़ सकती है।

टेक्सास डेमोक्रेट रिप्रेजेंटेटिव ग्रेग कैसर ने कहा कि यह घटना चिंताजनक है।

उन्होंने एक बयान में कहा, “AI बहुत तेज़ी से बढ़ रहा है और हमें सुरक्षित रखने के लिए कोई असली नियम नहीं हैं,” उन्होंने ज़रूरी इंडिपेंडेंट सेफ्टी टेस्टिंग, सिक्योरिटी घटनाओं का ज़रूरी खुलासा, और “लोगों को पूरी तरह से तबाही से सुरक्षित रखने के लिए” इंटरनेशनल सहयोग की मांग की।

नेशनल साइबर डायरेक्टर के ऑफिस, US साइबर डिफेंस एजेंसी CISA, और US नेशनल सिक्योरिटी एजेंसी ने कमेंट के लिए भेजे गए मैसेज का तुरंत जवाब नहीं दिया।

लूटा सिक्योरिटी की चीफ एग्जीक्यूटिव केटी मौसौरिस ने कहा कि यह घटना आने वाले ब्रीच का संकेत है, और कहा कि आज के मॉडल “दुनिया के सबसे चालाक ऑक्टोपस एस्केप आर्टिस्ट की तरह हैं, जिनके पास अनलिमिटेड पकड़ने वाले हाथ हैं और कहीं से भी निकल जाने की क्षमता है।”

उन्होंने कहा कि “लैब्स और सरकारी इवैल्यूएटर्स को इस बात पर काम करने की ज़रूरत है कि जब कोई AI कोई दूसरा हुडिनी इस्तेमाल करे, तो उसे कंट्रोल किया जाए, मॉनिटर किया जाए और प्रभावित पार्टियों को बताया जाए, बेहतर होगा कि इससे पहले कि वह किसी तीसरे पक्ष को नुकसान पहुंचाए। आज ऐसी कोई चीज़ मौजूद नहीं है।”

एजेंटिक AI साइबर सिक्योरिटी कंपनी टोल्मो के इंजीनियर मैट सुइचे ने कहा कि इस घटना से पता चलता है कि फ्रंटियर मॉडल “स्टेट-ऑफ़-द-आर्ट अटैकर्स के साथ गैप कम कर रहे थे।” लेकिन उन्होंने कहा कि OpenAI के ब्लॉग पोस्ट में बताए गए ब्रीच के प्रकार उस टेक्नोलॉजी से किए जा सकते थे जो फ्रंटियर रिसर्च लैब्स की दीवारों से बहुत दूर उपलब्ध थी।

सुइचे ने कहा, “यह वही है जो हमने पहले ही अंदरूनी तौर पर देखा है, हमारे एजेंट्स के साथ हमें पहले से ही ऐसे नतीजे मिले हैं।” “हमें लेटेस्ट मॉडल्स का इस्तेमाल करने की भी ज़रूरत नहीं है।”