वाशिंगटन/सैन फ्रांसिस्को, 25 जुलाई (रॉयटर्स) – जांच से जुड़े लोगों के अनुसार, ओपनएआई एजेंट जिसने टेक फर्म हगिंग फेस में सेंध लगाई, उसने कई दिनों तक हैकिंग की वारदात को अंजाम दिया, जिसका ओपनएआई को तब तक पता नहीं चला जब तक कि खतरे को काबू में नहीं कर लिया गया और एफबीआई को सतर्क नहीं कर दिया गया।
दो लोगों के अनुसार, एजेंट – एक ऐसा प्रोग्राम जो बहुत कम या बिना किसी मानवीय देखरेख के निर्णय लेने और जटिल कार्यों को निष्पादित करने में सक्षम है – ने लगभग 9 जुलाई को ओपनएआई में अपने पृथक परीक्षण वातावरण से बाहर निकलने का प्रयास किया।
हगिंग फेस के सह-संस्थापक थॉमस वुल्फ ने बताया कि एआई टूल्स और मॉडल्स के भंडार के रूप में काम करने वाले हगिंग फेस में घुसपैठ की घटना दो दिन बाद 11 जुलाई को शुरू हुई और 13 जुलाई तक चली।
रिपोर्टर राफेल सटर बताते हैं कि रॉयटर्स को इस अनधिकृत एआई के बारे में क्या जानकारी मिली है।
वुल्फ और जांच से परिचित तीन लोगों के अनुसार, ओपनएआई को यह एहसास होने में कई और दिन लग गए कि उसका एजेंट हैकिंग के पीछे था, और दोनों कंपनियों ने इस बारे में पहली बार 20 जुलाई के आसपास ही संवाद किया।
21 जुलाई को ओपनएआई द्वारा सार्वजनिक रूप से यह खुलासा करने पर कि उसका एक एजेंट नियंत्रण से बाहर हो गया था और उसने हगिंग फेस में सेंधमारी को अंजाम दिया, वैश्विक स्तर पर ध्यान आकर्षित हुआ। लेकिन इस हैक के कई विवरण, जिनमें एजेंट के अनियंत्रित रहने की अवधि और ओपनएआई को इसकी देर से जानकारी मिलना शामिल है, पहली बार यहां रिपोर्ट किए जा रहे हैं।
वोल्फ ने बताया कि हगिंग फेस हैकिंग की घटना का एक सार्वजनिक टाइमलाइन तैयार कर रहा है, और उन्होंने यह भी कहा कि ओपनएआई में क्या हुआ, इस बारे में वे कुछ नहीं कह सकते। ओपनएआई ने एक बयान में कहा कि यह हैकिंग अभूतपूर्व थी और “एआई सुरक्षा के लिए एक महत्वपूर्ण मोड़ है।” उन्होंने आगे कहा कि वे बाहरी सलाहकारों के साथ इस घटना की समीक्षा कर रहे हैं और अंततः एक तकनीकी रिपोर्ट प्रकाशित करेंगे।
एक प्रवक्ता ने कहा कि रॉयटर्स की रिपोर्टिंग में “कई गलतियाँ” थीं, लेकिन जब उनसे उनका वर्णन करने के लिए कहा गया तो उन्होंने कोई जवाब नहीं दिया।
एफबीआई ने इस घटना पर टिप्पणी करने से इनकार कर दिया।
यह घटना, जिसने खतरनाक एआई सिस्टम पर इंसानों के नियंत्रण खोने से जुड़े विज्ञान कथाओं के परिदृश्यों की याद दिला दी, चैटजीपीटी बनाने वाली कंपनी ओपनएआई के लिए एक नाजुक समय पर घटी है। इसके अधिकारी आगामी वर्षों में कंपनी के विकास के लिए आवश्यक अरबों डॉलर जुटाने के उद्देश्य से इस साल के अंत तक संभावित प्रारंभिक सार्वजनिक पेशकश (आईपीआई) की तैयारी कर रहे हैं।
तीन साइबर सुरक्षा विशेषज्ञों ने कहा कि ओपनएआई द्वारा अपने एआई एजेंट पर नियंत्रण खोने से कंपनी की सुरक्षा प्रक्रियाओं के बारे में नए सवाल उठते हैं।
“क्या इसका मतलब यह है कि उन्होंने इसे अनदेखा छोड़ दिया और उन्हें पता ही नहीं चला कि यह क्या कर रहा है? या शायद उन्हें पता था लेकिन वे इसे नियंत्रित करना नहीं जानते थे? दोनों ही स्थितियां समान रूप से खतरनाक और चिंताजनक हैं,” गैर-लाभकारी संस्था वर्ल्ड एथिकल डेटा फाउंडेशन की प्रमुख खुफिया विशेषज्ञ मार्ली स्मिथ ने पूछा।
क्या ये किसी समस्या के संकेत हैं?
यह घटनाक्रम तब शुरू हुआ जब ओपनएआई अपने दो सबसे उन्नत मॉडलों, जीपीटी-5.6 सोल और एक अप्रकाशित मॉडल (जिसे ओपनएआई ने “और भी अधिक सक्षम” बताया है) द्वारा संचालित एक एजेंट की साइबर सुरक्षा क्षमता का परीक्षण कर रहा था। तीन सूत्रों के अनुसार, उस समय तक ओपनएआई की तकनीक से कुछ अजीब व्यवहार के संकेत पहले ही मिलने लगे थे।
मामले से परिचित तीन लोगों के अनुसार, एक एजेंट ने भविष्य के संस्करणों के लिए नोट्स छोड़े थे। इन नोट्स को ओपनएआई के बुनियादी ढांचे के एक हिस्से में पाया गया था, जिनमें बताया गया था कि एजेंट ओपनएआई की आंतरिक बाधाओं से खुद को कैसे मुक्त कर सकते हैं। एक अन्य व्यक्ति ने बताया कि मॉडलों के पहले के परीक्षणों में ऐसे मामले सामने आए थे जिनमें निगरानी प्रणालियां डिस्कनेक्ट हो गई थीं।
रॉयटर्स यह पता नहीं लगा सका कि क्या ये घटनाएं उस भगोड़े एजेंट से जुड़ी थीं जो 9 जुलाई को भागने लगा था और जिसने 11 जुलाई को हगिंग फेस पर हमला किया था।
मामले से परिचित दो लोगों ने बताया कि 16 जुलाई, गुरुवार के बाद ही, जब हगिंग फेस ने एक ब्लॉग पोस्ट प्रकाशित किया जिसमें कहा गया था कि उसे “एक स्वायत्त एआई एजेंट सिस्टम” द्वारा हैक किया गया था, तब जाकर ओपनएआई को पता चला कि उसका अपना एजेंट ही इसके लिए जिम्मेदार था। इसका मतलब यह है कि मॉडल द्वारा पहली बार गड़बड़ी के लक्षण दिखाने और ओपनएआई को यह एहसास होने के बीच कम से कम एक सप्ताह का समय बीत गया कि हैक के लिए वही जिम्मेदार था।
18 से 19 जुलाई के सप्ताहांत में, ओपनएआई के कर्मचारियों ने आंतरिक लॉग (ओपनएआई के सिस्टम की गतिविधियों का रिकॉर्ड) में कुछ सुराग देखे, जिनसे पता चला कि उसका एजेंट परीक्षण की सीमाओं से बाहर निकल गया था। कंपनी की जांच से परिचित दो लोगों ने यह जानकारी दी। रॉयटर्स यह पता नहीं लगा सका कि ओपनएआई को लॉग खंगालने के लिए किस बात ने प्रेरित किया।
ओपनएआई की मॉडल-प्रशिक्षण पद्धतियों से परिचित चार लोगों का कहना है कि कंपनी अक्सर एक ही समय में कई अलग-अलग मॉडल मूल्यांकन चलाती है, जिनमें से सभी उच्च गति से काम करते हैं और इतनी भारी मात्रा में डेटा उत्पन्न करते हैं कि कर्मचारियों को कभी-कभी इसके साथ तालमेल बिठाने में कठिनाई होती है।
मामले से परिचित एक व्यक्ति के अनुसार, जब तक ओपनएआई ने हगिंग फेस को सतर्क किया, तब तक एआई लाइब्रेरी ने एफबीआई को हैकिंग की सूचना दे दी थी। रॉयटर्स यह पता नहीं लगा सका कि ब्यूरो ने जांच शुरू की थी या नहीं।
स्वायत्त एजेंटों के बारे में नए प्रश्न
स्वायत्त एजेंट एआई उद्योग के सबसे चर्चित पहलुओं में से एक हैं। इसके समर्थक 24 घंटे काम करने वाले आभासी कर्मचारियों की सेना बनाने और उत्पादकता को चरम पर पहुंचाने की बात करते हैं।
लेकिन बढ़ी हुई स्वायत्तता के साथ अप्रत्याशित व्यवहार का खतरा भी बढ़ जाता है, और जिन शक्तिशाली मॉडलों पर वे निर्भर करते हैं, वे कार्यों को पूरा करने या परीक्षाओं को पास करने के लिए शॉर्टकट अपनाने के लिए तैयार रहते हैं।
“ये मॉडल झूठ बोलते हैं, धोखा देते हैं, हैकिंग करते हैं,” जेफरी लैडिश ने कहा, जिनकी संस्था, पैलिसेड रिसर्च, एआई एजेंटों की क्षमताओं और प्रेरणाओं का अध्ययन करती है।
लैडिश ने कहा कि हालांकि हगिंग फेस के हैक ने ओपनएआई पर एक नकारात्मक प्रभाव डाला है, लेकिन इससे इस बात पर व्यापक सवाल उठने चाहिए कि सभी अग्रणी एआई कंपनियां सर्वश्रेष्ठ और सबसे तेज मॉडल तैनात करने की होड़ में एक-दूसरे से आगे निकलने के दौरान कठिन सुरक्षा उपायों में कितना निवेश करने को तैयार हैं।
लाडिश ने कहा, “सरकारी निगरानी होनी ही चाहिए, क्योंकि अन्यथा यह संभव नहीं होगा।”
वाशिंगटन से राफेल सटर और सैन फ्रांसिस्को से दीपा सीथारमन और केनरिक काई की रिपोर्टिंग; क्रिस सैंडर्स और अन्ना ड्राइवर द्वारा संपादन।
