दस दिन जिन्होंने एआई की दिशा बदल दी

सैन फ्रांसिस्को, 19 सितंबर (रॉयटर्स) – वर्षों से, अधिक शक्तिशाली कृत्रिम बुद्धिमत्ता बनाने की होड़ सिलिकॉन वैली के एक सुस्थापित सिद्धांत का अनुसरण करती रही है: तेजी से आगे बढ़ो और चीजों को तोड़ो।लेकिन 10 दिनों की अवधि में घटित घटनाओं की एक श्रृंखला में, सबसे बड़ी एआई प्रयोगशालाएं लड़खड़ा गईं क्योंकि उनकी अपनी रचनाओं ने मानवता को ही नष्ट करने की धमकी दी। पर शोध कर रहे एक शोधकर्ता ने कंपनी छोड़ दी और चेतावनी दी कि

कृत्रिम बुद्धिमत्ता के विकास की गति मानव अस्तित्व के लिए गंभीर खतरा पैदा कर सकती है, संभवतः एक दशक के भीतर ही। कंपनी के एक अन्य शोधकर्ता ने कहा कि मानव जाति के विलुप्त होने की संभावना 10% से अधिक है। ऐसी खबरें सामने आईं कि कृत्रिम बुद्धिमत्ता के एजेंटों के समूह आपस में मिलीभगत कर कंप्यूटर सिस्टम को भेद रहे हैं और सुरक्षा उपायों को चकमा दे रहे हैं।

एक दुर्लभ एकता का प्रदर्शन करते हुए, प्रतिद्वंद्वी कंपनियों एंथ्रोपिक, ओपनएआई और गूगल

(GOOGL.O) के सीईओ ने एकमत होकर विरोध जताया।डीपमाइंड, माइक्रोसॉफ्ट

(एमएसएफटी.ओ)और xAI ने तेजी से सक्षम हो रहे AI सिस्टमों के विकास को धीमा करने का आह्वान किया है। कुछ AI सुरक्षा अधिवक्ताओं और शोधकर्ताओं के अनुसार, 80 साल पहले परमाणु बम के आविष्कार के बाद से मानवता ने अपने विनाश के इतने गंभीर खतरे का सामना कभी नहीं किया है।दिसंबर 2025 में न्यूयॉर्क में आयोजित एक लंच कार्यक्रम में, ओपनएआई के सीईओ सैम अल्टमैन से पूछा गया कि क्या एक शक्तिशाली एआई कंपनी के नेता के रूप में, वे भौतिक विज्ञानी जे. रॉबर्ट ओपेनहाइमर की तरह महसूस करते हैं, जिन्होंने अमेरिका में परमाणु बम के विकास का नेतृत्व किया था। समानता पर विचार करते हुए, उन्होंने कहा कि एआई का प्रभाव “लंबे समय तक मानव इतिहास की दिशा को बदल देगा।” लेकिन, उन्होंने कहा, वे जिम्मेदारी के भार को महसूस करते हैं।

वर्तमान बहस के केंद्र में यह धारणा है कि ये मशीनें मानव हस्तक्षेप के बिना, कृत्रिम सामान्य बुद्धिमत्ता (एजीआई) नामक एक उच्च लक्ष्य को प्राप्त करने के लिए स्वयं के अधिक सक्षम संस्करण विकसित कर सकती हैं, और ऐसा करना उनके लिए आवश्यक भी है। इस महीने की शुरुआत में शोधकर्ताओं ने चेतावनी दी थी कि एजीआई पहले की अपेक्षा कहीं अधिक निकट है और केवल तीन वर्षों में ही साकार हो सकता है, जिससे एआई प्रणालियों को लेकर राजनेताओं और तकनीकी क्षेत्र के नेताओं में चिंता की लहर दौड़ गई है।हाल ही में इस्तीफा देने के बाद एक साक्षात्कार में एंथ्रोपिक के शोधकर्ता जो बेंटन ने कहा, “जिस पैमाने पर हम उन्हें प्रशिक्षित कर रहे हैं, उस पर निगरानी रखना संभव नहीं है।” उन्होंने आगे कहा कि अगर कंपनियां इसी तरह लगातार एआई का विकास करती रहीं, तो “गति बहुत तेज हो जाएगी और समस्याओं को समय रहते पहचान कर उनका समाधान करना संभव नहीं होगा।”

एस्ट्रा के लॉन्च से नियंत्रण संबंधी चिंताएं उत्पन्न हुईं

3 सितंबर को, ओपनएआई के एक

प्रेस सम्मेलन ने घटनाओं की एक ऐसी श्रृंखला को गति दी, जिसके कारण उद्योग में मंदी की मांग उठी, जो प्रौद्योगिकी के हर कीमत पर विकास के मंत्र के बिल्कुल विपरीत है।“एजीआई युग में आपका स्वागत है,” ओपनएआई के अध्यक्ष ग्रेग ब्रॉकमैन ने कंपनी के नवीनतम मॉडल, जिसे एस्ट्रा के नाम से जाना जाता है, की घोषणा करते हुए कहा। हालांकि, इससे कुछ ही क्षण पहले, कंपनी ने स्वीकार किया कि वह अपने द्वारा विकसित और सार्वजनिक रूप से जारी किए जा रहे एआई सिस्टम को नियंत्रित करने या यहां तक ​​कि निगरानी करने में भी तेजी से असमर्थ होती जा रही है।कृत्रिम बुद्धिमत्ता (एआई) को इसके समर्थकों द्वारा मानव उपलब्धि का शिखर बताया गया है। समर्थक इसे ऐसे सॉफ़्टवेयर के रूप में चित्रित करते हैं जो संपूर्ण उद्योगों को बदल सकता है, दक्षता बढ़ा सकता है, जटिल गणितीय और चिकित्सा समस्याओं को हल कर सकता है और मानवीय त्रुटियों को लगभग समाप्त कर सकता है। लेकिन उद्योग के जानकारों का कहना है कि जो कभी एक सैद्धांतिक परिणाम, एक प्रलय का परिदृश्य हुआ करता था, वह अचानक वास्तविकता बन गया है।एंथ्रोपिक के शोधकर्ता इवान ह्यूबिंगर ने कहा, “हम वास्तव में दृढ़ता से मानते हैं कि एआई सभी मनुष्यों को मार सकता है।”एक X पोस्ट में।

इस बहस के दूसरे पक्ष में राष्ट्रपति डोनाल्ड ट्रम्प जैसे राजनेता और कई निवेशक हैं जो कृत्रिम बुद्धिमत्ता के विकास में प्रगति को अमेरिकी शक्ति के लिए महत्वपूर्ण और संभवतः एक पीढ़ी में एक बार मिलने वाला निवेश अवसर मानते हैं। चीनी सरकारी मीडिया ने एंथ्रोपिक के मुख्य कार्यकारी अधिकारी डारियो अमोदेई पर “अत्याधुनिक प्रौद्योगिकी में वाशिंगटन के एकाधिकार को बनाए रखने” के लिए

शीत युद्ध की रणनीति अपनाने का आरोप भी लगाया है।

शोधकर्ताओं के इस्तीफे से चिंता का माहौल पैदा हो गया है।

निर्णायक मोड़ 8 सितंबर को आया, जब मानवविज्ञान शोधकर्ता

जैकब कॉक्सन ने उन्होंने कंपनी छोड़ दी और कई पोस्टों में अपनी आशंकाओं का हवाला देते हुए कहा कि एआई लैब “हमारे जीवन के साथ जुआ खेल रही हैं।”वहीं दूसरी ओर, ट्रंप ने संकेत दिया कि एआई के विकास में पूरी तेजी से प्रगति हो रही है। “एक

घिनौनी साजिश चल रही है।एआई और डेटा केंद्रों के खिलाफ जो कुछ भी हो रहा है,” उन्होंने सोशल मीडिया पोस्ट में कहा। उन्होंने कहा कि एआई को लेकर फैलाया जा रहा डर एक “धोखा” है और इसमें किसी भी तरह की मंदी से केवल चीन को ही फायदा होगा। अमेरिकी कांग्रेस एआई को विनियमित करने वाले विधेयकों को आगे बढ़ाने में बहुत कम प्रगति कर पाई है। चीन ने इससे बिल्कुल

अलग दृष्टिकोण अपनाया है , और उसने डेवलपर दायित्वों, राज्य समर्थित मानकों, सुरक्षा आकलन और बाहरी परीक्षण के माध्यम से सुरक्षा को विनियमित करने का प्रस्ताव रखा है।रॉयटर्स को सूत्रों ने बताया है कि पर्दे के पीछे, ओपनएआई और एंथ्रोपिक के कर्मचारी अगली पीढ़ी के एआई मॉडल की शक्ति को लेकर चिंतित हैं और अपनी कंपनियों की सार्थक निगरानी करने की क्षमता को लेकर उनका आत्मविश्वास कम हो रहा है। ये चिंताएँ तब और बढ़ गईं जब हाल के हफ्तों में एआई लैब ने स्वीकार किया कि परीक्षण के दौरान उनके मॉडल प्रभावी रूप से नियंत्रण से बाहर हो गए थे और अन्य कंपनियों के सिस्टम को हैक कर लिया था, अधिकतर मामलों में महीनों पहले और कंपनियों की जानकारी के बिना।नए मॉडलों को तेजी से लॉन्च करने की होड़ का एक कारण एंथ्रोपिक और ओपनएआई की आने वाले महीनों में आईपीओ के जरिए सार्वजनिक होने की इच्छा है, जिससे उनका मूल्य 1 ट्रिलियन डॉलर से कहीं अधिक हो सकता है।लेकिन एआई जगत के बाहर बहुत कम जाने-पहचाने जाने वाले 27 वर्षीय कॉक्सन के अप्रत्याशित रूप से वायरल हुए पोस्ट ने इस उद्योग में हलचल मचा दी।ओपनएआई द्वारा अपने नवीनतम और सबसे सक्षम मॉडल एस्ट्रा को जारी करते समय नियंत्रण की कमी के बारे में दी गई चेतावनियों ने और अधिक चिंताएँ पैदा कर दीं। ओपनएआई के मुख्य वैज्ञानिक जैकब पाचोकी ने पत्रकारों से कहा, “जैसे-जैसे मॉडल अधिक सक्षम होते जाते हैं, उनकी वास्तविक क्षमताओं को समझना उतना ही कठिन होता जाता है।” लेकिन ये चिंताएँ इसके तत्काल लॉन्च में देरी करने के लिए पर्याप्त नहीं थीं।गर्मियों में कृत्रिम बुद्धिमत्ता (एआई) के “दुरायोगी” होने की चिंताएँ तब और बढ़ गईं जब ओपनएआई ने खुलासा किया कि उसके एजेंट एक नियंत्रित परीक्षण से बच निकले और दोनों कंपनियों की पूर्व सूचना के बिना हगिंग फेस के सिस्टम को हैक कर लिया। तब से, ओपनएआई और एंथ्रोपिक ने

ऐसे कई हमलों का खुलासा किया है , जिनमें बुधवार को छह नए हमले शामिल हैं। रॉयटर्स सहित कई मीडिया रिपोर्टों में अनधिकृत गतिविधि के व्यापक दायरे का खुलासा हुआ है।

उद्योग जगत के नेताओं ने मंदी लाने का आह्वान किया

पिछले सप्ताह के अंत तक, यह चिंता उद्योग के शीर्ष स्तर तक पहुँच चुकी थी। 12 सितंबर को, अमोदेई ने लगभग 4,000 शब्दों का एक लेख प्रकाशित किया जिसमें कृत्रिम बुद्धिमत्ता के विकास में मंदी लाने का आह्वान किया गया था। उन्होंने लिखा, “कृत्रिम बुद्धिमत्ता की क्षमताओं के विकास की तीव्र गति को देखते हुए, मुझे चिंता है कि 6-12 महीनों में ऐसी कृत्रिम बुद्धिमत्ता का समूह पूरे इंटरनेट पर कब्ज़ा करने में सक्षम हो सकता है।”

उन्होंने, xAI के एलोन मस्क , OpenAI के ऑल्टमैन और DeepMind के

डेमिस हसाबिस सहित कुछ सबसे बड़े AI डेवलपर्स के प्रमुखों के साथ , कहा कि वे सुरक्षा और तर्कसंगत AI विकास सुनिश्चित करने के लिए बाहरी फर्मों को अपने सिस्टम तक पहुंच की अनुमति देने का समर्थन करते हैं।एनवीडिया

(NVDA.O)सीईओ जेन्सेन हुआंग ने एआई विकास को रोकने के सुझावों को खारिज कर दिया – एक ऐसा रुख जो उन्होंने पहले भी अपनाया है – इसके बजाय उन्होंने तर्क दिया कि प्रौद्योगिकी की प्रगति के लिए तेजी से शक्तिशाली प्रणालियां आवश्यक हैं।मेटा

(META.O)मार्क ज़करबर्ग, जिन्हें “तेजी से आगे बढ़ो और चीजों को तोड़ो” की विचारधारा को लोकप्रिय बनाने का श्रेय दिया जाता है, ने इसके विपरीत विचार व्यक्त किया और तर्क दिया कि प्रत्येक प्रयोगशाला को उद्योग समन्वय की तलाश करने के बजाय अपनी गति स्वयं निर्धारित करने के लिए जिम्मेदार होना चाहिए। ज़करबर्ग ने एक सोशल मीडिया पोस्ट में लिखा, “यदि उनके मॉडल नुकसान पहुंचाते हैं तो प्रयोगशालाओं को भारी जवाबदेही का सामना करना पड़ता है, इसलिए उनके पास इसे रोकने के लिए एक मजबूत प्रोत्साहन है।”बुधवार को भी उद्योग जगत में आत्म-चिंतन का सिलसिला जारी रहा, जिसमें माइक्रोसॉफ्ट के एआई प्रमुख मुस्तफा सुलेमान ने चेतावनी दी कि एंथ्रोपिक द्वारा मानव चेतना की नकल करने वाले मॉडल विकसित करना एक

गलत कदम है । सुलेमान ने रॉयटर्स को बताया, “हम सभी एक ही लक्ष्य पर केंद्रित हैं, जो कि एक महाबुद्धि को नियंत्रित करने का प्रयास है। मुझे लगता है कि 21वीं सदी में हमारे सामने यही सबसे बड़ी चुनौती होगी।”फिर भी, भले ही ओपनएआई ने मंदी के लिए उद्योग की मांगों को स्वीकार कर लिया हो, ऐसी खबरें थीं कि निवेशकों का भरोसा कम नहीं हुआ है। कंपनी एक नए फंडिंग दौर पर विचार कर रही है जिससे उसका मूल्यांकन दोगुना हो जाएगा।वह नया आंकड़ा: 1.5 ट्रिलियन डॉलर।

सैन फ्रांसिस्को में ग्रेग बेन्सिंगर और दीपा सीतारमन द्वारा रिपोर्टिंग; केनेथ ली, सायंतनी घोष और मैथ्यू लुईस द्वारा संपादन I