बीजिंग, 24 अक्टूबर (रॉयटर्स) – चीनी स्टार्टअप मूनशॉट AI ने शनिवार को कहा कि उसने अपने सबसे नए मॉडल की साइबर-ऑफेंसिव क्षमताओं को कम कर दिया है, क्योंकि यह डर बढ़ रहा है कि तेज़ी से ऑटोनॉमस AI हैकिंग को बढ़ा सकता है।बीजिंग की कंपनी मूनशॉट ने Kimi K3.1 Pro को पेश करते हुए इन प्रतिबंधों की घोषणा की। कंपनी इसे अपना सबसे काबिल 3-ट्रिलियन-पैरामीटर-क्लास ओपन-वेट मॉडल बताती है। कंपनी 4 नवंबर तक मॉडल के वेट — ऐसी फाइलें जो बाहरी डेवलपर्स को इसे अपने सिस्टम पर चलाने और बदलने की इजाज़त देती हैं — पब्लिश करने का प्लान बना रही है।
मूनशॉट ने कहा कि उसने मॉडल बनाने के लिए इस्तेमाल किए गए ट्रेनिंग कॉर्पस और रीइन्फोर्समेंट-लर्निंग एनवायरनमेंट से साइबर से जुड़ा डेटा हटा दिया, जबकि जनरल कोडिंग स्किल्स को बनाए रखा।कंपनी ने कहा, “हमारा मकसद ऐसे ओपन वेट जारी नहीं करना है जो साइबर कैपेबिलिटी की पूरी सीमा को बढ़ा दें।”सरकारें, टेक्नोलॉजी कंपनियाँ और सिक्योरिटी रिसर्चर इस बात को लेकर ज़्यादा परेशान हो रहे हैं कि AI मुश्किल हैकिंग को आसान और सस्ता बना सकता है। ऐसे मॉडल जो कोड लिख सकते हैं, सॉफ्टवेयर टूल्स चला सकते हैं और लंबे, मल्टी-स्टेप टास्क पूरे कर सकते हैं, वे यूज़र्स को प्रोग्राम में कमज़ोरियों को पहचानने और साइबर अटैक के कुछ हिस्सों को ऑटोमेट करने में मदद कर सकते हैं।
चीन ने पिछले हफ़्ते एक्सपोर्ट कंट्रोल का प्रस्ताव रखा था, जो AI से चलने वाली मैलवेयर बनाने और म्यूटेशन टेक्नोलॉजी के एक्सपोर्ट पर रोक लगाएगा और AI से मदद लेने वाले कमज़ोरी खोजने वाले टूल्स पर रोक लगाएगा। ड्राफ़्ट के उपायों पर अभी भी पब्लिक कमेंट के लिए खुला है, और इसमें इस बात का रिस्क बताया गया है कि ऐसी क्षमताओं का इस्तेमाल ज़रूरी इंफ्रास्ट्रक्चर, डिफेंस-इंडस्ट्रियल और मुख्य सरकारी सिस्टम के खिलाफ़ या सिक्योरिटी प्रोटेक्शन को बायपास करने के लिए किया जा सकता है।मूनशॉट ने कहा कि ओपन-वेट मॉडल ज़्यादा ऑर्गनाइज़ेशन को अपने सॉफ़्टवेयर को इंस्पेक्ट और सिक्योर करने में मदद करके सिक्योरिटी को बेहतर बना सकते हैं, जिसमें पुराने सिस्टम भी शामिल हैं जिन पर कम ध्यान दिया जाता है।लेकिन, प्रोप्राइटरी, क्लोज्ड-वेट AI सिस्टम के उलट, ओपन-वेट रिलीज़ सेंट्रल निगरानी को ज़्यादा मुश्किल बना देते हैं। एक बार जब फ़ाइलें बड़े पैमाने पर बांट दी जाती हैं, तो ओरिजिनल डेवलपर के पास होस्टेड सर्विस की तुलना में एक्सेस को रोकने, इस्तेमाल पर नज़र रखने या सुरक्षा उपायों को अपडेट करने की क्षमता कम होती है। कंपनी ने कहा कि K3.1 Pro ने अपने इंटरनल साइबर बेंचमार्क पर 81.0% स्कोर किया, जबकि बिना रिस्क कम करने के तरीकों वाले इसी तरह के वर्शन का स्कोर 90.5% था। इस टेस्ट में एक कंट्रोल्ड माहौल में सॉफ्टवेयर की कमज़ोरियों को ढूंढना और उनका फ़ायदा उठाना शामिल था। मूनशॉट ने कहा कि तुलना से पता चला कि साइबर से जुड़े डेटा को फ़िल्टर करने से मॉडल की ऑफ़ेंसिव साइबर परफ़ॉर्मेंस कम हो गई, हालांकि इसने फिर भी अपने पहले वाले से बेहतर परफ़ॉर्म किया। नतीजों को अलग से वेरिफ़ाई नहीं किया गया है।K3.1 Pro में 1 मिलियन टोकन कॉन्टेक्स्ट विंडो है, जिससे यह एक बार में बहुत ज़्यादा टेक्स्ट प्रोसेस कर सकता है। मूनशॉट ने एक तेज़ वर्शन, K3.1 Pro हाईस्पीड भी रिलीज़ किया, जिसके बारे में उसने कहा कि यह स्टैंडर्ड मॉडल की तुलना में दो से तीन गुना ज़्यादा स्पीड से चलता है।
बीजिंग से एडुआर्डो बैप्टिस्टा की रिपोर्टिंग; विलियम मैलार्ड द्वारा एडिटिंग
