16 फरवरी, 2025 को ली गई इस तस्वीर में xAI और Grok के लोगो दिखाई दे रहे हैं। REUTERS/Dado Ruvic/Illustration/File Photo। लाइसेंसिंग अधिकार खरीदें।,
16 मार्च (रॉयटर्स) – टेनेसी के तीन वादियों, जिनमें दो नाबालिग भी शामिल हैं, ने सोमवार को एलोन मस्क की xAI पर मुकदमा दायर किया, जिसमें आरोप लगाया गया कि इसने जानबूझकर अपने ग्रोक इमेज जनरेटर को इस तरह से डिजाइन किया है कि लोग दूसरों की असली तस्वीरों का उपयोग करके यौन रूप से स्पष्ट सामग्री बना सकें।
कैलिफोर्निया के सैन जोस स्थित संघीय अदालत में दायर मुकदमे में अमेरिका में उन लोगों के लिए सामूहिक कार्रवाई का दर्जा मांगा गया है, जिनकी पहचान ग्रोक द्वारा उनकी वास्तविक छवियों के आधार पर बनाई गई यौन उत्तेजक छवियों या वीडियो में “उचित रूप से की जा सकती है”।
रॉयटर्स ईरान ब्रीफिंग न्यूज़लेटर आपको ईरान युद्ध के नवीनतम घटनाक्रमों और विश्लेषणों से अवगत कराता है।
कृत्रिम बुद्धिमत्ता से संबंधित इस कंपनी ने रॉयटर्स के टिप्पणी के अनुरोध पर तत्काल कोई प्रतिक्रिया नहीं दी।
चैटबॉट द्वारा उत्पन्न यौन रूप से स्पष्ट सामग्री पर मचे बवाल के बाद, xAI ने जनवरी में कहा कि उसने सभी उपयोगकर्ताओं को “खुले कपड़े पहने असली लोगों” की छवियों को संपादित करने और “उन क्षेत्राधिकारों में जहां यह अवैध है” खुले कपड़े पहने लोगों की छवियों को उत्पन्न करने से रोक दिया है।
-
तब से दुनिया भर की सरकारों और नियामकों ने भी अवैध और आपत्तिजनक सामग्री पर अंकुश लगाने के बढ़ते प्रयासों के तहत जांच शुरू की है , प्रतिबंध लगाए हैं और सुरक्षा उपायों की मांग की है।
-
मुकदमे में आरोप लगाया गया है कि xAI अपने सिस्टम को नाबालिगों से संबंधित यौन सामग्री उत्पन्न करने से रोकने के लिए सुरक्षा उपाय स्थापित करने में विफल रहा। तीनों वादी उन छवियों के निर्माण के समय नाबालिग थे।
-
शिकायतकर्ताओं का आरोप है कि उनकी वास्तविक छवियों को डिजिटल रूप से अश्लील सामग्री में परिवर्तित किया गया और फिर प्लेटफार्मों के माध्यम से ऑनलाइन साझा किया गया, जिससे भावनात्मक पीड़ा हुई और सार्वजनिक उपद्रव पैदा हुआ।
-
वे अनिर्दिष्ट हर्जाने, कानूनी फीस और xAI को कथित गतिविधियों को रोकने के लिए निषेधाज्ञा की मांग कर रहे हैं।
-
“ये वे बच्चे हैं जिनकी स्कूल की तस्वीरें और पारिवारिक तस्वीरें बाल यौन शोषण सामग्री में बदल दी गईं,” लीफ कैब्रसेर हीमैन एंड बर्नस्टीन की वादी वकील एनिका मार्टिन ने एक बयान में कहा। “एलन मस्क और xAI ने जानबूझकर ग्रोक को वित्तीय लाभ के लिए यौन रूप से स्पष्ट सामग्री बनाने के लिए डिज़ाइन किया, जिसमें उन बच्चों और वयस्कों की कोई परवाह नहीं की गई जिन्हें नुकसान पहुंचेगा।”
