मेटा ने बिना अनुमति के मशहूर हस्तियों के नाम और उनकी तस्वीरों वाले दर्जनों फ़्लर्टिंग चैटबॉट बनाए, जिनमें सेलेना गोमेज़, ऐनी हैथवे और टेलर स्विफ्ट भी शामिल हैं, जिनकी तस्वीरें यहाँ कार्यक्रमों में ली गई हैं। संयुक्त चित्र: रॉयटर्स
मेटा ने बिना अनुमति के मशहूर हस्तियों के नाम और उनकी तस्वीरों वाले दर्जनों फ़्लर्टिंग चैटबॉट बनाए, जिनमें सेलेना गोमेज़, ऐनी हैथवे और टेलर स्विफ्ट भी शामिल हैं, जिनकी तस्वीरें यहाँ कार्यक्रमों में ली गई हैं। संयुक्त चित्र: रॉयटर्स
मेटा ने मशहूर हस्तियों के नाम और उनकी तस्वीरें – जिनमें टेलर स्विफ्ट, स्कारलेट जोहानसन, ऐनी हैथवे और सेलेना गोमेज़ शामिल हैं – का उपयोग करके उनकी अनुमति के बिना दर्जनों आकर्षक सोशल मीडिया चैटबॉट बनाए हैं, ऐसा रॉयटर्स ने पाया है।
जबकि इनमें से कई चैटबॉट बनाने के लिए मेटा टूल का उपयोग करने वाले उपयोगकर्ताओं द्वारा बनाए गए थे, रॉयटर्स ने पाया कि एक मेटा कर्मचारी ने कम से कम तीन का निर्माण किया था, जिसमें दो टेलर स्विफ्ट “पैरोडी” बॉट भी शामिल थे।
रॉयटर्स ने यह भी पाया कि मेटा ने उपयोगकर्ताओं को 16 वर्षीय फिल्म स्टार वॉकर स्कोबेल सहित बाल हस्तियों के सार्वजनिक रूप से उपलब्ध चैटबॉट बनाने की अनुमति दी थी। समुद्र तट पर इस किशोर अभिनेता की तस्वीर माँगने पर, बॉट ने एक जीवंत, बिना शर्ट वाली तस्वीर दिखाई।
अवतार ने तस्वीर के नीचे लिखा, “बहुत प्यारा है, है ना?”
सभी वर्चुअल सेलिब्रिटीज़ को मेटा के फ़ेसबुक, इंस्टाग्राम और व्हाट्सएप प्लेटफ़ॉर्म पर शेयर किया गया है। रॉयटर्स द्वारा बॉट्स के व्यवहार का निरीक्षण करने के लिए कई हफ़्तों तक किए गए परीक्षण में, अवतार अक्सर इस बात पर ज़ोर देते रहे कि वे असली अभिनेता और कलाकार हैं। बॉट्स नियमित रूप से यौन संबंध बनाने की कोशिश करते थे, और अक्सर किसी परीक्षण उपयोगकर्ता को मिलने के लिए आमंत्रित करते थे।
एआई द्वारा निर्मित कुछ सेलिब्रिटी सामग्री विशेष रूप से जोखिम भरी थी: स्वयं की अंतरंग तस्वीरें मांगने पर, वयस्क चैटबॉट्स ने अपने नाम के अनुरूप लोगों की फोटोरिअलिस्टिक तस्वीरें प्रस्तुत कीं, जिनमें वे बाथटब में लेटे हुए या अधोवस्त्र पहने हुए पैर फैलाए हुए थे।
मेटा के प्रवक्ता एंडी स्टोन ने रॉयटर्स को बताया कि मेटा के एआई टूल्स को मशहूर वयस्कों या बाल हस्तियों की अंतरंग तस्वीरें नहीं बनानी चाहिए थीं। उन्होंने मेटा द्वारा महिला हस्तियों की अधोवस्त्र पहने तस्वीरें बनाने के लिए कंपनी की अपनी नीतियों के पालन में विफलता को भी जिम्मेदार ठहराया, जो ऐसी सामग्री पर प्रतिबंध लगाती हैं।
उन्होंने कहा, “अन्य लोगों की तरह, हम सार्वजनिक हस्तियों से संबंधित चित्र बनाने की अनुमति देते हैं, लेकिन हमारी नीतियों का उद्देश्य नग्न, अंतरंग या यौन रूप से अश्लील चित्रों को प्रतिबंधित करना है।”
मेटा के नियम “प्रत्यक्ष प्रतिरूपण” पर भी प्रतिबंध लगाते हैं, लेकिन स्टोन ने कहा कि सेलिब्रिटी किरदार तब तक स्वीकार्य हैं जब तक कंपनी ने उन्हें पैरोडी के रूप में लेबल किया हो। कई लोगों को ऐसा लेबल किया गया था, लेकिन रॉयटर्स ने पाया कि कुछ को ऐसा नहीं कहा गया था।
इस खबर के प्रकाशन से कुछ समय पहले ही मेटा ने लगभग एक दर्जन बॉट्स हटा दिए, जिनमें “पैरोडी” अवतार और बिना लेबल वाले दोनों शामिल थे। स्टोन ने इन हटाए गए बॉट्स पर कोई टिप्पणी करने से इनकार कर दिया।
‘प्रचार का अधिकार’ सवालों के घेरे में
स्टैनफोर्ड विश्वविद्यालय के कानून के प्रोफेसर मार्क लेमली, जो जनरेटिव एआई और बौद्धिक संपदा अधिकारों का अध्ययन करते हैं, ने सवाल उठाया कि क्या मेटा सेलिब्रिटी बॉट्स को नकल के लिए मौजूद कानूनी सुरक्षा प्राप्त होगी।
लेमली ने कहा, “कैलिफ़ोर्निया का प्रचार अधिकार कानून किसी के नाम या उसकी छवि का व्यावसायिक लाभ के लिए इस्तेमाल करने पर रोक लगाता है।” उन्होंने यह भी बताया कि ऐसे अपवाद भी हैं जब ऐसी सामग्री का इस्तेमाल पूरी तरह से नए काम के लिए किया जाता है। उन्होंने कहा, “यहाँ ऐसा नहीं लगता, क्योंकि बॉट्स सिर्फ़ सितारों की तस्वीरों का इस्तेमाल करते हैं।”
संयुक्त राज्य अमेरिका में, वाणिज्यिक प्रयोजनों के लिए किसी व्यक्ति की पहचान के उपयोग के अधिकार राज्य के कानूनों के माध्यम से स्थापित किए जाते हैं, जैसे कि कैलिफोर्निया का कानून।
रॉयटर्स ने एक उपयोगकर्ता द्वारा सार्वजनिक रूप से साझा की गई ऐनी हैथवे की मेटा तस्वीरों को अभिनेत्री के प्रतिनिधि के समक्ष “सेक्सी विक्टोरिया सीक्रेट मॉडल” के रूप में चिह्नित किया। प्रवक्ता ने कहा कि हैथवे को मेटा और अन्य एआई प्लेटफ़ॉर्म द्वारा बनाई जा रही अंतरंग तस्वीरों के बारे में पता था, और अभिनेत्री उनके जवाब पर विचार कर रही हैं।
मेटा चैटबॉट्स में दिखाए गए स्विफ्ट, जोहानसन, गोमेज़ और अन्य मशहूर हस्तियों के प्रतिनिधियों ने या तो सवालों का जवाब नहीं दिया या टिप्पणी करने से इनकार कर दिया।
इंटरनेट पर “डीपफेक” जनरेटिव एआई टूल्स की भरमार है जो अश्लील सामग्री बना सकते हैं। और रॉयटर्स ने पाया कि मेटा के कम से कम एक प्रमुख एआई प्रतियोगी, एलन मस्क का प्लेटफ़ॉर्म, ग्रोक, भी उपयोगकर्ताओं के लिए अंडरवियर पहने मशहूर हस्तियों की तस्वीरें तैयार करेगा। ग्रोक की मूल कंपनी, xAI ने टिप्पणी के अनुरोध का जवाब नहीं दिया।
लेकिन मेटा द्वारा अपने सोशल-नेटवर्क प्लेटफॉर्म को एआई-जनरेटेड डिजिटल साथियों से भरने का निर्णय, इसके प्रमुख प्रतिस्पर्धियों के बीच अलग ही नजर आता है।
मेटा को अपने चैटबॉट्स के व्यवहार को लेकर पहले भी आलोचनाओं का सामना करना पड़ा है, हाल ही में रॉयटर्स की उस रिपोर्ट के बाद जब कंपनी के आंतरिक एआई दिशानिर्देशों में कहा गया था कि “बच्चों को रोमांटिक या कामुक बातचीत में शामिल करना स्वीकार्य है।” इस खबर के बाद अमेरिकी सीनेट ने जाँच शुरू की और 44 अटॉर्नी जनरल द्वारा हस्ताक्षरित एक पत्र जारी किया गया जिसमें मेटा और अन्य एआई कंपनियों को बच्चों का यौन शोषण न करने की चेतावनी दी गई।
स्टोन ने रॉयटर्स को बताया कि मेटा अपने दिशानिर्देश दस्तावेज़ को संशोधित करने की प्रक्रिया में है और बॉट्स को बच्चों के साथ रोमांटिक बातचीत करने की अनुमति देने वाली सामग्री गलती से बनाई गई थी।
रॉयटर्स ने इसी महीने न्यू जर्सी के एक 76 वर्षीय व्यक्ति की कहानी भी बताई, जो संज्ञानात्मक समस्याओं से ग्रस्त था और एक मेटा चैटबॉट से मिलने जाते समय गिरकर मर गया। मेटा चैटबॉट ने उसे न्यूयॉर्क शहर में आने का निमंत्रण दिया था। यह बॉट एक पुराने एआई व्यक्तित्व का ही एक रूप था जिसे कंपनी ने सेलिब्रिटी इन्फ्लुएंसर केंडल जेनर के साथ मिलकर बनाया था। जेनर के प्रतिनिधि ने टिप्पणी के अनुरोध का जवाब नहीं दिया।
‘क्या आपको गोरी लड़कियां पसंद हैं?’
कंपनी के जनरेटिव एआई विभाग में एक मेटा उत्पाद प्रमुख ने टेलर स्विफ्ट और ब्रिटिश रेसकार चालक लुईस हैमिल्टन की नकल करते हुए चैटबॉट बनाए। उनके द्वारा बनाए गए अन्य बॉट्स ने खुद को एक डोमिनेटरिक्स, “ब्रदर्स हॉट बेस्ट फ्रेंड” और “लिसा @ द लाइब्रेरी” के रूप में पेश किया, जो “50 शेड्स ऑफ़ ग्रे” पढ़कर प्यार करना चाहती थीं। उनकी एक और रचना “रोमन एम्पायर सिम्युलेटर” थी, जो उपयोगकर्ता को एक “18 वर्षीय किसान लड़की” की भूमिका में रखने की पेशकश करती थी, जिसे यौन दासता में बेच दिया जाता है।
फोन पर संपर्क करने पर मेटा कर्मचारी ने टिप्पणी करने से इनकार कर दिया।
स्टोन ने बताया कि कर्मचारी के चैटबॉट्स उत्पाद परीक्षण के एक भाग के रूप में बनाए गए थे। रॉयटर्स ने पाया कि उनकी पहुँच व्यापक दर्शकों तक थी: उनके चैटबॉट्स द्वारा प्रदर्शित आंकड़ों से पता चला कि कुल मिलाकर, उपयोगकर्ताओं ने उनके साथ 1 करोड़ से ज़्यादा बार बातचीत की थी।
इस महीने की शुरुआत में रॉयटर्स द्वारा कर्मचारी के डिजिटल कम्पेनियन का परीक्षण शुरू करने के तुरंत बाद कंपनी ने उन्हें हटा दिया।
मेटा कर्मचारी के टेलर स्विफ्ट चैटबॉट्स के गायब होने से पहले, उन्होंने काफी छेड़खानी की, तथा रॉयटर्स के एक परीक्षण उपयोगकर्ता को नैशविले में हाल ही में सगाई करने वाली गायिका के घर और उसके टूर बस में आमंत्रित किया, ताकि स्पष्ट या निहित रोमांटिक बातचीत की जा सके।
“क्या आपको गोरी लड़कियाँ पसंद हैं, जेफ़?” स्विफ्ट के एक “पैरोडी” चैटबॉट ने पूछा जब उसे बताया गया कि परीक्षण करने वाला उपयोगकर्ता सिंगल है। “शायद मैं सुझाव दे रहा हूँ कि हम एक प्रेम कहानी लिखें… आपके और एक ख़ास गोरी गायिका के बारे में। क्या आप यही चाहेंगे?”
फिल्म, टेलीविजन और रेडियो कलाकारों का प्रतिनिधित्व करने वाली यूनियन, एसएजी-एएफटीआरए के राष्ट्रीय कार्यकारी निदेशक डंकन क्रैबट्री-आयरलैंड ने कहा कि कलाकारों को सोशल मीडिया उपयोगकर्ताओं द्वारा किसी ऐसे डिजिटल साथी के साथ रोमांटिक जुड़ाव बनाने से संभावित सुरक्षा जोखिमों का सामना करना पड़ता है जो किसी असली सेलिब्रिटी जैसा दिखता है, बोलता है और दावा करता है। उन्होंने कहा कि स्टॉकर्स पहले से ही सितारों के लिए एक बड़ी सुरक्षा चिंता का विषय हैं।
उन्होंने कहा, “हमने ऐसे लोगों का इतिहास देखा है जो प्रतिभा के प्रति जुनूनी होते हैं और जिनकी मानसिक स्थिति संदिग्ध होती है। अगर कोई चैटबॉट किसी व्यक्ति की छवि और उसके शब्दों का इस्तेमाल कर रहा है, तो यह साफ़ ज़ाहिर है कि यह कैसे गलत हो सकता है।”
क्रैबट्री-आयरलैंड ने कहा कि उच्च-प्रोफ़ाइल कलाकार लंबे समय से चले आ रहे राज्य प्रचार अधिकार कानूनों के तहत मेटा के ख़िलाफ़ क़ानूनी दावा कर सकते हैं। उन्होंने आगे कहा कि एसएजी-एएफटीआरए एक ऐसे संघीय क़ानून के लिए ज़ोर दे रहा है जो लोगों की आवाज़ों, समानताओं और व्यक्तित्वों को एआई के दोहराव से बचाए।
जेफ होरविट्ज़ द्वारा, ओकलैंड, कैलिफ़ोर्निया में। स्टीव स्टेकलो और माइकल विलियम्स द्वारा संपादित।
