अश्लील डीपफेक तस्वीरों को लेकर वैश्विक आलोचना के बाद मस्क का ग्रोक चैटबॉट हरकत में आया

लंदन, नौ जनवरी (एपी) एलन मस्क का एआई चैटबॉट ‘ग्रोक’ लोगों की अश्लील डीपफेक तस्वीरें जारी करने के बाद हुए वैश्विक विरोध के कारण अपने ज्यादातर उपयोगकर्ताओं को किसी भी प्रकार की तस्वीर बनाने या संपादित करने से रोक रहा है।

मस्क के सोशल मीडिया मंच ‘एक्स’ के माध्यम से उपयोग किये जाने वाले चैटबॉट ने पिछले कुछ हफ्तों में उन उपयोगकर्ताओं के अनुरोधों को स्वीकार किया है जिन्हें शोधकर्ता दुर्भावनापूर्ण मानते हैं। इनमें तस्वीरों को संपादित करना शामिल है, जैसे कि महिलाओं को बिकनी में या यौन संकेत देने वाली स्थितियों में दिखाना।

शोधकर्ताओं ने आगाह किया है कि कुछ मामलों में, कुछ तस्वीरों में बच्चों को दर्शाया गया प्रतीत होता है। दुनिया भर की सरकारों ने इस प्लेटफॉर्म की निंदा की है और जांच शुरू कर दी है।

शुक्रवार को, ‘ग्रोक’ तस्वीर में बदलाव करने के अनुरोधों का जवाब देते हुए यह संदेश जारी कर रहा: “तस्वीर निर्माण और संपादन की सुविधा फिलहाल केवल शुल्क अदा करने वाले ग्राहकों के लिए उपलब्ध है। इन सुविधाओं को प्राप्त करने के लिए आप सदस्यता ले सकते हैं।’’

हालांकि, ‘ग्रोक’ के ग्राहकों की संख्या सार्वजनिक रूप से उपलब्ध नहीं है, लेकिन कुछ दिनों पहले की तुलना में ‘ग्रोक’ द्वारा निर्मित डीपफेक तस्वीरों की संख्या में उल्लेखनीय कमी आई है।

यूरोपीय संघ ने ‘ग्रोक’ के ‘‘अवैध’’ और ‘‘स्तब्ध करने वाले’’ व्यवहार की कड़ी निंदा की है, जबकि फ्रांस, भारत, मलेशिया के अधिकारियों और ब्राजील के एक सांसद ने जांच की मांग की है।

बृहस्पतिवार को ब्रिटेन के प्रधानमंत्री केअर स्टार्मर ने ‘एक्स’ के खिलाफ कार्रवाई की धमकी दी।

उन्होंने ‘ग्रेटेस्ट हिट्स रेडियो’ पर कहा, ‘‘यह शर्मनाक है। यह घिनौना है। इसे बर्दाश्त नहीं किया जा सकता।’’ उन्होंने कहा कि ‘एक्स’ को इस पर नकेल कसनी होगी।

स्टार्मर ने कहा कि मीडिया नियामक ऑफकॉम को ‘‘कार्रवाई करने के लिए हमारा पूरा समर्थन है’’ और ‘‘सभी विकल्प’’ खुले हैं।

इस सप्ताह ऑफकॉम और ब्रिटेन के गोपनीयता नियामक, दोनों ने कहा कि उन्होंने ब्रिटिश नियमों का अनुपालन करने के लिए उठाए गए उपायों के बारे में जानकारी के लिए ‘एक्स’ और मस्क की कृत्रिम बुद्धिमत्ता (एआई) कंपनी एक्सएआई से संपर्क किया है।

‘एक्स’ उपयोगकर्ताओं के लिए ग्रोक का उपयोग निःशुल्क है और वे सोशल मीडिया प्लेटफॉर्म पर इससे प्रश्न पूछ सकते हैं। वे या तो अपने द्वारा बनाए गए पोस्ट में या अन्य उपयोगकर्ताओं के पोस्ट के उत्तर में इसे टैग कर सकते हैं।

ग्रोक को 2023 में शुरू किया गया था। पिछले साल गर्मियों में कंपनी ने तस्वीर तैयार करने वाली एक विशेषता, ‘ग्रोक इमेजिन’ जोड़ी, जिसमें एक तथाकथित ‘‘स्पाइसी मोड’’ शामिल है जो वयस्क सामग्री उत्पन्न कर सकता है।

एपी सुभाष पवनेश

पवनेश