‘ग्रोक’ से अश्लील सामग्री तैयार करने का मामला: ‘एक्स’ ने गलती स्वीकार की, 600 से ज्यादा खाते हटाए

नयी दिल्ली, 11 जनवरी (भाषा) सूचना प्रौद्योगिकी मंत्रालय द्वारा एलन मस्क के स्वामित्व वाले सोशल मीडिया मंच ‘एक्स’ को ‘ग्रोक एआई’ के अश्लील सामग्री मुद्दे पर चेतावनी दिए जाने के बाद माइक्रोब्लॉगिंग साइट ने अपनी गलती स्वीकार कर ली है और कहा है कि वह भारतीय कानूनों का पालन करेगी। सरकारी सूत्रों ने रविवार को यह जानकारी दी।

सूत्रों ने बताया कि लगभग 3,500 सामग्री ‘ब्लॉक’ की गई हैं और 600 से अधिक खाते हटा दिए गए हैं।

यह कदम ऐसे वक्त उठाया गया है, जब ‘ग्रोक’ पर दुनिया भर की सरकारों का दबाव बढ़ता जा रहा है। नियामक हाल के दिनों में ‘एक्स’ पर बड़ी संख्या में सामने आई आपत्तिजनक और बिना सहमति वाली यौन सामग्री, ‘कंटेंट मॉडरेशन’ और डेटा सुरक्षा को लेकर जेनरेटिव एआई इंजन की कड़ी जांच कर रहे हैं।

 ⁠

सूत्रों के अनुसार, ‘एक्स’ ने अपनी गलती स्वीकार कर ली है और कहा है कि वह भारतीय कानूनों का पालन करेगी। साथ ही यह भी कहा है कि भविष्य में यह मंच अश्लील चित्रों की अनुमति नहीं देगा।

इस सोशल मीडिया मंच के ‘सेफ्टी’ हैंडल ने पिछले रविवार को कहा कि वह अपने मंच पर अवैध सामग्री, जिसमें बाल यौन शोषण सामग्री (सीएसएएम) भी शामिल है, के खिलाफ कार्रवाई करता है। इसके तहत ऐसी सामग्री को हटाना, खातों को स्थायी रूप से निलंबित करना और आवश्यकतानुसार स्थानीय सरकारों एवं कानून प्रवर्तन एजेंसियों के साथ काम करना शामिल है।

‘एक्स’ ने अवैध सामग्री पर मस्क के रुख को दोहराते हुए कहा था, ‘‘ग्रोक का उपयोग करके या उससे अवैध सामग्री बनवाने वाले किसी भी व्यक्ति को वही परिणाम भुगतने होंगे जो कि अवैध सामग्री अपलोड करने पर भुगतने पड़ते हैं।’’

‘एक्स’ एआई चैटबॉट ‘ग्रोक’ पर अश्लील तस्वीरों को लेकर ‘एक्स’ को वैश्विक स्तर पर तीखी आलोचना का सामना करना पड़ रहा है। यूरोप और एशिया समेत दुनिया भर की सरकारों ने ऑनलाइन सुरक्षा मानकों का पालन न करने पर कार्रवाई की चेतावनी दी है। वहीं, इस मुद्दे पर ‘एक्स’ और ‘ग्रोक’ दोनों के खिलाफ कार्रवाई की सार्वजनिक मांग भी लगातार तेज हो रही है।

दो जनवरी को सूचना प्रौद्योगिकी मंत्रालय ने ‘ग्रोक’ और इस तरह की एआई-आधारित सेवाओं के दुरुपयोग के माध्यम से उत्पन्न की जा रही अश्लील और यौन सामग्री के संबंध में ‘एक्स’ को कड़ी चेतावनी जारी की थी।

इस निर्देश में मंत्रालय ने अमेरिका स्थित सोशल मीडिया कंपनी से 72 घंटे के भीतर विस्तृत कार्रवाई रिपोर्ट (एटीआर) प्रस्तुत करने को कहा। इसमें ग्रोक ऐप से जुड़े अब तक किए गए या प्रस्तावित तकनीकी और संगठनात्मक कदमों, मुख्य अनुपालन अधिकारी की भूमिका और निगरानी, आपत्तिजनक कंटेंट, उपयोक्ताओं और खातों के खिलाफ की गई कार्रवाई, साथ ही भारतीय कानूनों के तहत अनिवार्य रिपोर्टिंग नियमों का पालन सुनिश्चित करने की व्यवस्था का विवरण देने को कहा गया।

आईटी मंत्रालय के पत्र में कहा गया कि ‘एक्स’ द्वारा विकसित और प्लेटफॉर्म पर एकीकृत ‘ग्रोक एआई’ का कुछ उपयोगकर्ता दुरुपयोग कर रहे हैं। मंत्रालय के अनुसार, इसका इस्तेमाल फर्जी खाता बनाकर महिलाओं की आपत्तिजनक, अपमानजनक या अश्लील तस्वीरें और वीडियो बनाने, पोस्ट करने या साझा करने के लिए किया जा रहा है।

सरकार ने ‘एक्स’ से साफ तौर पर कहा कि आईटी अधिनियम और इससे जुड़े नियमों का पालन करना वैकल्पिक नहीं है। सरकार ने यह भी स्पष्ट किया कि आईटी अधिनियम की धारा 79 के तहत मिलने वाली वैधानिक छूट दायित्वों के सख्त पालन पर ही निर्भर करती है, जो ऑनलाइन मध्यस्थों को कानूनी जिम्मेदारी से छूट से संबंधित है।

सरकार ने ‘एक्स’ को चेताया कि दायित्वों का पालन न करने पर आईटी अधिनियम की धारा 79 के तहत मिलने वाली दायित्व से संबंधित छूट समाप्त हो जाएगी। इसके साथ ही, प्लेटफॉर्म के खिलाफ आईटी अधिनियम और भारतीय न्याय संहिता समेत अन्य कानूनों के तहत भी कार्रवाई की जाएगी।

सरकार ने ‘एक्स’ से कहा कि लागू कानूनों का उल्लंघन करने वाली सभी पहले से बनाई या फैलाई गई सामग्री को “बिना देरी” हटा दिया जाए या उसकी पहुंच बंद कर दी जाए। इसने कहा कि यह कार्रवाई आईटी नियम, 2021 में तय समयसीमा का सख्ती से पालन करते हुए की जानी चाहिए, ताकि सबूतों को नुकसान न पहुंचे।

नोटिस जारी होने के बाद अपने जवाब में ‘एक्स’ ने भ्रामक पोस्ट और गैर-सहमति से प्राप्त यौन उत्तेजक छवियों से संबंधित पोस्ट के मामले में अपने द्वारा अपनाई जाने वाली सख्त सामग्री हटाने की नीतियों की रूपरेखा प्रस्तुत की थी।

हालांकि, जवाब लंबा और विस्तृत था लेकिन इसमें कुछ महत्वपूर्ण जानकारियां छूट गई थीं, जिनमें ग्रोक एआई की अश्लील सामग्री के मुद्दे पर की गई कार्रवाई और भविष्य में इसे रोकने के उपाय शामिल थे।

अपेक्षित जवाब नहीं मिलने के बाद ‘एक्स’ से कड़े रुख़ के साथ और अधिक विवरण मांगे गए, जिसमें उसके ‘ग्रोक एआई’ से जुड़ी अश्लील सामग्री पर किए गए विशिष्ट कदम और भविष्य में ऐसी घटनाओं की रोकथाम के उपाय शामिल हैं।

सूत्रों के अनुसार, ‘एक्स’ ने अब अपनी गलती स्वीकार कर ली है और सरकार को बताया है कि वह भारतीय कानूनों तथा नियमों का पालन करेगा।

भारत के अलावा, ब्रिटेन और यूरोपीय संघ (ईयू) ने भी ‘ग्रोक’ एआई से जुड़ी ‘डीपफेक’ तस्वीरों के मामले को लेकर ‘एक्स’ पर दबाव बढ़ाया है। ब्रिटेन के प्रधानमंत्री केअर स्टारमर ने ऐसे कृत्यों को ‘‘घिनौना’’ बताया, जबकि यूरोपीय आयोग ने ‘एक्स’ से कहा है कि वह एआई चैटबोट ‘ग्रोक’ से संबंधित सभी दस्तावेज़ों को लंबे समय तक सुरक्षित रखे।

भाषा आशीष नेत्रपाल

नेत्रपाल