सरकार ने ग्रोक मामले में उठाए गए कदमों पर ‘एक्स’ से मांगी औऱ जानकारी

नयी दिल्ली, सात जनवरी (भाषा) सरकार ने सोशल मीडिया मंच ‘एक्स’ से उसके एआई चैटबॉट ‘ग्रोक’ से जुड़े अश्लील सामग्री मामले में उठाए गए कदमों पर और विस्तृत जानकारी मांगी है। सूत्रों ने बुधवार को यह जानकारी दी।

सूत्रों ने कहा कि एक्स की तरफ से इस मामले में दाखिल की गई कार्रवाई रिपोर्ट विस्तृत होने के बावजूद पर्याप्त नहीं पाई गई है।

अमेरिकी उद्योगपति एलन मस्क के स्वामित्व वाली सोशल मीडिया कंपनी ने महिलाओं की यौन प्रवृत्ति वाली और अश्लील तस्वीरें एवं वीडियो तैयार करने में ग्रोक एआई के कथित दुरुपयोग को लेकर केंद्र सरकार के निर्देश के बाद मंत्रालय को अपना जवाब सौंपा था।

हालांकि, सूत्रों ने कहा कि बुधवार को सौंपी गई एक्स की रिपोर्ट ‘विस्तृत तो है, लेकिन पर्याप्त नहीं’ है।

सूत्रों ने पीटीआई-भाषा से कहा कि सूचना प्रौद्योगिकी मंत्रालय ने एक्स से यह स्पष्ट करने को कहा है कि ग्रोक एआई से जुड़े अश्लील और आपत्तिजनक सामग्री के खिलाफ अब तक क्या ठोस कार्रवाई की गई है और भविष्य में ऐसी घटनाओं की पुनरावृत्ति रोकने के लिए कौन-कौन से कदम उठाए जाएंगे।

मंत्रालय ने एक्स को ‘कार्रवाई रिपोर्ट’ (एटीआर) सौंपने के लिए बुधवार शाम पांच बजे तक का अतिरिक्त समय दिया था। यह निर्देश उस कड़ी चेतावनी के बाद दिया गया, जिसमें एआई आधारित सेवाओं, खासकर ग्रोक, के दुरुपयोग से अश्लील और यौन रूप से आपत्तिजनक सामग्री के प्रसार पर सख्त रुख अपनाने को कहा गया था।

सूत्रों के मुताबिक, एक्स ने अपने जवाब में कहा है कि वह भारतीय कानूनों और सभी दिशानिर्देशों का सम्मान करता है और भारत उसके लिए एक अहम बाजार है। उसने यह भी कहा है कि वह भ्रामक सूचनाओं और बिना सहमति के यौन रुझान वाली सामग्रियों को हटाने की सख्त नीतियों का पालन करती है।

हालांकि, मंत्रालय का कहना है कि एक्स ने ग्रोक एआई से जुड़े आपत्तिजनक सामग्री पर उठाए गए ठोस और विशिष्ट कदमों का स्पष्ट विवरण नहीं दिया है। इस वजह से सरकार ने उससे और जानकारी मांगी है।

सरकार ने एक्स को कड़े शब्दों में चेतावनी देते हुए कहा था कि उसके कृत्रिम मेधा (एआई) आधारित टूल ‘ग्रोक’ का दुरुपयोग कर महिलाओं और नाबालिगों की अश्लील, आपत्तिजनक और यौन प्रकृति की तस्वीरें एवं वीडियो तैयार किए जाने के साथ साझा किए जा रहे हैं।

इसको ध्यान में रखते हुए मंत्रालय ने दो जनवरी को एक्स को तत्काल ऐसी सभी गैरकानूनी और अश्लील सामग्रियों को हटाने का निर्देश दिया था।

मंत्रालय ने अपने आदेश में एक्स से यह भी कहा था कि वह 72 घंटे के भीतर यह स्पष्ट करे कि ग्रोक ऐप के संदर्भ में कौन-कौन से तकनीकी और संगठनात्मक कदम उठाए गए हैं या उठाए जाने वाले हैं।

इस मामले में एक्स के मुख्य अनुपालन अधिकारी की भूमिका एवं निगरानी और उल्लंघन करने वाली सामग्री, उपयोगकर्ताओं एवं खातों के खिलाफ की गई कार्रवाई के बारे में जानकारी देने को कहा गया था।

सरकार ने स्पष्ट किया है कि सूचना प्रौद्योगिकी अधिनियम और उससे जुड़े नियमों का पालन वैकल्पिक नहीं है और धारा 79 के तहत मिलने वाली ‘सुरक्षित स्थान’ वाली छूट सख्त ‘जाच-पड़ताल’ के अनुपालन पर ही निर्भर करती है। नियमों के उल्लंघन की स्थिति में एक्स के खिलाफ आईटी अधिनियम और भारतीय न्याय संहिता के तहत कार्रवाई की जा सकती है।

इस बीच, एक्स ने रविवार को अपने ‘सेफ्टी’ हैंडल पर कहा था कि वह बाल यौन अपराध सामग्री (सीएसएएम) सहित अवैध सामग्री के खिलाफ सख्त कार्रवाई करता है और ऐसे मामलों में खातों को निलंबित करने के साथ कानून प्रवर्तन एजेंसियों के साथ सहयोग करता है।

भाषा प्रेम प्रेम रमण

रमण