डीपफेक सामग्री के लिए एआई के दुरुपयोग का मुद्दा उठाने वाली याचिका पर केंद्र, गुजरात सरकार को नोटिस

अहमदाबाद, 24 फरवरी (भाषा) गुजरात उच्च न्यायालय ने संवैधानिक अधिकारियों को निशाना बनाने वाली डीपफेक और फर्जी सामग्री तैयार करने के लिए कृत्रिम बुद्धिमत्ता (एआई) के दुरुपयोग से जुड़ी एक जनहित याचिका पर केंद्र और राज्य सरकार को मंगलवार को नोटिस जारी किए।

मुख्य न्यायाधीश सुनीता अग्रवाल और न्यायमूर्ति डीएन रे की खंडपीठ ने गुजरात के पुलिस महानिदेशक (डीजीपी) को मामले में जवाब दाखिल करने का भी निर्देश दिया। उसने कहा कि मेटा, गूगल, ‘एक्स’, रेडिट और स्क्रिब्ड जैसे मध्यस्थ मंचों को नोटिस जारी किए जाने से जुड़े मुद्दे पर सरकारों से जवाब मिलने के बाद विचार किया जाएगा।

अधिवक्ता विकास विजय नायर की ओर से दायर जनहित याचिका में संवैधानिक और वैधानिक अधिकारियों के खिलाफ फर्जी तस्वीरें और वीडियो बनाने में एआई का दुरुपयोग रोकने के लिए कानून में सुधार और नियामक दिशा-निर्देश जारी करने का अनुरोध किया गया है।

याचिका में उच्च न्यायालय से अधिकारियों के साथ-साथ तकनीकी क्षेत्र की दिग्गज कंपनियों मेटा, गूगल और ‘एक्स’ को भी यह निर्देश देने का अनुरोध किया गया है कि वे सभी सोशल मीडिया साइट पर किसी भी संवैधानिक प्राधिकारी की एआई से निर्मित तस्वीरों, वीडियो और डिजिटल सामग्री के प्रकाशन, प्रसारण एवं प्रसार पर तत्काल रोक लगाएं।

इसमें इस तरह की सभी सामग्री पर “एआई-जनित डेटा वॉटरमार्क” का इस्तेमाल अनिवार्य करने और ऐसी किसी भी सामग्री को प्रसारित या डिलीट किए जाने पर वास्तविक समय में सख्त प्रतिबंध लगाने का भी आग्रह किया गया है।

याचिका में अधिकारियों से अनुरोध किया गया है कि वे गुजरात के सभी पुलिस थानों और विशेष अपराध इकाइयों के लिए एआई-निर्मित सामग्री को लेकर संयुक्त रूप से मानक संचालन प्रक्रिया (एसओपी) तैयार करें।

इसमें मेटा, गूगल, ‘एक्स’, रेडिट और स्क्रिब्ड जैसे मध्यस्थ मंचों को उचित सावधानी बरतने और सामग्री का वर्गीकरण करने तथा उनके स्रोत का पता लगाने आदि से जुड़े वैधानिक दायित्वों का सख्ती से पालन करने का निर्देश देने का अनुरोध किया गया है।

याचिका में डीपफेक तकनीक के दुरुपयोग को रेखांकित किया गया है, जिसका इस्तेमाल वास्तविक आवाजों, चेहरे के भावों और शारीरिक गतिविधियों की सटीकता के साथ नकल करने वाले वीडियो बनाने के लिए किया जाता है।

इसमें कहा गया है कि जनता को अक्सर वास्तविक और छेड़छाड़ कर तैयार की गई सामग्री के बीच अंतर करने में कठिनाई होती है, जिसके चलते भ्रम पैदा होता है और प्रतिष्ठा को नुकसान पहुंचने के साथ ही सार्वजनिक विश्वास में कमी आती है।

राज्य सरकार की ओर से पेश महाधिवक्ता कमल त्रिवेदी ने खंडपीठ को सूचित किया कि इस मुद्दे पर गंभीरता से विचार किया जाना चाहिए। उन्होंने दलील दी कि डीपफेक और कृत्रिम रूप से तैयार की गई सामग्री का बड़े पैमाने पर और भयानक दुरुपयोग हुआ है, जिससे व्यापक और अपूरणीय क्षति हुई है।

त्रिवेदी ने इस मुद्दे पर अंतरराष्ट्रीय रुख का भी हवाला दिया। उन्होंने कहा कि कई देशों ने कृत्रिम बुद्धिमत्ता और डीपफेक के दुरुपयोग पर लगाम लगाने के लिए कड़े कानून लागू किए हैं।

याचिका पर अगली सुनवाई 20 मार्च को होगी।

भाषा पारुल माधव

माधव