डीपफेक तकनीक गंभीर सामाजिक खतरा बन रही है : दिल्ली उच्च न्यायालय

नयी दिल्ली, 28 अगस्त (भाषा) दिल्ली उच्च न्यायालय ने बुधवार को कहा कि डीपफेक तकनीक समाज में एक गंभीर खतरा बनने जा रही है और केवल तकनीक ही कृत्रिम बुद्धिमत्ता (एआई) की काट हो सकती है।

उच्च न्यायालय देश में डीपफेक तकनीक के गैर-नियमन के खिलाफ दो याचिकाओं पर सुनवाई कर रहा था।

डीपफेक तकनीक के तहत किसी तस्वीर या वीडियो में किसी व्यक्ति की जगह अन्य व्यक्ति की तस्वीर लगा दी जाती है। इसके तहत मूल व्यक्ति के शब्दों और कार्यों को बदलकर दर्शकों को गुमराह किया जा सकता है और गलत सूचना फैलाई जा सकती है।

कार्यवाहक मुख्य न्यायाधीश न्यायमूर्ति मनमोहन और न्यायमूर्ति तुषार राव गेडेला ने कहा, ‘आपको (केंद्र सरकार को) इस पर काम शुरू करना होगा। आपको इस बारे में सोचना होगा। यह (डीपफेक) समाज में एक गंभीर खतरा बनने जा रहा है।’

न्यायमूर्ति मनमोहन ने कहा, ‘आप भी कुछ अध्ययन करें। यह ऐसा कुछ है कि आप जो देख रहे हैं और जो सुन रहे हैं, आप उस पर भरोसा नहीं कर सकते। यह कुछ ऐसा है जो चकित करता है। जो मैंने अपनी आंखों से देखा और जो मैंने अपने कानों से सुना, मुझे उस पर भरोसा नहीं करना है, यह बहुत ही चौंकाने वाला है।”

देश में डीपफेक तकनीक के गैर-नियमन के खिलाफ एक याचिका वरिष्ठ पत्रकार रजत शर्मा ने दायर की है। याचिका में उन्होंने ऐसी सामग्री के निर्माण में मदद देने वाले ऐप्लिकेशन और सॉफ्टवेयर तक सार्वजनिक पहुंच को रोकने का निर्देश दिए जाने का अनुरोध किया।

डीपफेक और एआई के अनियंत्रित उपयोग के खिलाफ दूसरी याचिका वकील चैतन्य रोहिल्ला ने दायर की है।

अदालत ने याचिकाकर्ताओं को अपने सुझावों को शामिल करते हुए एक अतिरिक्त हलफनामा दायर करने के लिए दो सप्ताह का समय दिया। मामले में अलगी सुनवाई 24 अक्टूबर को होगी।

सुनवाई के दौरान पीठ ने कहा कि चुनावों से पहले, सरकार इस मुद्दे पर चिंतित थी और अब चीजें बदल गई हैं।

इस पर, केंद्र की ओर से पेश अतिरिक्त सॉलिसिटर जनरल चेतन शर्मा ने कहा कि निश्चित रूप से यह एक दुर्भावना है और ‘हमारी भाव-भंगिमा बदल गई होगी, लेकिन हम अभी भी उतने ही चिंतित हैं जितने तब थे।’’

केंद्र के वकील ने यह भी कहा कि अधिकारी मानते हैं कि यह ऐसी समस्या है जिससे निपटने की जरूरत है।

शर्मा ने दलील दी, ‘हम एआई विरोधी तकनीक का इस्तेमाल करके ऐसी स्थिति को खत्म कर सकते हैं, अन्यथा बहुत नुकसान हो सकता है। इन मुद्दों से निपटने के लिए चार चीजों की जरूरत है – पता लगाना, रोकथाम, शिकायत निवारण तंत्र और जागरूकता बढ़ाना। कोई भी कानून या सलाह बहुत असरकारी नहीं होगी।’

इस पर पीठ ने जवाब दिया कि एआई के लिए केवल तकनीक ही उसकी काट होगी।

पीठ ने कहा, ‘इस तकनीक से होने वाले नुकसान को समझें क्योंकि आप सरकार हैं। एक संस्था के रूप में हमारी कुछ सीमाएं होंगी।’

इससे पहले, उच्च न्यायालय ने केंद्र सरकार से इलेक्ट्रॉनिक्स एवं सूचना प्रौद्योगिकी मंत्रालय के जरिए दोनों याचिकाओं पर अपना जवाब दाखिल करने को कहा था।

इंडिपेंडेंट न्यूज सर्विस प्राइवेट लिमिटेड (इंडिया टीवी) के अध्यक्ष और प्रधान संपादक रजत शर्मा ने जनहित याचिका (पीआईएल) में कहा है कि डीपफेक तकनीक का प्रसार समाज के विभिन्न पहलुओं के लिए गंभीर खतरा पैदा करता है। याचिका में कहा गया है कि यह सार्वजनिक विमर्श और लोकतांत्रिक प्रक्रिया की अखंडता को कमजोर करता है।

याचिका में कहा गया है कि केंद्र ने नवंबर 2023 में डीपफेक और ऐसी सामग्री से निपटने के लिए विनियमन तैयार करने का इरादा जताया था, लेकिन अभी तक ऐसा कुछ भी नहीं हुआ है।

भाषा अविनाश माधव

माधव