एंथ्रोपिक विवाद दिखाता है कि एआई लोकतंत्र की सुरक्षा व्यवस्था के लिए कैसे खतरा बन सकता है

( डेविड सिल्वर, ब्रिटिश कोलंबिया यूनिवर्सिटी )

वैंकूवर, 17 अगस्त (द कन्वरसेशन) फरवरी में अमेरिकी रक्षा विभाग ने एआई कंपनी एंथ्रोपिक को ‘‘सप्लाई-चेन जोखिम’’ के रूप में नामित करने की धमकी दी थी। यह विवाद सेना द्वारा कंपनी के ‘क्लॉड’ एआई मॉडल के इस्तेमाल को लेकर हुआ था।

यह दर्जा न केवल पेंटागन के साथ कंपनी के 20 करोड़ अमेरिकी डॉलर के अनुबंध को खतरे में डालता, बल्कि सभी रक्षा अनुबंधकर्ताओं को भी कंपनी से संबंध खत्म करने के लिए बाध्य करता।

विवाद के केंद्र में एंथ्रोपिक द्वारा दो ऐसे इस्तेमाल थे, जिनकी उसने अनुमति देने से इनकार किया था—पूरी तरह स्वायत्त हथियार और अमेरिकियों की बड़े पैमाने पर निगरानी।

पेंटागन चाहता था कि एंथ्रोपिक सेना को अपने एआई का इस्तेमाल ‘‘सभी कानूनी उद्देश्यों’’ के लिए करने की अनुमति दे। एंथ्रोपिक के मुख्य कार्यकारी अधिकारी डारियो अमोडेई ने कहा था कि कंपनी को नहीं लगता कि मौजूदा अत्याधुनिक एआई मॉडल पूरी तरह स्वायत्त हथियारों के लिए पर्याप्त रूप से विश्वसनीय हैं। उन्होंने यह भी तर्क दिया था कि घरेलू स्तर पर बड़े पैमाने पर निगरानी लोकतांत्रिक मूल्यों को खतरे में डालेगी।

अमेरिकी राष्ट्रपति डोनाल्ड ट्रंप ने इसके जवाब में संघीय एजेंसियों को एंथ्रोपिक की तकनीक का इस्तेमाल बंद करने का निर्देश दिया, हालांकि रक्षा विभाग जैसी एजेंसियों को मौजूदा इस्तेमाल को समाप्त करने के लिए छह महीने का समय दिया गया।

एंथ्रोपिक ने इस फैसले को अदालत में चुनौती दी और 26 मार्च को एक संघीय न्यायाधीश ने मामले की सुनवाई जारी रहने तक कंपनी के खिलाफ इस फैसले को लागू करने पर रोक लगा दी।

यह विवाद केवल एक सरकारी अनुबंध के भविष्य से जुड़ा सवाल नहीं है। मेरी पुस्तक ‘कॉरपोरेशंस एंड पर्सन्स: ए थ्योरी ऑफ द फर्म इन डेमोक्रेटिक सोसाइटी’ में मैंने तर्क दिया है कि किसी कंपनी की जिम्मेदारियां केवल किसी सरकार के प्रति नहीं, बल्कि संपूर्ण लोकतांत्रिक संवैधानिक व्यवस्था के प्रति होती हैं।

मैं पहले भी तर्क दे चुका हूं कि इसमें निरंकुश मांगों का विरोध करने का दायित्व शामिल है। यहां मैं इस जिम्मेदारी के एक खास और बेहद जरूरी पहलू—चेतावनी देने के दायित्व—पर ध्यान केंद्रित करना चाहता हूं।

कंपनियां अक्सर ऐसी बातें जानती हैं, जिन्हें नागरिकों को जानना जरूरी होता है। उदाहरण के लिए, फेसबुक के आंतरिक शोध में किशोरों के मानसिक स्वास्थ्य पर इंस्टाग्राम के प्रभाव को लेकर गंभीर चिंताएं सामने आई थीं। ये निष्कर्ष तब सार्वजनिक हुए, जब फेसबुक की पूर्व कर्मचारी फ्रांसेस हौगेन ने व्हिसलब्लोअर के तौर पर सामने आकर इनका खुलासा किया।

ऐसे मामलों में कंपनी का दायित्व स्पष्ट है—जो कुछ वह जानती है, उसे जनता को बताना और निश्चित रूप से तंबाकू उद्योग की उस रणनीति का पालन नहीं करना चाहिए, जिसमें लोगों को सच्चाई जानने से सक्रिय रूप से रोका जाता था।

एक स्तर पर एंथ्रोपिक भी कुछ ऐसा ही कर रही है। वह लोकतांत्रिक समाज को चेतावनी दे रही है कि सरकारें एआई का इस्तेमाल कैसे करें, इसे लेकर महत्वपूर्ण फैसले उसके सामने हैं। लेकिन इससे भी अधिक जरूरी दूसरी चेतावनी यह है कि क्या लोकतांत्रिक समाज भविष्य में ऐसे फैसले लेने की क्षमता बनाए रख पाएगा।

सोशल मीडिया पर दुष्प्रचार भी ऐसी ही समस्या पैदा करता है। यह केवल लोकतांत्रिक समाज के सामने मौजूद एक और समस्या नहीं है, बल्कि यह उन साझा ज्ञान और सामाजिक प्रतिबद्धताओं पर हमला कर सकता है, जो लोकतांत्रिक स्व-शासन को संभव बनाते हैं।

एआई और लोकतंत्र को लेकर ज्यादातर चिंताएं इस बात पर केंद्रित हैं कि एआई नेताओं को क्या करने में सक्षम बना सकता है—गलत सूचना फैलाना, नागरिकों को प्रभावित करना या निगरानी करना। इससे भी गहरी चिंता यह है कि एआई उन लोगों और संस्थाओं को क्या नुकसान पहुंचा सकता है, जो ऐसे दुरुपयोग को रोकने में सक्षम हैं।

लोकतंत्रों ने सत्ता के दुरुपयोग पर अंकुश लगाने के लिए कभी केवल कानूनों और चुनावों पर भरोसा नहीं किया। उन्होंने लोगों पर भी भरोसा किया है—ऐसे बहुत से लोग, जो अनेक स्वतंत्र भूमिकाओं में काम करते हैं: वह अधिकारी जो गैरकानूनी आदेश मानने से इनकार कर सकता है, वह इंजीनियर जो किसी चीज के निर्माण से मना कर सकता है, वह विश्लेषक जो किसी असामान्य स्थिति को पहचानकर उसके बारे में बता सकता है और वह पत्रकार, जिससे कोई व्हिसलब्लोअर संपर्क कर सकता है। यही लोग एक सुरक्षा कवच प्रदान करते हैं।

लोकतंत्र इसलिए मजबूत रहते हैं क्योंकि जिम्मेदारी कई स्वतंत्र लोगों के बीच बंटी होती है। किसी एक अधिकारी को बदला या दबाव में लाया जा सकता है, लेकिन ऐसे लोगों की पूरी व्यवस्था को पूरी तरह नियंत्रित करना अधिक कठिन होता है, जिनमें से प्रत्येक अपनी स्वतंत्र व्यक्तिगत और पेशेवर नैतिकता के आधार पर निर्णय लेता है।

कैम्ब्रिज एनालिटिका विवाद इसका उदाहरण है। फेसबुक के पास इस बात के सबूत थे कि उपयोगकर्ताओं का डेटा अनुचित तरीके से हासिल किया गया और राजनीतिक सलाहकार कंपनी कैम्ब्रिज एनालिटिका ने उसका इस्तेमाल किया। यह मामला तब सार्वजनिक हुआ जब कैम्ब्रिज एनालिटिका के पूर्व कर्मचारी क्रिस्टोफर वाइली सामने आए और उन्होंने पत्रकारों को जानकारी दी।

ऐसे मामलों में यह जरूरी होता है कि पर्याप्त संख्या में स्वतंत्र लोग और स्वतंत्र पदों पर मौजूद लोग हों, ताकि उनमें से कम से कम एक व्यक्ति बोलने का फैसला कर सके। निरंकुश तरीके से एआई का इस्तेमाल इसी व्यवस्था को खत्म करने का खतरा पैदा करता है।

एंथ्रोपिक द्वारा प्रस्तावित अनुबंध संबंधी सुरक्षा उपाय इस चिंता को कुछ हद तक दूर करते हैं। इनमें यह सुनिश्चित करने पर जोर दिया गया है कि किसी घातक हमले से पहले होने वाले फैसलों की श्रृंखला ‘किल चेन’ में एक इंसान मौजूद रहे।

हालांकि, इससे समस्या पूरी तरह हल नहीं होती। किसी सरकार को इस सुरक्षा व्यवस्था को खत्म करने के लिए इंसानों को पूरी तरह हटाने की जरूरत नहीं है। उसे केवल कम संख्या में ऐसे लोगों की जरूरत है, जो अधिक भरोसेमंद तरीके से उसके आदेशों का पालन करें—ऐसे लोग जिन्हें चुना जाए, प्रोत्साहित किया जाए या दबाव डाला जाए ताकि वे आपत्ति करने के बजाय आदेश मानें।

यही वजह है कि मौजूदा पीढ़ी की अत्याधुनिक एआई तकनीक विशेष रूप से चिंता का विषय है। बड़े पैमाने पर निगरानी और निर्णय लेने की प्रक्रिया को स्वचालित करने से उस मानवीय नेटवर्क के खत्म होने का खतरा है, जिसके जरिए लोकतंत्रों ने अतीत में सत्ता के दुरुपयोग को मजबूत होने से पहले पकड़ लिया था।

दुनिया में बहुत कम कंपनियां ऐसी स्थिति में हैं, जैसी अत्याधुनिक एआई कंपनियां इस समय हैं। उनके पास ऐसी तकनीकी क्षमताएं हैं, जिन्हें सरकारें तत्काल हासिल करना चाहती हैं, जबकि सरकारों के पास इन कंपनियों पर भारी खरीद, नियामकीय और दंडात्मक शक्तियां हैं।

एआई सरकारों को असाधारण नई शक्तियां दे सकता है। लोकतंत्र का भविष्य कुछ हद तक इस बात पर निर्भर करेगा कि पर्याप्त संख्या में लोग ऐसे बने रहें, जो यह पहचानने में सक्षम और इच्छुक हों कि इन शक्तियों का दुरुपयोग कब हो रहा है और उसके बारे में आवाज उठाएं।

द कन्वरसेशन मनीषा नरेश

नरेश