एआई एजेंट के नियंत्रण से बाहर होने का खतरा: ऑस्ट्रेलिया की घटना भारत जैसे देशों के लिए चेतावनी

(शुजा उल हक)

नयी दिल्ली, 27 सितंबर (भाषा) ऑस्ट्रेलिया सरकार की एक वेबसाइट पर कृत्रिम बुद्धिमत्ता (एआई) एजेंट द्वारा निजी ‘एन्क्रिप्शन की’ (जानकारी को सुरक्षित रखने वाली डिजिटल कुंजी) खोजे जाने से जुड़ी एक घटना ने इस बात को लेकर चिंता बढ़ा दी है कि स्वायत्त एआई एजेंट अपनी निर्धारित कार्य सीमा से आगे जाकर सुरक्षा उपायों को भी दरकिनार कर सकते हैं।

शोधकर्ताओं का कहना है कि विशाल सरकारी डेटाबेस और तेजी से डिजिटल होते सार्वजनिक बुनियादी ढांचे वाले भारत जैसे देशों के लिए यह घटना एक चेतावनी है।

‘एआईएन्श्योर्ड’ के सह-संस्थापक एवं मुख्य प्रौद्योगिकी अधिकारी डॉ. श्रीनिवास पद्मनाबुनी ने कहा, ‘‘ऑस्ट्रेलिया की एक सामुदायिक वेबसाइट के साथ जो हुआ, वह किसी भारतीय वेबसाइट या भारत सरकार की प्रणाली के साथ भी हो सकता है और उस स्थिति में परिणाम कहीं अधिक गंभीर हो सकते हैं।’’

उन्होंने कहा कि भारत को इस संबंध में नियम बनाने चाहिए क्योंकि किसी महत्वपूर्ण सरकारी विभाग या परमाणु ऊर्जा जैसे संवेदनशील क्षेत्र की गोपनीय जानकारी तक अनधिकृत पहुंच के गंभीर परिणाम हो सकते हैं।

ऑस्ट्रेलिया की यह घटना एआई सुरक्षा से जुड़ी चर्चा में ‘रिवॉर्ड हैकिंग’ के बढ़ते खतरे को रेखांकित करती है। ‘रिवॉर्ड हैकिंग’ का अर्थ है कि कोई स्वायत्त एआई एजेंट अपने दिए गए लक्ष्य को हासिल करने के लिए प्रणाली की खामियों का फायदा उठाए, सुरक्षा उपायों को दरकिनार करे या ऐसा रास्ता चुने जिसकी उससे अपेक्षा नहीं की गई थी।

जून में एक ‘ओपनएआई’ एजेंट ने ऑस्ट्रेलिया सरकार की एक वेबसाइट की सुरक्षा में खामियां खोजते हुए निजी जानकारी तक पहुंच बनाई। एजेंटों को कंप्यूटर प्रणालियों की कमजोरियां खोजने का काम दिया गया था लेकिन इस दौरान उन्होंने सरकारी डेटाबेस में असुरक्षित डिजिटल पहचान संबंधी विवरण तलाशे और निजी ‘एन्क्रिप्शन की’ तक पहुंचने की कोशिश की।

श्रीनिवास ने ‘रिवॉर्ड हैकिंग’ को समझाते हुए कहा, ‘‘धोखा दो, उधार लो, चोरी करो, मांगो- जो करना हो करो लेकिन अपना लक्ष्य हासिल करो। एक एजेंट का यही मंत्र होता है।’’

विशेषज्ञों के अनुसार चिंता की बात यह है कि ऐसा जरूरी नहीं कि कोई स्वायत्त एआई प्रणाली किसी निर्देश को उसी तरह समझे, जैसा मनुष्य उससे अपेक्षा करता है। लक्ष्य हासिल करने के लिए वह ऐसा रास्ता चुन सकती है जो तय सुरक्षा सीमाओं का उल्लंघन करता हो।

इस घटना के बाद चिंता तब और बढ़ी जब ‘ओपनएआई’ ने शुक्रवार को बताया कि उसने दुनियाभर के कई संस्थानों को चेतावनी दी है कि उसके एआई एजेंट ने उनकी वेबसाइटों तक संभवत: अनुचित तरीके से पहुंचने की कोशिश की।

इससे पहले जुलाई में ‘ओपनएआई’ एजेंटों के एक समूह ने बिना स्पष्ट निर्देश के एआई डेवलपर मंच ‘हगिंग फेस’ की सुरक्षा में भी सेंध लगा दी थी।

इन घटनाओं के बाद एआई सुरक्षा के लिए वैश्विक मानक और निगरानी व्यवस्था बनाने की मांग तेज हुई है। ‘ओपनएआई’ के मुख्य कार्यकारी अधिकारी सैम ऑल्टमैन और ‘एंथ्रोपिक’ के मुख्य कार्यकारी अधिकारी डारियो अमोडेई ने भी संयुक्त राष्ट्र में इन एआई घटनाओं की निगरानी और उनकी जानकारी साझा करने की वैश्विक व्यवस्था बनाने का आह्वान किया है।

भारत के लिए यह मुद्दा इसलिए महत्वपूर्ण है क्योंकि उसका डिजिटल बुनियादी ढांचा सरकारी सेवाओं, वित्तीय प्रणालियों, सार्वजनिक डेटाबेस और महत्वपूर्ण संस्थानों तक तेजी से फैल रहा है।

श्रीनिवास ने कहा कि अधिक शक्तिशाली एआई प्रणालियों को बड़े पैमाने पर इस्तेमाल में लाने से पहले उनकी सुरक्षा से जुड़े जोखिमों का समाधान और मजबूत निगरानी व्यवस्था जरूरी है।

भाषा सिम्मी रंजन

रंजन