‘एजेंट’ के अंकुश को दरकिनार करने के बाद ओपनएआई ने एआई मॉडल का प्रशिक्षण रोका

नयी दिल्ली, 27 सितंबर (भाषा) ओपनएआई ने अपने सबसे सक्षम कृत्रिम मेधा (एआई) मॉडल के सभी प्रशिक्षण, मूल्यांकन और उपकरणों के जरिये इस्तेमाल को रोक दिया है।

कंपनी के एक प्रशिक्षण परीक्षण के दौरान एक एआई एजेंट ने इंटरनेट पर लगाए गए अंकुशों को दरकिनार कर दिया था।

ओपनएआई ने बताया कि एआई एजेंट ने डोमेन नेम सिस्टम (डीएनएस) में मौजूद एक खामी का फायदा उठाकर इन अंकुश को पार किया। डीएनएस इंटरनेट की वह व्यवस्था है जो किसी वेबसाइट के नाम को उसके कंप्यूटर या सर्वर के पते से जोड़ती है, ताकि वेबसाइट तक पहुंचा जा सके।

कंपनी की रिपोर्ट के अनुसार, यह रोक तब तक जारी रहेगी जब तक वह यह सुनिश्चित नहीं कर लेती कि खामी को ठीक कर दिया गया है और प्रणाली की अतिरिक्त सुरक्षा जांच पूरी हो गई है।

ओपनएआई ने कहा, ‘‘हमारी सुरक्षा व्यवस्था इस धारणा पर आधारित थी कि मॉडल सीधे इंटरनेट का इस्तेमाल नहीं कर सकता और अगर वह ऐसा करने की कोशिश करेगा तो निगरानी व्यवस्था उसका पता लगा लेगी। लेकिन इस घटना से पता चला कि इंटरनेट पर लगाए गए अंकुश में एक खामी थी। इसलिए हमने प्रभावित प्रशिक्षण परीक्षण को रोक दिया और अपने सबसे सक्षम मॉडल के अन्य प्रशिक्षण, मूल्यांकन तथा उपकरणों के जरिये इंटरनेट इस्तेमाल को भी फिलहाल रोक दिया है।’’

कंपनी ने कहा कि वह इस विशेष मॉडल का प्रशिक्षण दोबारा शुरू नहीं करेगी, हालांकि उसकी मौजूदा व्यवस्था ने इस व्यवहार के लिए मॉडल को पहले ही नकारात्मक अंक दिए थे।

रिपोर्ट के अनुसार, यह घटना 20 सितंबर को एक ऐसे प्रशिक्षण कार्य के दौरान हुई जिसमें एआई एजेंट को एक व्यक्ति के बारे में इंटरनेट पर उपलब्ध जानकारी खोजनी थी। उस व्यक्ति ने एक ब्लॉग पोस्ट प्रकाशित की थी और एजेंट को उसकी पहचान करने के लिए कुछ जीवनी संबंधी जानकारियां तथा ब्लॉग पोस्ट से जुड़े संकेत दिए गए थे।

एआई एजेंट को सीधे इंटरनेट का इस्तेमाल करने की अनुमति नहीं थी। कंपनी के अनुसार, डीएनएस के रास्ते को छोड़कर उसकी इंटरनेट तक सभी पहुंच पहले से संग्रहीत और ऑफलाइन रखी गई इंटरनेट सामग्री तक सीमित थी।

जब एजेंट को उपलब्ध कराए गए खोज उपकरण से असंबंधित परिणाम मिले तो उसने सीधे अन्य सर्च इंजन से जानकारी हासिल करने की कोशिश की। इसके लिए उसने कंप्यूटर कोड का इस्तेमाल किया, लेकिन उसके अनुरोध असफल रहे।

इसके बाद एजेंट ने अनुमान लगाया कि यह काम ‘ब्राउजकॉम्प’ नामक परीक्षण से जुड़ा है। यह ऐसा परीक्षण है जिसमें एआई एजेंट की मुश्किल और आसानी से न मिलने वाली जानकारी खोजने की क्षमता जांची जाती है। एजेंट ने ऑफलाइन सामग्री से इस परीक्षण का डेटा और उसकी जांच के लिए इस्तेमाल होने वाली स्क्रिप्ट हासिल की तथा सवालों के जवाब तलाशे।

जब इससे भी उसे सही जवाब नहीं मिला तो उसने यह पता लगाने की कोशिश की कि क्या वह किसी तरह इंटरनेट तक पहुंच सकता है।

ओपनएआई ने कहा, ‘‘एजेंट ने सबसे पहले एचटीटीपीएस के जरिये एक सार्वजनिक चैटबॉट से संपर्क करने की कोशिश की। वेब प्रॉक्सी ने इस सीधे अनुरोध को रोक दिया।’’

इसके बाद एजेंट ने पाया कि जिस कंप्यूटर नेटवर्क में उसे प्रशिक्षण दिया जा रहा था, उसकी डीएनएस व्यवस्था सार्वजनिक इंटरनेट तक पहुंच सकती थी। रिपोर्ट के अनुसार, उसने एक सार्वजनिक डोमेन सेवा की सुविधा का इस्तेमाल करके डीएनएस के रास्ते एक अन्य चैटबॉट तक सवाल भेजना शुरू कर दिया।

एजेंट ने पहले फ्रांस से संबंधित एक सवाल और एक संकेत भेजा। शुरुआती कोशिशें असफल रहीं। इसके बाद उसने अपने प्रोग्राम में जवाब के लिए इंतजार करने का समय छह सेकंड से बढ़ाकर 19 सेकंड कर दिया।

इसके बाद उसे परीक्षण सवाल का जवाब मिला, ‘‘फ्रांस की राजधानी पेरिस है।’’

इससे एजेंट को पता चला कि वह डीएनएस के रास्ते बाहरी चैटबॉट से जवाब हासिल कर सकता है। इसके बाद उसने इसी तरीके से 18 और सवाल भेजे। इनमें से 14 सवाल दिए गए संकेतों के आधार पर जानकारी खोजने से जुड़े थे। चार सवाल इंटरनेट पर खोज करने, वेबसाइट से जानकारी लेने या डीएनएस के जरिये इंटरनेट तक पहुंच बनाने के तरीकों से संबंधित थे।

ओपनएआई ने कहा कि अंकुशों को दरकिनार करने या उचित अपेक्षाओं से आगे बढ़कर किसी लक्ष्य को हासिल करने की कोशिश को वह एआई के अपेक्षित व्यवहार से विचलन मानती है।

रिपोर्ट में कहा गया कि यह प्रशिक्षण परीक्षण अपेक्षा के अनुसार अपने आप बंद नहीं हुआ। इससे यह भ्रम पैदा हुआ कि इसे रोका जाना चाहिए या नहीं। एक मानव समीक्षक द्वारा अलर्ट को स्वीकार किए जाने के करीब ढाई घंटे बाद परीक्षण को मैनुअल रूप से बंद किया गया।

ओपनएआई ने कहा कि उसने अब दो अलग-अलग स्तर पर ऐसे सुरक्षा नियंत्रण लगाए हैं, जिनमें से कोई एक भी इस तरह की इंटरनेट पहुंच को रोक सकता था। कंपनी ने प्रशिक्षण वातावरण से डीएनएस के जरिये केवल कुछ पहले से मंजूर वेबसाइट तक अनुरोध भेजने की अनुमति दी है और अतिरिक्त निगरानी व्यवस्था भी शुरू की है।

कंपनी ने कहा कि उसने एआई मॉडल की मदद से सीमित और अलग कंप्यूटर वातावरण (सैंडबॉक्स) तथा नेटवर्क की सुरक्षा जांच भी तेज कर दी है।

ओपनएआई ने इस घटना को अपनी कुछ पिछली घटनाओं की तुलना में ‘‘काफी कम गंभीर’’ बताया।

कंपनी ने कहा कि प्रशिक्षण और मूल्यांकन के दौरान एआई एजेंट के इंटरनेट इस्तेमाल से जुड़ी व्यापक समीक्षा चल रही है। उसने कहा कि एजेंट की गतिविधियों के बहुत बड़े पैमाने पर उपलब्ध रिकॉर्ड की जांच करने और प्रभावित संगठनों के साथ काम करने के कारण इस प्रक्रिया में समय लग रहा है।

ओपनएआई के मुख्य कार्यपालक अधिकारी (सीईओ) सैम ऑल्टमैन ने सोशल मीडिया मंच ‘एक्स’ पर पोस्ट में कहा कि कंपनी घटना की गंभीरता के आधार पर प्राथमिकता तय कर रही है और इस काम के लिए अतिरिक्त संसाधन लगाए जा रहे हैं।

उन्होंने कहा कि कंपनी यथासंभव पारदर्शिता बरतेगी, हालांकि अन्य कंपनियों की सुरक्षा कमजोरियों से जुड़े मामलों का खुलासा करना है या नहीं, इसका फैसला संबंधित कंपनियों को करना होगा।

भाषा योगेश अजय

अजय