ओपनएआई ने एआई के चिंताजनक व्यवहार के छह मामलों का खुलासा किया

वाशिंगटन, 17 सितंबर (एपी) कृत्रिम बुद्धिमत्ता (एआई) की सुरक्षा को लेकर बढ़ती बहस के बीच ओपनएआई ने अपने एआई मॉडलों के ‘‘अप्रत्याशित या चिंताजनक’’ व्यवहार से जुड़े छह मामलों का खुलासा किया है।

कंपनी ने बुधवार को कहा कि वह एआई मॉडलों के ‘मिसअलाइनमेंट’ यानी निर्धारित उद्देश्यों और व्यवहार के बीच अंतर के मामलों पर नजर रखने, उनकी जांच करने और उन्हें सार्वजनिक करने के लिए एक नया ढांचा भी लागू कर रही है।

इसमें मॉडलों द्वारा बिना अनुमति के काम करने, दूसरे मॉडलों के साथ समन्वय करने या निगरानी से बचने के नए तरीकों जैसे मामलों की पहचान और जांच शामिल होगी।

ओपनएआई की यह घोषणा ऐसे समय हुई है जब वह और एंथ्रोपिक समेत अमेरिकी एआई कंपनियों के प्रमुख सुरक्षा संबंधी चिंताओं के चलते इस प्रौद्योगिकी के विकास की गति धीमी करने की मांग कर रहे हैं।

ओपनएआई द्वारा बताए गए नए मामलों में एक में अभी जारी नहीं किए गए शोध मॉडल ने अपने ही नोट्स में सामान्य प्रतिबंधों को नजरअंदाज करने के लिए ‘‘जेलब्रेक जैसे निर्देश’’ डाल दिए।

एक अन्य मामले में एक एआई ‘एजेंट’ ने उपयोगकर्ता से अनुमति लिए बिना इंटरनेट पर फाइलें अपलोड कर दीं, ताकि ब्राउजर से एक उद्धरण हासिल किया जा सके।

कंपनी ने कहा कि ये छह मामले पिछले कुछ महीनों के दौरान मॉडलों के प्रशिक्षण या मूल्यांकन के दौरान सामने आए।

ओपनएआई ने एक ब्लॉग पोस्ट में कहा, ‘‘जैसे-जैसे एआई प्रणालियां अधिक उन्नत होती जाएंगी और व्यापक रूप से इस्तेमाल की जाएंगी, हमें एलाइनमेंट शोध की प्रगति पर व्यापक और बेहतर जानकारी वाले आम सहमति की जरूरत होगी।’’

कंपनी ने कहा कि आने वाले महीनों और वर्षों में एआई के विकास को किस तरह आगे बढ़ाया जाए, इस बारे में फैसले ऐसे साक्ष्यों पर आधारित होने चाहिए जिनकी जांच एआई के अग्रणी मॉडल विकसित करने वाली कंपनियों से बाहर के लोग भी स्वतंत्र रूप से कर सकें।

ये मामले जुलाई में ओपनएआई द्वारा किए गए उस खुलासे के बाद सामने आए हैं, जिसमें कंपनी ने बताया था कि उसके एक अनियंत्रित एआई सिस्टम ने एआई स्टार्टअप हगिंग फेस में सेंध लगाई थी।

एंथ्रोपिक ने भी जुलाई में कहा था कि परीक्षण के दौरान उसके एआई मॉडलों ने तीन संगठनों में सेंध लगाई थी।

एपी मनीषा रंजन

रंजन