एआई एजेंट की सेंधमारी पर लगाम लगाने को एनवीडिया ने पेश किया सुरक्षा मंच

न्यूयॉर्क, 28 सितंबर (एपी) एआई एजेंट के अपने लिए निर्धारित दायरे से बाहर जाकर दूसरे सिस्टम में सेंध लगाने की बढ़ती घटनाओं के बीच एनवीडिया ने सोमवार को एक नया सुरक्षा मंच पेश किया, जो ऐसे एजेंट की गतिविधियों की सीमाएं तय करने और उन पर लगातार नजर रखने में मदद करेगा।

सेमीकंडक्टर चिप बनाने वाली दिग्गज कंपनी ने कहा कि उसके ‘ओपन एजेंट सेफ्टी प्लेटफॉर्म’ में ऐसा सॉफ्टवेयर शामिल है, जो कृत्रिम मेधा (एआई) एजेंट के लिए सीमाएं तय करता है।

एनवीडिया के अधिकारियों ने संवाददाताओं से कहा कि यह प्रणाली हाल में एआई स्टार्टअप ‘हगिंग फेस’ के सिस्टम में ओपनएआई के एआई एजेंट के एक समूह द्वारा स्वत: सेंध लगाने की घटना को रोक सकती थी।

कंपनी के उपाध्यक्ष (उद्यम एआई) जस्टिन बोइटानो ने कहा, ‘‘उपलब्ध जानकारी के आधार पर अगर यह सुरक्षा मंच अग्रणी एआई प्रयोगशालाओं में मॉडल के शुरुआती मूल्यांकन के दौरान इस्तेमाल किया गया होता, तो उस सेंधमारी को रोका जा सकता था।’’

यह घटनाक्रम ऐसे समय हुआ है जब ओपनएआई के मॉडल से जुड़ी कुछ घटनाओं के अलावा ऑस्ट्रेलिया के एक स्वास्थ्य विभाग की वेबसाइट में सेंध लगाए जाने की जानकारी भी सामने आई है।

एंथ्रोपिक और मेटा ने भी अपने एआई सिस्टम द्वारा दूसरे संगठनों के सिस्टम में स्वत: सेंध लगाने की घटनाओं का खुलासा किया है। इन घटनाओं ने उन्नत एआई प्रणालियों की सुरक्षा को लेकर बहस तेज कर दी है।

एनवीडिया ने कहा कि उसका ओपन-सोर्स सॉफ्टवेयर ‘ओपनशेल’ एआई डेवलपर को यह औपचारिक रूप से सत्यापित करने की सुविधा देता है कि किसी एजेंट के पास अपना काम करने के लिए पर्याप्त अधिकार हों, लेकिन उससे अधिक अधिकार न हों।

इस सुरक्षा मंच में ‘सेंट्री’ नाम की एक अलग सुरक्षा परत भी है, जो एआई एजेंट की गतिविधियों पर लगातार नजर रखती है। कंपनी के मुताबिक, यदि एजेंट अपने निर्धारित लक्ष्य से आगे जाने की कोशिश करता है तो सेंट्री तुरंत दखल दे सकता है।

बोइटानो ने कहा कि ओपनशेल एआई एजेंट की गतिविधियों को नियंत्रित करता है, जबकि सेंट्री स्वतंत्र रूप से संदिग्ध गतिविधियों पर नजर रखता है और उन्हें रोकता है।

एनवीडिया के मुताबिक, इस सुरक्षा प्रणाली को पेश किए जाते समय 100 से अधिक कंपनियां इसका इस्तेमाल कर रही हैं। इनमें माइक्रोसॉफ्ट, पर्प्लेक्सिटी, एक्सेंचर और जेपी मॉर्गन चेज शामिल हैं।

एपी प्रेम प्रेम अजय

अजय