एआई की रफ्तार धीमी करनी होगी, ताकि सुरक्षा उपाय पीछे न रह जाएं: एंथ्रोपिक के सीईओ डारियो अमोदेई

न्यूयॉर्क, 13 सितंबर (एपी) कृत्रिम मेधा (एआई) से जुड़ी कंपनी एंथ्रोपिक के मुख्य कार्यकारी अधिकारी (सीईओ) डारियो अमोदेई ने कहा है कि एआई उद्योग को तेजी से हो रहे इसके विकास की रफ्तार कुछ धीमी करनी चाहिए ताकि सुरक्षा उपायों को उसके अनुरूप विकसित होने के लिए पर्याप्त समय मिल सके।

अमोदेई ने चेतावनी दी कि अगर एआई के विकास की रफ्तार कम नहीं की गई, तो अगले छह से 12 महीनों के भीतर एआई इतना सक्षम हो सकता है कि वह पूरे इंटरनेट पर अप्रत्यक्ष तौर पर कब्जा कर सकता है।

यह चेतावनी ऐसे समय आई है जब एआई को लेकर एआई जगत के अंदर और बाहर दोनों जगह चिंताएं बढ़ रही हैं। लगातार ऐसी रिपोर्ट सामने आ रही हैं कि ये प्रणाली बेहद शक्तिशाली हो रही है और जटिल कामों को इंसानों से बेहतर तरीकों से अंजाम दे रही है लेकिन साथ ही यह डर भी बढ़ रहा है कि ये प्रणाली नियंत्रण से बाहर होकर नुकसानदायक काम कर सकती है।

एआई को लेकर चिंता इतनी बढ़ गई है कि चैट जीपीटी बनाने वाली कंपनी ओपनएआई के सीईओ सैम ऑल्टमैन ने भी ‘फॉर्च्यून’ को दिए एक साक्षात्कार में कहा कि उनकी कंपनी इस साल शेयर बाजार में अपना आपीओ नहीं लाएगी। कंपनी का कहना है कि फिलहाल उसका ध्यान सुरक्षा और एआई को मानव हितों के अनुरूप रखने पर है।

अमोदेई एआई के क्षेत्र में प्रमुख आवाजों में से एक हैं और उन्होंने अपनी वेबसाइट पर एक पोस्ट में एआई उद्योग पर निगरानी बढ़ाने की एक योजना पेश की।

अमोदेई ने कहा, ‘‘मेरा मानना ​​है कि अगर रफ्तार धीमी करने से हमें मॉडल्स के बहुत अधिक काबिल बनने से पहले एक-दो साल और मिल जाएं और हम उस समय का इस्तेमाल ‘अलाइनमेंट’ (सिस्टम को इंसानी मूल्यों के मुताबिक ढालने) को बेहतर बनाने में करें, तो हम किसी बड़ी गड़बड़ी के जोखिम को काफ़ी हद तक कम कर सकते हैं।’’

एआई उद्योग को सुरक्षा कारणों से विकास धीमा करने की सलाह कई वर्षों से दी जाती रही है लेकिन अब यह दबाव और बढ़ गया है, क्योंकि एआई कंपनियों के कुछ कर्मचारियों ने इस्तीफा दिया है और सार्वजनिक रूप से आरोप लगाया है कि उनकी कंपनियां पर्याप्त जिम्मेदारी से काम नहीं कर रही हैं।

एंथ्रोपिक के पूर्व कर्मचारी जो बेंटन ने शुक्रवार को अपने इस्तीफे की घोषणा करते हुए लिखा कि एआई कंपनियों में सुरक्षा पर काम करने वाले कई लोग ऐसे हैं जो दुनिया के लिए सही काम करना चाहते हैं।

उन्होंने कहा, ‘‘लेकिन इन कर्मचारियों को ऐसा लगता है कि उनकी कंपनियां “सुपरइंटेलिजेंस” बनाने की होड़ में फंस गई हैं। अगर कोई कंपनी रुकती है, तो दूसरी कम जिम्मेदार कंपनी आगे निकल सकती है लेकिन अगर वह दौड़ में बनी रहती है, तो वह खुद भी बड़े नुकसान का हिस्सा बनने का जोखिम उठाती है।’’

इससे पहले इसी सप्ताह एआई शोधकर्ता जैकब कॉक्सन ने भी एंथ्रोपिक से इस्तीफा दिया था। उन्होंने कहा था कि एंथ्रोपिक और ओपनएआई दोनों कंपनियां‘सुपरइंटेलिजेंस’ की ओर तेजी से बढ़ रही हैं और इस प्रक्रिया में पूरी मानवता की सुरक्षा को जोखिम में डाला जा रहा है।

एपी

शोभना सिम्मी

सिम्मी