गलत निर्णय के लिए एआई मॉडल को दोष न दें, मानवीय निगरानी जरूरी: आरबीआई गवर्नर मल्होत्रा

मुंबई, 11 अगस्त (भाषा) भारतीय रिजर्व बैंक (आरबीआई) के गवर्नर संजय मल्होत्रा ने मंगलवार को बैंकों से कहा कि वे कृत्रिम मेधा (एआई) आधारित मॉडल विकसित करते समय फैसलों की प्रक्रिया में सार्थक मानवीय निगरानी को अनिवार्य सिद्धांत के रूप में शामिल करें। उन्होंने स्पष्ट किया कि एआई उपकरणों से हुई गलतियों के लिए केवल प्रौद्योगिकी को जिम्मेदार ठहराना नियामक को स्वीकार्य नहीं होगा।

यहां उद्योग मंडल फिक्की और आईबीए (भारतीय बैंक संघ) के कार्यक्रम को संबोधित करते हुए मल्होत्रा ने कहा कि एआई का इस्तेमाल मानवीय निर्णय क्षमता का स्थान लेने के बजाय उसे बेहतर बनाने के लिए किया जाना चाहिए।

उनकी यह टिप्पणी ऐसे समय आई है जब अर्थव्यवस्था के विभिन्न क्षेत्रों में रोजगार पर एआई के प्रभाव को लेकर व्यापक चिंताएं जताई जा रही हैं।

केंद्रीय बैंक के गवर्नर ने कहा कि आरबीआई एआई को ऐसे जोखिम के रूप में नहीं देखता जिसे नियंत्रित किया जाना चाहिए, बल्कि ऐसी क्षमता के रूप में देखता है जिसका जिम्मेदारी से इस्तेमाल किया जाना चाहिए।

हालांकि, मल्होत्रा ने चेतावनी दी कि बैंकिंग प्रणाली में एआई को अपनाने के साथ समय के साथ मानवीय निर्णय क्षमता और जवाबदेही कम हो सकती है।

उन्होंने कहा, ‘‘किसी बैंक के फैसले की अंतिम जिम्मेदारी बैंक की होनी चाहिए, न कि सेवा प्रदाता या ‘एल्गोरिदम’ की। हम यह नहीं कह सकते कि फैसला मॉडल ने किया। चाहे बैंक के लिए हो, ग्राहक के लिए या नियामक के लिए, यह कभी स्वीकार्य जवाब नहीं हो सकता।’’

मल्होत्रा ने कहा, ‘‘सार्थक मानवीय निगरानी, फैसले को समझाने, हस्तक्षेप करने और जहां आवश्यक हो वहां उसे बदलने की क्षमता होनी चाहिए। वास्तव में यह डिजाइन का मूल सिद्धांत बना रहना चाहिए न कि बाद में इस पर ध्यान देने की जरूरत पड़े।’’

उल्लेखनीय है कि कई भारतीय बैंक ऋण मंजूरी और ग्राहक सेवा समेत विभिन्न कार्यों में एआई का बड़े पैमाने पर इस्तेमाल कर रहे हैं। इनमें से कुछ को उम्मीद है कि समय के साथ मानवीय संसाधनों पर उनकी निर्भरता कम होगी।

मल्होत्रा ने कहा कि एआई का इस्तेमाल मानवीय निर्णय क्षमता का स्थान लेने के बजाय उसे बेहतर बनाने के लिए किया जाना चाहिए।

अपनी बात समझाते हुए मल्होत्रा ने कहा कि एआई प्रणाली की मदद से ग्राहकों के लिए काम करने वाला ‘रिलेशनशिप मैनेजर’ यदि सही उत्पाद और सही जोखिम संकेतक उपलब्ध करा सके तो वह अधिक संख्या में ग्राहकों को ज्यादा दक्षता से सेवाएं दे सकता है।

गवर्नर ने बैंक अधिकारियों को एआई से जुड़े संभावित जोखिमों और चिंताओं से भी आगाह किया।

उन्होंने साइबर सुरक्षा जोखिमों का उल्लेख करते हुए हाल की एक ऐसी घटना का जिक्र किया जिसमें एआई ने खुद प्रणाली पर हमला किया था।

मल्होत्रा ने कहा कि बैंकों को एआई से जुड़े अन्य जोखिमों से भी बचाव करना होगा, जिनमें मॉडल में मौजूद पक्षपात शामिल है।

उन्होंने चेतावनी दी कि कुछ भौगोलिक क्षेत्रों, व्यवसायों या समुदायों के प्रति पसंद या नापसंद की प्रवृत्ति पैदा हो सकती है।

मल्होत्रा ने कहा कि यदि कुछ ही वित्तीय मॉडल या प्रौद्योगिकी सेवा प्रदाता मंच उपलब्ध कराने लगते हैं तो एकरूपता का जोखिम पैदा हो सकता है। ऐसी स्थिति में किसी मॉडल का पक्षपात पूरे तंत्र में बना रह सकता है।

उन्होंने बैंकों से कानून का पालन करने से आगे बढ़कर आंकड़ों की गोपनीयता पर ध्यान देने, बाहरी भागीदारों के साथ काम करते समय एआई से जुड़े जोखिमों का बेहतर प्रबंधन करने और यह सुनिश्चित करने को कहा कि एआई मंच यह समझाने में सक्षम हों कि किसी प्रस्ताव पर उसने कोई विशेष फैसला क्यों सुझाया।

मल्होत्रा ने कहा कि आरबीआई को यह जानकारी होनी चाहिए कि बैंकों में वास्तव में कौन से मॉडल इस्तेमाल किए जा रहे हैं।

उन्होंने बैंकों से ऐसे सभी मॉडलों की पूरी सूची रखने को कहा।

गवर्नर ने कहा कि बैंकों को स्पष्ट जवाबदेही के साथ निदेशक मंडल से मंजूर एआई संचालन नीति बनानी चाहिए। यह जवाबदेही केवल प्रौद्योगिकी खरीद तक सीमित नहीं होनी चाहिए।

भाषा योगेश अजय रमण

रमण