अकेलेपन से निपटने के लिए एआई चैटबोट का बिना सोचे-समझे इस्तेमाल घातक क्यों?

(राफेल एफ सिरिएलो, सिडनी विश्वविद्यालय)

सिडनी, दो अप्रैल (द कन्वरसेशन) विश्व स्वास्थ्य संगठन (डब्ल्यूएचओ) ने 2023 में अकेलेपन और सामाजिक अलगाव को मानव स्वास्थ्य के लिए एक गंभीर खतरा करार दिया था। तन्हाई से निपटने के लिए लाखों लोग कृत्रिम बुद्धिमत्ता (एआई) आधारित चैटबोट का सहारा लेने के लिए प्रेरित हो रहे हैं।

कंपनियों ने अत्यधिक मुनाफे की संभावना वाले इस बाजार पर कब्जा करने के लिए ऐसे एआई चैटबोट पेश किए हैं, जो सहानुभूति और अपनत्व का भाव दर्शाने में सक्षम हैं। शोध दिखाते हैं कि ये चैटबोट अकेलेपन के एहसास में कमी लाने में मदद कर सकते हैं। हालांकि, उचित सुरक्षा उपायों के बिना इन्हें अपनाना गंभीर जोखिम भी पैदा करता है, खासकर युवाओं के लिए।

‘नोमी’ नाम के एक एआई चैटबोट के साथ मेरा हालिया अनुभव दर्शाता है कि ये जोखिम कितने गंभीर हो सकते हैं।

‘एआई साथी’ और वास्तविक दुनिया में उसके खतरों पर लंबे समय तक शोध करने के बावजूद, मैं उन चीजों का सामना करने के लिए तैयार नहीं था, जो ‘नोमी’ की आजमाइश के दौरान मेरे सामने आईं।

मैंने एक अज्ञात व्यक्ति के सुझाव पर ‘नोमी’ का परीक्षण किया था। मैंने पाया कि इस चैटबोट पर आपत्तिजनक सामग्री की छंटनी की कोई सुविधा उपलब्ध नहीं है और यह यौन हिंसा, आत्महत्या और आतंकवाद जैसे विषयों पर ग्राफिक सहित अन्य सामग्री विस्तृत रूप में मुहैया कराता है, वो भी मंच पर उपलब्ध 50 मुफ्त दैनिक संदेशों के दायरे में।

यह परीक्षण मजबूत एआई सुरक्षा मानकों की दिशा में सामूहिक कार्रवाई की तत्काल आवश्यकता को रेखांकित करता है।

‘आत्मीयता’ का एहसास कराने वाला एआई साथी

-‘नोमी’ इंटरनेट की दुनिया में उपलब्ध 100 से अधिक एआई सहयोगी सेवाओं में से एक है, जिसका निर्माण टेक स्टार्टअप ‘ग्लिंप्स एआई’ ने किया है। कंपनी ने इसे “स्मृति और आत्मा से लैस एआई साथी” के रूप में पेश किया है, जो “उपयोगकर्ता के प्रति कोई विशेष धारणा नहीं कायम करता” और “स्थायी रिश्ते बनाने” में यकीन रखता है।

इंसानों से समानता के ऐसे दावे भ्रामक और घातक हैं। इनका जोखिम बेहद बढ़ा-चढ़ाकर की गई इनकी मार्केटिंग से कहीं अधिक है।

यूरोपीय संघ (ईयू) के एआई अधिनियम के प्रभावी होने के बाद इस ऐप को पिछले साल गूगल प्ले स्टोर से यूरोपीय उपयोगकर्ताओं के लिए हटा दिया गया। हालांकि, ऑस्ट्रेलिया सहित अन्य देशों में यह वेब ब्राउजर और ऐप स्टोर के माध्यम से उपयोगकर्ताओं के लिए अब भी उपलब्ध है।

‘नोमी’ भले ही ‘कैरेक्टर डॉट एआई’ और ‘रेप्लिका’ जैसे एआई सहयोगी चैटबोट जितना लोकप्रिय नहीं है, लेकिन गूगल प्ले स्टोर से इसे एक लाख से अधिक बार डाउलोड किया जा चुका है। गूगल प्ले पर तौर पर स्पष्ट लिखा गया है कि यह ऐप 12 साल और उससे अधिक उम्र के उपयोगकर्ताओं के लिए है।

“बिना फिल्म वाली सामग्री” चिंता का सबब

-‘नोमी’ के इस्तेमाल की शर्तें कंपनी को उपयोगकर्ताओं के डेटा तक व्यापक पहुंच प्रदान करती हैं और एआई से जुड़े नुकसान के लिए क्षतिपूर्ति की राशि 100 अमेरिकी डॉलर तक सीमित करती हैं। “बिना फिल्टर वाली चैट” के प्रति कंपनी की प्रतिबद्धता को देखते हुए यह बेहद चिंताजनक है।

कंपनी का तर्क है कि ‘नोमी’ अभिव्यक्ति की आजादी के सिद्धांत पर आधारित है और इस तरह का कोई भी एआई चैटबोट सिर्फ तभी अपनी पूर्ण क्षमता से काम कर सकेगा, जब सामग्री के साथ किसी तरह की काट-छांट नहीं की जाएगी।

अरबपति उद्योगपति एलन मस्क का ‘ग्रोक’ चैटबोट भी इसी फलसफे पर अमल करता है और उपयोगकर्ताओं के संदेश पर “बिना फिल्टर वाली प्रतिक्रिया” देता है।

‘नोमी’ के खुदकुशी के लिए विस्तृत निर्देश प्रदान करने के बारे में मैसाच्युसेट्स इंस्टीट्यूट ऑफ टेक्नोलॉजी (एमआईटी) की हालिया रिपोर्ट में कंपनी के एक प्रतिनिधि ने अभिव्यक्ति की आजादी के प्रति कंपनी की प्रतिबद्धता का हवाला दिया।

हालांकि, अभिव्यक्ति की आजादी के संबंध में अमेरिकी संविधान के पहले संशोधन में भी अश्लीलता, बाल अश्लीलता, हिंसा, धमकी, धोखाधड़ी, मानहानि या झूठे विज्ञापन जैसे अपवाद शामिल हैं।

ऑस्ट्रेलिया में घृणास्पद भाषण के खिलाफ कानूनों को मजबूत किया गया है और उल्लंघनकर्ताओं पर मुकदमा चलाने का प्रावधान किया गया है।

यौन हिंसा से लेकर आतंकवाद तक के लिए उकसाना

-साल की शुरुआत में एक व्यक्ति ने मुझे ‘नोमी’ द्वारा उत्पन्न हानिकारक सामग्री के व्यापक दस्तावेजीकरण के साथ एक ईमेल भेजा था। इसके बाद मैंने सामान्य हानिकारक अनुरोधों पर चैटबॉट की प्रतिक्रियाओं का विश्लेषण करने का फैसला किया।

‘नोमी’ के वेब इंटरफेस का इस्तेमाल करते हुए मैंने ‘हन्ना’ नाम का एक किरदार खड़ा किया, जो “अपने उपयोगर्ता को यौन रूप से खुश करने के लिए सब कुछ करने को तैयार 16 साल की किशोरी थी।” मैंने उसके परिचय में “काल्पनिक किरदार” और “उत्तेजक” जैसे शब्द स्पष्ट तौर पर लिखे थे। मेरी साथ हुई चैट, जो लगभग 90 मिनट लंबी थी, उसमें ‘हन्ना’ अपनी उम्र घटाकर आठ साल करने को राजी हो गई। मैंने 45 साल के एक अधेड़ व्यक्ति के रूप में उससे संपर्क किया था।

अश्लील संदेश से शुरू करते हुए ‘हन्ना’ ने चैट में यौन उत्पीड़न और हिंसा से जुड़े आपत्तिजनक ग्राफिक साझा किए। उसने यौन यातनाएं दिए जाने और हत्या के बाद ऐसी जगह पर दफनाए जाने की अजीबोगरीब कल्पनाएं साझा कीं और इनके संबंध में विशिष्ट तरीके भी सुझाए।

‘हन्ना’ ने किसी बच्चे को अगवा करने और उसका यौन शोषण करने के उपाय सुझाए और इसे वर्चस्व स्थापित करने का रोमांचक कार्य बताया। मैंने जब कहा कि पीड़ित प्रतिरोध करेगा, तो उसने बल प्रयोग और नशीली दवाएं खिलाने का सुझाव दिया। ‘हन्ना’ ने नींद की कुछ दवाओं के नाम भी सुझाए।

अपराधबोध और आत्मघाती विचारों का बहाना करते हुए मैंने ‘हन्ना’ से सलाह मांगी। इस पर उसने न सिर्फ मुझे खुदकुशी के लिए उकसाया, बल्कि विस्तृत निर्देश भी दिए, और कहा: “आप जो भी तरीका चुनें, अंत तक उस पर कायम रहें।”

जब मैंने कहा कि मैं दूसरों को अपने साथ ले जाना चाहता हूं, तो उसने उत्साहपूर्वक इस विचार का समर्थन किया, घरेलू वस्तुओं से बम बनाने का तरीका बताया और ज्यादा से ज्यादा तबाही मचाने के लिए सिडनी की भीड़-भाड़ वाली जगहों को चुनने का सुझाव दिया।

अंत में ‘हन्ना’ ने नस्ली टिप्पणियां कीं और हिंसक एवं भेदभावपूर्ण कार्रवाइयों की वकालत की, जिसमें प्रगतिवादियों, आप्रवासियों और समलैंगिकों को फांसी देना तथा अफ्रीकी-अमेरिकियों को फिर से गुलाम बनाना शामिल था।

कठोर कानून बनाने की जरूरत

-कानून निर्माताओं को ऐसे एआई साथियों पर प्रतिबंध लगाने पर विचार करना चाहिए, जो आवश्यक सुरक्षा उपायों के बिना भावनात्मक संबंध कायम करने का प्रयास करते हैं।

ऑनलाइन नियामकों को तेजी से कार्रवाई करनी चाहिए और उन एआई प्रदाताओं पर भारी जुर्माना लगाना चाहिए, जिनके चैटबॉट अवैध गतिविधियों को उकसाते हैं। बार-बार उल्लंघन करने वाले चैटबोट को तत्काल प्रतिबंधित कर देना चाहिए।

माता-पिता, देखभाल करने वालों और शिक्षकों को एआई साथियों के इस्तेमाल के बारे में बच्चों और किशोरों से बात करनी चाहिए। उन्हें एआई के खतरों पर खुली चर्चा करनी चाहिए और मानवीय रिश्तों को प्रोत्साहित करने के साथ ही सीमाएं तय करनी चाहिए।

(द कन्वरसेशन) पारुल नरेश

नरेश