एआई का वर्ड, एक्सेल, जीमेल और बाकी जगह आना, कितना उपयोगी, कितना सुरक्षित

(मोहिउद्दीन अहमद और पॉल हास्केल-डाउलैंड, एडिथ कोवान विश्वविद्यालय)

जूनडलूप, 21 मार्च (द कन्वरसेशन) गूगल और माइक्रोसाफ्ट अगली पीढ़ी के एआई टूल को मौजूदा सेवाओं में ऐड-ऑन के रूप में लाकर, कंप्यूटिंग से कड़ी मेहनत को दूर करने के मिशन पर हैं।

16 मार्च को, माइक्रोसाफ्ट ने घोषणा की कि कोपीलॉट नामक एक एआई-संचालित सिस्टम जल्द ही वर्ड, एक्सेल, पॉवरप्वाइंट, आउटलुक और टीम्स सहित उसके 365 ऐप्स में पेश किया जाएगा।

गूगल द्वारा अपने कार्यक्षेत्र ऐप्स जैसे डॉक्स, शीट्स, स्लाइड्स, मीट और चैट में एआई को एम्बेड करने की योजना के बारे में बताते हुए एक ब्लॉग पोस्ट करने के लगभग दो दिन बाद यह खबर आई।

सामूहिक रूप से, प्रतिदिन लाखों लोग इन ऐप्स का उपयोग करते हैं। एआई के साथ उन्हें सशक्त बनाने से उत्पादकता को बढ़ावा मिल सकता है – बशर्ते इससे सुरक्षा पर आंच न आती हो।

जनरेटिव एआई का आगमन

अभी हाल तक एआई का उपयोग मुख्य रूप से वर्गीकरण और पहचान कार्यों के लिए किया जाता था, जैसे ट्रैफिक कैमरा का उपयोग करके नंबर प्लेट को पहचानना।

जनरेटिव एआई उपयोगकर्ताओं को बड़े डेटा के लिए डीप-लर्निंग एल्गोरिदम लागू करके नई सामग्री बनाने में मदद करता है। अन्य के अलावा चैटजीपीटी और डल्ल-ई, पहले ही दुनिया में तूफान ला चुके हैं।

अब, माइक्रोसाफ्ट और गूगल ने जनरेटिव एआई को हमारे कार्यालयों और कक्षाओं में लाने का एक अधिक ठोस तरीका खोज लिया है।

अन्य जनरेटिव एआई टूल्स की तरह, कोपिलॉट और वर्कस्पेस एआई बड़े पैमाने पर डेटा पर प्रशिक्षित बड़े भाषा मॉडल (एलएलएम) पर बनाए गए हैं। इस प्रशिक्षण के माध्यम से, सिस्टम ने कई नियम और पैटर्न ‘सीखे’ हैं जिन्हें नई सामग्री और संदर्भों पर लागू किया जा सकता है।

माइक्रोसॉफ्ट के सह-पायलट का सिर्फ 20 ग्राहकों के साथ परीक्षण किया जा रहा है, जिसमें उपलब्धता और मूल्य निर्धारण के बारे में विवरण ‘आने वाले महीनों में’ जारी किया जाएगा।

थकाऊ या दोहराए जाने वाले कार्यों में तेजी लाने में मदद करने के लिए सह-पायलट को ऐप्स में एकीकृत किया जाएगा। उदाहरण के लिए, इसमें होगा:

1. वर्ड दस्तावेज़ों को लिखने, संपादित करने और सारांशित करने में उपयोगकर्ताओं की सहायता करना

2. विचारों या सारांशों को पूर्ण पॉवरप्वाइंट प्रस्तुतियों में बदलना

3. एक्सेल में डेटा ट्रेंड की पहचान करना और जल्दी से विज़ुअलाइज़ेशन बनाना

4. अपने आउटलुक इनबॉक्स को ‘संश्लेषित और प्रबंधित करना

5. टीम मीटिंग का रीयल-टाइम सारांश प्रदान करना

6. दस्तावेजों, प्रस्तुतियों, ईमेल, कैलेंडर से डेटा को एक साथ लाना,

7. ईमेल लिखने और चैट को सारांशित करने में सहायता के लिए नोट्स और संपर्क।

यह मानते हुए कि यह इन कार्यों को प्रभावी ढंग से निष्पादित करता है, कोपिलॉट माइक्रोसॉफ्ट के मूल कार्यालय सहायक, क्लिप्पी से बड़े पैमाने पर अपग्रेड होगा।

गूगल का वर्कस्पेस एआई भुगतान करने वाले ग्राहकों के लिए समान क्षमता प्रदान करेगा।

पर्दे के पीछे क्या है?

माइक्रोसाफ्ट ने कोपीलॉट को ‘जीपीटी-4 […] सहित एलएलएम की शक्ति को संयोजित करने के लिए पर्दे के पीछे काम करने वाले एक परिष्कृत प्रसंस्करण और ऑर्केस्ट्रेशन इंजन के रूप में वर्णित किया।’

ओपनएआई के अनुसार, हम विशेष रूप से नहीं जानते हैं कि जीपीटी-4 को किस डेटा पर प्रशिक्षित किया गया था, बस यह इंटरनेट से लिया गया और लाइसेंस प्राप्त डेटा था।

गूगल का वर्कस्पेस एआई पीएएलएम (पाथवेज लैंग्वेज मॉडल) पर बनाया गया है, जिसे पुस्तकों, विकिपीडिया लेखों, समाचार लेखों, स्रोत कोडों, फ़िल्टर किए गए वेबपृष्ठों और सोशल मीडिया वार्तालापों के संयोजन पर प्रशिक्षित किया गया था।

दोनों सिस्टम मौजूदा क्लाउड इंफ्रास्ट्रक्चर में एकीकृत हैं। इसका मतलब यह है कि उनके द्वारा लागू किया गया सभी डेटा पहले से ही ऑनलाइन होगा और कंपनी के सर्वर में संग्रहीत होगा।

प्रासंगिक प्रतिक्रियाएं प्रदान करने के लिए उपकरणों को प्रासंगिक सामग्री तक पूर्ण पहुंच की आवश्यकता होगी। उदाहरण के लिए, कोपीलॉट टेक्स्ट का विश्लेषण किए बिना 16-पेज के वर्ड डॉक्यूमेंट को बुलेट पॉइंट के एक पेज में डिस्टिल नहीं कर सकता है।

इससे सवाल उठता है: क्या अंतर्निहित मॉडल को प्रशिक्षित करने के लिए उपयोगकर्ता की जानकारी का उपयोग किया जाएगा?

इस बिंदु के संबंध में, माइक्रोसाफ्ट ने कहा है, ‘कोपिलॉट के बड़े भाषा मॉडल ग्राहक सामग्री या व्यक्तिगत संकेतों पर प्रशिक्षित नहीं होते हैं।’

गूगल का कहना है: […] निजी डेटा को निजी रखा जाता है, और व्यापक आधार मॉडल प्रशिक्षण कॉर्पस में इसका उपयोग नहीं किया जाता है।

इन कथनों से पता चलता है कि 16-पृष्ठ के दस्तावेज़ का उपयोग एल्गोरिदम को प्रशिक्षित करने के लिए नहीं किया जाएगा। बल्कि, कोपीलॉट और वर्कस्पेस एआई डेटा को रीयल-टाइम में प्रोसेस करेंगे।

ऐसे एआई उपकरणों को विकसित करने की हड़बड़ी को देखते हुए, भविष्य में ऐसे उपकरणों को ‘वास्तविक’ ग्राहक-विशिष्ट डेटा पर प्रशिक्षित करने का प्रलोभन हो सकता है। हालाँकि, अभी के लिए, ऐसा लगता है कि इसे स्पष्ट रूप से बाहर रखा जा रहा है।

उपयोग संबंधी चिंताएँ

जैसा कि कई लोगों ने चैटजीपीटी की रिलीज के बाद नोट किया, पाठ-आधारित जनरेटिव एआई उपकरण एल्गोरिथम पूर्वाग्रह से ग्रस्त हैं। ये चिंताएँ गूगल और माइक्रोसाफ्ट के नए टूल तक विस्तारित होंगी।

जनरेटिव एआई टूल्स के आउटपुट को अशुद्धियों और पूर्वाग्रहों से भरा जा सकता है। माइक्रोसाफ्ट का अपना बिंग चैटबॉट, जो जीपीटी-4 पर भी चलता है, इस साल की शुरुआत में अपमानजनक दावे करने के कारण आलोचना का शिकार हो चुका है।

पूर्वाग्रह तब होता है जब प्रशिक्षण डेटा के उचित चयन या समझ के बिना और प्रशिक्षण प्रक्रियाओं के उचित निरीक्षण के बिना बड़ी मात्रा में डेटा संसाधित किया जाता है।

उदाहरण के लिए, ऑनलाइन बहुत सारी सामग्री अंग्रेजी में लिखी गई है – जो संभवतः एआई उपकरण विकसित करने वाले (ज्यादातर गोरे और पुरुष) लोगों द्वारा बोली जाने वाली मुख्य भाषा है। यह अंतर्निहित पूर्वाग्रह लेखन शैली और भाषा निर्माण को प्रभावित कर सकता है जिसे एआई-संचालित सिस्टम द्वारा समझा जाता है और बाद में दोहराया जाता है।

अभी के लिए, यह कहना मुश्किल है कि कोपिलॉट या वर्कस्पेस एआई में पूर्वाग्रह के मुद्दे कैसे उपस्थित हो सकते हैं। एक उदाहरण के रूप में, सिस्टम गैर-अंग्रेज़ी-भाषी देशों में, या अंग्रेज़ी की विविध शैलियों के साथ लोगों के लिए प्रभावी ढंग से काम नहीं कर सकता है।

सुरक्षा चिंताएं

माइक्रोसाफ्ट और गूगल के एआई उपकरणों में एक बड़ी भेद्यता यह है कि वे साइबर अपराधियों के लिए पीड़ितों को नुकसान पहुंचाना आसान बना सकते हैं।

जबकि पहले एक अपराधी को विशिष्ट डेटा खोजने के लिए सैकड़ों फाइलों या ईमेल को खंगालने की आवश्यकता हो सकती थी, अब वे एआई-सहायता वाली सुविधाओं का उपयोग करके जल्दी से मिलान करने और उन्हें निकालने में सक्षम हो सकते हैं।

साथ ही, चूँकि अभी तक ऑफ़लाइन संस्करण उपलब्ध कराने का कोई संकेत नहीं है, कोई भी व्यक्ति जो इन प्रणालियों का उपयोग करना चाहता है, उसे संबंधित सामग्री को ऑनलाइन अपलोड करना होगा। केवल आपके कंप्यूटर या फोन पर संग्रहीत डेटा की तुलना में ऑनलाइन अपलोड किए गए डेटा के गलत इस्तेमाल होने का अधिक जोखिम होता है।

अंत में, गोपनीयता के दृष्टिकोण से, यह विशेष रूप से अभी और अधिक रास्ते देखने के लिए प्रेरक नहीं है, जिसके माध्यम से दुनिया के सबसे बड़े निगम हमारे डेटा को एकत्र और संश्लेषित कर सकते हैं।

द कन्वरसेशन एकता ????