नौकरी भर्ती में एआई का उपयोग करने में पूर्वाग्रह की समस्या

(मेलिका सुलेमानी, डेविड जे पॉलीन, जिम एरोस्मिथ, मैसी यूनिवर्सिटी, और अली इंतेज़ारी, द यूनिवर्सिटी ऑफ़ क्वींसलैंड)

ऑकलैंड, 10 जून (द कन्वरसेशन) कृत्रिम बुद्धिमत्ता (एआई) क्रांति शुरू हो गई है, जो नौकरी भर्ती सहित लोगों के पेशेवर और व्यक्तिगत जीवन के लगभग हर पहलू तक पहुंच रही है।

जबकि कलाकारों को कॉपीराइट उल्लंघनों या अपनी जगह छिन जाने का डर है, व्यवसाय और प्रबंधन आपूर्ति श्रृंखला प्रबंधन, ग्राहक सेवा, उत्पाद विकास और मानव संसाधन (एचआर) प्रबंधन जैसे विविध क्षेत्र अधिक दक्षता की संभावनाओं के प्रति तेजी से जागरूक हो रहे हैं।

जल्द ही सभी व्यावसायिक क्षेत्रों और परिचालनों पर किसी न किसी रूप में एआई को अपनाने का दबाव होगा। लेकिन एआई की प्रकृति – और इसकी प्रक्रियाओं और आउटपुट के पीछे के डेटा – का मतलब है कि मानव पूर्वाग्रह प्रौद्योगिकी में अंतर्निहित हो रहे हैं।

हमारे शोध ने भर्ती और नियुक्ति में एआई के उपयोग पर ध्यान दिया – एक ऐसा क्षेत्र जिसने पहले से ही रेज़्यूमे की स्क्रीनिंग को स्वचालित करने और नौकरी आवेदकों द्वारा वीडियो साक्षात्कार को रेट करने के लिए एआई को व्यापक रूप से अपनाया है।

भर्ती में एआई मानवीय पूर्वाग्रहों को दूर करके और निर्णय लेने में निष्पक्षता और स्थिरता को बढ़ाकर भर्ती प्रक्रिया के दौरान अधिक निष्पक्षता और दक्षता का वादा करता है।

लेकिन हमारे शोध से पता चलता है कि एआई सूक्ष्मता से – और कभी-कभी खुले तौर पर – पूर्वाग्रहों को बढ़ा सकता है। और मानव संसाधन पेशेवरों की भागीदारी इन प्रभावों को कम करने के बजाय और खराब कर सकती है। यह हमारे विश्वास को चुनौती देता है कि मानवीय निरीक्षण एआई को नियंत्रित कर सकता है।

मानवीय पूर्वाग्रह को बढ़ाना

हालाँकि भर्ती में एआई का उपयोग करने का एक कारण यह है कि इसका उद्देश्य अधिक उद्देश्यपूर्ण और सुसंगत होना है, कई अध्ययनों से पता चला है कि तकनीक वास्तव में पक्षपाती होने की बहुत संभावना है। ऐसा इसलिए होता है क्योंकि एआई उसे प्रशिक्षित करने के लिए उपयोग किए गए डेटासेट से सीखता है। यदि डेटा त्रुटिपूर्ण है, तो एआई भी त्रुटिपूर्ण होगा।

एआई का समर्थन करने वाले मानव-निर्मित एल्गोरिदम द्वारा डेटा में पूर्वाग्रह को बदतर बनाया जा सकता है, जिनके डिजाइन में अक्सर मानवीय पूर्वाग्रह होते हैं।

22 मानव संसाधन पेशेवरों के साथ साक्षात्कार में, हमने नियुक्ति में दो सामान्य पूर्वाग्रहों की पहचान की: ‘स्टीरियोटाइप पूर्वाग्रह’ और ‘मेरे समान पूर्वाग्रह’।

स्टीरियोटाइप पूर्वाग्रह तब होता है जब निर्णय कुछ समूहों के बारे में रूढ़िवादिता से प्रभावित होते हैं, जैसे कि एक ही लिंग के उम्मीदवारों को प्राथमिकता देना, जिससे लैंगिक असमानता पैदा होती है।

‘मेरे समान’ पूर्वाग्रह तब होता है जब भर्तीकर्ता उन उम्मीदवारों का पक्ष लेते हैं जिनकी पृष्ठभूमि या रुचि उनके जैसी होती है।

ये पूर्वाग्रह, जो भर्ती प्रक्रिया की निष्पक्षता को महत्वपूर्ण रूप से प्रभावित कर सकते हैं, ऐतिहासिक भर्ती डेटा में अंतर्निहित हैं जिनका उपयोग एआई सिस्टम को प्रशिक्षित करने के लिए किया जाता है। इससे पक्षपाती एआई को बढ़ावा मिलता है।

इसलिए, यदि पिछली भर्ती प्रथाएं कुछ जनसांख्यिकी के पक्ष में थीं, तो एआई ऐसा करना जारी रखेगा। इन पूर्वाग्रहों को कम करना चुनौतीपूर्ण है क्योंकि एल्गोरिदम अन्य सहसंबद्ध जानकारी से छिपे डेटा के आधार पर व्यक्तिगत जानकारी का अनुमान लगा सकते हैं।

उदाहरण के लिए, पुरुषों और महिलाओं के लिए सैन्य सेवा की अलग-अलग अवधि वाले देशों में, एआई सेवा अवधि के आधार पर लिंग का अनुमान लगा सकता है।

पूर्वाग्रह की यह दृढ़ता मानव और एआई-संचालित भर्ती प्रक्रियाओं में निष्पक्षता सुनिश्चित करने के लिए सावधानीपूर्वक योजना और निगरानी की आवश्यकता को रेखांकित करती है।

क्या मनुष्य मदद कर सकते हैं?

एचआर पेशेवरों के साथ-साथ, हमने 17 एआई डेवलपर्स का भी साक्षात्कार लिया। हम यह जांच करना चाहते थे कि एक एआई भर्ती प्रणाली कैसे विकसित की जा सकती है जो भर्ती पूर्वाग्रह को बढ़ाने के बजाय कम करेगी।

साक्षात्कारों के आधार पर, हमने एक मॉडल विकसित किया जिसमें एचआर पेशेवर और एआई प्रोग्रामर डेटा सेट और विकसित एल्गोरिदम की जांच करते समय सूचनाओं का आदान-प्रदान करेंगे और पूर्व धारणाओं पर सवाल उठाएंगे।

हालाँकि, हमारे निष्कर्षों से पता चलता है कि ऐसे मॉडल को लागू करने में कठिनाई शैक्षिक, पेशेवर और जनसांख्यिकीय अंतर में निहित है जो मानव संसाधन पेशेवरों और एआई डेवलपर्स के बीच मौजूद है।

ये मतभेद प्रभावी संचार, सहयोग और यहां तक ​​कि एक-दूसरे को समझने की क्षमता में बाधा डालते हैं। जबकि मानव संसाधन पेशेवरों को पारंपरिक रूप से लोगों के प्रबंधन और संगठनात्मक व्यवहार में प्रशिक्षित किया जाता है, एआई डेवलपर्स डेटा विज्ञान और प्रौद्योगिकी में कुशल हैं।

एक साथ काम करते समय ये अलग-अलग पृष्ठभूमियाँ गलतफहमियाँ और गलत संरेखण पैदा कर सकती हैं। यह विशेष रूप से न्यूजीलैंड जैसे छोटे देशों में एक समस्या है, जहां संसाधन सीमित हैं और पेशेवर नेटवर्क कम विविध हैं।

एचआर और एआई को जोड़ना

यदि कंपनियां और मानव संसाधन पेशे एआई-आधारित भर्ती में पूर्वाग्रह के मुद्दे का समाधान करना चाहते हैं, तो कई बदलाव करने की आवश्यकता है।

सबसे पहले, सूचना प्रणाली विकास और एआई पर केंद्रित मानव संसाधन पेशेवरों के लिए एक संरचित प्रशिक्षण कार्यक्रम का कार्यान्वयन महत्वपूर्ण है। इस प्रशिक्षण में एआई के बुनियादी सिद्धांतों, एआई प्रणालियों में पूर्वाग्रहों की पहचान और इन पूर्वाग्रहों को कम करने की रणनीतियों को शामिल किया जाना चाहिए।

इसके अतिरिक्त, मानव संसाधन पेशेवरों और एआई डेवलपर्स के बीच बेहतर सहयोग को बढ़ावा देना भी महत्वपूर्ण है। कंपनियों को ऐसी टीमें बनाने पर विचार करना चाहिए जिनमें एचआर और एआई विशेषज्ञ दोनों शामिल हों। ये संचार अंतर को पाटने और उनके प्रयासों को बेहतर ढंग से संरेखित करने में मदद कर सकते हैं।

इसके अलावा, एआई सिस्टम में पूर्वाग्रहों को कम करने के लिए सांस्कृतिक रूप से प्रासंगिक डेटासेट विकसित करना महत्वपूर्ण है। यह सुनिश्चित करने के लिए कि एआई-संचालित भर्ती प्रक्रियाओं में उपयोग किया जाने वाला डेटा विविध और विभिन्न जनसांख्यिकीय समूहों का प्रतिनिधि है, मानव संसाधन पेशेवरों और एआई डेवलपर्स को एक साथ काम करने की आवश्यकता है। इससे अधिक न्यायसंगत भर्ती प्रथाएं बनाने में मदद मिलेगी।

अंत में, देशों को भर्ती में एआई के उपयोग के लिए दिशानिर्देशों और नैतिक मानकों की आवश्यकता है जो विश्वास बनाने और निष्पक्षता सुनिश्चित करने में मदद कर सकें। संगठनों को ऐसी नीतियां लागू करनी चाहिए जो एआई-संचालित निर्णय लेने की प्रक्रियाओं में पारदर्शिता और जवाबदेही को बढ़ावा दें।

इन कदमों को उठाकर, हम एक अधिक समावेशी और निष्पक्ष भर्ती प्रणाली बना सकते हैं जो मानव संसाधन पेशेवरों और एआई डेवलपर्स दोनों की ताकत का लाभ उठाती है।

द कन्वरसेशन एकता एकता