समान रोजगार अवसर आयोग (ईईओसी) ने संघीय एजेंसियों सहित नियोक्ताओं द्वारा रोजगार निर्णयों में कृत्रिम बुद्धि (एआई) के उपयोग पर मार्गदर्शन जारी किया है। एजेंसी की हालिया घोषणा ने नागरिक अधिकार अधिनियम और उसके अधिकार क्षेत्र के तहत अन्य कानूनों के उल्लंघन के प्रवर्तन को आगे बढ़ाने के अपने इरादे पर प्रकाश डाला है, जो कि रोजगार निर्णयों में एआई के उपयोग से उत्पन्न होता है। मार्गदर्शन विभिन्न रोजगार सेटिंग्स में एआई सॉफ्टवेयर और एल्गोरिदम से भिन्न प्रभाव की क्षमता पर केंद्रित है।
असमान प्रभाव के लिए संभावित
EEOC मार्गदर्शन नियोक्ताओं को चेतावनी देता है कि यदि किसी एल्गोरिथम निर्णय लेने वाले उपकरण का उपयोग किसी विशेष जाति, रंग, धर्म, लिंग या राष्ट्रीय मूल के व्यक्तियों पर या ऐसी विशेषताओं के किसी विशेष संयोजन वाले व्यक्तियों पर प्रतिकूल प्रभाव डालता है, तो यह होगा नागरिक अधिकार अधिनियम के शीर्षक VII का उल्लंघन करते हैं जब तक कि नियोक्ता यह नहीं दिखा सकता कि ऐसा उपयोग “नौकरी से संबंधित और व्यावसायिक आवश्यकता के अनुरूप है।”
मार्गदर्शन में निम्नलिखित विषय भी शामिल हैं:
- किसी बाहरी विक्रेता द्वारा प्रदान किए गए सॉफ़्टवेयर का उपयोग करने पर उल्लंघन के लिए नियोक्ता की ज़िम्मेदारी
- यह निर्धारित करने के लिए मानक कि उपकरण का उपयोग कानून के तहत विभिन्न मानकों को पूरा करता है या नहीं
- ध्यान देने योग्य असमान प्रभाव को ठीक करने के लिए कदम उठाने में विफलता के लिए नियोक्ता की संभावित देयता
एल्गोरिदम निर्णय लेने के उपकरण के उदाहरण
EEOC मार्गदर्शन एल्गोरिथम निर्णय लेने वाले उपकरणों के उदाहरण प्रदान करता है जिन पर नियोक्ता कभी-कभी भरोसा करते हैं:
- स्कैनर फिर से शुरू करें जो कुछ कीवर्ड का उपयोग करके एप्लिकेशन को प्राथमिकता देते हैं
- मॉनिटरिंग सॉफ़्टवेयर जो कर्मचारियों को उनके कीस्ट्रोक्स या अन्य कारकों के आधार पर रेट करता है
- परीक्षण सॉफ्टवेयर जो आवेदकों या कर्मचारियों के लिए “जॉब फिट” स्कोर प्रदान करता है
नियोक्ताओं को जिम्मेदारी लेनी चाहिए
ईईओसी मार्गदर्शन यह स्पष्ट करता है कि नियोक्ताओं को एल्गोरिथम निर्णय लेने वाले उपकरणों के उपयोग और कर्मचारियों और नौकरी आवेदकों पर उनके संभावित प्रभाव के लिए जिम्मेदारी लेनी चाहिए। नियोक्ता को ऐसे उपकरणों के उपयोग का सावधानीपूर्वक मूल्यांकन करना चाहिए ताकि यह सुनिश्चित हो सके कि वे शीर्षक VII और अन्य लागू कानूनों का अनुपालन करते हैं।
अंत में, रोजगार निर्णयों में एआई के उपयोग पर ईईओसी का मार्गदर्शन नियोक्ताओं को उनके एल्गोरिथम निर्णय लेने वाले उपकरणों के उपयोग में सतर्क रहने के लिए समय पर याद दिलाता है। नियोक्ताओं को यह सुनिश्चित करना चाहिए कि वे शीर्षक VII और अन्य प्रासंगिक कानूनों का अनुपालन करते हैं, और किसी भी संभावित असमान प्रभाव को दूर करने के लिए कदम उठाते हैं। ऐसा करने में विफलता के परिणामस्वरूप नियोक्ता के लिए महत्वपूर्ण दायित्व हो सकता है।