कल्पना कीजिए आपका बॉस कोई इंसान नहीं, बल्कि एक AI एजेंट है। छुट्टी चाहिए तो उसी से पूछना है। शिफ़्ट बदलनी है तो उसी को मनाना है। इंक्रीमेंट पर बातचीत करनी है तो उसी से करनी है। और अगर वह तय कर ले कि आपका काम संतोषजनक नहीं है तो नौकरी भी उसी के निर्णय से जा सकती है।

यह किसी फ़ैंटेसी फ़िल्म की कहानी नहीं है। अमेरिका में एंडॉन लैब्स (Andon Labs) ने एक ऐसा ही प्रयोग किया है, जो इस समय चर्चा और विवादों में है। कंपनी ने प्रयोग के तौर पर सैन फ़्रांसिस्को में एक स्टोर चलाने की ज़िम्मेदारी अपने द्वारा विकसित लूना (Luna) नामक एक एआई एजेंट को दी। इस एजेंट का विकास एंथ्रोपिक के क्लाड मॉडल पर किया गया था।

लूना को एक लाख डॉलर का बजट, एक कॉर्पोरेट क्रेडिट कार्ड और इंटरनेट एक्सेस दिया गया, ताकि वह प्लान बना सके, ख़रीदारी कर सके, शिफ़्ट तय कर सके और रोज़मर्रा के मैनेजमेंट संबंधी फ़ैसले ले सके। लूना ने ही कर्मचारियों की भर्ती के नाम शॉर्टलिस्ट किये, उसी ने इंटरव्यू लिये, वेतन पर बातचीत की, नौकरी के ऑफ़र लेटर भेजे, शिफ़्ट तय की। फिर छुट्टियां भी मंज़ूर कीं। यहां तक सब ठीक था। विवाद तब हो गया, जब उसने एक कर्मचारी को नौकरी से निकालने की सिफ़ारिश कर डाली। उसकी सिफ़ारिश पर लैब्स ने उस कर्मचारी को निकाल भी दिया।

विवाद की असल वजह क्या?

लूना ने एक एम्प्लॉई हैंडबुक बनायी थी, यानी कर्मचारियों के लिए नियमों की पुस्तिका। इसमें एक नियम यह था कि 30 दिनों में तीन से अधिक बार देर से आने पर कर्मचारी को निकाला जा सकता है। कर्मचारी 23 दिनों में से 17 बार देरी से आया था इसलिए लूना ने उसे निकालने की सिफ़ारिश की। लैब ने उस सिफ़ारिश के आधार पर कर्मचारी को निकाल दिया।

यहां विवाद के पीछे तीन मुख्य वजहें हैं। पहली, इसमें दफ़्तरों की सामान्य प्रक्रिया का पालन नहीं किया गया। कर्मचारी को पहली या दूसरी ग़लती पर चेतावनी दी जाती है, जिससे उसे सुधरने का मौक़ा मिलता है। लेकिन यहां लूना ने केवल आंकड़े देखे। किसी भी प्रकार की चेतावनी नहीं दी और सीधे बर्ख़ास्तगी की सिफ़ारिश कर दी।

दूसरी वजह, अगर कोई इंसानी मैनेजर होता तो वह कर्मचारी से यह जानने की कोशिश करता कि वो 23 में से 17 दिन, यानी बार-बार देर से क्यों आ रहा है? हो सकता है, उसकी कोई ऐसी वजह हो, जिसका समाधान अकेले कर्मचारी के बस में न हो, जैसे ट्रांसपोर्ट की समस्या। ऐसे में इंसानी मैनेजर उसके साथ बातचीत कर उसकी रिपोर्टिंग टाइमिंग को ही आगे बढ़ाकर इस समस्या का समाधान कर सकता था। लेकिन एआई एजेंट के एल्गोरिदम में कर्मचारी से संवाद करने का कोई डेटा फ़ीड नहीं था।

और तीसरी एवं महत्वपूर्ण, क़ानूनी और नैतिक जवाबदेही का सवाल। जब एआई किसी को नौकरी से निकालने की सिफ़ारिश करता है तो नैतिक ज़िम्मेदारी किसकी बनती है? हालांकि यहां अंतिम फ़ैसला इंसानों का था, लेकिन उन्होंने एआई की सिफ़ारिश पर बिना किसी इंसानी पुनर्विचार के अमल कर लिया। इससे यह बहस छिड़ गयी कि भविष्य में कंपनियां अप्रिय फ़ैसलों की ज़िम्मेदारी से बचने के लिए एआई का अनुचित सहारा ले सकती हैं।

सवाल यह नहीं है कि इस तरह के फ़ैसलों में एआई को कितनी स्वतंत्रता दी जानी चाहिए। यहां एआई के पक्षधर कुछ लोग कह सकते हैं कि मानव हस्तक्षेप से फ़ैसलों में पूर्वग्रह आड़े आ जाते हैं। कई बार माथा देखकर तिलक किया जाता है। लेकिन सवाल यह भी है कि केवल आंकड़े देखकर फ़ैसले लेना भी किस हद तक जायज़ होगा? अगर किसी कंपनी का AI यह तय करने लगे कि कौन अच्छा कर्मचारी है, किसे प्रमोशन मिलना चाहिए, किसे छुट्टी मिलेगी और किसे नौकरी से निकालना है, तो कर्मचारी की ज़िंदगी का बड़ा हिस्सा एल्गोरिद्म के निर्णयों पर निर्भर हो जाएगा। तब मानव संसाधन विभागों (एचआर) की सॉफ़्ट स्किल्स यानी मानवीय परिस्थितियों और संवाद-संवेदना की बातें क्या बेमानी होकर नहीं रह जाएंगी?

मैनेजर में संवेदना की अपनी अहमियत

इंसानी मैनेजर कर्मचारी को बुलाकर कह सकता है, ‘मुझे लगता है कि यह काम आपके लिए सही नहीं है। मैं आपके लिए क्या दूसरा काम देखूं?’ यहां सहानुभूति, व्यक्तिगत संबंध और परिस्थितियों को समझने की गुंजाइश होती है। जबकि एआई मैनेजर कह सकता है, ‘आपके काम के पिछले 90 दिनों के आंकड़े अपेक्षित सीमा से नीचे हैं। क्यों न आपको नौकरी से निकाल दिया जाना चाहिए?’

सवाल यह है क्या एआई यह समझ पाएगा कि किसी कर्मचारी की उत्पादकता इसलिए कम हुई क्योंकि उसके घर में कोई संकट था? क्या वह यह समझ पाएगा कि किसी की लगातार देरी का कारण सार्वजनिक परिवहन की समस्या थी? क्या वह यह पहचान पाएगा कि किसी कर्मचारी ने नियम इसलिए तोड़ा, क्योंकि वह नियम ही अव्यावहारिक था?

ये ऐसे सवाल हैं जो केवल एआई मैनेजरों की नियुक्ति पर ही नहीं उठते, बल्कि इससे बड़ा सवाल यह भी है कि आख़िर ज़िंदगी के हर पहलू में एआई के दख़ल की कितनी ज़रूरत है? और वाक़ई ज़रूरत है भी?