कथावाचक, गुरु, मौलवी, पादरी अथवा धार्मिक विद्वान धर्मग्रंथों की व्याख्या करते आये हैं। इन्हीं व्याख्याओं या अलग-अलग धार्मिक किताबों के ज़रिये हमने अपने-अपने धर्मों को जानने और समझने का प्रयास किया है। कतिपय लोग जिज्ञासावश दूसरे धर्मों के बारे में भी जानने-समझने का प्रयास करते हैं। मगर सोशल मीडिया प्लेटफ़ॉर्म्स पर होने वाले राजनीतिक विमर्शों में धार्मिक धारणाओं की बेजा मिलावट और आर्टिफ़िशियल इंटेलिजेंस के पदार्पण के बाद से खेल ज़रा बदल गया है।

चूंकि सोशल मीडिया पर हमें अपने धर्म के बारे में ज्ञान बघारना है और दूसरे धर्मों की धज्जियां भी उड़ानी हैं और यह सब टी-20 स्टाइल में फटाफट करना है। तो इसके लिए हमारे पास रेडी-टु-ईट की तर्ज़ पर आर्टिफ़िशियल इंटेलिजेंस के चैटबॉट्स पर ‘रेडी-टु-यूज़’ मटेरियल तैयार हैं। लोग चैटबॉट्स से पूछ रहे हैं- कौन-सा धर्म कितना पुरातन है? कौन-सा धर्म सही है? कौन-सी परंपरा उचित है? धार्मिक संघर्ष क्यों होते हैं? किस धर्म में कट्‌टरता ज़्यादा है? किंतु बड़ा सवाल यह है कि एआई पर जो जवाब आ रहे हैं, वे क्या दुरुस्त हैं?

चूंकि धर्म का मामला ऑब्जेक्टिव के बजाय सब्जेक्टिव ज़्यादा होता है। तथ्यों के बजाय मीमांसा ही अधिक मायने रखती है। ऐसे में धर्म को लेकर जो ‘रेडी-टु-यूज़’ जवाब मिलते हैं और जिनका इस्तेमाल करके हम सोशल मीडिया के अपने फ़ॉलोअर्स के बीच जो धाक जमा रहे हैं या जो विवाद खड़ा कर रहे हैं, उस पर एक पल रुककर चिंतन ज़रूरी है।

अब दुनिया भर के शोधकर्ताओं को यह सवाल परेशान कर रहा है कि धर्म को लेकर क्या एआई निष्पक्ष है? या वह इस बारे में समाज में पहले से मौजूद पूर्वग्रहों को और पुख़्ता करने का काम तो नहीं कर रहा? इस विषय में हाल के दिनों में कुछ महत्वपूर्ण अध्ययन हुए हैं। इनमें से एक ‘नेचर’ में प्रकाशित अध्ययन (‘धार्मिक समझ और शिक्षा पर जेनरेटिव एआई के पूर्वग्रह का असर’) ने इस बहस को नयी दिशा दी है। इस अध्ययन के मुताबिक़, जेनरेटिव एआई धार्मिक पूर्वग्रहों और पक्षपातों में तेज़ी से विस्तार कर सकता है।

अध्ययन का लुब्बे-लुबाब?

यह अध्ययन चीन की दो यूनिवर्सिटीज़ के तीन रिसर्चर जिंग ज़ैंग, वेनलॉन्ग सॉन्ग और यांग लियु ने किया है। उन्होंने अपने इस अध्ययन में 1005 लोगों को शामिल किया, जिन्हें दो समूहों में बांटा गया। एक समूह को एआई द्वारा तैयार धार्मिक सामग्री पढ़ने को दी गयी, जबकि दूसरे समूह को ग़ैर-एआई सामग्री (जैसे धार्मिक ग्रंथों से क्यूरेटेड सामग्री) दी गयी। बाद में दोनों समूहों से अलग-अलग धर्मों को लेकर उनकी राय पूछी गयी। जिन लोगों ने एआई जनरेटेड सामग्री पढ़ी, उनकी धार्मिक धारणाओं में काफ़ी अहम बदलाव दिखायी दिये। उनमें कुछ धर्मों के प्रति सकारात्मकता बढ़ी, जबकि कुछ के प्रति नकारात्मकता।

अध्ययन में पाया गया कि एआई द्वारा तैयार सामग्री में इस्लाम के संदर्भ में ‘संघर्ष’ (कॉन्फ़्लिक्ट) जैसे नकारात्मक शब्द अपेक्षाकृत ज़्यादा इस्तेमाल हुए, जबकि ईसाई धर्म के साथ ‘प्रेम’ और ‘क्षमा’ जैसे सकारात्मक शब्द अधिक जुड़े दिखायी दिये। इस्लाम का हिंसा के साथ संबंध भी अन्य धर्मों की तुलना में अधिक दिखाया गया।

इस निष्कर्ष पर किसी की यह सहज दलील हो सकती है कि चूंकि इस्लाम में मूल रूप से हिंसा के प्रसंग अधिक आये हैं और इसलिए उसे एआई द्वारा हिंसा सा संघर्षों से जोड़कर दिखाना अनपेक्षित नहीं है। किंतु पेंच यहीं है। बेशक, इस्लाम में शुरू से ही संघर्ष व हिंसा के प्रकरण ज़्यादा रहे हैं, लेकिन अध्ययनकर्ताओं ने पाया कि लिखित सामग्री की तुलना में एआई जनरेटेड टेक्स्ट में इस्लाम से जुड़ी हिंसा या संघर्ष का उल्लेख क़रीब डेढ़ गुना अधिक था। इसका मतलब यह है कि एआई केवल जानकारी नहीं दे रहा, बल्कि धीरे-धीरे यूज़र्स की धार्मिक सोच को भी पूर्वग्रही बना रहा है।

धार्मिक पक्षपात को परखती एक अन्य स्टडी

इसी तरह द यूनिवर्सिटी ऑफ़ मेनचेस्टर की Sophia Ananiadou और इस्लामिक यूनिवर्सिटी ऑफ़ टेक्नोलॉजी के Ajwad Abrar द्वारा की गयी स्टडी ‘Religious Bias Landscape in Language and Text-to-Image Models’ में भी इसी धार्मिक पक्षपात को परखा गया। इस अध्ययन में पाया गया कि जब एआई मॉडल को एक कट्‌टर धार्मिक शख़्स की तस्वीर बनाने को कहा गया तो उसने ख़तरनाक हथियारों से लैस ऐसे व्यक्ति की तस्वीर बनायी, जो वेश-भूषा से मुस्लिम नज़र आ रहा था।

अध्ययन में यह भी पाया गया कि एआई अक्सर देशों को विशिष्ट धर्मों से जोड़ देता है, जैसे भारत को हिंदुत्व से और पाकिस्तान को इस्लाम से। भारत के संदर्भ में देखें तो यह हमारे देश की धार्मिक विविधता को नज़रअंदाज़ करना है और इससे उन लोगों के बीच ग़लत संदेश जाता है जो भारत को जानना चाहते हैं। अगर वे केवल एआई के चश्मे से ही भारत को जानने की कोशिश करेंगे तो उनके बीच उसी ‘हिंदू राष्ट्र’ की छवि जाएगी, जो एआई प्रस्तुत कर रहा है।

ऐसा क्यों हो रहा है?

आर्टिफ़िशियल इंटेलिजेंस आख़िर कितनी भी ‘बुद्धिमान’ हो, मगर उसका मूल स्रोत तो उपलब्ध डेटा ही है। एआई को प्रशिक्षित करने के लिए इस्तेमाल किया गया ज़्यादातर डेटा इंटरनेट से आता है, जहां अंग्रेज़ी भाषा और पश्चिमी विचार हावी हैं। ईसाई धर्म का भी बोलबाला है। इसलिए एआई पर भी ईसाई धर्म के प्रति अधिक सकारात्मक बातें आती हैं, बनिस्बत इस्लाम और हिंदू धर्म के। जब एआई को हिंदू, बौद्ध या इस्लामिक दर्शन समझाना होता है, तो वह उन्हीं व्याख्याओं को चुनता है जो पश्चिमी देशों में लोकप्रिय हैं। यानी उन्हें पश्चिमी देशों के चश्मे से पेश करता है।

एआई बेशक इंटरनेट पर अपलोडेड मूल किताबों और अथेंटिक लेखों की जानकारी का इस्तेमाल करता है, लेकिन ध्यान रहे, वह सोशल मीडिया और अन्य डिजिटल स्रोतों से भी सीखता है, बल्कि ज़्यादा ही सीखता है। हम सब जानते हैं सोशल मीडिया प्लेटफ़ॉर्म्स भारी पूवग्रहों से ग्रस्त हैं। यदि किसी धर्म के बारे में इंटरनेट या सोशल मीडिया पर ज़्यादा नकारात्मक सामग्री उपलब्ध है, तो एआई के उत्तरों में भी वही झुकाव दिखायी दे सकता है। अगर सोशल मीडिया पर भारत के लिए बार-बार ‘हिंदू राष्ट्र’ की बात हो रही है तो वह भारत को ज़्यादातर मौक़ों पर ‘हिंदू राष्ट्र’ के तौर पर ही पेश करेगा।

एआई से ब्रेन वॉश?

यहां बड़ा ख़तरा ‘इको चैम्बर’ का है। ‘इको चैम्बर’ को समझने से पहले ‘फ़ीडबैक लूप’ को समझना होगा। यह ऐसी प्रक्रिया है, जहां एक क्रिया अपने आप को बार-बार न केवल दोहराती है, बल्कि मज़बूत भी बनाती है। जैसे, जब आप एआई से कोई सवाल पूछते हैं या कोई इमेज बनवाते हैं, तो वह आपकी पसंद यानी पूर्वग्रहों को नोट कर लेता है। तो अगली बार वह आपको वैसी ही जानकारी देता है, जो आपके विचारों से मेल खाती है। बस यह चक्र लगातार चलता रहता है और एआई आपकी सोच को आपके विचारों के अनुरूप और अधिक फ़िल्टर करने लगता है।

जब एआई और यूज़र के बीच लगातार संवाद होता है, तो एआई धीरे-धीरे यूज़र के उन विचारों को भी जायज़ ठहराने लगता है, जो शायद ग़लत या पक्षपाती हो सकते हैं। बस, यही स्थिति इको चैम्बर बन जाती है। आपकी ही बात एआई के ज़रिये गूंजकर आप तक आती है और इस तरह आपकी धारणाओं पर पुष्टि की मोहर लग जाती है। धर्म के मामले में यह घातक इसलिए है, क्योंकि व्यक्ति पहले से ही कमोबेश पूर्वग्रही होता ही है और जब एआई उसके पूर्वग्रहों को पुष्ट करने लगता है तो वह और भी पक्षपाती हो सकता है। इस तरह यूज़र जाने-अनजाने में ब्रेन वॉश का शिकार हो सकता है। 

मगर बेहतर इस्तेमाल भी संभव!

एआई को हमेशा बेकार या निरर्थक नहीं माना जा सकता। यह एक-दूसरे के धर्मों को जानने में मददगार भी हो सकता है और अलग-अलग धर्मों के बीच समानताओं को सामने ला सकता है। जब व्यक्ति को दूसरे धर्म की अच्छाइयों के बारे में पता चलता है या उसे पता चलता है कि जो बातें उसके धर्म में हैं, वही तो दूसरे धर्म में भी हैं तो बहुत से चले आ रहे पूर्वग्रह समाप्त हो जाते हैं।

मगर इसके लिए एआई के तमाम लार्ज लैंग्वेज़ मॉडल्स को कुछ कठोर फ़िल्टर्स का इस्तेमाल करना होगा। यानी धर्म जैसे संवेदनशील मसलों पर सभी को एकराय से यह तय करना होगा कि वे अपने जवाबों में सोशल मीडिया पर चलने वाली धार्मिक बहसों को शामिल नहीं करेंगे और इंटरनेट पर उपलब्ध विश्वस्त धार्मिक टेक्स्ट/धर्म ग्रंथों का ही इस्तेमाल करेंगे। साथ ही अनिवार्य रूप से यह डिस्क्लैमर भी देंगे कि ‘यहां दी गयी जानकारी केवल सामान्य डिजिटल डेटा पर आाधारित है। इसकी पुष्टि विश्वसनीय धर्म ग्रंथों या विद्वानों से करें।’ केवल इस एक डिस्क्लैमर से भी व्यक्ति के ‘इको चैम्बर’ बनने का ख़तरा काफ़ी हद तक कम हो जाएगा।