क्या कोई मशीन नस्लवादी हो सकती है? कृत्रिम मेधा ने पूर्वाग्रह के व्यथित करने वाले संकेत दिए

(चार्ल्स बाबर, एसोसिए प्रोफेसर, दर्शन, वेस्टर्न सिडनी यूनिवर्सिटी )

सिडनी, सात मार्च (द कन्वरसेशन) शिकागो निवासी रॉबर्ड मैक्डेनियल के घर 2013 में एक दिन दो पुलिस अधिकारियों एवं एक सामाजिक कार्यकर्ता समेत चार लोग अचानक बिन बताए पहुंच गए।

मैक्डेनियल ने सड़क पर जुआ खेलने और गांजा रखने जैसे कानून तोड़े थे, लेकिन उसने कोई हिंसक काम नहीं किया था। बहरहाल, उसके घर आए चारों लोगों ने उसे बताया कि एक कम्प्यूटर प्रोग्राम के अनुसार, इस पते पर रहने वाला व्यक्ति भविष्य में गोलीबारी की किसी घटना में शामिल हो सकता है। वह या तो अपराधी होगा या पीड़ित होगा। कम्प्यूटर ने इस बारे में कुछ निश्चित नहीं बताया कि वह अपराध करेगा या पीड़ित बनेगा, लेकिन ‘‘भविष्यवादी पुलिसिंग’’ नामक चीज के कारण सामाजिक कार्यकर्ता एवं पुलिस नियमित रूप से उससे मिलने आएंगे।

मैक्डेनियल दोनों ही प्रकार की संभावनाओं से खुश नहीं था, लेकिन कम्प्यूटर ने तो अपना फैसला सुना दिया था, इसलिए मैक्डेनियल के पास इनकार करने का विकल्प नहीं था।

सामाजिक कार्यकर्ता मानसिक स्वास्थ्य कार्यक्रमों, हिंसा रोकथाम कार्यक्रमों, नौकरी प्रशिक्षण कार्यक्रमों और इसी तरह अन्य कार्यक्रमों के साथ अक्सर उसके घर आते और पुलिस भी उसे यह याद दिलाने बार-बार आती कि उस पर नजर रखी जा रही है।

मैक्डेनियल के पड़ोसियों का, उसके घर सामाजिक कार्यकर्ताओं एवं पुलिस कर्मियों के आवागमन पर ध्यान गया और यह अफवाह फैल गई कि वह पुलिस का मुखबिर है और 2017 में इन अफवाहों के कारण उसे गोली मारी गई और 2020 में फिर से ऐसा हुआ।

यानी एक तरह से ऐसा कहा जा सकता है कि कम्प्यूटर की भविष्यवाणी ही उसकी इस त्रासदी का कारण बनी।

नस्लवादी मशीन?

जानी मानी कम्प्यूटर वैज्ञानिक मेरेडिथ ब्रूसार्ड ने कहा कि मैक्डेनियल की कहानी शायद नस्लवाद की कहानी है।

पुलिस जब 2013 में मैक्डेनियल के घर पहुंची थी, तो वह ऐसे ही कोई व्यक्ति नहीं था, वह युवा अश्वेत था और ऐसे इलाके में रहता था, जो नस्लवाद के कारण चर्चित रहा है। इसके परिणामस्वरूप इस इलाके में आपराधिक हिंसा और पुलिस की निगरानी दोनों ही अधिक हैं। इस प्रकार यह तय था कि तकनीकी रूप से संचालित भविष्य बताने वाले कम्प्यूटर प्रोग्राम पर आधारित पुलिसिंग का वह निशाना बनेगा।

ब्रूसार्ड ने कहा कि मैक्डेनियल की कहानी इस बात का उदाहरण है कि कृत्रिम मेधा आधुनिक सामाजिक जीवन में मौजूद असमानताओं को और बढ़ा रही है।

प्रौद्योगिकी को लेकर पूर्वाग्रह

मशीन के नस्लवादी, लैंगिक आधार पर भेदभाव करने वाली या किसी भी तरह से पक्षपाती होने की अवधारणा पहली नजर में थोड़ी अजीब लगती है।

विज्ञान, प्रौद्योगिकी और विशेष रूप से गणित हमारे सामने तटस्थता के स्वर्ण मानकों के रूप में प्रस्तुत किए जाते हैं। वे गणना करते हैं और कट्टरता, असहिष्णुता, नफरत और बंटवारे की गन्दी दुनिया से ऊपर माने जाते हैं।

ब्रूसार्ड का कहना है कि कम्प्यूटर को मनुष्यों से बेहतर मान लेना भी एक पूर्वाग्रह है।

कृत्रिम मेधा में सुधार

ब्रूसार्ड कृत्रिम मेधा प्रणाली में सुधार को लेकर आशावान है।

एआई कोई जादू नहीं है। यह प्रणालियों का पता लगाने की परिष्कृत मशीन है और यह ‘‘उन प्रणालियों का पता लगाने में भी सक्षम हो सकती है जिन्हें मनुष्य आसानी से नहीं देख सकते’’ और इस प्रकार यह ‘ब्लैक बॉक्स’ के रूप में काम करती है, लेकिन इसका मतलब यह नहीं है कि इसका ‘‘वर्णन करना असंभव’’ है।

ब्रूसार्ड को भरोसा है कि मनुष्य कृत्रिम मेधा का एक उपकरण की तरह इस्तेमाल कर सकते हैं और उन्हें ऐसा ही करना चाहिए। उनका मानना है कि यह उन लोगों के प्रतिबिंब से ज्यादा कुछ नहीं है जो इसका इस्तेमाल करते हैं। यदि यह भेदभाव करती है, तो इसका कारण केवल यह है कि इसे भेदभाव करने वाले समाज ने बनाया है और समाज में बदलाव के साथ इसमें भी बदलाव आएगा।

द कन्वरसेशन

सिम्मी मनीषा

मनीषा