ट्विटर उपयोगकर्ता ऑटो-फसल एल्गोरिथ्म में संभावित नस्लीय पूर्वाग्रह की खोज करते हैं

ट्विटर यह निर्धारित करने की कोशिश कर रहा है कि इसकी फोटो पूर्वावलोकन सुविधा नस्लीय पूर्वाग्रह के संकेत क्यों दिखाती है। कई उपयोगकर्ताओं ने पाया कि काले चेहरों को सफेद चेहरे की तुलना में फोटो पूर्वावलोकन से क्रॉप होने की अधिक संभावना थी।

ट्विटर के एल्गोरिथम में एक दोष

जब आप ट्विटर पर एक छवि देखते हैं, तो यह केवल एक पूर्वावलोकन है, पूरी तस्वीर देखने के लिए उस पर क्लिक करना होगा। ट्विटर फ़ोटो फ़ोटो को क्रॉप करने के लिए एक एल्गोरिथ्म का उपयोग करता है, जो आपको छवि पूर्वावलोकन में दिखाई देगा।

2018 में, ट्विटर ने एक पोस्ट में अपने स्मार्ट ऑटो-क्रॉपिंग फीचर की घोषणा की ट्विटर ब्लॉग. यह फीचर तस्वीरों के सबसे प्रमुख हिस्सों पर हॉन करने के लिए "सामर्थ्य" का उपयोग करता है, और फिर तदनुसार फोटो पूर्वावलोकन करता है।

ट्विटर उपयोगकर्ताओं ने पाया कि मंच के तंत्रिका नेटवर्क में एक नस्लीय पूर्वाग्रह हो सकता है। एक उपयोगकर्ता ने पूर्व राष्ट्रपति बराक ओबामा के साथ अमेरिकी सीनेटर मिच मैककोनेल की तस्वीर पोस्ट की।

जब ओबामा का चेहरा फोटो के शीर्ष पर रखा जाता है, तो छवि पूर्वावलोकन रूप से ओबामा के चेहरे को धुंधला कर देती है। जब उसी उपयोगकर्ता ने चित्र के रंगों को निकालने की कोशिश की, तो ओबामा के चेहरे को अंततः छवि पूर्वावलोकन में दिखाया गया।

अन्य उपयोगकर्ताओं ने अपने स्वयं के प्रयोगों का संचालन करना शुरू कर दिया। समय और समय फिर से, उपयोगकर्ताओं ने पाया कि एल्गोरिथ्म लगातार लग रहा था कि काले चेहरे पर सफेद चेहरे पसंद करते हैं।

ट्विटर संचार टीम के सदस्य लिज़ केली ने ट्विटर उपयोगकर्ताओं के निष्कर्षों के जवाब में एक ट्वीट भेजा। उन्होंने कहा कि जबकि ट्विटर टीम ने पूर्वाग्रह के लिए एल्गोरिथम का परीक्षण किया था, उसे आगे की जांच करनी होगी।

इन सभी खोजों के बारे में एक उपयोगकर्ता के ट्वीट से उपजी है ज़ूम कॉल समस्या. जब वह आभासी पृष्ठभूमि का उपयोग करने की कोशिश करता है तो ज़ूम अपने काले दोस्त के चेहरे का पता लगाने में लगातार विफल रहा। जब उपयोगकर्ता ने समस्या के स्क्रीनशॉट पोस्ट करने के लिए ट्विटर का रुख किया, तो ट्विटर ने अपने काले दोस्त को छवि पूर्वावलोकन से बाहर निकाल दिया।

ट्विटर से बायस आउट लेते हुए

जबकि ये सभी प्रयोग अनौपचारिक हैं, वे एक वास्तविक मुद्दे को उजागर करते हैं। ट्विटर को निश्चित रूप से अपने ऑटो-क्रॉप फीचर पर बारीकी से विचार करना होगा, और यह देखना होगा कि क्या यह एक नस्लीय नस्लीय पूर्वाग्रह है।

उस ने कहा, ट्विटर की ऑटो-क्रॉप एल्गोरिदम एकमात्र ट्विटर विशेषता नहीं है जिसकी आलोचना की गई है। आखिरकार, कई उपयोगकर्ता प्लेटफ़ॉर्म के एल्गोरिथ्म के प्रशंसक नहीं होते हैं जो स्वचालित रूप से आपके फ़ीड की व्यवस्था करता है।

कैसे और क्यों) ट्विटर, इंस्टाग्राम और फेसबुक पर एल्गोरिदम फ़ीड्स को अक्षम करने के लिए

अल्गोरिदमिक फ़ीड केवल सामाजिक नेटवर्क की सेवा करते हैं। यहां देखें कि ट्विटर, इंस्टाग्राम और फेसबुक पर कालानुक्रमिक फ़ीड कैसे बदलें।

लेखक के बारे में