सितंबर 2020 में हमने पहली बार यह विचार सुना था कि ट्विटर के इमेज-क्रॉपिंग एल्गोरिदम में कुछ पूर्वाग्रह हो सकते हैं। क्रिप्टोग्राफ़िक इंजीनियर टोनी अर्सीरी ने सीनेट के बहुमत के नेता मिच मैककोनेल और पूर्व राष्ट्रपति बराक ओबामा की विशेषता वाली दो छवियां अपलोड कीं, और एआई दोनों बार मैककोनेल के चेहरे पर आ गया।
जब विवाद अंततः ट्विटर पर लोगों तक पहुंचा, तो कंपनी ने अपने मॉडल का विश्लेषण करने का वादा किया। अंत में, हमें उन निष्कर्षों के माध्यम से पढ़ने को मिलता है।
ट्विटर अपने एल्गोरिदम विश्लेषण के परिणाम साझा करता है
मई की शुरुआत में, ट्विटर ने आखिरकार फुल-साइज़ इमेज प्रीव्यू लॉन्च किया अपने मोबाइल टाइमलाइन पर। ट्विटर ब्लॉग पर एक पोस्ट से पता चला है कि एक विश्लेषण के बाद ऐप ने अपनी इमेज क्रॉपिंग एल्गोरिथम को हटा दिया, जिसमें दिखाया गया था कि इसमें नस्ल और लिंग-आधारित पूर्वाग्रह थे।
प्लेटफ़ॉर्म ने अपनी छवियों को क्रॉप करने के लिए 2018 में एक सामर्थ्य एल्गोरिदम का उपयोग करना शुरू किया। ट्विटर का कहना है कि मानव आंखों पर नज़र रखने वाले डेटा पर प्रमुख मॉडल को प्रशिक्षित किया जाता है, जिसका उपयोग तब किया जाता है एल्गोरिदम यह अनुमान लगाने के लिए कि छवि में कौन से विषय/तत्व सबसे अधिक महत्वपूर्ण हैं लोग।
फिर एल्गोरिथ्म फसल के केंद्र होने के लिए उच्चतम स्कोर वाले बिंदु को चुनने से पहले छवि के सभी हिस्सों के लिए एक प्रमुख स्कोर के साथ आएगा।
संभावित पूर्वाग्रहों की जांच के लिए मात्रात्मक परीक्षण चलाने के बाद, टीम ने पाया कि सामर्थ्य एल्गोरिदम पुरुषों पर महिलाओं और काले व्यक्तियों पर सफेद व्यक्तियों के पक्ष में प्रतीत होता है।
ट्विटर ने "पुरुष टकटकी" के लिए एल्गोरिथ्म का भी परीक्षण किया, लेकिन ऑब्जेक्टिफिकेशन पूर्वाग्रह का कोई सबूत नहीं मिला।
भले ही नस्ल और लिंग उपसमूहों में पूर्ण समानता को प्रतिबिंबित करने के लिए सामर्थ्य एल्गोरिथ्म को समायोजित किया गया था, हम [ट्विटर] चिंतित हैं जब लोगों को अपनी इच्छानुसार स्वयं का प्रतिनिधित्व करने की अनुमति नहीं होती है, तब स्वचालित एल्गोरिथम का प्रतिनिधित्वात्मक नुकसान होता है मंच। इस विश्लेषण के दायरे से परे अन्य संभावित नुकसान भी हैं, जिसमें सांस्कृतिक बारीकियों के प्रति असंवेदनशीलता भी शामिल है।
स्वचालित फसल की गति और निरंतरता और इसके जोखिमों के बीच ट्रेडऑफ़ पर विचार करते हुए, ट्विटर का कहना है कि उसकी टीम ने महसूस किया कि किसी छवि को कैसे क्रॉप करना है यह लोगों द्वारा किया गया सबसे अच्छा निर्णय है—नहीं एल्गोरिदम
सम्बंधित: प्रौद्योगिकी रुझान जो पहले से ही भविष्य बदल रहे हैं
ट्विटर ने स्वचालित इमेज क्रॉपिंग से छुटकारा पाया
Twitter अब सलूशन एल्गोरिथम का उपयोग नहीं करता है, और अब iOS और Android दोनों पर मानक पहलू अनुपात फ़ोटो को पूर्ण रूप से प्रदर्शित करता है। एक ट्वीट तैयार करते समय, आप पाएंगे कि नए अपडेट में अपलोड की गई छवियों का एक वास्तविक पूर्वावलोकन भी शामिल है, ताकि आप जान सकें कि एक बार प्रकाशित होने के बाद सब कुछ कैसा दिखेगा।
यदि आप अध्ययन के अकादमिक पेपर को पढ़ने में रुचि रखते हैं, तो आप इसे यहां पा सकते हैं arXiv.org. आप विश्लेषण के लिए ट्विटर का कोड भी देख सकते हैं GitHub.
ट्विटर ऐप अब आपको 4K में चित्र अपलोड करने और देखने की अनुमति देता है। यहां अपनी सेटिंग बदलने का तरीका बताया गया है।
आगे पढ़िए
- सामाजिक मीडिया
- तकनीक सम्बन्धी समाचार
- ट्विटर
- कृत्रिम होशियारी
अधिकांश दिनों में, आप कनाडा में एक आरामदायक अपार्टमेंट में एक भारित कंबल के नीचे जेसीबेल को कर्ल करते हुए पा सकते हैं। वह एक स्वतंत्र लेखिका हैं जिन्हें डिजिटल कला, वीडियो गेम और गॉथिक फैशन पसंद है।
हमारे न्यूज़लेटर की सदस्यता
तकनीकी युक्तियों, समीक्षाओं, निःशुल्क ई-पुस्तकों और अनन्य सौदों के लिए हमारे न्यूज़लेटर से जुड़ें!
एक और क़दम…!
कृपया अपने ईमेल पते की पुष्टि उस ईमेल में करें जो हमने अभी आपको भेजी है।
