जब सोशल मीडिया की बात आती है, तो हम सभी जानते हैं कि कई लाभों के अतिरिक्त यह कनेक्शन बनाने में भी प्रदान करता है ऑनलाइन बातचीत करने में कुछ जोखिम और खतरे भी हो सकते हैं, खासकर युवा लोगों के लिए। शुक्र है, ऐसे ऐप हैं जो सक्रिय हो रहे हैं और इन नुकसानों को सीमित करने की कोशिश कर रहे हैं जो उचित मॉडरेशन तकनीकों को लागू करके युवा लोगों को आ सकते हैं।
यूबोGen Z द्वारा सबसे अधिक उपयोग किए जाने वाले लाइव सोशल डिस्कवरी ऐप ने घोषणा की है कि इसका लाइव-स्ट्रीम ऑडियो मॉडरेशन है प्रौद्योगिकी अपने सबसे बड़े बाजारों, अर्थात् संयुक्त राज्य अमेरिका, यूनाइटेड किंगडम, ऑस्ट्रेलिया और में विस्तार कर रही है कनाडा।
यह संयुक्त राज्य अमेरिका के कुछ क्षेत्रों में फीचर के कई महीनों के परीक्षण के बाद आया है, क्योंकि कंपनी ने सीखा कि वास्तविक समय में ऑडियो का विश्लेषण करने में आने वाली समस्याओं से कैसे निपटा जाए।
सामग्री मॉडरेशन का महत्व
सामग्री को ऑनलाइन मॉडरेट करना एक कठिन काम है। हमने इसे फेसबुक और ट्विटर और इंस्टाग्राम आदि के साथ देखा है। इन प्लेटफार्मों को सुरक्षित रखने और उनके उपयोगकर्ताओं को सुरक्षित रखने के लिए अपमान, घृणित टिप्पणियों, या यहां तक कि कभी-कभी हिंसा या खुद को नुकसान पहुंचाने के बीच संयम बेहद महत्वपूर्ण है। इंटरनेट द्वारा पेश की जाने वाली कथित गुमनामी के पीछे छिपाने में सक्षम होने के बारे में कुछ ऐसा है जो कुछ लोगों में सबसे खराब स्थिति ला सकता है।
खैर, यूबो ने यह दिखाना जारी रखा है कि इसे रोकने में मदद के लिए वह सब कुछ कर रहा है, खासकर जब इसका उपयोगकर्ता आधार बहुत छोटा है। यूबो के अनुसार, उनके 99% उपयोगकर्ता आधार 13-25 आयु वर्ग के जेन जेड हैं। जबकि ऑनलाइन उत्पीड़न सहना किसी के लिए भी अच्छा नहीं है, यह किशोरों के लिए विशेष रूप से हानिकारक हो सकता है।
छवि और वीडियो मॉडरेशन तकनीक कुछ समय के लिए रही है और इसे सफलता के विभिन्न चरणों के साथ लागू किया गया है। ऑडियो मॉडरेशनहालांकि, विशेष रूप से लाइव स्ट्रीम के साथ एक बड़ी चुनौती बनी हुई है। चाहे वह सड़क पर चलते हुए ली गई लाइव स्ट्रीम हो या जहां कोई वीडियो गेम खेल रहा हो, यह वास्तव में मायने नहीं रखता।
यूबो का ऑडियो मॉडरेशन कैसे काम करता है
मई 2022 से, यूबो ने संयुक्त राज्य भर के विभिन्न क्षेत्रों में अपनी ऑडियो मॉडरेशन तकनीक के लिए एक परीक्षण चरण शुरू किया। अब अगले चरण में अधिकांश अंग्रेजी बोलने वाले क्षेत्र शामिल हैं जहां यूबो के पास एक बड़ा उपयोगकर्ता आधार है ताकि कंपनी अपने नए सुरक्षा उपकरण में बेहतर अंतर्दृष्टि एकत्र कर सके।
हालांकि अभी भी नया है, यह एक ऐसी तकनीक है जो भविष्य में हिंसा या आत्म-नुकसान का पता लगाने के लिए व्यापक रूप से उपयोग की जा सकती है।
यूबो यह सब अपने दम पर नहीं कर रहा है, बल्कि हाइव के साथ साझेदारी में कर रहा है। हाइव, यदि आपने उनके बारे में नहीं सुना है, तो यह एक ऐसी कंपनी है जो वास्तविक समय में छवियों और वीडियो को संसाधित करने के लिए सामग्री मॉडरेशन एपीआई बनाती और प्रदान करती है।
यूबो ने जिस तकनीक को लागू किया है, वह 10 या अधिक लोगों के लाइवस्ट्रीम में ऑडियो के 10 सेकंड के स्निपेट को रिकॉर्ड और ट्रांसक्राइब करके काम करती है। ऐप का उल्लंघन करने वाले किसी भी शब्द या वाक्यांश का पता लगाने के लिए आर्टिफिशियल इंटेलिजेंस द्वारा टेक्स्ट का तुरंत विश्लेषण किया जाता है समुदाय दिशानिर्देश.
रुकिए, यह यहीं नहीं रुकता। जबकि कृत्रिम बुद्धिमत्ता ऐसी चीजों का पता लगाने में महान हो सकती है, यह अभी भी उस बिंदु से बहुत दूर है जहां यह वास्तविक समस्याग्रस्त उपयोगों और झूठे झंडों के बीच अंतर कर सकता है।
उदाहरण के लिए, झूठे झंडे हो सकते हैं, पृष्ठभूमि में बजने वाले गाने, या चंचल भाषा जो दुर्भावनापूर्ण नहीं है।
इसलिए, यहीं पर यूबो के सुरक्षा विशेषज्ञ काम करते हैं, क्योंकि उन्हें फ़्लैग की गई घटनाओं की जांच करने के लिए लाया जाता है। मनुष्य ही हैं जो यह निर्धारित करते हैं कि क्या कार्रवाई होने पर स्थिति को आगे बढ़ाने की आवश्यकता है या नहीं जिसे खराब भाषा का उपयोग करने वाले लोगों के खिलाफ लिया जाना चाहिए, या भले ही कानून प्रवर्तन लाने की आवश्यकता हो में।
यदि लाइव स्ट्रीम पूरी तरह से ठीक है, तो किसी भी ट्रांस्क्रिप्ट की समीक्षा नहीं की जाती है या 24 घंटे की सीमा से अधिक नहीं रखी जाती है, इसलिए यह सब निजी रहता है; या 10 से अधिक लोगों के साथ एक लाइव स्ट्रीम जितना निजी हो सकता है।
हालाँकि, यदि एल्गोरिदम उदाहरण के लिए हिंसक खतरों, अभद्र भाषा या खुद को नुकसान पहुँचाने का पता लगाता है, तो प्रतिलेख एक वर्ष तक संग्रहीत किए जाते हैं। बेशक, यह कंपनी के लिए एक सुरक्षा उपाय है, अगर कानून प्रवर्तन को जानकारी की आवश्यकता होती है या कंपनी को आगे की आंतरिक जांच के लिए विवरण की आवश्यकता होती है।
यूबो के चीफ ऑपरेटिंग ऑफिसर, मार्क-एंटोनी डुरंड, के विस्तार को देखते हैं ऑडियो मॉडरेशन पूरे उद्योग में ऑनलाइन सुरक्षा के विकास में एक प्रमुख तत्व के रूप में प्रौद्योगिकी।
"वॉइस डिटेक्शन के क्षेत्र में अभी भी बहुत प्रगति की जानी बाकी है, लेकिन हमें अपने साथियों के लिए एक रास्ता बनाने पर गर्व है हाइव के साथ ऑडियो मॉडरेशन लॉन्च करने वाले पहले व्यक्ति हैं और इस परीक्षण के माध्यम से इस टूल को अधिक विश्वसनीय और प्रभावी बनाने में मदद करते हैं," डुरंड कहा।
स्पष्ट रूप से, सोशल प्लेटफॉर्म बड़े पैमाने पर बदमाशी, अभद्र भाषा और हिंसा-भड़काने वाली टिप्पणियां नहीं चाहते हैं क्योंकि यह अन्य उपयोगकर्ताओं को दूर कर देगा। इस तरह की मॉडरेशन तकनीक को लागू करना उपयोगकर्ताओं को सुरक्षित रखने और लंबे समय में यूबो के विकास और सफलता की गारंटी देने में मदद करने के लिए एक बेहतरीन टूल है।
