क्या डीपफेक फेशियल रिकॉग्निशन को मूर्ख बना सकता है? एक नया अध्ययन कहता है हाँ!

डीपफेक और एआई-जनरेटेड वीडियो यहां रहने के लिए हैं। लेकिन पिछले कुछ वर्षों में, वे गुणवत्ता और मात्रा में बढ़े हैं, जिससे बहुत से लोग राष्ट्रीय सुरक्षा और व्यक्तिगत गोपनीयता को लेकर चिंतित हैं।

फिर भी, गुमनाम ऑनलाइन उपयोगकर्ताओं ने अपने नकली वीडियो को वास्तविक बनाने की कितनी भी कोशिश की हो, वे कभी भी उन्नत चेहरे की पहचान सॉफ़्टवेयर को प्राप्त नहीं कर सके। अब तक।

मूर्ख चेहरा पहचान एपीआई

दक्षिण कोरिया के सुवन में सुंगक्यूंकवान विश्वविद्यालय के शोधकर्ता, वर्तमान डीपफेक तकनीक की गुणवत्ता का परीक्षण किया. उन्होंने ओपन-सोर्स का उपयोग करके अमेज़ॅन और माइक्रोसॉफ्ट एपीआई दोनों का परीक्षण किया और आमतौर पर डीपफेक वीडियो जनरेटिंग सॉफ़्टवेयर का उपयोग करके यह देखने के लिए कि वे कितना अच्छा प्रदर्शन करते हैं।

शोधकर्ताओं ने हॉलीवुड हस्तियों के चेहरों का इस्तेमाल किया। ठोस डीपफेक बनाने के लिए, सॉफ़्टवेयर को विभिन्न से उच्च-गुणवत्ता वाली छवियों की बहुत आवश्यकता होती है एक ही व्यक्ति के कोण, जो सामान्य के बजाय मशहूर हस्तियों को हासिल करना बहुत आसान है लोग।

शोधकर्ताओं ने अपने अध्ययन के लिए बेंचमार्क के रूप में माइक्रोसॉफ्ट और अमेज़ॅन के एपीआई का उपयोग करने का भी फैसला किया क्योंकि दोनों कंपनियां सेलिब्रिटी चेहरा पहचान सेवाएं प्रदान करती हैं। उन्होंने सार्वजनिक रूप से उपलब्ध डेटासेट का उपयोग किया और केवल 8,000 से अधिक डीपफेक बनाए। प्रत्येक डीपफेक वीडियो से, उन्होंने कई फेसशॉट निकाले और इसे एपीआई में जमा किया, यह सवालों के घेरे में है।

Microsoft की Azure Cognitive Services के साथ, शोधकर्ता डीपफेक का उपयोग करके सिस्टम को 78 प्रतिशत समय तक मूर्ख बनाने में सक्षम थे। अमेज़ॅन के परिणाम थोड़े बेहतर थे, जिसमें 68 प्रतिशत सबमिट किए गए चेहरों की पहचान वास्तविक के रूप में की गई थी।

डीपफेक डिटेक्टरों के बारे में क्या?

डीपफेक डिटेक्टर कमोबेश उसी तरह काम करते हैं जैसे डीपफेक करता है। डिटेक्टर ऐसे सॉफ़्टवेयर हैं जिन्हें मशीन लर्निंग मॉडल का उपयोग करके प्रशिक्षित किया गया था कि कैसे डीपफेक वीडियो का पता लगाया जाए।

लेकिन डिटेक्टरों को बेवकूफ बनाने के लिए एक अति-यथार्थवादी वीडियो बनाने पर ध्यान केंद्रित करने के बजाय, एआई सिस्टम को भ्रमित करने के लिए डीपफेक अब हर फ्रेम में प्रतिकूल उदाहरण शामिल कर सकते हैं। वास्तव में, इस प्रकार के डीपफेक हमलों की सफलता दर भिन्न होती है ७८ से ९९ प्रतिशत.

यह बदतर हो रही है

डीपफेक एक मशीन लर्निंग एप्लीकेशन है. दूर से भी आश्वस्त करने वाला एक बनाने के लिए, आपको एक ही व्यक्ति के चेहरे की सैकड़ों छवियों को विभिन्न कोणों से और विभिन्न भावनाओं को प्रदर्शित करने की आवश्यकता है।

बड़ी मात्रा में डेटा की आवश्यकता के कारण, कोई यह सोच सकता है कि केवल बड़ी ऑनलाइन उपस्थिति वाले लोग ही जोखिम में हैं, जैसे सेलिब्रिटी और राजनेता। लेकिन अब ऐसा नहीं है।

डीपट्रेस के अनुसार, अक्टूबर 2019 से जून 2020 तक एक वर्ष के भीतर ऑनलाइन डीपफेक की संख्या में 330 प्रतिशत की वृद्धि हुई। उल्लेख नहीं करने के लिए, सॉफ़्टवेयर और एल्गोरिदम जो डीपफेक निर्माताओं का उपयोग करते हैं वे मजबूत और अधिक आसानी से उपलब्ध और सुलभ होते जा रहे हैं।

डीपफेक के जोखिम में कौन है?

जब डीपफेक पहली बार मुख्यधारा में आए, तो प्राथमिक गोपनीयता और राष्ट्रीय सुरक्षा के लिए चिंता थी. लोगों को डर था कि राजनेताओं और आधिकारिक सरकारी कर्मचारियों के वीडियो फुटेज पर अब भरोसा नहीं किया जा सकता है।

लेकिन जब सुरक्षा जोखिम डीपफेक पोज की अवहेलना करना गैर-जिम्मेदार होगा, तो कई सर्वेक्षणों में पाया गया कि डीपफेक निर्माता अभी तक राजनीति को परेशान करने में दिलचस्पी नहीं ले रहे हैं। ऑनलाइन डीपफेक वीडियो के बहुमत को दो श्रेणियों में विभाजित किया जा सकता है: सेलिब्रिटी साक्षात्कार के मजेदार वीडियो, और फिल्में और अश्लील सामग्री।

जबकि हाल ही में यह अध्ययन सेलिब्रिटी चेहरों का उपयोग करके किया गया था ताकि यह सुनिश्चित किया जा सके कि एपीआई को बेवकूफ बनाने के लिए डीपफेक उच्च गुणवत्ता वाले थे, इसका मतलब यह नहीं है कि आप कम डेटा के साथ डीपफेक नहीं बना सकते। निश्चित रूप से, वे उन्नत चेहरे की पहचान प्रणाली को मूर्ख बनाने का मौका नहीं दे सकते हैं, लेकिन वे अन्य लोगों को धोखा देने के लिए पर्याप्त आश्वस्त हो सकते हैं।

आजकल, सामाजिक उपस्थिति वाले किसी के भी डीपफेक को पक्का बनाया जा सकता है। उन्हें बस आपकी कुछ तस्वीरें चाहिए और हो सकता है कि एक वीडियो जिसमें आप दिखाई दें। परिणामी डीपफेक गुणवत्ता में कम हो सकता है, लेकिन यह अभी भी करने योग्य है और हानिकारक हो सकता है।

भविष्य अभी भी अज्ञात है

डीपफेक की स्थिति के बारे में कई विरोधाभासी भविष्यवाणियां हैं, क्योंकि वे जल्द ही दूर नहीं होंगी।

कुछ एक सर्वनाशकारी साइबर भविष्य की उम्मीद करते हैं जहां आप ऑनलाइन आने वाले किसी भी फुटेज पर भरोसा नहीं कर सकते। अन्य लोग अधिक आशावादी हैं, डीपफेक की तुलना एनीमेशन से करते हैं और कहते हैं कि सामग्री उत्पादन में इसका भविष्य हो सकता है।

डीपफेक वीडियो से खुद को कैसे बचाएं

डीपफेक का प्रचलन अधिक होता जा रहा है। यहां बताया गया है कि वे आपकी ऑनलाइन गोपनीयता को कैसे खतरे में डाल सकते हैं और कैसे इसमें शामिल होने से बचा जा सकता है।

आगे पढ़िए

लेखक के बारे में