ट्रम्प की गिरफ्तारी की डीपफेक तस्वीरों ने लोगों को विश्वास दिलाया कि यह वास्तव में हुआ है।
यदि आप ट्विटर पर सक्रिय हैं, तो आपने अमेरिका के पूर्व राष्ट्रपति डोनाल्ड ट्रम्प को पुलिस अधिकारियों द्वारा गिरफ्तार किए जाने, उनके साथ संघर्ष करने और यहां तक कि उनसे दूर भागने की कुछ चौंकाने वाली तस्वीरें देखी होंगी। पता चला, इसमें से कुछ भी वास्तविक नहीं था। लेकिन यह सब हुआ कैसे?
डोनाल्ड ट्रम्प की गिरफ्तारी जो कभी नहीं हुई
पूर्व अमेरिकी राष्ट्रपति ने अपने अधिकारी के माध्यम से एक कथित लीक साझा किया ट्रुथ सोशल हैंडल 18 मार्च को। पोस्ट में कहा गया है कि वह अपने खिलाफ "पुराने और पूरी तरह से खारिज" आरोपों के लिए अगले सप्ताह के मंगलवार को गिरफ्तारी की उम्मीद कर रहे थे। अभी कुछ ही समय हुआ था जब ट्रम्प की गिरफ्तारी की तस्वीरें पूरे इंटरनेट पर दिखाई देने लगीं।
तस्वीरों में कानून प्रवर्तन अधिकारियों के एक समूह द्वारा ट्रम्प की गिरफ्तारी के फुटेज दिखाई दे रहे हैं।
छवियां एआई-जनित थीं
हालाँकि, छवियां प्रामाणिक नहीं थीं। वे डीपफेक से बने थे मिडजर्नी, एक एआई छवि जनरेटर. मिडजर्नी पाठ संकेतों का उपयोग करके खरोंच से चित्र उत्पन्न करने के लिए एक गहन शिक्षण एल्गोरिथ्म का उपयोग करता है। इस मामले में, टेक्स्ट संकेत ट्रम्प के गिरफ्तार होने के रूपांतर थे।
डीपफेक तकनीक कुछ समय के लिए आसपास रहा है, और यह तेजी से परिष्कृत होता जा रहा है। एआई-जनित छवियां आसानी से पहचानी जा सकती थीं: उनमें विवरण और यथार्थवाद का अभाव था। हालाँकि, मिडजर्नी की नवीनतम रिलीज़ (v5) इनमें से अधिकांश मुद्दों को ठीक किया गया था और वास्तव में, ट्रम्प की गिरफ्तारी डीपफेक उत्पन्न करने के लिए इस्तेमाल किया गया संस्करण था।
तस्वीरें कैसे वायरल हुईं
इलियट हिगिंस, एक खोजी पत्रकार, ने ट्रम्प की गिरफ्तारी डीपफेक के पहले संस्करणों को यह देखने के लिए बनाया कि ट्रम्प की गिरफ्तारी कैसी दिखेगी। उन्होंने उन्हें अपने ट्विटर अकाउंट पर पोस्ट किया। जबकि उनका कैप्शन गेट-गो से स्पष्ट था कि छवियां नकली थीं, पोस्ट को वायरल होने में देर नहीं लगी।
जैसे-जैसे तस्वीरें सोशल मीडिया पर फैलीं, कई लोगों को लगा कि यह असली है। ट्रुथ सोशल पर ट्रम्प की पोस्ट ने पहले से ही लोगों को संदेहास्पद कर दिया था, और यथार्थवादी छवियों ने केवल आग को हवा दी। यह स्पष्ट होने में कुछ समय लगा कि तस्वीरें नकली थीं और गिरफ्तारी की कहानी एक अफवाह थी।
फर्जी गिरफ्तारी की "रिपोर्टिंग" करने वाले सोशल मीडिया पोस्ट हटा दिए गए हैं या उन पर गलत सूचना का लेबल लगा दिया गया है। दंड के रूप में, मिडजर्नी ने हिगिंस को एक महीने के लिए अपने सर्वर से प्रतिबंधित कर दिया, प्रति वाशिंगटन पोस्ट.
डीपफेक के युग में सतर्कता की आवश्यकता है
ट्रम्प की गिरफ्तारी के डीपफेक AI तकनीक में खतरनाक प्रगति को उजागर करते हैं। नकली छवियां अब अविश्वसनीय आसानी से बनाई जा सकती हैं और इतनी यथार्थवादी दिखती हैं कि यह बताना मुश्किल है कि क्या वास्तविक है और क्या नहीं है। जब ऑनलाइन सामग्री की बात आती है तो सतर्कता अब पहले से कहीं अधिक महत्वपूर्ण है।
