आर्टिफिशियल इंटेलिजेंस राष्ट्रपति की तरह लग सकता है। या यह आपके या मेरे जैसा लग सकता है। तो एआई वॉइस क्लोनिंग सॉफ्टवेयर से साइबर सुरक्षा को क्या खतरा है?

आर्टिफिशियल इंटेलिजेंस (एआई) एक शक्तिशाली तकनीक है जो हमारे जीवन को बदलने का वादा करती है। यह पहले कभी इतना स्पष्ट नहीं था जितना आज है, जब इंटरनेट कनेक्शन वाले किसी भी व्यक्ति के लिए शक्तिशाली उपकरण उपलब्ध हैं।

इसमें एआई वॉयस जेनरेटर, मानव भाषण की नकल करने में सक्षम उन्नत सॉफ्टवेयर इतनी सक्षमता से शामिल है कि दोनों के बीच अंतर करना असंभव हो सकता है। साइबर सुरक्षा के लिए इसका क्या मतलब है?

एआई वॉयस जेनरेटर कैसे काम करते हैं?

भाषण संश्लेषण, मानव भाषण को कृत्रिम रूप से उत्पन्न करने की प्रक्रिया दशकों से चली आ रही है। और सभी प्रौद्योगिकी की तरह, पिछले कुछ वर्षों में इसमें गहरा बदलाव आया है।

जिन लोगों ने विंडोज 2000 और एक्सपी का इस्तेमाल किया है, वे ऑपरेटिंग सिस्टम के डिफ़ॉल्ट टेक्स्ट-टू-स्पीच पुरुष आवाज माइक्रोसॉफ्ट सैम को याद कर सकते हैं। Microsoft सैम ने काम पूरा कर लिया, लेकिन इससे जो आवाज़ें पैदा हुईं, वे रोबोटिक, कठोर और अप्राकृतिक थीं। आज हमारे पास जो उपकरण हैं, वे काफी हद तक अधिक उन्नत हैं, मोटे तौर पर गहन शिक्षा के लिए धन्यवाद।

instagram viewer

डीप लर्निंग एक है मशीन सीखने की विधि जो कृत्रिम तंत्रिका नेटवर्क पर आधारित है। इन तंत्रिका नेटवर्क के कारण, आधुनिक AI डेटा को संसाधित करने में सक्षम है जैसे मानव मस्तिष्क में न्यूरॉन्स सूचना की व्याख्या करते हैं। कहने का तात्पर्य यह है कि जितना अधिक मानव-जैसा एआई बनता है, मानव व्यवहार का अनुकरण करने में उतना ही बेहतर होता है।

संक्षेप में, आधुनिक AI वॉइस जनरेटर इसी तरह काम करते हैं। वे जितना अधिक भाषण डेटा के संपर्क में आते हैं, वे मानव भाषण का अनुकरण करने में उतने ही निपुण हो जाते हैं। इस तकनीक में अपेक्षाकृत हाल की प्रगति के कारण, अत्याधुनिक टेक्स्ट-टू-स्पीच सॉफ़्टवेयर अनिवार्य रूप से उन ध्वनियों को दोहरा सकता है जो इसे खिलाई जाती हैं।

कैसे खतरे वाले अभिनेता एआई वॉयस जेनरेटर का उपयोग करते हैं

अप्रत्याशित रूप से, इस तकनीक का दुरुपयोग अभिनेताओं द्वारा किया जा रहा है। और न केवल शब्द के विशिष्ट अर्थों में साइबर अपराधी, बल्कि गलत सूचना एजेंटों, स्कैमर, ब्लैक हैट मार्केटर्स और ट्रोल्स द्वारा भी।

जिस समय इलेवनलैब्स ने जनवरी 2023 में अपने टेक्स्ट-टू-स्पीच सॉफ़्टवेयर का बीटा संस्करण जारी किया, संदेश बोर्ड 4chan पर दूर-दराज़ ट्रोल ने इसका दुरुपयोग करना शुरू कर दिया। उन्नत एआई का उपयोग करते हुए, उन्होंने डेविड एटनबरो और एम्मा वाटसन जैसे व्यक्तियों की आवाज़ों को पुन: उत्पन्न किया, जिससे ऐसा प्रतीत होता है जैसे कि मशहूर हस्तियां घृणास्पद, घृणास्पद अत्याचार कर रही थीं।

जैसा उपाध्यक्ष उस समय रिपोर्ट की गई, एलेवेनलैब्स ने स्वीकार किया कि लोग इसके सॉफ़्टवेयर का दुरुपयोग कर रहे थे, विशेष रूप से वॉयस क्लोनिंग में। यह सुविधा किसी को भी दूसरे व्यक्ति की आवाज "क्लोन" करने की अनुमति देती है; आपको केवल एक मिनट की रिकॉर्डिंग अपलोड करनी है, और बाकी काम AI को करने देना है। संभवतः, एक रिकॉर्डिंग जितनी लंबी होगी, आउटपुट उतना ही बेहतर होगा।

मार्च 2023 में एक वायरल टिकटॉक वीडियो ने सबका ध्यान खींचा दी न्यू यौर्क टाइम्स. वीडियो में, प्रसिद्ध पोडकास्टर जो रोगन और डॉ. एंड्रयू हबरमैन, जो द जो रोगन एक्सपीरियंस पर लगातार अतिथि थे, को "कामेच्छा बढ़ाने वाले" कैफीन पेय पर चर्चा करते हुए सुना गया था। वीडियो ने ऐसा प्रतीत किया जैसे कि रोगन और हुबरमैन दोनों स्पष्ट रूप से उत्पाद का समर्थन कर रहे थे। हकीकत में, एआई का उपयोग करके उनकी आवाजों को क्लोन किया गया था।

लगभग उसी समय, सांता क्लारा, कैलिफोर्निया स्थित सिलिकॉन वैली बैंक जोखिम प्रबंधन की गलतियों और अन्य मुद्दों के कारण ढह गया, और राज्य सरकार ने इसे अपने नियंत्रण में ले लिया। 2008 के वित्तीय संकट के बाद से संयुक्त राज्य अमेरिका में यह सबसे बड़ी बैंक विफलता थी, इसलिए इसने वैश्विक बाजारों में सदमे की लहरें भेजीं।

दहशत में जो योगदान दिया वह अमेरिकी राष्ट्रपति जो बिडेन की एक नकली ऑडियो रिकॉर्डिंग थी। रिकॉर्डिंग में, बिडेन को स्पष्ट रूप से आसन्न "पतन" की चेतावनी सुनाई दे रही थी और अपने प्रशासन को "जनता को शांत करने के लिए मीडिया की पूरी ताकत का उपयोग करने" का निर्देश दे रही थी। तथ्य-जांचकर्ता पसंद करते हैं राजनीति तथ्य क्लिप को ख़ारिज करने की जल्दी थी, लेकिन संभावना है कि उस समय तक लाखों लोगों ने इसे सुन लिया था।

यदि AI वॉइस जेनरेटर का उपयोग मशहूर हस्तियों को प्रतिरूपित करने के लिए किया जा सकता है, तो उनका उपयोग नियमित लोगों को प्रतिरूपित करने के लिए भी किया जा सकता है, और ठीक यही साइबर अपराधी कर रहे हैं। के अनुसार ZDNet, हजारों अमेरिकियों को घोटालों के रूप में जाना जाता है विशिंग, या वॉयस फिशिंग प्रत्येक वर्ष। एक बुजुर्ग दंपति ने 2023 में राष्ट्रीय सुर्खियां बटोरीं, जब उन्हें अपने "पोते" का फोन आया, जिसने जेल में होने का दावा किया और पैसे मांगे।

यदि आपने कभी कोई YouTube वीडियो अपलोड किया है (या एक में दिखाई दिया है), तो ऐसे लोगों के साथ एक बड़े समूह कॉल में भाग लिया, जिन्हें आपने नहीं देखा है जानते हैं, या किसी क्षमता में अपनी आवाज इंटरनेट पर अपलोड करते हैं, तो आप या आपके प्रियजन सैद्धांतिक रूप से खतरे में पड़ सकते हैं। एक घोटालेबाज को एआई जनरेटर पर आपकी आवाज अपलोड करने, उसकी क्लोनिंग करने और आपके परिवार से संपर्क करने से क्या रोकेगा?

एआई वॉयस जेनरेटर साइबर सुरक्षा परिदृश्य को बाधित कर रहे हैं

एआई गलत हाथों में कितना खतरनाक हो सकता है, यह पहचानने के लिए साइबर सुरक्षा विशेषज्ञ की जरूरत नहीं है। और जबकि यह सच है कि सभी प्रौद्योगिकी के लिए ऐसा ही कहा जा सकता है, एआई कई कारणों से एक अनूठा खतरा है।

एक के लिए, यह अपेक्षाकृत नया है, जिसका अर्थ है कि हम वास्तव में नहीं जानते कि इससे क्या उम्मीद की जाए। आधुनिक एआई उपकरण साइबर अपराधियों को इस मामले से संबंधित जनता की सापेक्ष अज्ञानता का लाभ उठाते हुए एक अभूतपूर्व तरीके से अपने संचालन को मापने और स्वचालित करने की अनुमति देते हैं। साथ ही, जेनेरेटिव एआई थ्रेट एक्टर्स को कम ज्ञान और कौशल के साथ सक्षम बनाता है दुर्भावनापूर्ण कोड बनाएँ, स्कैम साइट बनाना, स्पैम फैलाना, फ़िशिंग ईमेल लिखना, यथार्थवादी चित्र उत्पन्न करें, और अंतहीन घंटों तक नकली ऑडियो और वीडियो सामग्री तैयार करते हैं।

महत्वपूर्ण रूप से, यह दोनों तरह से काम करता है: AI का उपयोग सिस्टम की सुरक्षा के लिए भी किया जाता है, और आने वाले दशकों में ऐसा होने की संभावना है। यह मान लेना अनुचित नहीं होगा कि साइबर अपराधियों के बीच एक तरह की एआई हथियारों की दौड़ हमारा इंतजार कर रही है और साइबर सुरक्षा उद्योग, क्योंकि इन उपकरणों की रक्षात्मक और आक्रामक क्षमता स्वाभाविक है बराबर।

औसत व्यक्ति के लिए व्यापक जनरेटिव एआई का आगमन एक रेडिकल की मांग करता है सुरक्षा प्रथाओं पर पुनर्विचार. एआई जितना रोमांचक और उपयोगी हो सकता है, यह कम से कम वास्तविक और क्या के बीच की रेखा को धुंधला कर सकता है नहीं है, और सबसे खराब स्थिति में मौजूदा सुरक्षा मुद्दों को बढ़ा देता है और खतरे के अभिनेताओं के लिए पैंतरेबाज़ी करने के लिए नई जगह बनाता है में।

वॉयस जेनरेटर एआई की विनाशकारी क्षमता दिखाते हैं

जैसे ही चैटजीपीटी बाजार में आया, एआई को विनियमित करने की बात तेज हो गई। इस तकनीक को बाधित करने के किसी भी प्रयास के लिए शायद उस हद तक अंतर्राष्ट्रीय सहयोग की आवश्यकता होगी जो हमने दशकों में नहीं देखा है, जिससे इसकी संभावना कम है।

जिन्न बोतल से बाहर आ गया है, और सबसे अच्छा हम यह कर सकते हैं कि इसकी आदत डाल लें। वह, और आशा है कि साइबर सुरक्षा क्षेत्र तदनुसार समायोजित होगा।