एआई में अविश्वसनीय क्षमता है, लेकिन इसके नुकसान भी हैं।
भाषा, टेक्स्ट-टू-इमेज और टेक्स्ट-टू-वीडियो मॉडल में हालिया प्रगति एआई को हाइपर-यथार्थवादी आउटपुट उत्पन्न करने में सक्षम बनाती है। कई लोग इन्हें जैविक, मानवीय सामग्री समझकर भी भ्रमित कर देते हैं।
हालाँकि यह उपलब्धि एक तकनीकी मील के पत्थर का प्रतीक है, लेकिन यह वास्तविकता और कल्पना के बीच की रेखा को भी धुंधला कर देती है। एआई छवियां, टेक्स्ट और वीडियो डिजिटल सामग्री का निर्माण करते हैं जो प्रामाणिक अनुभवों पर हावी हो जाती है। यहां वे तरीके दिए गए हैं जिनसे एआई वास्तविकता का भ्रम पैदा करता है।
1. कुछ लोग एआई-जनरेटेड व्यक्तियों को वास्तविक लोग मानते हैं
एआई वर्चुअल गर्लफ्रेंड/बॉयफ्रेंड ऐप्स पहले से कहीं अधिक यथार्थवादी होते जा रहे हैं। वे एआई-जनित व्यक्तित्वों के माध्यम से रोमांटिक रिश्तों का अनुकरण करते हैं, जिन्हें उपयोगकर्ता अपनी प्राथमिकताओं के अनुसार अनुकूलित कर सकते हैं। कुछ लोग जटिल विशेषताओं वाले मानव जैसे पात्रों को पसंद करते हैं, जबकि अन्य काल्पनिक पात्रों की नकल करते हैं।
अधिकांश लोग अकेलेपन से निपटने के लिए डेटिंग सिमुलेटर का उपयोग करते हैं। आधुनिक पर चल रहे ऐप्स
प्राकृतिक भाषा प्रसंस्करण (एनएलपी) और बड़े भाषा मॉडल (एलएलएम) वास्तविक मानवीय वार्तालापों की नकल करें। इसलिए उपयोगकर्ताओं को लगता है कि वे इन एआई भागीदारों के साथ "जुड़े" हैं।विडंबना यह है कि एआई गर्लफ्रेंड और बॉयफ्रेंड ऐप्स पारस्परिक संबंधों के बारे में विषाक्त धारणाओं को कायम रखकर सामाजिक अलगाव को खराब करते हैं। उपयोगकर्ता ऐसे साझेदार चाहते हैं जो उनके बनाए एआई व्यक्तित्व पर खरे उतरें। कुछ तो अपने एआई-जनरेटेड साथियों से शादी करने और मानवीय रिश्तों को पूरी तरह से त्यागने तक की हद तक चले जाएंगे।
2. चैटबॉट नकली भावनात्मक समर्थन प्रदान करते हैं
मनोचिकित्सा के लिए जेनरेटिव एआई चैटबॉट का उपयोग करना आम बात है। एआई प्लेटफॉर्म अपने डेटासेट से मानसिक स्वास्थ्य संबंधी सलाह निकालते हैं और एलएलएम के माध्यम से मानव जैसी वाणी की नकल करते हैं। उनका आउटपुट तटस्थ और सामान्य है, फिर भी कई लोग मनोचिकित्सा के लिए भुगतान करने के बजाय एआई टूल का पता लगाएंगे सत्र.
एआई की पहुंच के अलावा, कुछ लोग निर्णय-मुक्त, निष्पक्ष एल्गोरिदम पर विश्वास करना भी पसंद करते हैं। वे अपनी समस्याओं के बारे में किसी दूसरे व्यक्ति को बताने में असहज महसूस करते हैं। सिर्फ इसलिए कि आप एक लाइसेंस प्राप्त पेशेवर से बात कर रहे हैं इसका मतलब यह नहीं है कि संचार बाधाएं उत्पन्न नहीं होंगी।
ने कहा कि, एआई चैटबॉट्स के साथ चिकित्सक की तरह व्यवहार करना खतरनाक है. एआई आपके साथ सहानुभूति नहीं रख सकता है या आपकी स्थिति को नहीं समझ सकता है - यह इनपुट को समझने के लिए एनएलपी का उपयोग करता है और अपने डेटासेट के आधार पर संबंधित आउटपुट प्रस्तुत करता है। यदि आपको मानसिक स्वास्थ्य सलाह की आवश्यकता है तो कृपया किसी लाइसेंस प्राप्त चिकित्सक या मनोचिकित्सक से मिलें।
3. उपयोगकर्ता वाक् संश्लेषण के माध्यम से आवाजों की नकल करते हैं
टेक्स्ट-टू-स्पीच और स्पीच-टू-स्पीच मॉडल में प्रगति के कारण किफायती, सुलभ एआई वॉयस जनरेटर का उदय हुआ। वे प्राकृतिक ध्वनि वाले भाषण आउटपुट उत्पन्न करते हैं। इनपुट गुणवत्ता और मॉडल परिष्कार के आधार पर, कोई भी किसी अन्य व्यक्ति की आवाज़ का सटीक क्लोन बना सकता है।
डेवलपर्स अक्सर वीडियो वॉयस-ओवर को संश्लेषित करने, आभासी पात्रों में भाषण फ़ंक्शन जोड़ने या वॉयस-सक्रिय ऐप्स को प्रोग्राम करने के लिए एआई वॉयस जेनरेटर का उपयोग करते हैं। वे शुरुआत से रिकॉर्डिंग करने की तुलना में सस्ते हैं। इसी तरह, कुछ लोग व्यक्तित्वों का मज़ाक उड़ाने और उनकी नकल करने के लिए वॉयस जनरेटर का उपयोग करते हैं। आपने संभवतः नकली गानों के कवर को ऑनलाइन प्रसारित होते देखा होगा।
लेकिन इसे कम मत समझो एआई वॉयस जनरेटर के सुरक्षा जोखिम- बदमाश गलत सूचना फैलाने और सोशल इंजीनियरिंग हमलों को अंजाम देने के लिए इन उपकरणों का उपयोग कर रहे हैं। यहां तक कि तकनीक-प्रेमी व्यक्ति भी लापरवाह होने पर एआई-संश्लेषित आवाजों के झांसे में आ सकते हैं।
एआई-संचालित आवाज, छवि और टेक्स्ट जनरेटर का प्रसार उपयोगकर्ताओं को ऑनलाइन एक पूरी तरह से नया व्यक्तित्व बनाने में सक्षम बनाता है। लेना आभासी प्रभावक, उदाहरण के लिए। कई एआई-जनरेटेड अवतारों में अति-यथार्थवादी, जीवंत विशेषताएं होती हैं - वे इंसानों के रूप में सामने आ सकते हैं।
जहां यथार्थवादी अवतार बनाने से समाज मेटावर्स के बहुत करीब आता है, वहीं यह स्कैमर्स को अधिक परिष्कृत हमले करने में भी मदद करता है। वे पहचान की चोरी के लिए नकली व्यक्तित्व बनाते हैं ऑनलाइन डेटिंग घोटाले. और जब बदमाश इन उन्नत तकनीकों को मनोवैज्ञानिक हेरफेर के साथ जोड़ते हैं, तो वे पीड़ितों की एक विस्तृत श्रृंखला को धोखा देते हैं।
इससे भी बुरी बात यह है कि कुछ पीड़ित इस भ्रम में पड़ जाते हैं कि वे एआई व्यक्तित्वों के साथ वास्तविक संबंध बना सकते हैं। साहचर्य की चाहत उनमें सबसे अधिक होती है। वे इस तथ्य को नजरअंदाज करना चुनते हैं कि इन व्यक्तित्वों को संचालित करने वाले अजनबी उनकी कम परवाह नहीं कर सकते।
5. एआई सामग्री एसईआरपी में बाढ़ लाती है
एआई चैटबॉट्स ने सामग्री उद्योग को महत्वपूर्ण रूप से प्रभावित किया। व्यक्तिगत लेखक, मार्केटिंग एजेंसियां, सामग्री मिलें और यहां तक कि कानूनी प्रकाशन भी एआई के साथ लेखन प्रक्रिया को तेज करने के तरीके तलाश रहे हैं। आख़िरकार, उन्नत एलएलएम 15 सेकंड से कम समय में 500 शब्द का टुकड़ा तैयार कर सकते हैं।
वहाँ हैं लेखकों के लिए एआई का उपयोग करने के कई नैतिक तरीके-समस्या यह है कि अधिकांश निर्माता तेजी से सामग्री तैयार करना चाहते हैं। तेज गति के प्रति जुनूनी होने से गुणवत्ता को नुकसान पहुंचता है। एआई अपने प्रशिक्षण डेटासेट से जानकारी निकालता है; यह तथ्यों की जाँच नहीं करता या संसाधनों की तुलना नहीं करता। परिणामी आउटपुट अक्सर अवास्तविक और भ्रामक होता है।
मामले को बदतर बनाने के लिए, कई कम प्रयास वाले एआई लेख अभी भी उन्नत एसईओ तकनीकों के माध्यम से उच्च रैंक पर हैं। अधिकांश लोग यह भी ध्यान नहीं देते कि कौन से Google परिणाम AI-जनित हैं। वे इसे समझे बिना भ्रामक, तथ्यात्मक रूप से गलत जानकारी पढ़ और उद्धृत कर सकते हैं।
6. डीपफेक प्रतिष्ठा को नष्ट करते हैं
एआई-संचालित जेनरेटर मॉडल डिजिटल रूप से हेरफेर किए गए मीडिया के माध्यम से अन्य लोगों की विशेषताओं, आवाज़ों और तौर-तरीकों की नकल कर सकते हैं। "टॉम क्रूज़" वाला नीचे दिया गया टिकटॉक वीडियो लें। यदि अकाउंट ने स्पष्ट रूप से यह नहीं बताया कि यह एक डीपफेक वीडियो है तो लाखों लोग विश्वास करेंगे कि यह असली सौदा है।
लेकिन हर कोई उनके जैसा ईमानदार नहीं होता. भ्रामक, हानिकारक और यौन रूप से विचारोत्तेजक सामग्री फैलाने के लिए बदमाश डीपफेक वीडियो का उपयोग करते हैं। वे आवश्यक संपादन कौशल और उपकरणों के साथ लगभग किसी भी क्लिप का निर्माण कर सकते हैं।
7. इमर्सिव वीआर/एआर अनुभव आपकी इंद्रियों को विकृत कर देता है
एआई मॉडल सक्षम करते हैं आभासी वास्तविकता (वीआर) और संवर्धित वास्तविकता (एआर) अधिक गहन अनुभव प्रदान करने वाली प्रौद्योगिकियाँ। उनका अति-यथार्थवादी आउटपुट इंद्रियों को पूरी तरह से उत्तेजित करता है। और जैसे-जैसे उच्च-स्तरीय वीआर/एआर उपकरण विकसित होंगे, उनके मानक श्रवण, दृश्य और हैप्टिक संकेतों में भी सुधार होगा।
हालांकि आकर्षक, विस्तारित वास्तविकता में बार-बार डूबना आपकी प्राकृतिक इंद्रियों को विकृत कर देता है। वीआर/एआर प्लेटफॉर्म आपको आपके वास्तविक परिवेश से अलग कर देते हैं। कृत्रिम संवेदी ट्रिगर्स के बहुत अधिक संपर्क से वास्तविकता को सिमुलेशन से अलग करना कठिन हो जाएगा।
कुछ उपयोगकर्ता विस्तारित वास्तविकताओं पर अत्यधिक निर्भरता भी विकसित कर लेते हैं। वे वास्तविक दुनिया का सामना करने के बजाय अपनी इच्छाओं, मांगों और प्राथमिकताओं के अनुरूप अनुकूलित सिमुलेशन की ओर बढ़ेंगे।
लंबे समय तक वीआर/एआर उपकरणों का उपयोग करने में कई जोखिम होते हैं, जिसमें आंखों पर तनाव, सामाजिक अलगाव और साइबर हमलों के प्रति संवेदनशीलता शामिल है।
8. एआई बिजनेस सिस्टम अवास्तविक लाभ उम्मीदें पैदा करते हैं
एआई विभिन्न क्षेत्रों की कंपनियों के संचालन के तरीके को बदल रहा है। लोमड़ी रिपोर्ट है कि 90 प्रतिशत छोटे व्यवसायों ने पहले ही एआई चैटबॉट्स को अपने वर्कफ़्लो में एकीकृत कर लिया है। इसी तरह, तकनीकी रूप से दक्ष पेशेवर अधिक उन्नत मॉडल तलाश रहे हैं।
हाँ, एआई ऑटोमेशन के माध्यम से व्यवसाय उत्पादकता बढ़ा सकते हैं, लेकिन केवल इन प्रणालियों पर निर्भर रहने से अत्यधिक पूंजीकरण का जोखिम उत्पन्न होता है। फुल-स्केल एआई सिस्टम महंगे हैं। बिना तैयारी के एआई में उतरने से केवल आपका ओवरहेड बढ़ेगा, जिससे आपके निवेश पर रिटर्न प्राप्त करना और भी कठिन हो जाएगा।
एआई सफलता का सुनहरा टिकट नहीं है। गलत जानकारी रखने वाले उद्यमियों को इस गलत धारणा को त्याग देना चाहिए कि मानव श्रमिकों को एआई से बदलने से मुनाफा बढ़ जाता है। यदि आप उचित योजना बनाना छोड़ देते हैं तो नई प्रणालियों को अपनाने से अभी भी नुकसान हो सकता है।
कल्पना और वास्तविकता के बीच की रेखा खींचना
जैसे-जैसे एआई प्रौद्योगिकियां आगे बढ़ेंगी, आभासी और वास्तविक दुनिया के बीच अंतर करना और भी कठिन हो जाएगा। परिष्कृत मॉडल अधिक यथार्थवादी आउटपुट उत्पन्न करेंगे। इन व्यापक झूठी वास्तविकताओं से निपटने का एकमात्र तरीका स्वयं एआई का पता लगाना है-इसके कार्यों और सीमाओं का अध्ययन करना।
साथ ही, AI को हमेशा संदेह की दृष्टि से देखें। यह असंगत वाक्यांशों से बहुत आगे निकल चुका है, लेकिन यह अभी भी उचित शोध और बेहतर निर्णयों का स्थान नहीं ले सकता है। एआई प्लेटफॉर्म पर आंख मूंदकर भरोसा करने से आपको केवल गलत सूचनाओं का खतरा रहता है।