एआई कंटेंट डिटेक्टर काम नहीं करते, और यह एक बड़ी समस्या है

आर्टिफिशियल इंटेलिजेंस (एआई) हमारे समाज के पूरे खंड को बदल देगा चाहे हम इसे पसंद करें या नहीं, और इसमें वर्ल्ड वाइड वेब भी शामिल है।

इंटरनेट कनेक्शन वाले किसी भी व्यक्ति के लिए उपलब्ध चैटजीपीटी जैसे सॉफ़्टवेयर के साथ, एआई-जेनरेट की गई सामग्री को मानव द्वारा बनाई गई सामग्री से अलग करना कठिन होता जा रहा है। अच्छी बात है कि हमारे पास एआई कंटेंट डिटेक्टर हैं, है ना?

क्या AI कंटेंट डिटेक्टर काम करते हैं?

एआई सामग्री डिटेक्टर विशेष उपकरण हैं जो यह निर्धारित करते हैं कि कुछ कंप्यूटर प्रोग्राम या मानव द्वारा लिखा गया था या नहीं। यदि आप केवल "AI सामग्री डिटेक्टर" शब्दों को Google करते हैं, तो आप देखेंगे दर्जनों डिटेक्टर हैं वहां, सभी दावा करते हैं कि वे मानव और गैर-मानव पाठ के बीच विश्वसनीय रूप से अंतर कर सकते हैं।

जिस तरह से वे काम करते हैं वह काफी सरल है: आप लेखन का एक टुकड़ा चिपकाते हैं, और टूल आपको बताता है कि यह एआई द्वारा उत्पन्न किया गया था या नहीं। अधिक तकनीकी शब्दों में, प्राकृतिक भाषा प्रसंस्करण तकनीकों और मशीन के संयोजन का उपयोग करना सीखने के एल्गोरिदम, एआई सामग्री डिटेक्टर पैटर्न और भविष्यवाणी की तलाश करते हैं, और कॉल के आधार पर कॉल करते हैं वह।

यह कागज पर बहुत अच्छा लगता है, लेकिन अगर आपने कभी एआई डिटेक्शन टूल का उपयोग किया है, तो आप अच्छी तरह जानते हैं कि वे हिट-एंड-मिस हैं, इसे हल्के ढंग से रखने के लिए। अधिक बार नहीं, वे एआई के रूप में मानव-लिखित सामग्री का पता लगाते हैं, या मानव द्वारा बनाए गए पाठ को एआई-जनित के रूप में देखते हैं। वास्तव में, कुछ शर्मनाक रूप से बुरे हैं जो वे करने वाले हैं।

एआई कंटेंट डिटेक्टर कितने सटीक हैं?

यदि आप युनाइटेड स्टेट्स में हैं, तो "AI कंटेंट डिटेक्टर" के लिए पहला Google खोज परिणाम है लेखक.कॉम (पहले कोर्डोबा के नाम से जाना जाता था; यह एक एआई कंटेंट प्लेटफॉर्म है जिसका अपना डिटेक्टर भी है)। लेकिन जब आप इस random संबंधी प्रेस उपकरण में लेख, यह दावा करता है कि कृत्रिम बुद्धि द्वारा इसे उत्पन्न करने का एक बहुत अच्छा मौका है।

तो, लेखक.कॉम ने इसे गलत पाया है।

निष्पक्ष होने के लिए, अन्य एआई सामग्री डिटेक्टर शायद ही कोई बेहतर हों। वे न केवल झूठी सकारात्मकता उत्पन्न करते हैं, बल्कि वे एआई सामग्री को मानव के रूप में भी चिन्हित करते हैं। और जब वे नहीं करते हैं, तब भी एआई-जेनरेट किए गए टेक्स्ट में मामूली बदलाव करना उड़ने वाले रंगों से गुजरने के लिए पर्याप्त है।

फरवरी 2023 में, वोलोंगोंग विश्वविद्यालय के लेक्चरर आर्मिन अलीमरदानी और UNSW सिडनी में एसोसिएट प्रोफेसर एम्मा ए। जेन ने कई लोकप्रिय एआई सामग्री डिटेक्टरों का परीक्षण किया, यह स्थापित करते हुए कि उनमें से कोई भी विश्वसनीय नहीं है। उनके विश्लेषण में, जो में प्रकाशित हुआ था बातचीत, अलीमरदानी और जेन ने निष्कर्ष निकाला कि टेक्स्ट जेनरेटर और डिटेक्टरों के बीच एआई "हथियारों की दौड़" भविष्य में विशेष रूप से शिक्षकों के लिए एक महत्वपूर्ण चुनौती पेश करेगी।

लेकिन यह सिर्फ शिक्षकों और शिक्षकों के लिए ही चिंता का कारण नहीं है: हर कोई करता है। जैसा कि एआई-जनित पाठ सर्वव्यापी हो जाता है, जो "वास्तविक" है और जो नहीं है, के बीच अंतर करने में सक्षम है, यानी वास्तव में स्पॉटिंग जब एआई द्वारा कुछ लिखा गया है, और कठिन हो जाएगा। इसका वस्तुतः सभी उद्योगों और समाज के क्षेत्रों, यहाँ तक कि व्यक्तिगत संबंधों पर भी व्यापक प्रभाव पड़ेगा।

साइबर सुरक्षा और गोपनीयता के लिए एआई के निहितार्थ

तथ्य यह है कि यह निर्धारित करने के लिए कोई विश्वसनीय तंत्र नहीं है कि क्या कुछ सॉफ्टवेयर द्वारा बनाया गया था या एक इंसान साइबर सुरक्षा और गोपनीयता के लिए गंभीर प्रभाव डालता है।

खतरनाक अभिनेता पहले से ही हैं मैलवेयर लिखने के लिए ChatGPT का उपयोग करना, फ़िशिंग ईमेल जनरेट करें, स्पैम लिखें, स्कैम साइट्स बनाएँ, और बहुत कुछ। और जबकि इससे बचाव के तरीके हैं, यह निश्चित रूप से चिंताजनक है कि ऐसा कोई सॉफ्टवेयर नहीं है जो जैविक और बॉट सामग्री के बीच विश्वसनीय रूप से अंतर करने में सक्षम हो।

फेक न्यूज भी पहले से ही एक बड़ी समस्या है। चित्र में जनरेटिव एआई के साथ, विघटनकारी एजेंट अपने कार्यों को एक अभूतपूर्व तरीके से स्केल करने में सक्षम हैं। इस बीच, एक नियमित व्यक्ति के पास यह जानने का कोई तरीका नहीं है कि जो कुछ वे ऑनलाइन पढ़ रहे हैं वह सॉफ्टवेयर या किसी इंसान द्वारा बनाया गया है।

गोपनीयता पूरी तरह से अलग मामला है। उदाहरण के लिए चैटजीपीटी को लें। वह था 300 अरब से अधिक शब्दों को खिलाया इसके लॉन्च से पहले। यह सामग्री पुस्तकों, ब्लॉग और फ़ोरम पोस्ट, लेखों और सोशल मीडिया से ली गई थी। इसे किसी की सहमति के बिना और गोपनीयता और कॉपीराइट सुरक्षा के लिए पूरी तरह से अवहेलना के साथ एकत्र किया गया था।

फिर झूठी सकारात्मकता का मुद्दा भी है। यदि सामग्री को गलती से एआई-जनित के रूप में फ़्लैग किया जाता है, तो क्या इससे सेंसरशिप नहीं हो सकती, जो वैसे भी एक बड़ा मुद्दा है? एआई-निर्मित पाठ का उपयोग करने का आरोप लगाया जा रहा नुकसान का जिक्र नहीं है, ऑनलाइन और वास्तविक जीवन दोनों में किसी की प्रतिष्ठा को नुकसान पहुंचा सकता है।

यदि वास्तव में जनरेटिव एआई और सामग्री डिटेक्टरों के बीच हथियारों की दौड़ है, तो पूर्व जीत रहा है। क्या बुरा है, लगता है कोई समाधान नहीं है। हम सभी के पास अपने आधे-अधूरे उत्पाद हैं जो आधे समय भी काम नहीं करते हैं, या बहुत आसानी से बरगलाया जा सकता है।

एआई सामग्री का पता कैसे लगाएं: संभावित समाधान

ऐसा लगता है कि वर्तमान में हमारे पास इस समस्या का वास्तविक उत्तर नहीं है, इसका मतलब यह नहीं है कि भविष्य में हमारे पास कोई उत्तर नहीं होगा। वास्तव में, पहले से ही कई गंभीर प्रस्ताव हैं जो काम कर सकते हैं। वॉटरमार्किंग एक है।

जब एआई और डीप लैंग्वेज मॉडल की बात आती है, तो वॉटरमार्किंग का अर्थ एआई-जेनरेट किए गए टेक्स्ट (जैसे शब्द पैटर्न, विराम चिह्न शैली) में एक प्रकार का गुप्त कोड एम्बेड करना है। ऐसा वॉटरमार्क नग्न आंखों के लिए अदृश्य होगा, और इस प्रकार इसे हटाना लगभग असंभव होगा, लेकिन विशेष सॉफ्टवेयर इसका पता लगाने में सक्षम होगा।

वास्तव में, 2022 में वापस, मैरीलैंड विश्वविद्यालय शोधकर्ताओं ने कृत्रिम तंत्रिका नेटवर्क के लिए एक नया वॉटरमार्किंग तरीका विकसित किया है। प्रमुख शोधकर्ता टॉम गोल्डस्टीन ने उस समय कहा था कि उनकी टीम "गणितीय रूप से" साबित करने में कामयाब रही है कि उनके वॉटरमार्क को पूरी तरह से हटाया नहीं जा सकता है।

कुछ समय के लिए, एक नियमित व्यक्ति जो कर सकता है, वह उनकी प्रवृत्ति और सामान्य ज्ञान पर निर्भर करता है। यदि आपके द्वारा पढ़ी जा रही सामग्री के बारे में कुछ हटकर है—यदि वह अप्राकृतिक, दोहरावपूर्ण, अकल्पनीय, तुच्छ लगता है—तो हो सकता है कि इसे सॉफ़्टवेयर द्वारा बनाया गया हो। बेशक, आपको ऑनलाइन दिखाई देने वाली किसी भी जानकारी को सत्यापित करना चाहिए, स्रोत की दोबारा जांच करनी चाहिए और छायादार वेबसाइटों से दूर रहना चाहिए।

एआई क्रांति चल रही है

कुछ लोगों का तर्क है कि पांचवीं औद्योगिक क्रांति पहले से ही यहां है, क्योंकि कृत्रिम बुद्धिमत्ता डिजिटल और भौतिक के अभिसरण के रूप में वर्णित की जा रही है। वास्तव में ऐसा हो या न हो, हम केवल अनुकूलन कर सकते हैं।

अच्छी खबर यह है कि साइबर सुरक्षा उद्योग इस नई वास्तविकता को समायोजित कर रहा है, और एआई और मशीन लर्निंग के साथ नई रक्षा रणनीतियों को लागू कर रहा है।