एआई डिटेक्शन टूल्स के लिए यह और अधिक कठिन होता जा रहा है, और यह जल्द ही बदलता नहीं दिख रहा है।
एआई चैटबॉट निस्संदेह शक्तिशाली और उपयोगी उपकरण हैं। हालाँकि, मानव-निर्मित और AI-जनित सामग्री के बीच अंतर करने की क्षमता एक प्रमुख मुद्दा बनती जा रही है।
इस समस्या के समाधान के लिए ZeroGPT जैसे उपकरण सामने आए हैं। इन्हें AI और मानव-जनित सामग्री के बीच अंतर करने के लिए डिज़ाइन किया गया है। लेकिन क्या वे काम करते हैं?
आइए एआई डिटेक्शन टूल पर करीब से नज़र डालें और देखें कि क्या वे मानव और एआई-जनरेटेड टेक्स्ट के बीच अंतर बता सकते हैं।
वे कहते हैं कि हलवे का प्रमाण खाने में है. तो, आइए कुछ परीक्षण आज़माएँ और देखें कि ये उपकरण कितने प्रभावी हैं। प्रत्येक टूल का परीक्षण करना असंभव है, इसलिए हम सबसे लोकप्रिय टूल में से एक-ज़ीरोजीपीटी का परीक्षण कर रहे हैं।
सामग्री के लिए, हमने सोचा कि चैटजीपीटी को इस लेख के लिए एक परिचय लिखने और फिर इसे "मानव-जनित" परिचय के साथ तुलना करने का मौका देना काफी मजेदार होगा:
परीक्षण एक: मानव और एआई-जनित आलेख परिचय की तुलना करना
पहला काम जो हमने किया वह था एक परिचय तैयार करने के लिए चैटजीपीटी प्राप्त करना। हमने शीर्षक दर्ज किया और इसे कोई और जानकारी नहीं दी। रिकॉर्ड के लिए, हमने परीक्षण के लिए GPT-3.5 का उपयोग किया।
फिर हमने टेक्स्ट को कॉपी किया और इसे ZeroGPT में पेस्ट किया। जैसा कि आप देख सकते हैं, परिणाम तारकीय से कम थे।
एक अस्पष्ट शुरुआत, लेकिन यह स्पष्ट करती है कि एआई चैटबॉट कितने प्रभावी हैं। परीक्षण पूरा करने के लिए, हमने ZeroGPT को मानव-निर्मित ड्राफ्ट परिचय का विश्लेषण करने दिया।
कम से कम यह हिस्सा तो सही हो गया। कुल मिलाकर, ZeroGPT इस दौर में विफल रहा। इसने यह निर्धारित किया कि एआई-जनरेटेड परिचय का कम से कम हिस्सा संदिग्ध था लेकिन विशिष्ट मुद्दों को उजागर करने में विफल रहा।
परीक्षण दो: झूठी सकारात्मक समस्या
जैसे-जैसे चैटजीपीटी और अन्य एआई टूल का उपयोग बढ़ता है, किसी के बारे में यह जानने या सुनने की संभावना बढ़ जाती है कि उसका काम एआई-जनित होने का दावा किया जा रहा है। ये आरोप ChatGPT और ZeroGPT जैसे AI-डिटेक्शन टूल के साथ अधिक गंभीर समस्याओं में से एक हैं, क्योंकि इस तरह की त्रुटि प्रतिष्ठा को नुकसान पहुंचा सकती है और आजीविका को प्रभावित कर सकती है।
गलत सकारात्मकता तब घटित होती है जब मानव-जनित सामग्री को गलत तरीके से एआई का काम होने के रूप में चिह्नित किया जाता है। जैसा कि नीचे दिए गए उदाहरण से पता चलता है, समस्या को आसानी से दोहराया जा सकता है। मैं एक उत्सुक मछुआरा हूं, इसलिए मैंने फ्लोरिडा में मछली पकड़ने के बारे में एक काल्पनिक लेख का परिचय लिखने का फैसला किया। इसके बाद मैंने ज़ीरोजीपीटी को पाठ का विश्लेषण करने दिया - इसने चिह्नित किया कि पाठ 100% एआई-जनरेटेड था।
निष्पक्षता से कहें तो, मैं इस परिणाम का लक्ष्य बना रहा था। मैंने पाठ को सामान्य रखा और "बिक्री" भाषा का उपयोग किया। लेकिन यह बात कि इसे किसी इंसान ने लिखा है, आज भी उतनी ही मान्य है। यह कोई असुविधा या ऐसी चीज़ नहीं है जिसे यूं ही नज़रअंदाज कर दिया जाए। इस तरह की त्रुटियाँ लेखकों, छात्रों और लिखित रचनाएँ बनाने वाले अन्य पेशेवरों पर गंभीर प्रभाव डाल सकती हैं।
परीक्षण तीन: फिक्शन पर जीरोजीपीटी का परीक्षण
तीसरे परीक्षण के लिए, हम ChatGPT का उपयोग करने जा रहे हैं और उसे कुछ काल्पनिक कथाएँ लिखने के लिए कहेंगे। ऐसा करने के लिए, हमने एक परिदृश्य बनाया और चैटजीपीटी को एक काल्पनिक कहानी का संक्षिप्त परिचय लिखने के लिए प्रेरित किया।
हमने इसे सरल रखा और रेलवे प्लेटफॉर्म पर मिलने वाले दो अजनबियों के बारे में एक कहानी का परिचय लिखने के लिए कहा:
और यहाँ ZeroGPT की प्रतिक्रिया थी:
जैसा कि परिणाम से स्पष्ट है, ज़ीरोजीपीटी कल्पना से निपटते समय कल्पना से तथ्य बताने में असमर्थ है!
टेस्ट चार: समाचार लेख
हमारे आस-पास की दुनिया में क्या हो रहा है, इसके बारे में एआई द्वारा हमें सूचित करने में सक्षम होने के बारे में कुछ परेशान करने वाली बात है। जरूरी नहीं कि यह हमेशा "फर्जी समाचार" हो, क्योंकि यह प्रासंगिक और सूचनाप्रद हो सकता है, लेकिन हैं भी एआई के बारे में निश्चित नैतिक चिंताएँ.
ज़ीरोजीपीटी के प्रति निष्पक्ष रहें, तो उसने इस परीक्षण में अच्छा प्रदर्शन किया। हमने चैटजीपीटी और बिंग चैट से कई विषयों पर समाचार लेख लिखने के लिए कहा, और ज़ीरोजीपीटी ने हर बार इसमें सफलता हासिल की। नीचे दिए गए उदाहरण से पता चलता है कि बिंग चैट-जनरेटेड लेख को 100% एआई-जनरेटेड होने की सही घोषणा की गई है।
टूल ने लगातार प्रत्येक समाचार लेख को एआई-जनरेटेड के रूप में चिह्नित किया कि हमने इसे एक डमी समाचार लेख पर परीक्षण करने का निर्णय लिया जो हमने इस उद्देश्य के लिए लिखा था।
इसने कम से कम कुछ लेखों को मानव-जनित के रूप में पहचाना, लेकिन इसने 70% से अधिक को एआई-जनित के रूप में चिह्नित किया। फिर, हमें यहां निष्पक्ष रहने की जरूरत है; यह बिंग लेख का काफी बुनियादी री-हैश था और शायद ही पुलित्जर पुरस्कार गुणवत्ता वाला था।
लेकिन बात वाजिब है. यह इंटरनेट पर पाए गए शोध का उपयोग करके एक मानव द्वारा लिखा गया था।
ZeroGPT जैसे टूल में खामियों के पीछे कोई एक कारण नहीं है। हालाँकि, एक मूलभूत समस्या जेनरेटिव एआई चैटबॉट्स की प्रभावशीलता है। ये एक अविश्वसनीय रूप से शक्तिशाली और तेजी से विकसित होने वाली तकनीक का प्रतिनिधित्व करते हैं जो प्रभावी रूप से उन्हें एआई डिटेक्शन टूल के लिए एक गतिशील लक्ष्य बनाती है।
एआई चैटबॉट लगातार अपने आउटपुट की गुणवत्ता और "मानवीयता" में सुधार कर रहे हैं, और यह कार्य को बेहद चुनौतीपूर्ण बनाता है। हालाँकि, कठिनाइयों की परवाह किए बिना, समीकरण के एआई पक्ष को मानवीय निरीक्षण के बिना निर्णय लेना चाहिए।
ZeroGPT जैसे उपकरण अपना निर्धारण करने के लिए AI का उपयोग करते हैं। लेकिन एआई सिर्फ सुबह उठकर यह नहीं जानता कि क्या करना है। इसे प्रशिक्षित करना होगा, और यहीं पर समीकरण का तकनीकी पक्ष प्रासंगिक हो जाता है।
इसके विशाल आकार को देखते हुए एल्गोरिथम और प्रशिक्षण-डेटा पूर्वाग्रह अपरिहार्य हैं बड़े भाषा मॉडल जिन पर इन उपकरणों को प्रशिक्षित किया जाता है. यह ऐसी समस्या नहीं है जो एआई-डिटेक्शन टूल तक ही सीमित है, वही पूर्वाग्रह एआई चैटबॉट उत्पन्न करने का कारण बन सकते हैं ग़लत प्रतिक्रियाएँ और AI मतिभ्रम.
हालाँकि, ये त्रुटियाँ पहचान उपकरणों में गलत "एआई फ़्लैग" के रूप में प्रकट होती हैं। यह शायद ही आदर्श है, लेकिन यह एआई प्रौद्योगिकी की वर्तमान स्थिति का प्रतिबिंब है। प्रशिक्षण डेटा में निहित पूर्वाग्रह गलत सकारात्मक या गलत नकारात्मक परिणाम दे सकते हैं।
एक अन्य कारक जिस पर विचार किया जाना चाहिए वह यह है कि एआई-जनित सामग्री का गठन क्या होता है। यदि AI-जनित सामग्री को केवल पुनः शब्दों में लिखा जाता है, तो क्या यह मानव या AI-जनित सामग्री है? यह एक और बड़ी चुनौती का प्रतिनिधित्व करता है - दोनों के बीच की रेखाओं का धुंधला होना मशीन-निर्मित सामग्री को परिभाषित करना लगभग असंभव बना देता है।
एआई डिटेक्शन के भविष्य की तलाश में
ऐसा लग सकता है जैसे हम ज़ीरोजीपीटी जैसे टूल को ख़त्म कर रहे हैं। यह मामला नहीं है; उन्हें भारी चुनौतियों का सामना करना पड़ता है, और प्रौद्योगिकी डायपर से मुश्किल से ही बाहर है। चैटजीपीटी जैसे टूल के तेजी से उपयोग ने एआई डिटेक्शन की मांग पैदा कर दी है, और प्रौद्योगिकी को परिपक्व होने और सीखने का मौका दिया जाना चाहिए।
इन उपकरणों से चैटबॉट्स द्वारा उत्पन्न चुनौतियों का अकेले सामना करने की उम्मीद नहीं की जा सकती है। लेकिन वे एआई की चुनौतियों से निपटने के लिए ठोस और बहुमुखी प्रयास में महत्वपूर्ण भूमिका निभा सकते हैं। वे एक बड़ी पहेली के एक टुकड़े का प्रतिनिधित्व करते हैं जिसमें नैतिक एआई प्रथाएं, मानव निरीक्षण और चल रहे अनुसंधान और विकास शामिल हैं।
इन उपकरणों के सामने आने वाली चुनौतियाँ उन चुनौतियों की दर्पण छवियां हैं जिनका समाज सामना करता है क्योंकि हम एक नए तकनीकी युग से जुड़ी दुविधाओं से जूझ रहे हैं।
एआई या एआई नहीं? वही वह सवाल है
ZeroGPT जैसे उपकरण त्रुटिपूर्ण हैं, इसमें कोई संदेह नहीं है। लेकिन वे बेकार नहीं हैं, और जब हम एआई को प्रबंधित और विनियमित करने का प्रयास कर रहे हैं तो वे एक महत्वपूर्ण कदम का प्रतिनिधित्व करते हैं। उनकी सटीकता में सुधार होगा, लेकिन जिस एआई का पता लगाने के लिए उन्हें प्रशिक्षित किया गया है उसकी परिष्कृतता में भी सुधार होगा। हथियारों की इस दौड़ के बीच में, हमें एक ऐसा संतुलन खोजने की ज़रूरत है जिसमें समाज सहज हो।
प्रश्न- एआई या एआई नहीं? यह केवल इस चर्चा से कहीं अधिक है कि कोई चीज़ AI-जनित है या नहीं। यह उन बड़े सवालों का संकेत है जिनका समाज सामना कर रहा है क्योंकि हम एआई की साहसी नई दुनिया को अपना रहे हैं।
रिकॉर्ड के लिए, और ज़ीरोजीपीटी के अनुसार, इस निष्कर्ष का 27.21% एआई-जनित था। हम्म।