आज, चैटजीपीटी पर एक सहायक संसाधन के रूप में लाखों लोग भरोसा करते हैं, चाहे वह काम, मौज-मस्ती या शिक्षा के लिए हो। लेकिन क्या आप तथ्यों को प्रदान करने के लिए इस एआई चैटबॉट पर भरोसा कर सकते हैं? क्या चैटजीपीटी कभी झूठ बोलता है, या यह केवल आपको तथ्यात्मक जानकारी देगा?

चैटजीपीटी को इसकी जानकारी कहां से मिलती है?

अपनी प्रशिक्षण अवधि में, चैटजीपीटी को वेब के स्रोतों से डेटा फीड किया गया था, जैसे कि सरकार और एजेंसी की वेबसाइटें, वैज्ञानिक पत्रिकाएँ, अध्ययन, समाचार लेख, पॉडकास्ट, ऑनलाइन फ़ोरम, पुस्तकें, डेटाबेस, फ़िल्में, वृत्तचित्र और सामाजिक मीडिया।

विशेष रूप से, चैटजीपीटी-3 को सूचना के एक व्यापक डेटाबेस का उपयोग करके प्रशिक्षित किया गया था जिसकी मात्रा 570GB डेटा थी। जैसा कि से एक लेख में कहा गया है विज्ञान फोकसइसके विकास के दौरान GPT-3 सिस्टम में 300 अरब शब्दों की जानकारी डाली गई थी।

यहाँ ध्यान देने योग्य बात यह है कि ChatGPT को केवल 2021 से पहले मौजूद डेटा को फीड किया गया है। इसका अर्थ है कि चैटबॉट हाल की घटनाओं से संबंधित प्रश्नों का उत्तर नहीं दे सकता। ChatGPT की इंटरनेट तक पहुंच भी नहीं है। प्रशिक्षण में इसे दिया गया डेटा एकमात्र प्रकार है जिसका उपयोग यह उपयोगकर्ता के संकेतों को पूरा करने के लिए करता है।

instagram viewer

लेकिन क्या चैटजीपीटी आपको केवल तथ्य प्रदान कर रहा है, या इसके जवाबों में कुछ और अस्पष्ट जानकारी मिली हुई है? इसके अतिरिक्त, क्या चैटजीपीटी आपसे झूठ बोल सकता है?

क्या चैटजीपीटी झूठ बोलता है?

जबकि चैटजीपीटी अक्सर उपयोगकर्ताओं को सच्ची जानकारी प्रदान करता है, इसमें "झूठ" करने की क्षमता होती है। बेशक, चैटजीपीटी दुर्भावनापूर्ण रूप से उपयोगकर्ताओं से झूठ बोलने का फैसला नहीं करता है, क्योंकि यह ऐसा नहीं कर सकता है। आखिरकार, चैटजीपीटी एक भाषा-प्रसंस्करण उपकरण है, न कि किसी वास्तविक, संवेदनशील व्यक्ति की नकल।

हालाँकि, चैटजीपीटी तकनीकी रूप से अभी भी एआई मतिभ्रम के रूप में जानी जाने वाली घटना के माध्यम से झूठ बोल सकता है।

एआई मतिभ्रम ऐसी जानकारी प्रदान करने वाली एआई प्रणाली शामिल है जो उचित या प्रशंसनीय लगती है लेकिन वास्तव में यह बिल्कुल भी सच नहीं है। वास्तव में, एआई मतिभ्रम यह जानकारी प्रदान कर सकता है कि इसकी प्रशिक्षण अवधि के दौरान इसे कभी नहीं खिलाया गया था। वैकल्पिक रूप से, यह तब हो सकता है जब एआई सिस्टम संकेत या अनुरोध से संबंधित जानकारी प्रदान करता है। मतिभ्रम की घटना में एक एआई प्रणाली मानव होने का दावा भी कर सकती है।

एआई सिस्टम, जैसे कि चैटबॉट, कई कारणों से मतिभ्रम के जाल में पड़ जाते हैं: उनकी वास्तविक दुनिया की समझ की कमी, सॉफ्टवेयर बग और प्रदान किए गए डेटा पर सीमाएं।

जैसा कि पहले कहा गया था, चैटजीपीटी केवल 2021 तक प्रकाशित डेटा का उपयोग करके जानकारी प्रदान कर सकता है, जो निश्चित रूप से सीमित करता है कि यह किस प्रकार के संकेतों को पूरा कर सकता है।

में से एक चैटजीपीटी की बड़ी समस्याएं यह है कि यह उपयोगकर्ताओं को जानकारी देते समय पक्षपात का शिकार भी हो सकता है। यहां तक ​​कि चैटजीपीटी के रचनाकारों ने कहा है कि एआई प्रणाली अतीत में "राजनीतिक रूप से पक्षपाती, आक्रामक" और "अन्यथा आपत्तिजनक" रही है। जैसा कि द्वारा बताया गया है स्वतंत्र, ChatGPT के डेवलपर इस समस्या से निपटने के लिए प्रतिबद्ध हैं, लेकिन इसका मतलब यह नहीं है कि इसमें अब कोई जोखिम नहीं है।

पूछे जाने पर, चैटजीपीटी ने कहा कि गलत जानकारी प्रदान करने के कारणों में निम्नलिखित शामिल हैं:

  • प्रश्न में अस्पष्टता (अस्पष्ट, अस्पष्ट संकेत);
  • अधूरी जानकारी दी गई;
  • प्रदान की गई पक्षपाती या गलत जानकारी; या,
  • तकनीकी सीमाएँ (मुख्य रूप से वर्तमान डेटा तक पहुँच की कमी के कारण)।

इसलिए, चैटजीपीटी ने स्वयं कहा कि ऐसे परिदृश्य हैं जिनमें यह उपयोगकर्ताओं को सटीक जानकारी प्रदान नहीं करेगा।

उसी बातचीत में एक अन्य प्रतिक्रिया में, चैटजीपीटी ने कहा कि "किसी भी जानकारी [यह प्रदान करता है] को अन्य स्रोतों के साथ सत्यापित करना हमेशा एक अच्छा विचार है।"

क्या आप चैटजीपीटी पर भरोसा कर सकते हैं?

क्योंकि यह गलत जानकारी प्रदान कर सकता है, आप स्पष्ट रूप से चैटजीपीटी पर भरोसा नहीं कर सकते 100% समय।

आप एआई चैटबॉट के मतिभ्रम के जोखिम को कम कर सकते हैं, इसके बारे में विशिष्ट पैरामीटर सेट करके कि यह आपको कैसे जवाब दे सकता है। हालाँकि, अभी भी इस बात की कोई गारंटी नहीं है कि कुछ झूठी जानकारी दरार से नहीं निकल पाएगी।

इस वजह से, चैटजीपीटी द्वारा आपको दी जाने वाली किसी भी जानकारी की जांच करना सबसे अच्छा है, खासकर यदि आप हाल की घटनाओं के बारे में जानकारी का अनुरोध कर रहे हैं। अन्य स्रोतों का हवाला देकर इस डेटा की दोबारा जांच करने से आपको यह निर्धारित करने में मदद मिल सकती है कि क्या चैटजीपीटी जो कह रहा है उसमें सही है और आपको गलत निर्णय लेने से रोक सकता है।

चैटजीपीटी उपयोगी है लेकिन हमेशा सत्य नहीं

दुर्भाग्य से, आप 100% समय पर सच्ची, निष्पक्ष जानकारी प्रदान करने के लिए ChatGPT पर भरोसा नहीं कर सकते। यह एआई-संचालित चैटबॉट निर्विवाद रूप से मददगार है और विभिन्न तरीकों से आपकी मदद कर सकता है, लेकिन यह हमेशा सत्यापित करने लायक है कि यह जो जानकारी प्रदान करता है वह तथ्यात्मक है या नहीं।