ChatGPT एक शक्तिशाली नया AI चैटबॉट है जो प्रभावित करने में तेज है, फिर भी बहुत से लोगों ने बताया है कि इसमें कुछ गंभीर नुकसान हैं। आप जो चाहें उससे पूछें, और आपको एक उत्तर मिलेगा जो ऐसा लगता है जैसे यह किसी मानव द्वारा लिखा गया हो, इंटरनेट पर बड़ी मात्रा में जानकारी से अपना ज्ञान और लेखन कौशल सीखा है।
इंटरनेट की तरह, हालांकि, सच्चाई और तथ्य हमेशा दिए गए नहीं होते हैं और ChatGPT गलत होने के लिए दोषी है। चैटजीपीटी हमारे भविष्य को बदलने के लिए तैयार है, यहां कुछ सबसे बड़ी चिंताएं हैं।
चैटजीपीटी क्या है?
ChatGPT भाषा सीखने का एक बड़ा मॉडल है जिसे मानव वार्तालाप की नकल करने के लिए डिज़ाइन किया गया था। यह आपके द्वारा अतीत में कही गई बातों को याद रख सकता है और गलत होने पर खुद को सही करने में सक्षम है।
यह मानवीय तरीके से लिखता है और इसके पास ज्ञान का खजाना है क्योंकि इसे इंटरनेट से सभी प्रकार के पाठों पर प्रशिक्षित किया गया था, जैसे कि विकिपीडिया, ब्लॉग पोस्ट, किताबें और अकादमिक लेख।
सीखना आसान है चैटजीपीटी का उपयोग कैसे करें, लेकिन जो अधिक चुनौतीपूर्ण है वह यह पता लगाना है कि इसकी सबसे बड़ी समस्याएं क्या हैं। यहां कुछ ऐसे हैं जो जानने लायक हैं।
1. चैटजीपीटी हमेशा सही नहीं होता है
यह बुनियादी गणित में विफल रहता है, सरल तर्क प्रश्नों का उत्तर नहीं दे सकता है, और यहाँ तक कि पूरी तरह से गलत तथ्यों पर बहस करने के लिए भी जाएगा। जैसा कि सोशल मीडिया यूजर्स अटेस्ट कर सकते हैं, चैटजीपीटी एक से अधिक मौकों पर इसे गलत कर सकता है।
ओपनएआई इस सीमा के बारे में जानता है, यह लिखते हुए कि: "ChatGPT कभी-कभी विश्वसनीय लगने वाले लेकिन गलत या निरर्थक उत्तर लिखता है।" यह तथ्य और कल्पना का "मतिभ्रम", जैसा कि कुछ वैज्ञानिक इसे कहते हैं, विशेष रूप से खतरनाक है जब यह चिकित्सा जैसी किसी चीज़ की बात आती है सलाह।
सिरी या एलेक्सा जैसे अन्य एआई सहायकों के विपरीत, चैट जीपीटी उत्तर खोजने के लिए इंटरनेट का उपयोग नहीं करता है। इसके बजाय, यह अपने प्रशिक्षण के आधार पर, सबसे संभावित "टोकन" का चयन करते हुए, शब्द द्वारा एक वाक्य शब्द का निर्माण करता है।
दूसरे शब्दों में, ChatGPT अनुमानों की एक श्रृंखला बनाकर एक उत्तर पर पहुंचता है, जो इस कारण का हिस्सा है कि यह गलत उत्तरों पर बहस कर सकता है जैसे कि वे पूरी तरह से सच हों।
हालांकि यह जटिल अवधारणाओं की व्याख्या करने में बहुत अच्छा है, इसे सीखने के लिए एक शक्तिशाली उपकरण बनाता है, लेकिन यह महत्वपूर्ण है कि इसमें कही गई हर बात पर विश्वास न किया जाए। ChatGPT हमेशा सही नहीं होता—कम से कम अभी तक नहीं।
2. पूर्वाग्रह सिस्टम में बेक किया गया है
ChatGPT को दुनिया भर में, अतीत और वर्तमान में मनुष्यों के सामूहिक लेखन पर प्रशिक्षित किया गया था। इसका मतलब यह है कि डेटा में मौजूद वही पूर्वाग्रह मॉडल में भी दिखाई दे सकते हैं।
वास्तव में, उपयोगकर्ताओं ने दिखाया है कि कैसे चैटजीपीटी कुछ भयानक जवाब दे सकता है, उदाहरण के लिए, कुछ, जो महिलाओं के खिलाफ भेदभाव करते हैं। लेकिन वह सिर्फ हिमशैल का सिरा है; यह उन उत्तरों का उत्पादन कर सकता है जो कई अल्पसंख्यक समूहों के लिए अत्यंत हानिकारक हैं।
दोष केवल आंकड़ों में ही नहीं है। OpenAI के शोधकर्ता और डेवलपर चैटजीपीटी को प्रशिक्षित करने के लिए उपयोग किए जाने वाले डेटा को चुनते हैं। ओपनएआई जिसे "पक्षपाती व्यवहार" कहता है, उसे संबोधित करने में सहायता के लिए, यह उपयोगकर्ताओं को खराब आउटपुट पर प्रतिक्रिया देने के लिए कह रहा है।
लोगों को नुकसान पहुँचाने की क्षमता के साथ, आप यह तर्क दे सकते हैं कि इन समस्याओं का अध्ययन और समाधान किए जाने से पहले ChatGPT को जनता के लिए जारी नहीं किया जाना चाहिए था।
स्पैरो (Google की मूल कंपनी, अल्फाबेट के स्वामित्व वाली) नामक एक समान एआई चैटबॉट को सितंबर 2022 में जारी किया गया था। हालांकि, इसे इसी तरह की चिंताओं के कारण बंद दरवाजों के पीछे रखा गया था कि इससे नुकसान हो सकता है।
शायद मेटा को भी चेतावनी का नेतृत्व करना चाहिए था। जब इसने गैलेक्टिका को जारी किया, एक एआई भाषा मॉडल जो अकादमिक पेपर पर प्रशिक्षित था, तो कई लोगों द्वारा गलत और पक्षपाती परिणाम देने के लिए इसकी आलोचना करने के बाद इसे तेजी से याद किया गया।
3. हाई स्कूल अंग्रेजी के लिए एक चुनौती
आप ChatGPT से अपने लेखन को प्रूफ़रीड करने के लिए कह सकते हैं या यह बता सकते हैं कि किसी पैराग्राफ़ को कैसे सुधारा जाए। वैकल्पिक रूप से, आप अपने आप को पूरी तरह से समीकरण से हटा सकते हैं और चैटजीपीटी को आपके लिए कुछ लिखने के लिए कह सकते हैं।
शिक्षकों ने चैटजीपीटी को अंग्रेजी असाइनमेंट फीड करने का प्रयोग किया है और उन्हें ऐसे उत्तर मिले हैं जो उनके कई छात्रों की तुलना में बेहतर हैं। साहित्य के एक प्रसिद्ध कार्य में कवर लेटर लिखने से लेकर प्रमुख विषयों का वर्णन करने तक, ChatGPT बिना किसी हिचकिचाहट के कर सकता है।
यह सवाल उठता है: अगर चैटजीपीटी हमारे लिए लिख सकता है, तो क्या छात्रों को भविष्य में लिखना सीखना होगा? यह एक अस्तित्वगत प्रश्न की तरह लग सकता है, लेकिन जब छात्र अपने निबंध लिखने में सहायता के लिए चैटजीपीटी का उपयोग करना शुरू करते हैं, तो स्कूलों को तेजी से उत्तर के बारे में सोचना होगा। हाल के वर्षों में एआई की तेजी से तैनाती ने कई उद्योगों को झटका दिया है, और शिक्षा उनमें से सिर्फ एक है।
4. यह वास्तविक दुनिया को नुकसान पहुंचा सकता है
इससे पहले, हमने उल्लेख किया था कि कैसे चैटजीपीटी द्वारा गलत जानकारी वास्तविक दुनिया को नुकसान पहुंचा सकती है, सबसे स्पष्ट उदाहरण गलत चिकित्सा सलाह है।
अन्य चिंताएँ भी हैं। नकली सोशल मीडिया अकाउंट्स इंटरनेट पर एक बड़ी समस्या पैदा करते हैं और एआई चैटबॉट्स की शुरुआत के साथ, इंटरनेट स्कैम्स को अंजाम देना आसान हो जाएगा। फर्जी सूचनाओं का प्रसार एक और चिंता का विषय है, खासकर तब जब चैटजीपीटी गलत जवाबों को भी सही साबित करता है।
वह दर जिस पर चैटजीपीटी उन उत्तरों का उत्पादन कर सकता है जो हमेशा सही नहीं होते हैं, स्टैक एक्सचेंज के लिए पहले से ही समस्याएं पैदा कर चुका है, एक ऐसी वेबसाइट जहां उपयोगकर्ता प्रश्न पोस्ट कर सकते हैं और उत्तर प्राप्त कर सकते हैं।
इसके जारी होने के तुरंत बाद, बड़ी संख्या में गलत होने के कारण चैटजीपीटी द्वारा उत्तरों को साइट से प्रतिबंधित कर दिया गया था। बैकलॉग को छाँटने के लिए पर्याप्त मानव स्वयंसेवकों के बिना, उच्च स्तर के गुणवत्ता वाले उत्तरों को बनाए रखना असंभव होगा, जिससे वेबसाइट को नुकसान होगा।
5. OpenAI में सारी शक्ति है
बड़ी शक्ति के साथ बड़ी जिम्मेदारी आती है, और OpenAI में बहुत शक्ति होती है। यह पहली एआई कंपनियों में से एक है जिसने दुनिया को वास्तव में एक नहीं, बल्कि कई एआई मॉडल के साथ हिला दिया है, जिसमें डल-ई 2, जीपीटी-3 और अब चैटजीपीटी शामिल हैं।
OpenAI चुनता है कि ChatGPT को प्रशिक्षित करने के लिए किस डेटा का उपयोग किया जाता है और यह नकारात्मक परिणामों से कैसे निपटता है। हम तरीकों से सहमत हों या न हों, यह इस तकनीक को अपने लक्ष्यों के अनुसार विकसित करना जारी रखेगा।
जबकि OpenAI सुरक्षा को एक उच्च प्राथमिकता मानता है, बहुत कुछ ऐसा है जिसके बारे में हम नहीं जानते कि मॉडल कैसे बनाए जाते हैं। क्या आपको लगता है कि कोड को ओपन सोर्स बनाया जाना चाहिए, या सहमत हैं कि इसे इसके कुछ हिस्सों को गुप्त रखना चाहिए, हम इसके बारे में बहुत कुछ नहीं कर सकते हैं।
दिन के अंत में, हम केवल यह भरोसा कर सकते हैं कि OpenAI जिम्मेदारी से ChatGPT का अनुसंधान, विकास और उपयोग करेगा। वैकल्पिक रूप से, हम और अधिक लोगों के कहने की वकालत कर सकते हैं कि एआई को किस दिशा में जाना चाहिए, एआई की शक्ति को उन लोगों के साथ साझा करना चाहिए जो इसका उपयोग करेंगे।
यदि आप रुचि रखते हैं कि OpenAI ने और क्या विकसित किया है, तो हमारे लेख देखें डल-ई 2 का उपयोग कैसे करें और GPT-3 का उपयोग कैसे करें.
एआई की सबसे बड़ी समस्याओं से निपटना
चैटजीपीटी, ओपनएआई के नवीनतम विकास के बारे में उत्साहित होने के लिए बहुत कुछ है। लेकिन इसके तत्काल उपयोग से परे कुछ गंभीर समस्याएं हैं जो समझने लायक हैं।
OpenAI स्वीकार करता है कि ChatGPT हानिकारक और पक्षपाती उत्तर दे सकता है, तथ्य को कल्पना के साथ मिलाने की क्षमता का उल्लेख नहीं करता है। इस तरह की नई तकनीक के साथ, यह भविष्यवाणी करना मुश्किल है कि और कौन सी समस्याएं उत्पन्न होंगी। तो तब तक, ChatGPT को एक्सप्लोर करने का आनंद लें और सावधान रहें कि इसमें कही गई हर बात पर विश्वास न करें।
