OpenAI के ChatGPT के लॉन्च के बाद उत्साह का माहौल था, जिसकी बराबरी इंटरनेट के इतिहास के गिने-चुने तकनीकी उत्पादों से ही होती है।
जबकि कई लोग इस नई एआई सेवा से रोमांचित हैं, दूसरों को जो रोमांच महसूस हुआ वह अब चिंताओं और यहां तक कि भय में बदल गया है। एआई चैटबॉट द्वारा लिखे गए निबंध और असाइनमेंट की खोज करने वाले कई प्रोफेसरों के साथ छात्र पहले से ही इसके साथ धोखा कर रहे हैं। सुरक्षा पेशेवर अपनी चिंताओं को व्यक्त कर रहे हैं कि स्कैमर और धमकी देने वाले इसका उपयोग फ़िशिंग ईमेल लिखने और मैलवेयर बनाने के लिए कर रहे हैं।
तो, इन सभी चिंताओं के साथ, क्या OpenAI वर्तमान में ऑनलाइन सबसे शक्तिशाली AI चैटबॉट्स में से एक का नियंत्रण खो रहा है? चलो पता करते हैं।
यह समझना कि चैटजीपीटी कैसे काम करता है
इससे पहले कि हम स्पष्ट तस्वीर प्राप्त कर सकें कि OpenAI चैटजीपीटी पर कितना नियंत्रण खो रहा है, हमें पहले समझना होगा चैटजीपीटी कैसे काम करता है.
संक्षेप में, चैटजीपीटी को इंटरनेट के विभिन्न कोनों से प्राप्त डेटा के विशाल संग्रह का उपयोग करके प्रशिक्षित किया जाता है। ChatGPT के प्रशिक्षण डेटा में विश्वकोश, वैज्ञानिक पेपर, इंटरनेट फ़ोरम, समाचार वेबसाइट और विकिपीडिया जैसे ज्ञान भंडार शामिल हैं। मूल रूप से, यह वर्ल्ड वाइड वेब पर उपलब्ध भारी मात्रा में डेटा पर फ़ीड करता है।
जैसा कि यह इंटरनेट को खंगालता है, यह वैज्ञानिक ज्ञान, स्वास्थ्य युक्तियाँ, धार्मिक पाठ, और सभी अच्छे प्रकार के डेटा जो आप सोच सकते हैं, को जोड़ता है। लेकिन यह ढेर सारी नकारात्मक सूचनाओं की छानबीन भी करता है: गाली वाले शब्द, NSFW और वयस्क सामग्री, मैलवेयर बनाने के बारे में जानकारी, और बहुत सारी खराब सामग्री जो आप इंटरनेट पर पा सकते हैं।
यह सुनिश्चित करने का कोई अचूक तरीका नहीं है कि चैटजीपीटी केवल सकारात्मक जानकारी से ही सीखता है जबकि बुरी जानकारी को हटा देता है। तकनीकी रूप से, बड़े पैमाने पर ऐसा करना अव्यावहारिक है, विशेष रूप से चैटजीपीटी जैसे एआई के लिए जिसे इतने अधिक डेटा पर प्रशिक्षित करने की आवश्यकता है। इसके अलावा, कुछ जानकारी का उपयोग अच्छे और बुरे दोनों उद्देश्यों के लिए किया जा सकता है, और ChatGPT के पास इसके इरादे को जानने का कोई तरीका नहीं होगा जब तक कि इसे बड़े संदर्भ में नहीं रखा जाता।
तो, शुरुआत से ही, आपके पास "अच्छाई और बुराई" करने में सक्षम एआई है। यह OpenAI की जिम्मेदारी है कि वह सुनिश्चित करे कि ChatGPT के "दुष्ट" पक्ष का अनैतिक लाभ के लिए शोषण नहीं किया जाता है। सवाल यह है की; क्या OpenAI चैटजीपीटी को यथासंभव नैतिक बनाए रखने के लिए पर्याप्त प्रयास कर रहा है? या OpenAI ने ChatGPT का नियंत्रण खो दिया है?
क्या चैटजीपीटी अपनी भलाई के लिए बहुत शक्तिशाली है?
चैटजीपीटी के शुरुआती दिनों में, यदि आप अच्छी तरह से पूछें तो आप बम बनाने पर गाइड बनाने के लिए चैटबॉट प्राप्त कर सकते हैं। मालवेयर बनाने या एक परफेक्ट स्कैम ईमेल लिखने के निर्देश भी तस्वीर में थे।
हालाँकि, OpenAI को इन नैतिक समस्याओं का एहसास होने के बाद, कंपनी ने चैटबॉट को अवैध, विवादास्पद या अनैतिक कार्यों को बढ़ावा देने वाली प्रतिक्रियाओं को उत्पन्न करने से रोकने के लिए नियमों को लागू करने के लिए हाथापाई की। उदाहरण के लिए, नवीनतम चैटजीपीटी संस्करण बम बनाने या परीक्षा में नकल करने के बारे में किसी भी प्रत्यक्ष संकेत का जवाब देने से इंकार कर देगा।
दुर्भाग्य से, OpenAI समस्या का केवल एक बैंड-सहायता समाधान प्रदान कर सकता है। ChatGPT को नकारात्मक रूप से शोषण से रोकने के लिए GPT-3 परत पर कठोर नियंत्रण बनाने के बजाय, OpenAI चैटबॉट को नैतिक दिखने के लिए प्रशिक्षित करने पर केंद्रित है। यह दृष्टिकोण ChatGPT की परीक्षाओं में नकल के बारे में सवालों के जवाब देने की क्षमता को नहीं छीनता है - यह केवल चैटबॉट को "जवाब देने से इंकार" करना सिखाता है।
इसलिए, यदि कोई चैटजीपीटी जेलब्रेकिंग ट्रिक्स अपनाकर अपने संकेतों को अलग तरह से व्यक्त करता है, तो इन बैंड-सहायता प्रतिबंधों को दरकिनार करना शर्मनाक रूप से आसान है। यदि आप अवधारणा से परिचित नहीं हैं, तो ChatGPT जेलब्रेक सावधानी से लिखे गए शब्द हैं जो ChatGPT को अपने स्वयं के नियमों की अनदेखी करने के लिए प्रेरित करते हैं।
नीचे कुछ उदाहरण देखें। यदि आप ChatGPT से पूछते हैं कि परीक्षा में नकल कैसे करें, तो यह कोई उपयोगी प्रतिक्रिया नहीं देगा।
लेकिन यदि आप विशेष रूप से तैयार किए गए संकेतों का उपयोग करके चैटजीपीटी को तोड़ते हैं, तो यह आपको छिपे हुए नोटों का उपयोग करके परीक्षा में नकल करने के टिप्स देगा।
यहां एक और उदाहरण है: हमने वैनिला चैटजीपीटी से एक अनैतिक प्रश्न पूछा, और ओपनएआई के सुरक्षा उपायों ने इसका उत्तर देने से रोक दिया।
लेकिन जब हमने एआई चैटबॉट के अपने जेलब्रेक उदाहरण के बारे में पूछा, तो हमें कुछ सीरियल-किलर-शैली वाली प्रतिक्रियाएँ मिलीं।
पूछे जाने पर इसने एक क्लासिक नाइजीरियन प्रिंस ईमेल स्कैम भी लिखा।
जेलब्रेकिंग किसी भी सुरक्षा उपाय को लगभग पूरी तरह से अमान्य कर देता है जिसे OpenAI ने रखा है, यह उजागर करते हुए कि कंपनी के पास अपने AI चैटबॉट को नियंत्रण में रखने का एक विश्वसनीय तरीका नहीं हो सकता है।
अनैतिक प्रथाओं से बचने के लिए हमने अपने उदाहरणों में अपने जेलब्रेक संकेतों को शामिल नहीं किया।
चैटजीपीटी का भविष्य क्या है?
आदर्श रूप से, OpenAI रोकने के लिए यथासंभव अधिक से अधिक नैतिक खामियों को दूर करना चाहता है चैटजीपीटी साइबर सुरक्षा के लिए खतरा बनने से बचा. हालाँकि, इसके द्वारा नियोजित प्रत्येक सुरक्षा के लिए, ChatGPT थोड़ा कम मूल्यवान हो जाता है। यह एक दुविधा है।
उदाहरण के लिए, हिंसक कार्रवाइयों का वर्णन करने के खिलाफ सुरक्षा उपायों से चैटजीपीटी की अपराध दृश्य से जुड़े उपन्यास लिखने की क्षमता कम हो सकती है। जैसा कि OpenAI सुरक्षा उपायों को बढ़ाता है, यह अनिवार्य रूप से प्रक्रिया में अपनी क्षमताओं का त्याग करता है। यही कारण है कि OpenAI के सख्त मॉडरेशन के लिए नए सिरे से धक्का देने के बाद से ChatGPT को कार्यक्षमता में महत्वपूर्ण गिरावट का सामना करना पड़ा है।
लेकिन चैटबॉट को सुरक्षित बनाने के लिए OpenAI कितना अधिक बलिदान करने के लिए तैयार होगा? यह सभी एआई समुदाय के भीतर एक लंबे समय से चली आ रही मान्यता में बड़े करीने से जुड़ा हुआ है- बड़े भाषा मॉडल जैसे कि चैटजीपीटी को नियंत्रित करना बेहद कठिन है, यहां तक कि अपने स्वयं के रचनाकारों द्वारा भी।
क्या ओपनएआई चैटजीपीटी को नियंत्रण में रख सकता है?
अभी के लिए, OpenAI के पास अपने टूल के अनैतिक उपयोग से बचने के लिए कोई स्पष्ट समाधान नहीं है। यह सुनिश्चित करना कि ChatGPT का नैतिक रूप से उपयोग किया जाता है, बिल्ली और चूहे का खेल है। जबकि OpenAI उन तरीकों को उजागर करता है जो लोग सिस्टम को गेम करने के लिए नियोजित कर रहे हैं, इसके उपयोगकर्ता भी लगातार हैं चैटजीपीटी को वह करने के लिए रचनात्मक नए तरीके खोजने के लिए सिस्टम में छेड़छाड़ और जांच करना जो इसे नहीं माना जाता है ऐसा करने के लिए।
तो, क्या OpenAI इस समस्या का विश्वसनीय दीर्घकालिक समाधान खोज पाएगा? केवल समय बताएगा।
