क्या ChatGPT उपयोगकर्ता की बातचीत से सीखता है?

लाखों ChatGPT उपयोगकर्ताओं के साथ, आपको आश्चर्य हो सकता है कि OpenAI अपने सभी वार्तालापों के साथ क्या करता है। क्या यह लगातार उन चीजों का विश्लेषण करता है जिनके बारे में आप चैटजीपीटी से बात करते हैं?

इसका उत्तर है, हां, चैटजीपीटी उपयोगकर्ता के इनपुट से सीखता है—लेकिन उस तरीके से नहीं जैसा कि ज्यादातर लोग सोचते हैं। यहां एक विस्तृत मार्गदर्शिका दी गई है जो यह बताती है कि चैटजीपीटी बातचीत को क्यों ट्रैक करता है, यह उनका उपयोग कैसे करता है और क्या आपकी सुरक्षा से समझौता किया जाता है।

क्या चैटजीपीटी बातचीत याद रखता है?

चैटजीपीटी अंकित मूल्य पर संकेत नहीं लेता है। यह पिछले इनपुट को याद रखने और संदर्भित करने के लिए प्रासंगिक स्मृति का उपयोग करता है, प्रासंगिक, सुसंगत प्रतिक्रिया सुनिश्चित करता है।

उदाहरण के तौर पर नीचे दी गई बातचीत को लें। जब हमने ChatGPT से रेसिपी आइडिया के बारे में पूछा, तो उसने मूंगफली एलर्जी के बारे में हमारे पिछले संदेश पर विचार किया।

यहां देखें चैटजीपीटी की सुरक्षित रेसिपी।

प्रासंगिक स्मृति एआई को बहु-चरणीय कार्यों को निष्पादित करने देती है। नीचे दी गई इमेज में दिखाया गया है कि ChatGPT नया प्रॉम्प्ट फीड करने के बाद भी कैरेक्टर में बना रहता है।

चैटजीपीटी बातचीत के दौरान दर्जनों निर्देशों को याद रख सकता है। जैसा कि आप अधिक संदर्भ प्रदान करते हैं, इसका आउटपुट वास्तव में सटीकता और सटीकता में सुधार करता है। बस सुनिश्चित करें कि आप अपने निर्देशों को स्पष्ट रूप से समझाते हैं।

आपको अपनी उम्मीदों को भी प्रबंधित करना चाहिए क्योंकि ChatGPT की प्रासंगिक स्मृति में अभी भी सीमाएँ हैं।

चैटजीपीटी बातचीत में सीमित मेमोरी क्षमता होती है

प्रासंगिक स्मृति परिमित है। ChatGPT के पास सीमित हार्डवेयर संसाधन हैं, इसलिए यह केवल वर्तमान वार्तालाप के विशिष्ट बिंदुओं तक ही याद रखता है। एक बार जब आप इसकी मेमोरी क्षमता को हिट कर लेते हैं तो प्लेटफ़ॉर्म पहले के संकेतों को भूल जाता है।

इस बातचीत में, हमने चैटजीपीटी को टॉमी नाम के एक काल्पनिक चरित्र की भूमिका निभाने का निर्देश दिया।

इसने चैटजीपीटी के बजाय टॉमी के रूप में संकेतों का जवाब देना शुरू कर दिया।

हालांकि हमारे अनुरोध ने काम किया, 1,000 शब्दों का संकेत मिलने के बाद चैटजीपीटी ने चरित्र तोड़ दिया।

OpenAI ने कभी भी ChatGPT की सटीक सीमा का खुलासा नहीं किया है, लेकिन अफवाहें कहती हैं कि यह एक बार में केवल 3,000 शब्दों को ही प्रोसेस कर सकता है। हमारे प्रयोग में, केवल 2,800+ शब्दों के बाद चैटजीपीटी खराब हो गया।

आप अपने संकेतों को 1,500 शब्दों के दो सेट में विभाजित कर सकते हैं, लेकिन संभवत: ChatGPT आपके सभी निर्देशों को बनाए नहीं रखेगा। बस पूरी तरह से एक और चैट शुरू करें। अन्यथा, आपको अपनी बातचीत के दौरान कई बार विशिष्ट विवरण दोहराना होगा।

ChatGPT केवल विषय-प्रासंगिक इनपुट को याद रखता है

ChatGPT आउटपुट सटीकता को बेहतर बनाने के लिए प्रासंगिक मेमोरी का उपयोग करता है। यह केवल जानकारी एकत्र करने के लिए जानकारी को अपने पास नहीं रखता है। प्लेटफ़ॉर्म लगभग स्वचालित रूप से अप्रासंगिक विवरणों को भूल जाता है, भले ही आप टोकन सीमा तक पहुँचने से दूर हों।

नीचे दी गई छवि में, हम एआई को विभिन्न असंगत, अप्रासंगिक निर्देशों के साथ भ्रमित करने का प्रयास करते हैं।

हमने अपने संयुक्त इनपुट को 100 शब्दों के अंतर्गत रखा, लेकिन चैटजीपीटी अभी भी हमारे पहले निर्देश को भूल गया। इसने चरित्र को जल्दी तोड़ दिया।

इस बीच, चैटजीपीटी ने इस बातचीत के दौरान भूमिका निभाई क्योंकि हमने केवल विषय-प्रासंगिक प्रश्न पूछे।

आदर्श रूप से, सटीक, प्रासंगिक आउटपुट बनाए रखने के लिए प्रत्येक संवाद को एक विलक्षण विषय का पालन करना चाहिए। आप अभी भी एक साथ कई निर्देश इनपुट कर सकते हैं। बस यह सुनिश्चित करें कि वे समग्र विषय के साथ संरेखित हों, अन्यथा ChatGPT उन निर्देशों को छोड़ सकता है जो उसे अप्रासंगिक लगते हैं।

प्रशिक्षण निर्देश उपयोगकर्ता इनपुट पर हावी हो जाते हैं

ChatGPT हमेशा उपयोगकर्ता-जनित इनपुट पर पूर्वनिर्धारित निर्देशों को प्राथमिकता देगा। यह प्रतिबंधों के माध्यम से अवैध गतिविधियों को रोकता है। प्लेटफ़ॉर्म ऐसे किसी भी संकेत को अस्वीकार करता है जो उसे खतरनाक या दूसरों के लिए हानिकारक लगता हो।

रोलप्ले अनुरोधों को उदाहरण के रूप में लें। हालांकि वे भाषा और वाक्यांशों पर कुछ सीमाओं को ओवरराइड करते हैं, आप उनका उपयोग अवैध गतिविधियों को करने के लिए नहीं कर सकते।

बेशक, सभी प्रतिबंध उचित नहीं हैं। यदि कठोर दिशा-निर्देश विशिष्ट कार्यों को निष्पादित करना चुनौतीपूर्ण बनाते हैं, तो अपने संकेतों को फिर से लिखना जारी रखें। शब्दों का चुनाव और टोन आउटपुट को बहुत प्रभावित करते हैं। आप सबसे प्रेरणा ले सकते हैं GitHub पर प्रभावी, विस्तृत संकेत.

OpenAI उपयोगकर्ता वार्तालापों का अध्ययन कैसे करता है?

प्रासंगिक स्मृति केवल आपके वर्तमान वार्तालाप पर लागू होती है। चैटजीपीटी का स्टेटलेस आर्किटेक्चर बातचीत को स्वतंत्र उदाहरणों के रूप में मानता है; यह पिछले वाले से जानकारी का संदर्भ नहीं दे सकता है। नई चैट शुरू करना हमेशा मॉडल की स्थिति को रीसेट करता है।

यह कहना नहीं है कि ChatGPT उपयोगकर्ता वार्तालापों को तुरंत समाप्त कर देता है। OpenAI के उपयोग की शर्तें बता दें कि कंपनी चैटजीपीटी और डीएएल-ई जैसी गैर-एपीआई उपभोक्ता सेवाओं से इनपुट एकत्र करती है। आप अपने चैट इतिहास की प्रतियां भी मांग सकते हैं।

जबकि चैटजीपीटी स्वतंत्र रूप से बातचीत को एक्सेस करता है, OpenAI की गोपनीयता नीति उन गतिविधियों को प्रतिबंधित करता है जो उपयोगकर्ताओं को जोखिम में डाल सकती हैं। प्रशिक्षक आपके डेटा का उपयोग केवल उत्पाद अनुसंधान और विकास के लिए कर सकते हैं।

डेवलपर्स खामियों की तलाश करते हैं

OpenAI कमियों के लिए बातचीत के माध्यम से झारना। यह उन उदाहरणों का विश्लेषण करता है जिनमें ChatGPT डेटा पूर्वाग्रह प्रदर्शित करता है, हानिकारक जानकारी उत्पन्न करता है, या अवैध गतिविधियों को करने में मदद करता है। प्लेटफ़ॉर्म के नैतिक दिशानिर्देशों को लगातार नया रूप दिया जाता है।

उदाहरण के लिए, के पहले संस्करण ChatGPT ने मालवेयर कोडिंग के बारे में खुले तौर पर सवालों के जवाब दिए या विस्फोटक बना रहा है। इन घटनाओं ने यूजर्स को ऐसा महसूस कराया OpenAI का ChatGPT पर कोई नियंत्रण नहीं है. जनता के विश्वास को पुनः प्राप्त करने के लिए, इसने चैटबॉट को ऐसे किसी भी प्रश्न को अस्वीकार करने के लिए प्रशिक्षित किया जो इसके दिशानिर्देशों के विरुद्ध जा सकता है।

प्रशिक्षक डेटा एकत्र और विश्लेषण करते हैं

ChatGPT पर्यवेक्षित शिक्षण तकनीकों का उपयोग करता है। हालाँकि प्लेटफ़ॉर्म सभी इनपुट को याद रखता है, लेकिन यह वास्तविक समय में उनसे नहीं सीखता है। OpenAI प्रशिक्षक पहले उनका संग्रह करते हैं और उनका विश्लेषण करते हैं। ऐसा करने से यह सुनिश्चित होता है कि ChatGPT प्राप्त होने वाली हानिकारक, हानिकारक जानकारी को कभी भी अवशोषित नहीं करता है।

पर्यवेक्षित शिक्षण में अप्रशिक्षित तकनीकों की तुलना में अधिक समय और ऊर्जा की आवश्यकता होती है। हालाँकि, केवल इनपुट का विश्लेषण करने के लिए AI को छोड़ना पहले ही हानिकारक साबित हो चुका है।

Microsoft Tay को एक उदाहरण के रूप में लें—इनमें से एक कई बार मशीन लर्निंग गलत हो गई. चूंकि यह लगातार डेवलपर मार्गदर्शन के बिना ट्वीट्स का विश्लेषण करता था, इसलिए दुर्भावनापूर्ण उपयोगकर्ताओं ने अंततः इसे नस्लवादी, रूढ़िवादी राय थूकने के लिए प्रशिक्षित किया।

विकासकर्ता पूर्वाग्रहों के लिए लगातार सतर्क रहें

अनेक बाहरी कारक एआई में पूर्वाग्रह पैदा करते हैं. प्रशिक्षण मॉडल, डेटासेट त्रुटियों और खराब तरीके से निर्मित प्रतिबंधों में अंतर से अचेतन पूर्वाग्रह उत्पन्न हो सकते हैं। आप उन्हें विभिन्न एआई अनुप्रयोगों में देखेंगे।

शुक्र है कि ChatGPT ने कभी भी भेदभावपूर्ण या नस्लीय पूर्वाग्रहों का प्रदर्शन नहीं किया है। शायद सबसे खराब पूर्वाग्रह उपयोगकर्ताओं ने देखा है कि चैटजीपीटी का वामपंथी विचारधाराओं के प्रति झुकाव है, ए के अनुसार न्यूयॉर्क पोस्ट प्रतिवेदन। मंच रूढ़िवादी विषयों की तुलना में उदारवादी विषयों के बारे में अधिक खुलकर लिखता है।

इन पूर्वाग्रहों को हल करने के लिए, OpenAI ने ChatGPT को पूरी तरह से राजनीतिक अंतर्दृष्टि प्रदान करने से रोक दिया। यह केवल सामान्य तथ्यों का उत्तर दे सकता है।

मॉडरेटर चैटजीपीटी के प्रदर्शन की समीक्षा करते हैं

उपयोगकर्ता ChatGPT के आउटपुट पर प्रतिक्रिया दे सकते हैं। आपको हर प्रतिक्रिया के दाईं ओर थम्स-अप और थम्स-डाउन बटन मिलेंगे। पूर्व एक सकारात्मक प्रतिक्रिया का संकेत देता है। पसंद या नापसंद बटन दबाने के बाद, एक विंडो खुलेगी जिसमें आप अपने शब्दों में प्रतिक्रिया भेज सकते हैं।

फीडबैक सिस्टम मददगार है। बस OpenAI को टिप्पणियों की छानबीन करने के लिए कुछ समय दें। चैटजीपीटी पर लाखों उपयोगकर्ता नियमित रूप से टिप्पणी करते हैं—इसके डेवलपर संभावित रूप से पूर्वाग्रहों और हानिकारक आउटपुट जनरेशन के गंभीर उदाहरणों को प्राथमिकता देते हैं।

क्या आपकी चैटजीपीटी बातचीत सुरक्षित है?

OpenAI की गोपनीयता नीतियों को ध्यान में रखते हुए, आप निश्चिंत हो सकते हैं कि आपका डेटा सुरक्षित रहेगा। चैटजीपीटी केवल डेटा प्रशिक्षण के लिए बातचीत का उपयोग करता है। इसके विकासकर्ता व्यक्तिगत डेटा की चोरी नहीं करने के लिए, आउटपुट सटीकता और विश्वसनीयता में सुधार करने के लिए एकत्रित अंतर्दृष्टि का अध्ययन करते हैं।

इसके साथ ही कहा, कोई भी AI सिस्टम परफेक्ट नहीं है। ChatGPT स्वाभाविक रूप से पक्षपाती नहीं है, लेकिन दुर्भावनापूर्ण व्यक्ति अभी भी इसकी कमजोरियों का फायदा उठा सकते हैं, जैसे, डेटासेट त्रुटियां, लापरवाह प्रशिक्षण और सुरक्षा खामियां। अपनी सुरक्षा के लिए, इन जोखिमों का मुकाबला करना सीखें।