स्थानीय बड़े भाषा मॉडल का उपयोग करना हर किसी के लिए नहीं है, लेकिन कुछ अच्छे कारण हैं कि आप इसे क्यों आज़माना चाहेंगे।
चाबी छीनना
- कम सेंसरशिप: स्थानीय एलएलएम सार्वजनिक चैटबॉट्स पर लगाए गए प्रतिबंधों के बिना विचारोत्तेजक विषयों पर चर्चा करने की स्वतंत्रता प्रदान करते हैं, जिससे अधिक खुली बातचीत की अनुमति मिलती है।
- बेहतर डेटा गोपनीयता: स्थानीय एलएलएम का उपयोग करके, उत्पन्न सभी डेटा आपके कंप्यूटर पर रहता है, गोपनीयता सुनिश्चित करता है और सार्वजनिक रूप से एलएलएम चलाने वाली कंपनियों द्वारा पहुंच को रोकता है।
- ऑफ़लाइन उपयोग: स्थानीय एलएलएम विश्वसनीय इंटरनेट पहुंच के बिना दूरस्थ या पृथक क्षेत्रों में निर्बाध उपयोग की अनुमति देते हैं, ऐसे परिदृश्यों में एक मूल्यवान उपकरण प्रदान करते हैं।
नवंबर 2022 में चैटजीपीटी के आगमन के बाद से, बड़े भाषा मॉडल (एलएलएम) शब्द तेजी से एआई नर्ड के लिए एक विशिष्ट शब्द से हर किसी के होठों पर एक प्रचलित शब्द में बदल गया है। स्थानीय एलएलएम का सबसे बड़ा आकर्षण क्लाउड-होस्टेड संस्करण के बिना आपके कंप्यूटर पर चैटजीपीटी जैसे चैटबॉट की क्षमताओं को दोहराने की क्षमता है।
आपके कंप्यूटर पर स्थानीय एलएलएम स्थापित करने के पक्ष और विपक्ष में तर्क मौजूद हैं। हम प्रचार को खत्म करेंगे और आपके लिए तथ्य लाएंगे। क्या आपको स्थानीय एलएलएम का उपयोग करना चाहिए?
स्थानीय एलएलएम का उपयोग करने के फायदे
लोग अपनी स्वयं की स्थापना के बारे में इतने उत्साहित क्यों हैं? बड़े भाषा मॉडल उनके कंप्यूटर पर? प्रचार और डींगें हांकने के अलावा, कुछ व्यावहारिक लाभ क्या हैं?
1. कम सेंसरशिप
जब चैटजीपीटी और बिंग एआई पहली बार ऑनलाइन आए, तो दोनों चैटबॉट जो बातें कहने और करने को तैयार थे, वे जितनी आकर्षक थीं, उतनी ही चिंताजनक भी थीं। बिंग एआई ने गर्मजोशी भरा और प्यारा अभिनय किया, जैसे इसमें भावनाएं हों। यदि आपने अच्छे से पूछा तो चैटजीपीटी अपशब्दों का उपयोग करने को तैयार था। उस समय, यदि आपने सही संकेतों का उपयोग किया तो दोनों चैटबॉट आपको बम बनाने में भी मदद करेंगे। यह हर तरह से गलत लग सकता है, लेकिन कुछ भी करने में सक्षम होना उन भाषा मॉडलों की अप्रतिबंधित क्षमताओं का प्रतीक है जो उन्हें संचालित करते हैं।
आज, दोनों चैटबॉट्स को बहुत सख्ती से सेंसर किया गया है कि वे आपको हिंसक दृश्यों वाला काल्पनिक अपराध उपन्यास लिखने में भी मदद नहीं करेंगे। कुछ AI चैटबॉट धर्म या राजनीति के बारे में भी बात नहीं करेंगे। यद्यपि एलएलएम जिन्हें आप स्थानीय स्तर पर स्थापित कर सकते हैं, वे पूरी तरह से सेंसरशिप-मुक्त नहीं हैं, उनमें से कई खुशी-खुशी विचारोत्तेजक चीजें करेंगे जो सार्वजनिक-सामना वाले चैटबॉट नहीं करेंगे। इसलिए, यदि आप नहीं चाहते कि व्यक्तिगत रुचि के विषयों पर चर्चा करते समय कोई रोबोट आपको नैतिकता के बारे में व्याख्यान दे, तो स्थानीय एलएलएम चलाना एक रास्ता हो सकता है।
2. बेहतर डेटा गोपनीयता
लोगों द्वारा स्थानीय एलएलएम चुनने का एक प्राथमिक कारण यह सुनिश्चित करना है कि उनके कंप्यूटर पर जो कुछ भी होता है वह उनके कंप्यूटर पर रहे। जब आप स्थानीय एलएलएम का उपयोग करते हैं, तो यह आपके लिविंग रूम में निजी तौर पर बातचीत करने जैसा है - कोई भी बाहरी व्यक्ति नहीं सुन सकता है। चाहे आप अपने क्रेडिट कार्ड विवरण के साथ प्रयोग कर रहे हों या एलएलएम के साथ संवेदनशील व्यक्तिगत बातचीत कर रहे हों, सभी परिणामी डेटा केवल आपके कंप्यूटर पर संग्रहीत होता है। विकल्प GPT-4 जैसे सार्वजनिक-सामना वाले एलएलएम का उपयोग करना है, जो प्रभारी कंपनियों को आपकी चैट जानकारी तक पहुंच प्रदान करता है।
3. ऑफ़लाइन उपयोग
इंटरनेट के व्यापक रूप से किफायती और सुलभ होने के कारण, स्थानीय एलएलएम का उपयोग करने के लिए ऑफ़लाइन पहुंच एक मामूली कारण की तरह लग सकती है। दूरस्थ या पृथक स्थानों में ऑफ़लाइन पहुंच विशेष रूप से महत्वपूर्ण हो सकती है जहां इंटरनेट सेवा अविश्वसनीय या अनुपलब्ध है। ऐसे परिदृश्यों में, इंटरनेट कनेक्शन से स्वतंत्र रूप से संचालित होने वाला स्थानीय एलएलएम एक महत्वपूर्ण उपकरण बन जाता है। यह आपको बिना किसी रुकावट के जो कुछ भी करना चाहते हैं उसे जारी रखने की अनुमति देता है।
4. लागत बचत
GPT-4 या क्लाउड 2 जैसे सक्षम एलएलएम तक पहुंचने की औसत कीमत $20 प्रति माह है। हालाँकि यह कोई चिंताजनक कीमत नहीं लगती, फिर भी आपको उस राशि के लिए कई कष्टप्रद प्रतिबंध मिलते हैं। उदाहरण के लिए, चैटजीपीटी के माध्यम से एक्सेस किए गए जीपीटी-4 के साथ, आप प्रति तीन घंटे की सीमा में 50-संदेश के साथ फंस गए हैं। आप केवल उन सीमाओं को पार कर सकते हैं ChatGPT एंटरप्राइज़ योजना पर स्विच करना, जिसकी संभावित लागत हजारों डॉलर हो सकती है। स्थानीय एलएलएम के साथ, एक बार जब आप सॉफ्टवेयर सेट अप कर लेते हैं, तो भुगतान करने के लिए कोई $20 मासिक सदस्यता या आवर्ती लागत नहीं होती है। यह राइड-शेयर सेवाओं पर निर्भर रहने के बजाय कार खरीदने जैसा है। प्रारंभ में, यह महंगा है, लेकिन समय के साथ, आप पैसे बचाते हैं।
5. बेहतर अनुकूलन
सार्वजनिक रूप से उपलब्ध एआई चैटबॉट्स ने सुरक्षा और सेंसरशिप चिंताओं के कारण अनुकूलन को प्रतिबंधित कर दिया है। स्थानीय रूप से होस्ट किए गए AI सहायक के साथ, आप अपनी विशिष्ट आवश्यकताओं के लिए मॉडल को पूरी तरह से अनुकूलित कर सकते हैं। आप प्रासंगिकता और सटीकता में सुधार करते हुए, अपने उपयोग के मामलों के अनुरूप मालिकाना डेटा पर सहायक को प्रशिक्षित कर सकते हैं। उदाहरण के लिए, एक वकील अधिक सटीक कानूनी अंतर्दृष्टि उत्पन्न करने के लिए अपने स्थानीय एआई को अनुकूलित कर सकता है। मुख्य लाभ आपकी विशिष्ट आवश्यकताओं के लिए अनुकूलन पर नियंत्रण है।
स्थानीय एलएलएम का उपयोग करने के नुकसान
इससे पहले कि आप स्विच करें, स्थानीय एलएलएम का उपयोग करने के कुछ नुकसान हैं जिन पर आपको विचार करना चाहिए।
1. गहन संसाधन
एक निष्पादक स्थानीय एलएलएम चलाने के लिए, आपको उच्च-स्तरीय हार्डवेयर की आवश्यकता होगी। शक्तिशाली सीपीयू, ढेर सारी रैम और संभवतः एक समर्पित जीपीयू के बारे में सोचें। यह अपेक्षा न करें कि $400 का बजट लैपटॉप अच्छा अनुभव प्रदान करेगा। प्रतिक्रियाएँ अत्यंत धीमी होंगी, विशेषकर बड़े AI मॉडल के साथ। यह अत्याधुनिक वीडियो गेम चलाने जैसा है—सर्वोत्तम प्रदर्शन के लिए आपको मजबूत विशिष्टताओं की आवश्यकता होती है। आपको विशेष शीतलन समाधान की भी आवश्यकता हो सकती है। लब्बोलुआब यह है कि स्थानीय एलएलएम को वेब-आधारित एलएलएम पर मिलने वाली गति और प्रतिक्रिया प्राप्त करने के लिए शीर्ष स्तरीय हार्डवेयर में निवेश की आवश्यकता होती है (या इसमें सुधार भी करें)। वेब-आधारित सेवाओं का उपयोग करने की तुलना में आपकी ओर से कंप्यूटिंग की मांग महत्वपूर्ण होगी।
2. धीमी प्रतिक्रियाएँ और निम्न प्रदर्शन
स्थानीय एलएलएम की एक सामान्य सीमा धीमी प्रतिक्रिया समय है। सटीक गति विशिष्ट एआई मॉडल और उपयोग किए गए हार्डवेयर पर निर्भर करती है, लेकिन अधिकांश सेटअप ऑनलाइन सेवाओं से पीछे हैं। चैटजीपीटी, बार्ड और अन्य से त्वरित प्रतिक्रिया का अनुभव करने के बाद, स्थानीय एलएलएम बेहद सुस्त महसूस कर सकते हैं। शब्द धीरे-धीरे बाहर निकलते हैं बनाम जल्दी वापस आ जाते हैं। यह सार्वभौमिक रूप से सत्य नहीं है, क्योंकि कुछ स्थानीय परिनियोजन अच्छा प्रदर्शन प्राप्त करते हैं। लेकिन औसत उपयोगकर्ताओं को तेज़ वेब अनुभव से भारी गिरावट का सामना करना पड़ता है। तो, तेज़ ऑनलाइन सिस्टम से लेकर धीमे स्थानीय समकक्षों तक "सांस्कृतिक झटके" के लिए तैयार रहें।
संक्षेप में, जब तक कि आप एक पूर्णतः शीर्ष-स्तरीय सेटअप नहीं कर रहे हों (हम Nvidia RTX 4090 के साथ AMD Ryzen 5800X3D के बारे में बात कर रहे हैं और एक जहाज को डुबाने के लिए पर्याप्त रैम), आपके स्थानीय एलएलएम का समग्र प्रदर्शन आपके ऑनलाइन जेनरेटर एआई चैटबॉट से तुलना नहीं करेगा अभ्यस्त।
3. जटिल सेटअप
वेब-आधारित एआई सेवा के लिए साइन अप करने की तुलना में स्थानीय एलएलएम को तैनात करना अधिक शामिल है। इंटरनेट कनेक्शन के साथ, आपका चैटजीपीटी, बार्ड, या बिंग एआई खाता मिनटों में संकेत देना शुरू करने के लिए तैयार हो सकता है। पूर्ण स्थानीय एलएलएम स्टैक स्थापित करने के लिए फ्रेमवर्क डाउनलोड करने, बुनियादी ढांचे को कॉन्फ़िगर करने और विभिन्न घटकों को एकीकृत करने की आवश्यकता होती है। बड़े मॉडलों के लिए, इस जटिल प्रक्रिया में घंटों लग सकते हैं, यहां तक कि उन उपकरणों के साथ भी जिनका उद्देश्य इंस्टॉलेशन को सरल बनाना है। कुछ अत्याधुनिक एआई प्रणालियों को स्थानीय स्तर पर चलाने के लिए अभी भी गहरी तकनीकी विशेषज्ञता की आवश्यकता होती है। इसलिए, प्लग-एंड-प्ले वेब-आधारित एआई मॉडल के विपरीत, अपने स्वयं के एआई को प्रबंधित करने में महत्वपूर्ण तकनीकी और समय का निवेश शामिल होता है।
4. सीमित ज्ञान
बहुत सारे स्थानीय एलएलएम अतीत में अटके हुए हैं। उन्हें समसामयिक घटनाओं का ज्ञान सीमित है। याद रखें जब चैटजीपीटी इंटरनेट तक नहीं पहुंच सका? जब यह केवल सितंबर 2021 से पहले हुई घटनाओं के बारे में सवालों के जवाब दे सकता है? हाँ? खैर, शुरुआती चैटजीपीटी मॉडल के समान, स्थानीय रूप से होस्ट किए गए भाषा मॉडल को अक्सर एक निश्चित कटऑफ तिथि से पहले केवल डेटा पर प्रशिक्षित किया जाता है। परिणामस्वरूप, उन्हें उस बिंदु के बाद हाल के घटनाक्रमों के बारे में जागरूकता का अभाव है।