आधुनिक एआई भाषा मॉडल जैसे कि चैटजीपीटी और माइक्रोसॉफ्ट के बिंग चैट दुनिया भर में लहरें पैदा कर रहे हैं, बहुत से लोग एआई को दुनिया भर में ले जाने के बारे में चिंतित हैं।

जबकि हम निकट भविष्य के लिए स्काईनेट में नहीं चलेंगे, एआई कई चीजों में इंसानों से बेहतर हो रहा है। यहीं से AI नियंत्रण की समस्या सामने आती है।

एआई नियंत्रण समस्या की व्याख्या

एआई नियंत्रण समस्या यह विचार है कि एआई अंततः मनुष्यों की तुलना में निर्णय लेने में बेहतर हो जाएगा। इस सिद्धांत के अनुसार, यदि मनुष्य पहले से चीजों को ठीक से सेट नहीं करते हैं, तो हमें बाद में चीजों को ठीक करने का मौका नहीं मिलेगा, जिसका अर्थ है कि एआई का प्रभावी नियंत्रण होगा।

एआई और मशीन लर्निंग (एमएल) मॉडल पर वर्तमान शोध, मानव क्षमताओं को पार करने से कम से कम वर्षों बाद है। हालाँकि, यह सोचना उचित है कि, वर्तमान प्रगति को देखते हुए, AI बुद्धि और दक्षता दोनों के मामले में मनुष्यों से आगे निकल जाएगा।

यह कहना नहीं है कि AI और ML मॉडल की अपनी सीमाएँ नहीं हैं। आखिरकार, वे भौतिकी और कम्प्यूटेशनल जटिलता के नियमों के साथ-साथ इन प्रणालियों का समर्थन करने वाले उपकरणों की प्रसंस्करण शक्ति से बंधे हैं। हालाँकि, यह मान लेना सुरक्षित है कि ये सीमाएँ मानवीय क्षमताओं से बहुत परे हैं।

instagram viewer

इसका मतलब है कि सुपरिन्टेलिजेंट एआई सिस्टम एक बड़ा खतरा पैदा कर सकता है यदि किसी संभावित दुष्ट व्यवहार को रोकने के लिए सुरक्षा उपायों के साथ ठीक से डिज़ाइन नहीं किया गया है। मानवीय मूल्यों का सम्मान करने और उनकी शक्ति को नियंत्रण में रखने के लिए इस तरह की प्रणालियों को जमीन से बनाने की आवश्यकता है। नियंत्रण समस्या का यही मतलब है जब यह कहती है कि चीजों को सही ढंग से सेट किया जाना चाहिए।

यदि एक एआई प्रणाली उचित सुरक्षा उपायों के बिना मानव बुद्धि को पार कर जाती है, तो परिणाम विनाशकारी हो सकते हैं। ऐसी प्रणालियाँ भौतिक संसाधनों पर नियंत्रण ग्रहण कर सकती हैं क्योंकि कई कार्य बेहतर या अधिक कुशलता से प्राप्त किए जाते हैं। चूंकि एआई सिस्टम को अधिकतम दक्षता प्राप्त करने के लिए डिज़ाइन किया गया है, इसलिए नियंत्रण खोने से गंभीर परिणाम हो सकते हैं।

AI नियंत्रण समस्या कब लागू होती है?

मुख्य समस्या यह है कि एक एआई सिस्टम जितना बेहतर होता जाता है, एक मानव पर्यवेक्षक के लिए प्रौद्योगिकी की निगरानी करना उतना ही कठिन होता है ताकि यह सुनिश्चित किया जा सके कि सिस्टम के विफल होने पर मैन्युअल नियंत्रण आसानी से लिया जा सके। इसके अतिरिक्त, एक स्वचालित प्रणाली पर भरोसा करने की मानव प्रवृत्ति तब अधिक होती है जब सिस्टम ज्यादातर समय मज़बूती से प्रदर्शन करता है।

इसका एक बड़ा उदाहरण है टेस्ला फुल-सेल्फ ड्राइविंग (FSD) सूट. जबकि कार खुद ड्राइव कर सकती है, इसके लिए स्टीयरिंग व्हील पर हाथ रखने के लिए एक इंसान की आवश्यकता होती है, कार को नियंत्रित करने के लिए तैयार होने पर सिस्टम खराब हो जाता है। हालाँकि, जैसे-जैसे ये AI सिस्टम अधिक विश्वसनीय होते जाते हैं, यहाँ तक कि सबसे सतर्क मानव का ध्यान भी अलग-अलग होने लगेगा, और स्वायत्त प्रणाली पर निर्भरता बढ़ जाएगी।

तो क्या होता है जब कारें उस गति से गाड़ी चलाना शुरू कर देती हैं जिसके साथ मनुष्य नहीं रख सकते हैं? हम कार के स्वायत्त सिस्टम के नियंत्रण को समाप्त कर देंगे, जिसका अर्थ है कि एक AI सिस्टम आपके जीवन को नियंत्रित करेगा, कम से कम जब तक आप अपने गंतव्य तक नहीं पहुंच जाते।

क्या AI कंट्रोल प्रॉब्लम सॉल्व हो सकती है?

एआई नियंत्रण समस्या को हल किया जा सकता है या नहीं, इसके दो उत्तर हैं। सबसे पहले, यदि हम प्रश्न की शाब्दिक व्याख्या करते हैं, तो नियंत्रण समस्या को हल नहीं किया जा सकता है। ऐसा कुछ भी नहीं है जो हम कर सकते हैं जो किसी स्वचालित प्रणाली पर भरोसा करने की मानव प्रवृत्ति को सीधे लक्षित करता है जब यह ज्यादातर समय भरोसेमंद और अधिक कुशलता से प्रदर्शन करता है।

हालाँकि, क्या इस प्रवृत्ति को ऐसी प्रणालियों की एक विशेषता के रूप में माना जाना चाहिए, हम नियंत्रण समस्या के आसपास काम करने के तरीके तैयार कर सकते हैं। उदाहरण के लिए, द एल्गोरिथम निर्णय-निर्माण और नियंत्रण समस्या शोध पत्र संकट से निपटने के लिए तीन अलग-अलग तरीकों का सुझाव देता है:

  • कम विश्वसनीय प्रणालियों के उपयोग के लिए मानव को प्रणाली के साथ सक्रिय रूप से जुड़ने की आवश्यकता होती है क्योंकि कम विश्वसनीय प्रणालियाँ नियंत्रण समस्या उत्पन्न नहीं करती हैं।
  • वास्तविक दुनिया में परिनियोजन से पहले मानव दक्षता और विश्वसनीयता को पार करने के लिए सिस्टम की प्रतीक्षा करना।
  • कार्य अपघटन का उपयोग करके केवल आंशिक स्वचालन को लागू करने के लिए। इसका मतलब यह है कि सिस्टम के केवल वे हिस्से जिन्हें एक महत्वपूर्ण कार्य करने के लिए मानव ऑपरेटर की आवश्यकता नहीं होती है, स्वचालित होते हैं। इसे कार्य का गतिशील/पूरक आवंटन (DCAF) दृष्टिकोण कहा जाता है।

DCAF दृष्टिकोण हमेशा एक मानव ऑपरेटर को एक स्वचालित प्रणाली के शीर्ष पर रखता है, यह सुनिश्चित करता है कि उनका इनपुट सिस्टम की निर्णय लेने की प्रक्रिया के सबसे महत्वपूर्ण भागों को नियंत्रित करता है। यदि एक मानव ऑपरेटर लगातार ध्यान देने के लिए एक प्रणाली पर्याप्त रूप से व्यस्त है, तो नियंत्रण समस्या हल हो सकती है।

क्या हम कभी एआई को सही मायने में नियंत्रित कर सकते हैं?

जैसे-जैसे एआई सिस्टम अधिक उन्नत, सक्षम और विश्वसनीय होते जाएंगे, हम उन्हें और अधिक कार्य सौंपते रहेंगे। हालाँकि, AI नियंत्रण समस्या को सही सावधानियों और सुरक्षा उपायों से हल किया जा सकता है।

एआई पहले से ही हमारे लिए दुनिया बदल रहा है, ज्यादातर बेहतर के लिए। जब तक तकनीक को मानवीय निगरानी में रखा जाता है, तब तक हमारे लिए चिंता की कोई बात नहीं होनी चाहिए।