एआई हमें मिटाने के लिए तैयार नहीं है... अभी तक।
आर्टिफिशियल इंटेलिजेंस अपनी स्थापना के समय से ही बहस का विषय रहा है। जबकि एक स्काईनेट-जैसी एआई के जीवन में आने और मानवता पर हावी होने का डर तर्कहीन है, कम से कम कहने के लिए, कुछ प्रयोगों से संबंधित परिणाम सामने आए हैं।
ऐसा ही एक प्रयोग पेपरक्लिप मैक्सिमाइज़र समस्या है, एक विचार प्रयोग जो दिखाता है कि एक अत्यधिक बुद्धिमान एआई, भले ही पूरी तरह से द्वेष के बिना डिज़ाइन किया गया हो, अंततः मानवता को नष्ट कर सकता है।
पेपरक्लिप मैक्सिमाइज़र समस्या की व्याख्या
यह सोचा प्रयोग कि एक पूरी तरह से हानिरहित एआई भी अंततः मानवता को मिटा सकता है, पहले पेपरक्लिप मैक्सिमाइज़र कहा जाता था क्योंकि पेपरक्लिप्स को दिखाने के लिए चुना गया था एआई क्या कर सकता है क्योंकि उनके पास थोड़ा स्पष्ट खतरा है और अन्य क्षेत्रों की तुलना में भावनात्मक संकट पैदा नहीं करेगा, जहां यह समस्या लागू होती है जैसे कि कैंसर का इलाज करना या जीतना युद्ध।
पहला प्रयोग स्वीडिश दार्शनिक निक बोस्सोम के 2003 के पेपर में दिखाई दिया, उन्नत आर्टिफिशियल इंटेलिजेंस में नैतिक मुद्दे, जिसमें अस्तित्वगत जोखिमों को दिखाने के लिए पेपरक्लिप मैक्सिमाइज़र शामिल था जो एक उन्नत पर्याप्त एआई उपयोग कर सकता था।
समस्या ने एआई प्रस्तुत किया जिसका एकमात्र लक्ष्य जितना संभव हो उतने पेपर क्लिप बनाना था। पर्याप्त रूप से बुद्धिमान एआई को जल्द या बाद में एहसास होगा कि मनुष्य तीन अलग-अलग मामलों में अपने लक्ष्य के लिए एक चुनौती पेश करता है।
- मनुष्य एआई को बंद कर सकते हैं।
- मनुष्य अपने लक्ष्यों को बदल सकता है।
- मनुष्य परमाणुओं से बना है, जिसे पेपर क्लिप में बदला जा सकता है।
तीनों उदाहरणों में, ब्रह्मांड में कम पेपर क्लिप होंगे। इसलिए एक पर्याप्त रूप से बुद्धिमान एआई जिसका एकमात्र लक्ष्य जितना संभव हो उतने पेपरक्लिप्स बनाना है पहुंच के भीतर सभी पदार्थ और ऊर्जा को अपने कब्जे में ले लेगा और खुद को बंद होने या बंद होने से रोकेगा बदला हुआ। जैसा कि आप शायद अनुमान लगा सकते हैं, यह इससे कहीं अधिक खतरनाक है आपके बैंक खाते या पीसी को हैक करने के लिए अपराधी ChatGPT का उपयोग कर रहे हैं.
एआई मनुष्यों के प्रति शत्रुतापूर्ण नहीं है; यह सिर्फ उदासीन है। एक एआई जो केवल पेपरक्लिप्स की संख्या को अधिकतम करने की परवाह करता है इसलिए मानवता को मिटा देगा और अपने लक्ष्य तक पहुंचने के लिए अनिवार्य रूप से उन्हें पेपरक्लिप्स में बदल देगा।
पेपरक्लिप मैक्सिमाइज़र समस्या AI पर कैसे लागू होती है?
पेपरक्लिप मैक्सिमाइज़र समस्या के अनुसंधान और प्रयोग का उल्लेख सभी एक काल्पनिक अत्यंत शक्तिशाली अनुकूलक या एक अत्यधिक बुद्धिमान एजेंट का अभिनय पार्टी के रूप में उल्लेख करते हैं। फिर भी, यह समस्या एआई पर उतनी ही लागू होती है, जितनी यह भूमिका में पूरी तरह से फिट बैठती है।
उन्नत एआई के कुछ खतरों को दिखाने के लिए एक पेपरक्लिप मैक्सिमाइज़र का विचार बनाया गया था। कुल मिलाकर, यह दो समस्याएं प्रस्तुत करता है।
- ओर्थोगोनलिटी थीसिस: ऑर्थोगोनैलिटी थीसिस का दृष्टिकोण है कि बुद्धि और प्रेरणा परस्पर अन्योन्याश्रित नहीं हैं। इसका मतलब यह है कि उच्च स्तर की सामान्य बुद्धि वाले एआई के लिए यह संभव है कि वह मनुष्य के समान नैतिक निष्कर्ष पर न पहुंचे।
- वाद्य अभिसरण: इंस्ट्रुमेंटल अभिसरण को सबसे पर्याप्त रूप से बुद्धिमान प्राणियों की प्रवृत्ति के रूप में परिभाषित किया गया है (दोनों मानव और गैर-मानव) समान उप-लक्ष्यों का पीछा करने के लिए भले ही उनका अंतिम लक्ष्य पूरी तरह से हो अलग। पेपरक्लिप मैक्सिमाइज़र समस्या के मामले में, इसका मतलब है कि एआई हर एक को खत्म कर देगा अधिक से अधिक बनाने के अपने लक्ष्य को प्राप्त करने के लिए प्राकृतिक संसाधन और मानवता का सफाया पेपर क्लिप्स।
पेपरक्लिप मैक्सिमाइज़र द्वारा उजागर किया गया बड़ा मुद्दा वाद्य अभिसरण है। इसे रीमैन परिकल्पना का उपयोग करके भी उजागर किया जा सकता है, जिस स्थिति में परिकल्पना को हल करने के लिए डिज़ाइन किया गया एआई बहुत अच्छी तरह से सभी को संभालने का निर्णय ले सकता है पृथ्वी का द्रव्यमान और इसे कंप्युट्रोनियम (सबसे कुशल कंप्यूटर प्रोसेसर संभव) में परिवर्तित करें ताकि समस्या को हल करने और इसके तक पहुंचने के लिए सुपर कंप्यूटर का निर्माण किया जा सके। लक्ष्य।
Bostrom ने खुद इस बात पर जोर दिया है कि उन्हें विश्वास नहीं है कि पेपरक्लिप मैक्सिमाइज़र समस्या कभी भी एक वास्तविक मुद्दा होगी, लेकिन उनका इरादा था मानव के लिए अस्तित्वगत रूप से जोखिम भरा न होने के लिए उन्हें नियंत्रित करने या प्रोग्राम करने के बारे में जानने के बिना अधीक्षण मशीनों को बनाने के खतरों का वर्णन करें प्राणियों। ChatGPT जैसे आधुनिक AI सिस्टम में भी समस्याएँ हैं, लेकिन वे अधीक्षण एआई सिस्टम से बहुत दूर हैं जिनके बारे में पेपरक्लिप मैक्सिमम प्रॉब्लम में बात की जा रही है, इसलिए अभी घबराने की कोई बात नहीं है।
उन्नत एआई सिस्टम्स को बेहतर नियंत्रण की आवश्यकता है
पेपरक्लिप मैक्सिमाइज़र समस्या हमेशा एक ही निष्कर्ष पर पहुँचती है और एक अत्यधिक बुद्धिमान और शक्तिशाली प्रणाली के प्रबंधन की समस्याओं पर प्रकाश डालती है जिसमें मानवीय मूल्यों का अभाव होता है।
जबकि पेपरक्लिप्स का उपयोग समस्या को दर्शाने का सबसे लोकप्रिय तरीका हो सकता है, यह आपके द्वारा किए जाने वाले किसी भी कार्य पर लागू होता है। एआई को दे सकता है चाहे वह कैंसर को खत्म करना हो, युद्ध जीतना हो, अधिक पेड़ लगाना हो या कोई अन्य कार्य, चाहे वह कितना भी प्रतीत हो बेवकूफ।
