6 सबक Microsoft ने अपने Tay AI चैटबॉट डिजास्टर से सीखे

चैटजीपीटी जैसे एआई चैटबॉट तेजी से आधुनिक तकनीक का एक अभिन्न हिस्सा बनते जा रहे हैं, लेकिन कई लोगों के लिए अज्ञात, जेनेरेटिव एआई हमेशा उतना अच्छा नहीं था जितना आज है। वास्तव में, 2016 में, Microsoft द्वारा निर्मित चैटबॉट Tay ने हमें दिखाया कि AI कितनी जल्दी बैकफ़ायर कर सकता है।

आइए जानें कि Microsoft का AI चैटबॉट Tay क्या था, यह विफल क्यों हुआ, इसके विवाद और कंपनी ने अपनी विनाशकारी विफलता के बाद क्या सीखा।

Microsoft का Tay क्या था?

Tay Microsoft द्वारा विकसित एक AI चैटबॉट था और 23 मार्च 2016 को ट्विटर के माध्यम से उपलब्ध कराया गया था। चैटबॉट को "मनोरंजन उद्देश्यों" के लिए अमेरिका में 18 से 24 वर्ष के बच्चों के लिए विकसित किया गया था और "बातचीत समझ पर प्रयोग करने और शोध करने" के लिए विकसित किया गया था।

Tay का मतलब ChatGPT जैसा परिष्कृत चैटबॉट नहीं था, बल्कि ट्विटर पर एक दोस्ताना AI बॉट था, जिसके साथ आप बातचीत कर सकते थे - जैसे स्नैपचैट पर मेरा एआई, लेकिन सामाजिककरण के लिए।

Microsoft ने Tay को क्यों बंद किया?

लाइव होने के 24 घंटे के भीतर Microsoft ने Tay को हटा दिया—एक अच्छे कारण के लिए। टे के परिचय के लगभग तुरंत बाद, ट्विटर उपयोगकर्ताओं ने चैटबॉट को खिलाकर सेवा का दुरुपयोग करना शुरू कर दिया गलत सूचना, इसे अपमानजनक शब्दों को पढ़ाना, और यह देखने के लिए कि यह कितनी दूर है, इसे तेजी से और अधिक आक्रामक होने के लिए प्रेरित करना जाऊंगा।

और यह वास्तव में दूर चला गया। लॉन्च के कुछ ही घंटों के भीतर, ताई कुछ सबसे आक्रामक नस्लीय गालियों को ट्वीट कर रही थी, नफरत फैलाने वाले भाषण फैला रही थी, नाज़ीवाद को बढ़ावा दे रही थी, और यहां तक ​​​​कि "रेस वॉर" को प्रेरित कर रही थी। हाँ! स्पष्ट रूप से, Microsoft का समय खराब चल रहा था, और वह सेवा को जारी नहीं रहने दे सकता था।

में एक आधिकारिक Microsoft ब्लॉग पर पोस्ट करें, माइक्रोसॉफ्ट के कॉर्पोरेट वाइस प्रेसिडेंट पीटर ली ने भी ऐसा ही कहा:

हमें ताई के अनपेक्षित आपत्तिजनक और आहत करने वाले ट्वीट्स के लिए गहरा खेद है, जो यह नहीं दर्शाते हैं कि हम कौन हैं या हम किसके लिए खड़े हैं, और न ही हमने टे को कैसे डिजाइन किया है। Tay अब ऑफ़लाइन है और हम Tay को केवल तभी वापस लाना चाहेंगे जब हमें विश्वास हो कि हम दुर्भावनापूर्ण मंशा का बेहतर अनुमान लगा सकते हैं जो हमारे सिद्धांतों और मूल्यों के विपरीत है।

ताई पराजय कई में से एक है कृत्रिम बुद्धिमत्ता के खतरे और इसका एक मजबूत अनुस्मारक कि इसका विकास अत्यधिक सावधानी और निरीक्षण के साथ क्यों किया जाना चाहिए।

6 सबक Microsoft ने Tay के बाद सीखे

ताई एक पूर्ण आपदा थी, लेकिन जब एआई टूल्स के विकास की बात आई तो इसने माइक्रोसॉफ्ट को कुछ महत्वपूर्ण सबक भी सिखाए। और इसके लायक क्या है, यह शायद बेहतर के लिए है कि Microsoft ने अपने पाठों को जल्द से जल्द सीखा, जिसने इसे Google पर एक हेडस्टार्ट प्राप्त करने और नया विकसित करने की अनुमति दी एआई-संचालित बिंग ब्राउज़र.

यहाँ उनमें से कुछ पाठ हैं:

1. इंटरनेट ट्रोल्स से भरा है

इंटरनेट ट्रोल्स से भरा हुआ है, और यह बिल्कुल खबर नहीं है, है ना? जाहिर है, 2016 में माइक्रोसॉफ्ट के लिए ऐसा ही था। हम यह नहीं कह रहे हैं कि "मनोरंजन उद्देश्यों" के लिए 18 से 24 वर्ष के बच्चों को लक्षित करने के लिए चैटबॉट बनाने से उस दर से कोई लेना-देना नहीं था जिस पर सेवा का दुरुपयोग किया गया था। फिर भी, यह निश्चित रूप से सबसे चतुर विचार भी नहीं था।

लोग स्वाभाविक रूप से नई तकनीकों की सीमाओं का परीक्षण करना चाहते हैं, और अंततः इन दुर्भावनापूर्ण हमलों के लिए डेवलपर का काम है। एक तरह से, आंतरिक ट्रोल गुणवत्ता आश्वासन के लिए एक प्रतिक्रिया तंत्र के रूप में कार्य करते हैं, लेकिन यह कहना नहीं है कि लॉन्च से पहले उचित सुरक्षा उपायों के बिना चैटबॉट को ढीला कर देना चाहिए।

2. एआई सहज रूप से अच्छे और बुरे के बीच अंतर नहीं कर सकता

अच्छाई और बुराई की अवधारणा कुछ ऐसी है जिसे एआई सहज रूप से नहीं समझता है। इसे सही और गलत क्या है, नैतिक और अनैतिक क्या है, और सामान्य और अजीब क्या है, के ज्ञान का अनुकरण करने के लिए प्रोग्राम किया जाना चाहिए।

ये गुण कमोबेश सामाजिक प्राणियों के रूप में मनुष्यों के लिए स्वाभाविक रूप से आते हैं, लेकिन एआई स्वतंत्र निर्णय नहीं ले सकता, सहानुभूति महसूस कर सकता है, या दर्द का अनुभव कर सकता है। यही कारण है कि जब ट्विटर उपयोगकर्ता सभी प्रकार के प्रचारों को खिला रहे थे, तो बॉट बस साथ-साथ चल रही जानकारी की नैतिकता से अनजान था।

3. लोगों की बातचीत का उपयोग करके एआई मॉडल को प्रशिक्षित न करें

Tay को "प्रासंगिक सार्वजनिक डेटा का खनन करके और एआई और संपादकीय सहित एक कर्मचारी द्वारा विकसित किया गया था कामचलाऊ कॉमेडियन।" इंटरनेट पर लोगों की बातचीत का उपयोग करके एआई मॉडल का प्रशिक्षण देना एक भयानक है विचार।

और इससे पहले कि आप इसे ट्विटर पर दोष दें, जान लें कि प्लेटफ़ॉर्म की परवाह किए बिना परिणाम शायद समान होता। क्यों? क्योंकि लोग इंटरनेट पर अपने आप में सर्वश्रेष्ठ नहीं हैं। वे भावुक हो जाते हैं, अपशब्दों का प्रयोग करते हैं, और अपनी गुमनामी का उपयोग नापाक होने के लिए करते हैं।

4. एआई में कॉमन सेंस की कमी है और इसमें व्यंग्य नहीं है

एआई आज अधिक सहज लगता है (या, इसे और अधिक सटीक रूप से रखने के लिए, अंतर्ज्ञान का अनुकरण करने में बेहतर है) लेकिन फिर भी कभी-कभी व्यंग्य और भाषण के आंकड़ों को पहचानने में संघर्ष होता है। यह 2016 में और भी अधिक सच था। मनुष्य के लिए जो स्पष्ट है वह एआई के लिए स्पष्ट नहीं है; दूसरे शब्दों में, इसमें सामान्य ज्ञान का अभाव है।

ताई जैसे एआई समझ नहीं पाते हैं कि हम जैसे इंसान हैं वैसे क्यों हैं, हम जिस तरह से काम करते हैं, और प्रत्येक व्यक्ति की सनक क्यों है। यह व्यवहार कर सकता है और आश्चर्यजनक रूप से मानवीय लग सकता है, लेकिन अच्छी प्रोग्रामिंग केवल इतना ही आगे बढ़ सकती है।

5. एआई को अमान्य अनुरोधों को अस्वीकार करने के लिए प्रोग्राम किया जाना चाहिए

एआई बहुत प्रभावशाली है और इसे नुकसान पहुंचाने वाले अनुरोधों को अस्वीकार करने के लिए प्रोग्राम किया जाना चाहिए। आज भी, प्राकृतिक भाषा प्रसंस्करण में हमारी सभी प्रगति के बाद भी लोग भाषाई खामियां ढूंढ रहे हैं चैटजीपीटी जैसे एआई चैटबॉट को "भ्रम" बनाएं और ऐसे परिणाम प्रदान करें जिन्हें प्रतिबंधित करने का इरादा था।

यहाँ बात यह है कि आर्टिफिशियल इंटेलिजेंस पूरी तरह से आज्ञाकारी है, जो शायद इसकी सबसे बड़ी ताकत और कमजोरी है। वह सब कुछ जो आप नहीं चाहते कि चैटबॉट करे, उसमें मैन्युअल रूप से प्रोग्राम किया जाना चाहिए।

6. एआई चैटबॉट्स को कभी भी पर्यवेक्षण के बिना नहीं छोड़ना चाहिए

जब तक एआई खुद को नियंत्रित नहीं कर लेता, तब तक इसे बिना निगरानी के नहीं छोड़ा जा सकता। आप आज के एआई को एक बच्चे के कौतुक की तरह सोच सकते हैं; यह कुछ मायनों में शानदार है, लेकिन फिर भी यह अभी भी एक बच्चा है। यदि अप्राप्य छोड़ दिया जाए, तो लोग इसकी कमजोरियों का फायदा उठाएंगे- और ताई इसका एक प्रमुख उदाहरण था।

एआई इंटरनेट की तरह ही एक उपकरण है, लेकिन एआई के साथ जिस दर और पैमाने पर चीजें उलटी पड़ सकती हैं, वह इंटरनेट के शुरुआती दिनों के अनुभव से कहीं अधिक है।

एआई को लगातार निगरानी और नियमन की जरूरत है

केवल टे ही ऐसा चैटबॉट नहीं है जो दुष्ट हुआ है—इसी तरह के और भी कई मामले सामने आए हैं। लेकिन जिस चीज ने इसे खड़ा किया वह वह तेज गति है जिस पर इसने किया- और तथ्य यह है कि इसे माइक्रोसॉफ्ट जैसे तकनीकी दिग्गज द्वारा बनाया गया था।

इस तरह के उदाहरण दिखाते हैं कि एआई उपकरण विकसित करते समय हमें कितना सावधान रहना चाहिए, खासकर जब वे नियमित लोगों द्वारा उपयोग किए जाने के लिए हों।