👃🏼 🚸 💅🏽 एआई आवश्यकताएं केवल मामलों को बदतर क्यों बना सकती हैं 🌦️ 🌷 🏑

अधिक पारदर्शी तंत्रिका नेटवर्क बनाकर, हम उन पर अत्यधिक विश्वास करना शुरू कर सकते हैं। यह उन तरीकों को बदलने के लायक हो सकता है जिनके द्वारा वे अपने काम की व्याख्या करते हैं।

एक बार ट्रायल पर अपोल एसन ने उबर की एक रोबोट कार में सवारी की। खाली ड्राइवर की सीट के बारे में चिंता करने के बजाय, यात्रियों को एक "शांत" स्क्रीन देखने के लिए कहा गया, जिसमें दिखाया गया कि कार ने सड़क को कैसे देखा: गहरे नीले रंग में नारंगी और लाल, सुरक्षित क्षेत्रों में खतरे खींचे गए थे।

अटलांटा में जॉर्जिया इंस्टीट्यूट ऑफ टेक्नोलॉजी में एआई के साथ लोगों की बातचीत का अध्ययन करने वाले एसान के लिए, जो संदेश उन्होंने उसे बताने की कोशिश की, वह समझ में आता था: "चिंता मत करो, ये कारण हैं कि मशीन इस तरह से व्यवहार करती है।" हालांकि, गली की विदेशी छवि में कुछ आश्वस्त नहीं हुआ, बल्कि इस बात पर ज़ोर दिया कि क्या हो रहा है। एसान ने सोचा: क्या होगा अगर रोबोमोबाइल वास्तव में समझा सकता है?

गहरी सीखने की सफलता कोड में अनिश्चितता से चुनने पर आधारित है: सबसे अच्छा तंत्रिका नेटवर्क उन्हें बेहतर बनाने के लिए समायोजित और अनुकूल करते हैं, और व्यावहारिक परिणाम उनकी सैद्धांतिक समझ से आगे निकल जाते हैं। संक्षेप में, प्रशिक्षित मॉडल कैसे काम करता है, इसका विवरण आमतौर पर अज्ञात है। हम पहले से ही एआई को ब्लैक बॉक्स के रूप में सोचने के आदी हैं।

और अधिकांश समय यह हमारे अनुकूल है - जब यह खेलने जाने, पाठ का अनुवाद करने, या ओमेक्स के साथ अगली श्रृंखला चुनने जैसे कार्यों की बात आती है। लेकिन अगर AI का उपयोग कानून प्रवर्तन, चिकित्सा निदान और रोबोट वाहनों जैसे क्षेत्रों में निर्णय लेने में मदद करने के लिए किया जाता है, तो हमें यह समझने की आवश्यकता है कि यह कैसे अपने फैसले करता है और पता चलता है कि वे कब गलत हो जाते हैं। मैसाचुसेट्स के विलियम्सटाउन के विलियम्स कॉलेज के एक कंप्यूटर वैज्ञानिक आइरिस हॉले का

कहना है कि लोगों को एक स्वचालित समाधान से असहमत होने या इसे अस्वीकार करने के अवसर की आवश्यकता है । और इसके बिना, लोग इस तकनीक का विरोध करेंगे। "पहले से ही अब आप देख सकते हैं कि यह कैसे होता है, चेहरे की पहचान प्रणालियों के लिए लोगों की प्रतिक्रियाओं के रूप में," वह कहती हैं।

एसन शोधकर्ताओं के एक छोटे लेकिन बढ़ते समूह का हिस्सा है जो एआई को समझाने और हमें ब्लैक बॉक्स में मदद करने की क्षमता में सुधार करने की कोशिश कर रहा है। तथाकथित बनाने का उद्देश्य AI (III) की व्याख्या या व्याख्या लोगों को यह समझने में मदद करने के लिए है कि तंत्रिका नेटवर्क डेटा के किन संकेतों को वास्तव में सीख रहा है - और यह तय करें कि परिणामी मॉडल सटीक और निष्पक्ष हो।

एक समाधान मशीन लर्निंग (एमओ) सिस्टम बनाना है जो उनके काम के अंदरूनी हिस्सों को प्रदर्शित करता है - तथाकथित एक्वैरियम एआई, ब्लैक बॉक्स में एआई के बजाय। एक्वेरियम मॉडल आमतौर पर एनएस के सामान्य रूप से सरलीकृत संस्करण हैं, जिसमें यह ट्रैक करना आसान है कि डेटा के व्यक्तिगत टुकड़े मॉडल को कैसे प्रभावित करते हैं।

"इस समुदाय में ऐसे लोग हैं जो किसी भी उच्च दांव की स्थिति में मछलीघर के मॉडल का उपयोग करने का आग्रह करते हैं," कहते हैंजेनिफर वर्थमैन वॉन , माइक्रोसॉफ्ट रिसर्च में आईटी विशेषज्ञ। "और कुल मिलाकर, मैं सहमत हूँ।" साधारण एक्वैरियम मॉडल कुछ प्रकार के संरचित डेटा, जैसे तालिकाओं या आँकड़ों पर बस और अधिक जटिल NSs के रूप में काम कर सकते हैं। और कुछ मामलों में यह पर्याप्त है।

हालांकि, यह सब कार्य क्षेत्र पर निर्भर करता है। यदि हम इस तरह के फजी डेटा से छवियों या पाठ के रूप में सीखना चाहते हैं, तो हमारे पास गहरी - और इसलिए अपारदर्शी - तंत्रिका नेटवर्क का उपयोग करने के अलावा कोई विकल्प नहीं है। बड़ी संख्या में असमान सुविधाओं के बीच एक सार्थक संबंध खोजने के लिए ऐसे एनएस की क्षमता उनकी जटिलता के साथ जुड़ी हुई है।

और यहां तक कि, एक्वेरियम एमओ मदद कर सकता है। एक समाधान दो बार डेटा के माध्यम से जाना है, संभावित त्रुटियों को पकड़ने के लिए डिबगिंग कदम के रूप में अपूर्ण एक्वैरियम मॉडल को प्रशिक्षित करना है जिसे आप ठीक करना चाहते हैं। डेटा को साफ करने के बाद, आप ब्लैक बॉक्स में AI के अधिक सटीक मॉडल को भी प्रशिक्षित कर सकते हैं।

हालांकि, इस तरह के संतुलन को बनाए रखना मुश्किल है। बहुत अधिक पारदर्शिता सूचना अधिभार का कारण बन सकती है। 2018 के एक अध्ययन में , जिसमें एमओ टूल्स के साथ अप्रशिक्षित उपयोगकर्ताओं की बातचीत की जांच की गई, वॉन ने पाया कि पारदर्शी मॉडल वास्तव में मॉडल त्रुटियों की खोज और सुधार को जटिल कर सकते हैं।

एक अन्य दृष्टिकोण एक दृश्य शामिल करना है जो मॉडल के कई प्रमुख गुणों और अंतर्निहित डेटा को दर्शाता है। विचार आंख द्वारा गंभीर समस्याओं की पहचान करना है। उदाहरण के लिए, एक मॉडल कुछ विशेषताओं पर बहुत अधिक भरोसा कर सकता है, जो पूर्वाग्रह के लिए एक संकेत हो सकता है।

ये दृश्य उपकरण कुछ ही समय में बेहद लोकप्रिय हो गए हैं। लेकिन क्या उनके लिए कोई उपयोग है? इस तरह के पहले अध्ययन में , वॉन और टीम ने इस सवाल का जवाब देने की कोशिश की, और अंततः कई गंभीर समस्याएं पाई गईं।

टीम ने दो लोकप्रिय व्याख्यात्मक उपकरण लिए जो ग्राफ़ और चार्ट की मदद से मॉडल का अवलोकन प्रदान करते हैं, जहां यह नोट किया जाता है कि मॉडल ने प्रशिक्षण के दौरान मुख्य रूप से किस डेटा पर ध्यान दिया। विभिन्न पृष्ठभूमि, पृष्ठभूमि और पृष्ठभूमि वाले ग्यारह एआई पेशेवरों को माइक्रोसॉफ्ट से काम पर रखा गया है। उन्होंने 1994 के संयुक्त राज्य अमेरिका की जनगणना से राष्ट्रीय आय डेटा पर प्रशिक्षित एमओ मॉडल के साथ बातचीत के अनुकरण में भाग लिया। इस प्रयोग को विशेष रूप से डिजाइन करने के लिए डिज़ाइन किया गया था कि कैसे डेटा वैज्ञानिक अपने दैनिक कार्यों को करने के लिए दुभाषिया उपकरणों का उपयोग करते हैं।

टीम को कुछ आश्चर्यजनक लगा। हां, कभी-कभी टूल ने लोगों को डेटा में लापता मूल्यों को खोजने में मदद की। हालांकि, यह सब उपयोगिता विज़ुअलाइज़ेशन में अत्यधिक विश्वास की प्रवृत्ति के साथ-साथ उनकी समझ में त्रुटियों की तुलना में फीका पड़ गया है। कभी-कभी उपयोगकर्ता यह भी वर्णन नहीं कर सकते थे कि वास्तव में दृश्य क्या प्रदर्शित करते हैं। इससे डेटा सेट, मॉडल और खुद की व्याख्या करने वाले टूल के बारे में गलत धारणाएं पैदा हुईं। इसने उपकरण में झूठे विश्वास को प्रेरित किया और इन मॉडलों को अभ्यास में लाने के लिए उत्साह पैदा किया, हालांकि कभी-कभी यह प्रतिभागियों को लगता था कि कुछ गलत हो रहा है। जो अप्रिय है, यह तब भी काम किया जब आउटपुट को विशेष रूप से बदल दिया गया था ताकि काम के स्पष्टीकरण का कोई मतलब नहीं हो।

निष्कर्षों की पुष्टि करने के लिए, शोधकर्ताओं ने मॉस्को के क्षेत्र में 200 पेशेवरों के बीच एक ऑनलाइन सर्वेक्षण किया, जो मेलिंग सूचियों और सामाजिक नेटवर्क के माध्यम से आकर्षित हुए। उन्होंने समान भ्रम और निराधार आत्मविश्वास पाया।

मामलों को बदतर बनाने के लिए, कई सर्वेक्षण प्रतिभागी मॉडल कार्यान्वयन के बारे में निर्णय लेने के लिए विज़ुअलाइज़ेशन का उपयोग करने के इच्छुक थे, यह पहचानने के बावजूद कि वे अंतर्निहित गणित को नहीं समझते थे। अध्ययन के सह-लेखक मिशिगन विश्वविद्यालय की हरमनप्रीत कौर ने कहा, "यह देखकर लोगों को आश्चर्य हुआ कि डेटा में विषमताओं को सही ठहराया जा सकता है ।" "स्वचालन की विकृति एक बहुत ही महत्वपूर्ण कारक है जिसे हमने नहीं माना है।"

ओह, यह स्वचालन की विकृति है। दूसरे शब्दों में, लोग कंप्यूटर पर भरोसा करते हैं। और यह कोई नई घटना नहीं है। हवाई जहाज के ऑटोपिलॉट्स से लेकर वर्तनी प्रणाली तक, हर जगह, शोध के अनुसार, लोग अक्सर सिस्टम समाधानों पर भरोसा करते हैं, तब भी जब वे स्पष्ट रूप से गलत होते हैं। लेकिन जब यह विशेष रूप से इस घटना को ठीक करने के लिए डिज़ाइन किए गए टूल के साथ होता है, तो हमारे पास एक और बड़ी समस्या है।

इसके बारे में क्या किया जा सकता है? कुछ का मानना है कि III की पहली लहर की समस्याओं का हिस्सा इस तथ्य से जुड़ा है कि रक्षा मंत्रालय के शोधकर्ता इसमें हावी हैं, जिनमें से अधिकांश एआई सिस्टम का उपयोग करने वाले विशेषज्ञ हैं। मेलबर्न विश्वविद्यालय के टिम मिलर, लोगों द्वारा एआई सिस्टम के उपयोग का अध्ययन: "यह साइको के नियंत्रण में एक मानसिक अस्पताल है।"

यह वही है जो बिना ड्राइवर के उबर कार की पिछली सीट पर एसन को महसूस हुआ। यह समझना आसान होगा कि स्वचालित प्रणाली क्या करती है - और देखें कि यह कहां गलत है - यदि यह किसी व्यक्ति के तरीके से अपने कार्यों को समझाता है। Esan और उनके सहयोगी, मार्क रिडल , एक MO प्रणाली विकसित कर रहे हैं जो स्वचालित रूप से प्राकृतिक भाषा में समान स्पष्टीकरण उत्पन्न करता है । एक शुरुआती प्रोटोटाइप में, युगल ने एक तंत्रिका नेटवर्क लिया, जिसे 1980 के दशक, फ्रॉगर से एक क्लासिक गेम खेलने के लिए प्रशिक्षित किया गया, और प्रत्येक चाल से पहले स्पष्टीकरण देने के लिए इसे प्रशिक्षित किया।

कारों के बीच ... मैं नहीं कर सकता ... मैं अंतराल के लिए इंतजार करूँगा ...

ऐसा करने के लिए, उन्होंने सिस्टम को कई उदाहरण दिखाए कि लोग इस गेम को कैसे खेलते हैं, ज़ोर से कार्रवाई पर टिप्पणी करते हैं। फिर उन्होंने एक तंत्रिका नेटवर्क लिया, जिसका एक भाषा से दूसरी भाषा में अनुवाद किया, और इसे एक प्राकृतिक भाषा में स्पष्टीकरण के रूप में गेम क्रियाओं में अनुवाद करने के लिए अनुकूलित किया। और अब, जब नेशनल असेंबली खेल में एक कार्रवाई देखती है, तो वह इसे "स्पष्टीकरण" में बदल देती है। नतीजा यह है कि एक एआई फॉगिंग खेलता है जो कहता है कि "हर कदम के साथ नीले ट्रक के पीछे छोड़ दिया जाना चाहिए।"

एसन और रिडल का काम केवल शुरुआत है। सबसे पहले, यह स्पष्ट नहीं है कि एमओ प्रणाली हमेशा प्राकृतिक भाषा में अपने कार्यों की व्याख्या करने में सक्षम होगी या नहीं। दीपइंड से गो बोर्ड गेम खेलते हुए अल्फाज़ेरो लें। इस कार्यक्रम की सबसे अद्भुत विशेषताओं में से एक यह है कि यह एक ऐसा विजयी कदम बना सकता है कि मानव खिलाड़ी खेल में उस विशेष क्षण के बारे में सोच भी नहीं सकते थे। यदि अल्फ़ाज़ो अपनी चाल समझा सकता है, तो क्या यह सार्थक होगा?

कारण मदद कर सकते हैं, चाहे हम उन्हें समझें या नहीं, एसन कहते हैं: "लोगों पर ध्यान देने के साथ एक III का लक्ष्य केवल उपयोगकर्ता को यह स्वीकार करने के लिए नहीं है कि एआई क्या कहता है - बल्कि कुछ विचार का कारण भी है।" दीपइंड एआई और कोरियाई चैंपियन ली सेडोल के बीच मैच का प्रसारण देखना रिडल याद करता है। टिप्पणीकारों ने चर्चा की कि अल्फाजो क्या देखता है और क्या सोचता है। "लेकिन अल्फ़ाज़ेरो उस तरह से काम नहीं करता है," रिडल कहते हैं। "हालांकि, यह मुझे प्रतीत हुआ कि टिप्पणियों को समझने के लिए आवश्यक था कि क्या हो रहा था।"

और यद्यपि III शोधकर्ताओं की इस नई लहर से सहमत हैं कि यदि अधिक लोग एआई सिस्टम का उपयोग करते हैं, तो इन लोगों को शुरुआत से ही डिजाइन में भाग लेना चाहिए - और अलग-अलग लोगों को अलग-अलग स्पष्टीकरण की आवश्यकता होती है। हॉवले और उनके सहयोगियों के एक नए अध्ययन से इसकी पुष्टि होती है, जिसमें उन्होंने दिखाया कि लोगों की इंटरएक्टिव या स्टैटिक विज़ुअलाइज़ेशन को समझने की क्षमता उनके शिक्षा के स्तर पर निर्भर करती है। एअर इंडिया ने कहा कि कैंसर का निदान करने वाली एआई की कल्पना करें। मैं ऑन्कोलॉजिस्ट को वह स्पष्टीकरण देना चाहूंगा जो रोगी के लिए स्पष्टीकरण से अलग हो।

अंततः, हम चाहते हैं कि AI न केवल डेटा और डॉक्टरों के साथ काम करने वाले वैज्ञानिकों को, बल्कि एक छवि मान्यता प्रणाली का उपयोग करने वाले पुलिसकर्मियों को भी समझाए, स्कूल में विश्लेषणात्मक कार्यक्रमों का उपयोग करने वाले शिक्षक, सामाजिक नेटवर्क पर टेप के काम को समझने की कोशिश कर रहे छात्र - और उससे पहले किसी भी मोबाइल की पिछली सीट पर एक व्यक्ति। "हम हमेशा से जानते थे कि लोग प्रौद्योगिकी पर भरोसा करते हैं, और यह एआई सिस्टम के लिए विशेष रूप से सच है," रिडल कहते हैं। "जितनी बार आप सिस्टम को स्मार्ट कहते हैं, उतने अधिक लोग आश्वस्त होते हैं कि यह लोगों की तुलना में अधिक स्मार्ट है।"

स्पष्टीकरण जो हर कोई समझ सकता है वह इस भ्रम को नष्ट कर सकता है।

एआई आवश्यकताएं केवल मामलों को बदतर क्यों बना सकती हैं

More articles: