कैप्चा को तोड़ने वाले मशीन लर्निंग मॉडल को समझना

सभी को नमस्कार! इस महीने, OTUS मशीन लर्निंग कोर्स पर एक नए समूह की भर्ती कर रहा है । स्थापित परंपरा के अनुसार, पाठ्यक्रम की शुरुआत की पूर्व संध्या पर, हम आपके साथ विषय पर दिलचस्प सामग्री का अनुवाद साझा कर रहे हैं।



कंप्यूटर दृष्टि एआई [1] के सबसे अधिक प्रासंगिक और शोध किए गए विषयों में से एक है, हालांकि, अवशिष्ट तंत्रिका नेटवर्क का उपयोग कर समस्याओं को हल करने के लिए वर्तमान तरीकों की गंभीरता से आलोचना की जाती है क्योंकि ऐसे नेटवर्क मूर्ख बनाना आसान है। निराधार नहीं होने के लिए, मैं आपको कई कारणों के बारे में बताऊंगा: इस प्रकार के नेटवर्क स्वाभाविक रूप से होने वाली छवियों के लिए उच्च आत्मविश्वास के साथ एक गलत परिणाम देते हैं, जिनमें सांख्यिकीय संकेत नहीं होते हैं [2], जो कि विवादास्पद तंत्रिका नेटवर्क पर भरोसा करते हैं, उन छवियों के लिए जो पहले सही ढंग से वर्गीकृत किए गए थे, लेकिन जिसमें एक पिक्सेल [3] या भौतिक वस्तुओं के साथ चित्र जो दृश्य में जोड़े गए थे, लेकिन वर्गीकरण के परिणाम को बदलना नहीं था [4] बदल गया। तथ्य यह है, अगर हम वास्तव में बुद्धिमान मशीनें बनाना चाहते हैं,हमें नए विचारों के अध्ययन में निवेश करना उचित प्रतीत होना चाहिए।

इन नए विचारों में से एक विकर्सियस का रिकर्सिव कॉर्टिकल नेटवर्क (RCN) का अनुप्रयोग है, जो तंत्रिका विज्ञान से प्रेरणा लेता है। यह मॉडल पाठ कैप्चा को तोड़ने में बेहद प्रभावी होने का दावा करता है, जिससे खुद के आसपास बहुत सारी बातें होती हैं । इसलिए, मैंने कई लेख लिखने का फैसला किया, जिनमें से प्रत्येक इस मॉडल का एक निश्चित पहलू बताते हैं। इस लेख में, हम इसकी संरचना और RCN [5] पर मुख्य लेख की सामग्री में प्रस्तुत छवियों की पीढ़ी कैसे उत्पन्न होती है, इस बारे में बात करेंगे।

यह लेख मानता है कि आप पहले से ही परिचित तंत्रिका नेटवर्क से परिचित हैं, इसलिए मैं उनके साथ कई समानताएं आकर्षित करूंगा।

आरसीएन जागरूकता के लिए तैयार करने के लिए, आपको यह समझने की आवश्यकता है कि आरसीएन उपस्थिति (इसकी बनावट) से आकार (वस्तु का स्केच) को अलग करने के विचार पर आधारित है और यह एक जेनेरिक मॉडल है, न कि एक विवेकशील, इसलिए हम छवियों का उपयोग करके इसे उत्पन्न कर सकते हैं, जैसा कि एक जेनेरेटर में। प्रतिकूल नेटवर्क। इसके अलावा, एक समानांतर पदानुक्रमित संरचना का उपयोग किया जाता है, जो संलयन तंत्रिका नेटवर्क की वास्तुकला के समान होता है, जो निचली परतों में लक्ष्य वस्तु के आकार को निर्धारित करने के चरण से शुरू होता है, और फिर इसकी उपस्थिति को ऊपरी परत में जोड़ा जाता है। दृढ़ तंत्रिका नेटवर्क के विपरीत, जिस मॉडल पर हम विचार कर रहे हैं, वह भारित रकम और ढाल मूल के बजाय ग्राफिकल मॉडल के एक समृद्ध सैद्धांतिक आधार पर निर्भर करता है। अब आरसीएन संरचना की विशेषताओं में तल्लीन करते हैं।

फ़ीचर लेयर्स

RCN में पहली प्रकार की परत को फीचर लेयर कहा जाता है। हम मॉडल पर धीरे-धीरे विचार करेंगे, तो चलिए अब के लिए मान लेते हैं कि मॉडल की पूरी पदानुक्रम में केवल इस प्रकार की परतें होती हैं जो एक दूसरे के ऊपर खड़ी होती हैं। हम उच्च-स्तरीय अमूर्त अवधारणाओं से निचली परतों की अधिक विशिष्ट विशेषताओं की ओर बढ़ेंगे, जैसा कि चित्र 1 में दिखाया गया है । इस प्रकार की एक परत में दो-आयामी अंतरिक्ष में स्थित कई नोड्स होते हैं, इसी तरह संवेदी तंत्रिका नेटवर्क में मानचित्रों की सुविधा के लिए।


चित्र 1 : दो-आयामी अंतरिक्ष में नोड्स के साथ एक के ऊपर एक कई स्थित परतें। चौथी से पहली परत में संक्रमण का मतलब सामान्य से विशेष तक संक्रमण है।

प्रत्येक नोड में कई चैनल होते हैं, जिनमें से प्रत्येक एक अलग सुविधा का प्रतिनिधित्व करता है। चैनल द्विआधारी चर हैं जो मान या सत्य को गलत तरीके से लेते हैं, यह दर्शाता है कि क्या नोड के समन्वय (x, y) में इस चैनल के अनुरूप एक वस्तु अंतिम उत्पन्न छवि में मौजूद है। किसी भी स्तर पर, नोड्स में एक ही प्रकार के चैनल होते हैं।

एक उदाहरण के रूप में, चलो एक मध्यवर्ती परत लेते हैं और स्पष्टीकरण को सरल बनाने के लिए इसके चैनलों और ऊपर की परतों के बारे में बात करते हैं। इस परत पर चैनलों की सूची एक हाइपरबोला, एक सर्कल और एक पेराबोला होगी। छवि को बनाते समय एक निश्चित रन पर, ओवरलेइंग लेयर्स की गणना कोऑर्डिनेट (1,1) में एक सर्कल की आवश्यकता होती है। इस प्रकार, नोड (1, 1) एक चैनल मूल्य सच में वस्तु "सर्कल" करने के लिए इसी होगा। यह नीचे की परत में कुछ नोड्स को सीधे प्रभावित करेगा, अर्थात, निचले स्तर की विशेषताएं जो पड़ोस में सर्कल से जुड़ी हैं (1,1) ट्रू में सेट की जाएंगी। ये निचले स्तर की वस्तुएं हो सकती हैं, उदाहरण के लिए, विभिन्न झुकाव के साथ चार आर्क्स। जब निचली परत की विशेषताएं सक्रिय हो जाती हैं, तो वे परतों पर चैनलों को तब तक सक्रिय कर देते हैं जब तक कि अंतिम परत तक नहीं पहुंच जाते,छवि पैदा। सक्रियण दृश्य में दिखाया गया हैचित्र 2 ।

आप पूछ सकते हैं, यह कैसे स्पष्ट हो जाएगा कि एक सर्कल का प्रतिनिधित्व 4 आर्क्स है? और RCN कैसे जानता है कि उसे वृत्त का प्रतिनिधित्व करने के लिए एक चैनल की आवश्यकता है? RCN प्रशिक्षण चरण में अन्य परतों के चैनल और उनके बाइंडिंग का गठन किया जाएगा।


चित्र 2: फीचर लेयर्स में सूचना प्रवाह। संकेतों के नोड्स चैनल का प्रतिनिधित्व करने वाले डिस्क वाले कैप्सूल हैं। ऊपरी और निचली परतों में से कुछ को सादगी के लिए एक समानांतर चतुर्भुज के रूप में प्रस्तुत किया गया था, हालांकि, वास्तव में वे मध्यवर्ती परतों के रूप में फीचर नोड से मिलकर भी होते हैं। कृपया ध्यान दें कि ऊपरी मध्यवर्ती परत में 3 चैनल होते हैं, और दूसरी परत में 4 चैनल होते हैं।

आप अपनाए गए मॉडल को बनाने के लिए एक बहुत ही कठोर और निर्धारक विधि का संकेत कर सकते हैं, लेकिन लोगों के लिए, सर्कल के वक्रता के छोटे perturbations को अभी भी एक सर्कल माना जाता है, जैसा कि आप चित्र 3 में देख सकते हैं ।


चित्रा 3: चित्रा 2 से चार घुमावदार चापों के एक चक्र के निर्माण की कई विविधताएं।

इन प्रत्येक विविधताओं को परत में एक अलग नए चैनल के रूप में विचार करना मुश्किल होगा। इसी तरह, एक ही इकाई में विविधताओं को समूहीकृत करने से नए बदलावों में सामान्यीकरण की सुविधा होगी जब हम आरसीएन को थोड़ी देर बाद पीढ़ी के बजाय वर्गीकरण के लिए अनुकूलित करते हैं। लेकिन इस अवसर को पाने के लिए हम RCN को कैसे बदलते हैं?

सबमर्सिबल की परतें

ऐसा करने के लिए, आपको एक नई प्रकार की परत - पूलिंग परत की आवश्यकता है। यह संकेतों की किसी भी दो परतों के बीच स्थित है और उनके बीच मध्यस्थ के रूप में कार्य करता है। इसमें चैनल भी शामिल हैं, हालांकि उनके पास पूर्णांक मान हैं, न कि द्विआधारी।

यह समझने के लिए कि ये परतें कैसे काम करती हैं, आइए सर्कल के उदाहरण पर वापस जाएं। एक सर्कल की विशेषता के रूप में इसके ऊपर फीचर लेयर से निश्चित निर्देशांक के साथ 4 आर्क्स की आवश्यकता के बजाय, खोज सब्स्क्रिप लेयर पर की जाएगी। फिर, सबमप्लस लेयर में प्रत्येक सक्रिय चैनल फीचर की थोड़ी विकृति के लिए अनुमति देने के लिए इसके आसपास के क्षेत्र में एक नोड का चयन करेगा। इस प्रकार, यदि हम सबस्क्राइब नोड के नीचे सीधे 9 नोड्स के साथ संचार स्थापित करते हैं, तो सब्सक्राइब चैनल, जब भी यह सक्रिय होता है, समान रूप से इन 9 नोड्स में से एक का चयन करेगा और इसे सक्रिय करेगा, और चयनित नोड का सूचकांक सबस्क्राइबर चैनल की स्थिति होगा - पूर्णांक। में चित्रा 4आप कई रन देख सकते हैं, जहां प्रत्येक रन क्रमशः निचले स्तर के नोड्स के एक अलग सेट का उपयोग करता है, जिससे आप विभिन्न तरीकों से एक सर्कल बना सकते हैं।


चित्रा 4: subsampling परतों का संचालन। इस GIF तस्वीर में प्रत्येक फ्रेम एक अलग लॉन्च है। सब्स्क्राइब्ड नोड्स घिसे हुए हैं। इस छवि में, सबमप्लस नोड्स में 4 चैनल हैं जो इसके नीचे फीचर लेयर के 4 चैनलों के बराबर हैं। ऊपरी और निचली परतों को तस्वीर से पूरी तरह से हटा दिया गया था।

इस तथ्य के बावजूद कि हमें अपने मॉडल की परिवर्तनशीलता की आवश्यकता थी, यह बेहतर होगा यदि यह अधिक संयमित और केंद्रित रहे। पिछले दो आंकड़ों में, कुछ मंडलियां वास्तव में हलकों के रूप में व्याख्या करने के लिए बहुत अजीब लगती हैं क्योंकि इस तथ्य के कारण कि चाप परस्पर जुड़े नहीं हैं, जैसा कि चित्र 5 से देखा जा सकता है।। हम उन्हें पैदा करने से बचना चाहेंगे। इस प्रकार, अगर हम फीचर नोड्स के चयन को समन्वित करने और निरंतर रूपों पर ध्यान केंद्रित करने के लिए सबसाम्लिंग चैनलों के लिए एक तंत्र जोड़ सकते हैं, तो हमारा मॉडल अधिक सटीक होगा।


चित्र 5: एक वृत्त के निर्माण के लिए कई विकल्प। जिन विकल्पों को हम छोड़ना चाहते हैं, वे लाल क्रॉस के साथ चिह्नित हैं।

आरसीएन लेखकों ने इस उद्देश्य के लिए सबसैंपलिंग परतों में पार्श्व कनेक्शन का उपयोग किया। अनिवार्य रूप से, सबसम्प्लिंग चैनलों के पास तत्काल वातावरण से अन्य सबसम्प्लिंग चैनलों के साथ लिंक होंगे, और ये लिंक कुछ जोड़े राज्यों को एक साथ दो चैनलों में सह-अस्तित्व में नहीं आने देंगे। वास्तव में, इन दोनों चैनलों का नमूना क्षेत्र केवल सीमित होगा। सर्कल के विभिन्न संस्करणों में, ये कनेक्शन, उदाहरण के लिए, दो आसन्न आर्क्स को एक दूसरे से दूर जाने की अनुमति नहीं देगा। यह तंत्र चित्र 6 में दिखाया गया है ।। फिर से, इन संबंधों को प्रशिक्षण के स्तर पर स्थापित किया जाता है। यह ध्यान दिया जाना चाहिए कि आधुनिक वेनिला कृत्रिम तंत्रिका नेटवर्क की परतों में कोई पार्श्व कनेक्शन नहीं है, हालांकि वे जैविक तंत्रिका नेटवर्क में मौजूद हैं और यह माना जाता है कि वे दृश्य कॉर्टेक्स (लेकिन, स्पष्ट रूप से, दृश्य कोर्टेक्स में समोच्च एकीकरण में एक भूमिका निभाते हैं) इससे अधिक जटिल उपकरण पिछले कथन से लग सकता है)।


चित्र 6: GIF- RCN . , . , RCN , , . .

अब तक, हमने RCN की मध्यवर्ती परतों के बारे में बात की है, हमारे पास केवल सबसे ऊपरी परत है और सबसे निचली परत है जो उत्पन्न छवि के पिक्सेल के साथ इंटरैक्ट करती है। सबसे ऊपरी परत एक नियमित सुविधा परत है, जहां प्रत्येक नोड के चैनल हमारे लेबल किए गए डेटासेट के वर्ग होंगे। उत्पन्न करते समय, हम बस उस स्थान और वर्ग का चयन करते हैं जिसे हम बनाना चाहते हैं, निर्दिष्ट स्थान के साथ नोड पर जाएं और कहें कि यह हमारे द्वारा चयनित वर्ग के चैनल को सक्रिय करता है। यह नीचे के सबमप्लस लेयर में कुछ चैनलों को सक्रिय करता है, फिर नीचे फीचर लेयर को, और इसी तरह, जब तक कि हम आखिरी फीचर लेयर तक नहीं पहुंच जाते। दृढ़ तंत्रिका नेटवर्क के अपने ज्ञान के आधार पर, आपको यह सोचना चाहिए कि सबसे ऊपरी परत में एक नोड होगा, लेकिन ऐसा नहीं है, और यह RCN के लाभों में से एक है,लेकिन इस विषय की चर्चा इस लेख के दायरे से परे है।

अंतिम सुविधा परत अद्वितीय होगी। याद रखें, मैंने इस बारे में बात की कि RCN उपस्थिति से अलग कैसे है? यह वह परत है जो उत्पन्न वस्तु के आकार को प्राप्त करने के लिए जिम्मेदार होगी। इस प्रकार, इस परत को बहुत ही निम्न-स्तरीय विशेषताओं के साथ काम करना चाहिए, किसी भी आकार के सबसे बुनियादी बिल्डिंग ब्लॉक, जो हमें किसी भी वांछित आकार को उत्पन्न करने में मदद करेंगे। विभिन्न कोणों पर घूमने वाली छोटी सीमाएं काफी उपयुक्त हैं, और यह ठीक है कि प्रौद्योगिकी के लेखक उपयोग करते हैं।

लेखकों ने अंतिम स्तर की विशेषताओं का चयन एक 3x3 खिड़की का प्रतिनिधित्व करने के लिए किया है जिसमें एक निश्चित रोटेशन कोण के साथ एक सीमा होती है, जिसे वे एक पैच विवरणक कहते हैं। रोटेशन कोणों की संख्या जो उन्होंने चुनी है, 16 है। इसके अलावा, बाद में एक उपस्थिति जोड़ने में सक्षम होने के लिए, आपको प्रत्येक घुमाव के लिए दो झुकावों की आवश्यकता है ताकि यह बताने में सक्षम हो कि पृष्ठभूमि बाईं तरफ है या दाईं सीमा पर, यदि ये बाहरी सीमाएं हैं। , और आंतरिक सीमाओं के मामले में अतिरिक्त अभिविन्यास (यानी, वस्तु के अंदर)। में चित्रा 7 शो आखिरी परत की विशेषताओं विधानसभा, और चित्रा 8 से पता चलता है कि कैसे पैच की वर्णनकर्ता निश्चित आकार उत्पन्न कर सकते हैं।


चित्र 7: . 48 ( ) , 16 3 . – 45 . “IN " , “OUT” — .


8: «i» .

अब जब हम संकेतों की अंतिम परत पर पहुंच गए हैं, तो हमारे पास एक आरेख है, जिस पर वस्तु की सीमा निर्धारित की जाती है और यह समझना कि सीमा के बाहर का क्षेत्र आंतरिक है या बाहरी। यह एक उपस्थिति जोड़ने के लिए बनी हुई है, छवि में प्रत्येक शेष क्षेत्र को IN या OUT के रूप में नामित करती है और क्षेत्र पर पेंट करती है। एक सशर्त यादृच्छिक क्षेत्र यहां मदद कर सकता है। गणितीय विवरणों में जाने के बिना, हम बस अंतिम छवि में प्रत्येक पिक्सेल को रंग और स्थिति (IN या OUT) द्वारा संभाव्यता वितरण के लिए असाइन करते हैं। यह वितरण नक्शे की सीमा से प्राप्त जानकारी को प्रतिबिंबित करेगा। उदाहरण के लिए, यदि दो आसन्न पिक्सेल हैं, जिनमें से एक IN है, और दूसरा OUT है, इस बात की संभावना है कि उनके पास एक अलग रंग बढ़ेगा। यदि दो आसन्न पिक्सेल आंतरिक सीमा के विपरीत किनारों पर हैं, तो संभावनाएक अलग रंग भी बढ़ेगा। यदि पिक्सेल सीमा के अंदर झूठ बोलते हैं और किसी भी चीज़ से अलग नहीं होते हैं, तो संभावना है कि उनका रंग समान है, लेकिन बाहरी पिक्सेल एक दूसरे से थोड़ा विचलन और इसी तरह हो सकते हैं। अंतिम छवि प्राप्त करने के लिए, आप सिर्फ संयुक्त संभावना वितरण से एक चयन करते हैं जिसे हमने अभी स्थापित किया है। उत्पन्न छवि को और अधिक रोचक बनाने के लिए, हम रंगों को बनावट के साथ बदल सकते हैं। हम इस परत पर चर्चा नहीं करेंगे क्योंकि RCN उपस्थिति के आधार पर वर्गीकरण का प्रदर्शन कर सकता है।अंतिम छवि प्राप्त करने के लिए, आप बस संयुक्त संभावना वितरण से एक चयन करते हैं जिसे हमने अभी स्थापित किया है। उत्पन्न छवि को और अधिक रोचक बनाने के लिए, हम रंगों को बनावट के साथ बदल सकते हैं। हम इस परत पर चर्चा नहीं करेंगे क्योंकि RCN उपस्थिति के आधार पर वर्गीकरण का प्रदर्शन कर सकता है।अंतिम छवि प्राप्त करने के लिए, आप सिर्फ संयुक्त संभावना वितरण से एक चयन करते हैं जिसे हमने अभी स्थापित किया है। उत्पन्न छवि को अधिक रोचक बनाने के लिए, हम रंगों को बनावट के साथ बदल सकते हैं। हम इस परत पर चर्चा नहीं करेंगे क्योंकि RCN उपस्थिति के आधार पर वर्गीकरण का प्रदर्शन कर सकता है।

खैर, हम आज के लिए यहां समाप्त करेंगे। यदि आप RCN के बारे में अधिक जानना चाहते हैं, तो इस लेख को पढ़ें [5] और अतिरिक्त सामग्रियों के साथ परिशिष्ट, या आप विभिन्न डेटासेट पर RCN का उपयोग करने के तार्किक निष्कर्ष , प्रशिक्षण और परिणामों पर मेरे अन्य लेख पढ़ सकते हैं ।

सूत्रों का कहना है:

1. [१] आर। पेरौल्ट, वाई। शोहम, ई। ब्रायनजॉल्फसन, एट अल।, एआई इंडेक्स २०१ ९ की वार्षिक रिपोर्ट (२०१ ९), मानव-केंद्रित एआई संस्थान - स्टैनफोर्ड यूनिवर्सिटी।
2. [२] डी। हेंड्रिक्स, के। झाओ, एस। बासार्ट, एट अल।, प्राकृतिक सलाहकार परीक्षा (२०१ ९), arXiv: 1907.07174।
3. [३] जे। सु।, डी। वास्कोनसेलोस वर्गास, और एस। कोइची, फोल्डिंग डीप न्यूरल नेटवर्क्स (२०१,) के लिए एक पिक्सेल हमला, १iv१०.०64६४।
4. [४] एम। शरीफ, एस। भगवतुला, एल। बाऊर, ए जनरल फ्रेमवर्क फॉर एडवरसैरियल एग्जाम्स विद ऑब्जेक्टिव्स (२०१if), आरएक्सआईवी: १.00०१.००३४ ९।
5. [5] D. George, W. Lehrach, K. Kansky, et al., A Generative Vision Model that Trains with High Data Efficiency and Break Text-based CAPTCHAs (2017), Science Mag (Vol 358 — Issue 6368).
6. [6] H. Liang, X. Gong, M. Chen, et al., Interactions Between Feedback and Lateral Connections in the Primary Visual Cortex (2017), Proceedings of the National Academy of Sciences of the United States of America.

: « : ».

Source: https://habr.com/ru/post/undefined/