💼 👜 🗃️ AdaBoost एल्गोरिथम 👂🏻 🎳 🈹

लेख का अनुवाद उन्नत पाठ्यक्रम "डेटा साइंस के लिए गणित" की शुरुआत की पूर्व संध्या पर तैयार किया गया था ।

परिचय

AdaBoost एल्गोरिथ्म का उपयोग किसी भी मशीन लर्निंग एल्गोरिदम के प्रदर्शन को बेहतर बनाने के लिए किया जा सकता है। बड़ी मात्रा में डेटा के आधार पर भविष्यवाणियां करने के लिए मशीन लर्निंग एक शक्तिशाली उपकरण बन गया है। यह आज इतना लोकप्रिय हो गया है कि मशीन लर्निंग एप्लिकेशन रोजमर्रा के कार्यों में भी आवेदन पाते हैं। सबसे आम उदाहरणों में से एक ग्राहक द्वारा की गई पिछली खरीद के आधार पर उत्पाद की सिफारिशें हैं। मशीन लर्निंग, जिसे अक्सर भविष्य कहनेवाला विश्लेषण या भविष्य कहनेवाला मॉडलिंग कहा जाता है, को स्पष्ट प्रोग्रामिंग के बिना सीखने की कंप्यूटर की क्षमता के रूप में परिभाषित किया जा सकता है। मशीन लर्निंग कुछ मानदंडों के आधार पर पूर्वानुमान बनाने के लिए इनपुट डेटा का विश्लेषण करने के लिए पूर्व-निर्मित एल्गोरिदम का उपयोग करता है।

AdaBoost एल्गोरिथ्म क्या है?

मशीन लर्निंग में कमजोर क्लासिफायर को मजबूत लोगों में बदलने के लिए बूस्टिंग की जरूरत होती है। एक कमजोर लर्निंग अल्गोरिथम या क्लासिफायर एक लर्निंग अल्गोरिथम है जो यादृच्छिक अनुमान लगाने से बेहतर काम करता है, और यह रीट्रेनिंग के मामले में अच्छी तरह से काम करेगा, क्योंकि कमजोर क्लासिफायरियर के एक बड़े सेट के साथ, कोई भी कमजोर क्लासिफायर यादृच्छिक नमूने से बेहतर काम करेगा। एक कमजोर क्लासिफायरियर के रूप में, सामान्य रूप से अक्सर thresholdएक निश्चित मानदंड के अनुसार उपयोग किया जाता है । यदि संकेत की thresholdतुलना में उच्च (थ्रेशोल्ड मान) निहित है , तो यह सकारात्मक क्षेत्र को संदर्भित करता है, अन्यथा - नकारात्मक को।

AdaBoost का अर्थ है "अनुकूली बूस्टिंग" या अनुकूली बूस्टिंग। यह वर्गीकरण की समस्याओं को हल करने के लिए कमजोर शिक्षण एल्गोरिदम को मजबूत बनाता है।

वर्गीकरण के लिए अंतिम समीकरण निम्नानुसार हो सकता है:

यहाँ f _m m-th कमजोर क्लासिफायरियर है, जहाँ _m इसी वजन के लिए जिम्मेदार है।

AdaBoost एल्गोरिथ्म कैसे काम करता है?

AdaBoost का उपयोग मशीन लर्निंग एल्गोरिदम के प्रदर्शन को बेहतर बनाने के लिए किया जा सकता है । यह कमजोर प्रशिक्षण एल्गोरिदम के साथ सबसे अच्छा काम करता है, इसलिए इस तरह के मॉडल वर्गीकरण समस्या को हल करते समय यादृच्छिक से अधिक सटीकता प्राप्त कर सकते हैं। AdaBoost के साथ उपयोग किए जाने वाले सबसे आम एल्गोरिदम एकल-स्तरीय निर्णय पेड़ हैं । एक कमजोर शिक्षण एल्गोरिथ्म एक क्लासिफायरियर या भविष्यवाणी एल्गोरिथ्म है जो सटीकता के संदर्भ में अपेक्षाकृत खराब काम करता है। इसके अलावा, हम कह सकते हैं कि कमजोर क्लासिफायर की गणना करना आसान है, इसलिए आप बूस्टिंग का उपयोग करके एक मजबूत क्लासिफायरियर बनाने के लिए एल्गोरिदम की कई संस्थाओं को जोड़ सकते हैं।

यदि हमारे पास एक डेटा सेट है जिसमें n अंकों की संख्या है और

जहां -1 नकारात्मक वर्ग है और 1 सकारात्मक है। फिर प्रत्येक बिंदु के वजन को प्रारंभिक रूप से दर्शाया जाएगा, जैसा कि नीचे दिखाया गया है:

निम्नलिखित अभिव्यक्ति में प्रत्येक मीटर 1 से एम तक भिन्न होगा।
पहले हमें सबसे छोटे भारित वर्गीकरण त्रुटि के साथ एक कमजोर क्लासिफायर का चयन करने की आवश्यकता है, जो क्लासिफायर को डेटा सेट पर लागू करता है।

फिर हम एमटी कमजोर क्लासिफायर के वजन की गणना करते हैं, जैसा कि नीचे दिखाया गया है:

50% से अधिक सटीकता के साथ किसी भी क्लासिफायर के लिए वजन सकारात्मक है। अधिक वजन, अधिक सटीक क्लासिफायरियर। सटीकता 50% से कम होने पर वजन नकारात्मक हो जाता है। संकेत को अंकित करके भविष्यवाणियों को जोड़ा जा सकता है। इस प्रकार, 40% की सटीकता के साथ एक क्लासिफायरियर को 60% की सटीकता के साथ एक क्लासिफायरियर में परिवर्तित किया जा सकता है। तो क्लासिफायर अंतिम भविष्यवाणी में योगदान देगा, भले ही यह यादृच्छिक अनुमान से भी बदतर काम करे। हालांकि, अंतिम परिणाम किसी भी तरह से क्लासिफायर के प्रभाव में नहीं बदलेगा, जिसकी सटीकता 50% है।

सकारात्मक वजन वाले क्लासिफायर से गलत वर्गीकरण के मामले में अंश में घातांक हमेशा 1 से अधिक होगा। पुनरावृत्ति के बाद, गलत तरीके से वर्गीकृत वस्तुओं का वजन बढ़ जाएगा। नकारात्मक वजन वाले क्लासिफायर एक समान तरीके से व्यवहार करेंगे। साइन इनवर्सन में अंतर है: सही वर्गीकरण गलत हो जाएगा। अंतिम पूर्वानुमान की गणना प्रत्येक वर्गीकरणकर्ता के योगदान को ध्यान में रखकर की जा सकती है और उनके भारित पूर्वानुमानों के योग की गणना की जा सकती है।

प्रत्येक बिंदु के लिए वजन निम्नानुसार अपडेट किया जाएगा:

यहां Z _m एक सामान्यीकृत पैरामीटर है। यह सुनिश्चित करने के लिए आवश्यक है कि सभी उदाहरण वजन का योग 1 है।

AdaBoost एल्गोरिथ्म का उपयोग कहाँ किया जाता है?

AdaBoost का उपयोग चेहरे की पहचान के लिए किया जा सकता है, क्योंकि यह इस तरह के कार्यों के लिए एक मानक एल्गोरिथ्म है। यह एक अस्वीकृति कैस्केड का उपयोग करता है जिसमें क्लासिफायर की कई परतें होती हैं। जब मान्यता क्षेत्र किसी भी परत पर चेहरे का पता नहीं लगाता है, तो इसे अस्वीकार कर दिया जाता है। क्षेत्र में पहला क्लासिफायर ने नकारात्मक क्षेत्र को कंप्यूटिंग की लागत को कम करने के लिए शामिल किया है। यद्यपि AdaBoost का उपयोग कमजोर क्लासीफायर को संयोजित करने के लिए किया जाता है, AdaBoost सिद्धांतों का उपयोग कैस्केड में प्रत्येक परत के लिए सर्वोत्तम विशेषताओं को खोजने के लिए भी किया जाता है।

AdaBoost एल्गोरिथ्म फायदे और नुकसान

AdaBoost एल्गोरिथ्म के कई लाभों में से एक यह है कि यह आसान, तेज और प्रोग्राम करना आसान है। इसके अलावा, यह पैरामीटर सेट किए बिना किसी भी मशीन लर्निंग एल्गोरिदम के साथ संयोजन करने के लिए पर्याप्त लचीला है, पैरामीटर टी के अलावा। यह द्विआधारी वर्गीकरण की तुलना में अधिक जटिल कार्यों को सीखने के लिए विस्तार योग्य है, और सार्वभौमिक पर्याप्त है क्योंकि इसका उपयोग संख्यात्मक या पाठ डेटा के साथ किया जा सकता है।

AdaBoost में कई कमियां भी हैं, कम से कम यह तथ्य कि यह एल्गोरिथम आनुभविक रूप से सिद्ध है और समान रूप से वितरित शोर के लिए बहुत कमजोर है। कमजोर क्लासिफायर यदि वे बहुत कमजोर हैं, तो खराब परिणाम और फिर से पकड़ना हो सकता है।

AdaBoost एल्गोरिथम उदाहरण

एक उदाहरण के रूप में, विश्वविद्यालय के प्रवेश अभियान को लें, जहाँ एक आवेदक को विश्वविद्यालय में प्रवेश दिया जा सकता है या नहीं। यहां आप विभिन्न मात्रात्मक और गुणात्मक डेटा ले सकते हैं। उदाहरण के लिए, प्रवेश का परिणाम, जिसे "हां" या "नहीं" के रूप में व्यक्त किया जा सकता है, जबकि छात्रों के कौशल और शौक को गुणात्मक रूप से निर्धारित किया जा सकता है। हम आसानी से प्रशिक्षण डेटा के सही वर्गीकरण के साथ आ सकते हैं। मान लीजिए, अगर एक छात्र ने एक निश्चित अनुशासन में खुद को अच्छी तरह से दिखाया, तो उसे एक उच्च संभावना के साथ स्वीकार किया जाएगा। हालांकि, उच्च सटीकता के साथ भविष्यवाणी करना एक जटिल मामला है और यह यहां है कि कमजोर क्लासिफायर मदद करते हैं।

निष्कर्ष

AdaBoost प्रत्येक क्लासिफायरियर के लिए एक प्रशिक्षण सेट चुनने में मदद करता है, जिसे पिछले क्लासिफायरियर के परिणामों के आधार पर प्रशिक्षित किया जाता है। परिणामों के संयोजन के लिए, एल्गोरिथ्म निर्धारित करता है कि प्राप्त प्रतिक्रिया के आधार पर प्रत्येक वर्गीकरणकर्ता को कितना वजन दिया जाना चाहिए। यह मजबूत और सही वर्गीकरण त्रुटियों को बनाने के लिए कमजोर क्लासिफायर को जोड़ती है, और बाइनरी वर्गीकरण समस्याओं के लिए एक अत्यंत सफल बूस्टिंग एल्गोरिथ्म भी है।

पाठ्यक्रम के बारे में अधिक जानें।

AdaBoost एल्गोरिथम