🏴 👦🏽 🔓 आर पर मशीन सीखने: भविष्य कहनेवाला विश्लेषण के लिए विशेषज्ञ तकनीक 💇🏼 👉🏾 🥇

हैलो, हब्रोज़िटेली! आर भाषा मशीन सीखने के तरीकों का एक शक्तिशाली सेट प्रदान करती है जो आपको अपने डेटा का गैर-तुच्छ विश्लेषण करने की अनुमति देती है। पुस्तक एक मार्गदर्शिका है जो रोजमर्रा की समस्याओं को हल करने के लिए मशीन सीखने के तरीकों को लागू करने में मदद करेगी। ब्रेट लैनज़ आपको डेटा विश्लेषण, पूर्वानुमान और डेटा विज़ुअलाइज़ेशन के लिए आवश्यक सभी चीजें सिखाएगा। यहां आपको नई और बेहतर लाइब्रेरियों, मशीन लर्निंग और पूर्वाग्रह मुद्दों के नैतिक पहलुओं के साथ-साथ गहन प्रशिक्षण के बारे में जानकारी मिलेगी।

इस पुस्तक में - मशीन लर्निंग के फंडामेंटल और उदाहरणों पर कंप्यूटर प्रशिक्षण की विशेषताएं। - भाषा आर के माध्यम से मशीन सीखने में उपयोग के लिए डेटा की तैयारी - परिणामों के महत्व का वर्गीकरण। - निर्णय पेड़ों, नियमों और संदर्भ वैक्टर का उपयोग करके घटनाओं की भविष्यवाणी। - प्रतिगमन विधियों का उपयोग करके संख्यात्मक डेटा और वित्तीय डेटा के आकलन की भविष्यवाणी। - तंत्रिका नेटवर्क का उपयोग करते हुए जटिल प्रक्रियाओं को तैयार करना गहन शिक्षा की नींव है। - मॉडल का मूल्यांकन और उनके प्रदर्शन में सुधार। - विशेष रूप से R 3.6, स्पार्क, H2O और TensorFlow में बड़े डेटा के प्रसंस्करण के लिए नवीनतम तकनीकें।

पुस्तक किसके लिए है?

पुस्तक उन लोगों के लिए है जो एक विशिष्ट क्षेत्र में डेटा का उपयोग करने की उम्मीद करते हैं। आप मशीन सीखने से पहले से ही परिचित हो सकते हैं, लेकिन आपने कभी आर भाषा के साथ काम नहीं किया है; या, इसके विपरीत, आप R के बारे में थोड़ा जानते हैं, लेकिन मशीन सीखने के बारे में लगभग नहीं जानते हैं। किसी भी मामले में, यह पुस्तक आपको जल्दी से शुरू करने में मदद करेगी। यह गणित और प्रोग्रामिंग की बुनियादी अवधारणाओं को ताज़ा करने के लिए उपयोगी होगा, लेकिन किसी भी पूर्व अनुभव की आवश्यकता नहीं होगी। आपको केवल सीखने की इच्छा की आवश्यकता है।

आप प्रकाशन में क्या पढ़ेंगे

1 « » , , , , .

2 « » R. , , .

3 « : » , : .

4 « : » , . , .

5 « : » , , . , .

6 « : » , . , , .

7 « “ ”: » , . , , .

8 « : » , , . - , , , .

9 « : k-» . -.

10 « » , .

11 « » , , . , .

12 « » : R. , , R.

उदाहरण: एक तंत्रिका नेटवर्क का उपयोग करके ठोस शक्ति का निर्माण

सिविल इंजीनियरिंग के क्षेत्र में, निर्माण सामग्री की प्रभावशीलता का सटीक अनुमान होना बेहद जरूरी है। ये आकलन इमारतों, पुलों और सड़कों के निर्माण में सामग्री के उपयोग को नियंत्रित करने वाले सुरक्षा नियमों को विकसित करने के लिए आवश्यक हैं।

विशेष रूप से रुचि ठोस ताकत का आकलन है। कंक्रीट का उपयोग लगभग किसी भी निर्माण में किया जाता है, कंक्रीट की प्रदर्शन विशेषताएं बहुत भिन्न होती हैं, क्योंकि इसमें बड़ी संख्या में सामग्री होती है जो एक जटिल में बातचीत करते हैं। नतीजतन, यह कहना मुश्किल है कि तैयार उत्पाद की ताकत क्या होगी। एक मॉडल जो कंक्रीट की ताकत का निर्धारण करने की अनुमति देगा, शुरुआती सामग्रियों की संरचना को ध्यान में रखते हुए, निर्माण स्थलों के लिए उच्च स्तर की सुरक्षा प्रदान कर सकता है।

चरण 1. डेटा संग्रह

इस विश्लेषण के लिए, हम I-Cheng Yeh द्वारा यूसीआई मशीन लर्निंग रिपॉजिटरी (http://archive.ics.uci.edu/ml) को उपलब्ध कराए गए कंक्रीट कंप्रेसिव स्ट्रेंथ डेटा का उपयोग करेंगे। चूंकि इस डेटा को बनाने के लिए ऐ-चेंग ये ने सफलतापूर्वक तंत्रिका नेटवर्क का उपयोग किया है, इसलिए हम आर में एक तंत्रिका नेटवर्क के एक साधारण मॉडल को लागू करके उसके काम को पुन: पेश करने की कोशिश करेंगे।

साइट द्वारा देखते हुए, इस डेटासेट में कंक्रीट के विभिन्न ब्रांडों के बारे में 1030 रिकॉर्ड होते हैं, जिसमें आठ विशेषताएं होती हैं जो कंक्रीट मिश्रण की संरचना में उपयोग किए जाने वाले घटकों का वर्णन करती हैं। यह माना जाता है कि ये विशेषताएं अंतिम संपीड़ित ताकत को प्रभावित करती हैं। इनमें शामिल हैं: सीमेंट, पानी, विभिन्न योजक, बड़े और छोटे समुच्चय जैसे कि कुचल पत्थर और रेत जैसे तैयार उत्पाद में उपयोग की जाने वाली राशि, (साथ ही समय)।

इस उदाहरण को चलाने के लिए, कंक्री फ़ाइल को डाउनलोड करें और इसे R वर्किंग डायरेक्टरी में सेव करें।

चरण 2. अनुसंधान और डेटा तैयारी

हमेशा की तरह, हम read.csv () फ़ंक्शन का उपयोग करके डेटा को आर-ऑब्जेक्ट में लोड करके विश्लेषण शुरू करते हैं और सुनिश्चित करते हैं कि परिणाम अपेक्षित संरचना से मेल खाता है:

> concrete <- read.csv("concrete.csv")
> str(concrete)
'data.frame':        1030 obs. of 9 variables:
$ cement       : num 141 169 250 266 155 ...
$ slag            : num 212 42.2 0 114 183.4 ...
$ ash             : num 0 124.3 95.7 0 0 ...
$ water          : num 204 158 187 228 193 ...
$ superplastic : num 0 10.8 5.5 0 9.1 0 0 6.4 0 9 ...
$ coarseagg    : num 972 1081 957 932 1047 ...
$ fineagg        : num 748 796 861 670 697 ...
$ age             : int 28 14 28 28 28 90 7 56 28 28 ...
$ strength      : num 29.9 23.5 29.2 45.9 18.3 ...

डेटा फ़्रेम में नौ चर आठ विशेषताओं और एक अपेक्षित परिणाम के अनुरूप हैं, लेकिन यह स्पष्ट हो गया कि एक समस्या है। तंत्रिका नेटवर्क सबसे अच्छा काम करते हैं जब इनपुट डेटा को 0 के आसपास केंद्रित एक संकीर्ण सीमा तक बढ़ाया जाता है, और यहां हम 0 से 1000 से अधिक की रेंज में मान देखते हैं।

आमतौर पर, इस समस्या का समाधान सामान्यीकरण या मानकीकरण फ़ंक्शन का उपयोग करके डेटा को स्केल करना है। यदि डेटा वितरण घंटी के आकार का वक्र (सामान्य वितरण, अध्याय 2 देखें) से मेल खाता है, तो यह अंतर्निहित पैमाने () फ़ंक्शन का उपयोग करके मानकीकरण का उपयोग करने के लिए समझ में आ सकता है। यदि डेटा वितरण समान या सामान्य से बहुत अलग है, तो 0 से 1 तक की सीमा का सामान्यीकरण अधिक उपयुक्त हो सकता है। इस मामले में, हम बाद वाले विकल्प का उपयोग करेंगे।

अध्याय 3 में, हमने अपना सामान्यीकरण () फ़ंक्शन बनाया:

> normalize <- function(x) {
       return((x - min(x)) / (max(x) — min(x)))
}

इस कोड के निष्पादित होने के बाद, आप सामान्यीकृत () फ़ंक्शन को चयनित डेटा फ़्रेम के सभी स्तंभों पर lapply () फ़ंक्शन का उपयोग करके लागू कर सकते हैं:

> concrete_norm <- as.data.frame(lapply(concrete, normalize))

यह सत्यापित करने के लिए कि सामान्यीकरण ने काम किया है, आप जांच सकते हैं कि क्या ताकत विशेषता का न्यूनतम और अधिकतम मान क्रमशः 0 और 1 है:

> summary(concrete_norm$strength)
       Min.     1st Qu.         Median     Mean      3rd Qu.      Max.
   0.0000     0.2664         0.4001  0.4172      0.5457   1.0000

तुलना के लिए: इस विशेषता के प्रारंभिक न्यूनतम और अधिकतम मूल्य क्रमशः 2.33 और 82.60 थे:

> summary(concrete$strength)
     Min.       1st Qu.     Median       Mean      3rd Qu.       Max.
    2.33         23.71       34.44      35.82        46.14      82.60

मॉडल को प्रशिक्षित करने से पहले डेटा पर लागू किसी भी रूपांतरण को बाद में रिवर्स ऑर्डर में मूल इकाइयों में वापस बदलने के लिए लागू किया जाना चाहिए। स्केलिंग की सुविधा के लिए, स्रोत डेटा को सहेजना उचित है, या कम से कम स्रोत डेटा के आंकड़ों का सारांश।

मूल लेख में ये द्वारा वर्णित परिदृश्य के बाद, हम डेटा को एक प्रशिक्षण सेट में विभाजित करेंगे, जिसमें सभी उदाहरणों में से 75% और 25% से मिलकर एक परीक्षण सेट शामिल है। उपयोग की गई CSV फ़ाइल को यादृच्छिक क्रम में क्रमबद्ध किया गया है, इसलिए हम इसे केवल दो भागों में विभाजित कर सकते हैं: हम भविष्य के परिणामों के लिए मॉडल का सामान्यीकरण करने के लिए एक तंत्रिका नेटवर्क और एक परीक्षण डेटासेट बनाने के लिए एक प्रशिक्षण डेटासेट का उपयोग करेंगे। चूंकि तंत्रिका नेटवर्क को आसानी से वापस लेने की स्थिति में लाया जाता है, इसलिए यह कदम बहुत महत्वपूर्ण है।

> concrete_train <- concrete_norm[1:773, ]
> concrete_test <- concrete_norm[774:1030, ]

चरण 3. मॉडल को डेटा पर प्रशिक्षण देना

कंक्रीट उत्पादन में प्रयुक्त सामग्री और तैयार उत्पाद की ताकत के बीच संबंध को मॉडल करने के लिए, हम एक बहुपरत प्रत्यक्ष वितरण तंत्रिका नेटवर्क का निर्माण करेंगे। स्टीफन फ्रिट्च और फ्रॉक गुएन्थर द्वारा विकसित न्यूरलनेट पैकेज, इस तरह के नेटवर्क का एक मानक और उपयोग में आसान कार्यान्वयन प्रदान करता है। इस पैकेज में नेटवर्क टोपोलॉजी के निर्माण के लिए एक फ़ंक्शन भी शामिल है। तंत्रिका नेटवर्क के बारे में अतिरिक्त जानकारी प्राप्त करने के लिए न्यूरलनेट को लागू करना एक अच्छा तरीका है, हालांकि इसका मतलब यह नहीं है कि इसका उपयोग वास्तविक काम करने के लिए भी नहीं किया जा सकता है - जैसा कि आप जल्द ही देखेंगे, यह एक शक्तिशाली उपकरण है।

R , , . nnet R, , , . , . — RSNNS, , , .

चूंकि न्यूरलनेट पैकेज को आधार आर में शामिल नहीं किया गया है, इसलिए आपको इसे install.packages ("neuralnet") टाइप करके इंस्टॉल करना होगा और लाइब्रेरी (न्यूरलनेट) कमांड का उपयोग करके इसे डाउनलोड करना होगा। पैकेज में न्यूरलनेट () फ़ंक्शन का उपयोग निम्न सिंटैक्स का उपयोग करके संख्यात्मक भविष्यवाणी में तंत्रिका नेटवर्क को प्रशिक्षित करने के लिए किया जा सकता है।

तंत्रिका नेटवर्क सिंटैक्स

न्यूरलनेट पैकेज से न्यूरलनेट () फ़ंक्शन का उपयोग करना

एक मॉडल का निर्माण करना:

m <- neuralnet(target ~ predictors, data = mydata,
                       hidden = 1, act.fct = "logistic")

• लक्ष्य - एक मॉडल जो mydata डेटा फ्रेम पर प्रशिक्षण के परिणामस्वरूप बनाया जाएगा;

• भविष्यवक्ता - आर-सूत्र जो पूर्वानुमान में उपयोग किए जाने वाले मायडेटा डेटा फ्रेम से विशेषताओं को निर्धारित करता है;

• डेटा - डेटा फ्रेम जिसमें लक्ष्य और भविष्यवक्ता होते हैं;

• छिपी - छिपी परत में न्यूरॉन्स की संख्या (डिफ़ॉल्ट 1 है)। नोट: कई छिपी हुई परतों का वर्णन करने के लिए, पूर्णांक के एक वेक्टर का उपयोग किया जाता है, उदाहरण के लिए, सी (2, 2);

• act.fct - सक्रियण समारोह: "लॉजिस्टिक" या "तन"। नोट: किसी भी अन्य भिन्न फ़ंक्शन का उपयोग किया जा सकता है।

फ़ंक्शन एक न्यूरल नेटवर्क ऑब्जेक्ट देता है जिसका उपयोग पूर्वानुमान के लिए किया जा सकता है।

भविष्यवाणी:

पी <- गणना (एम, परीक्षण)

• न्यूरलनेट () फ़ंक्शन का उपयोग करके प्रशिक्षित मॉडल;

• परीक्षण - एक डेटा फ़्रेम जिसमें टेस्टी डेटा उसी विशेषताओं के साथ होता है जैसे कि वर्गीकरण डेटा का उपयोग क्लासिफायरियर के निर्माण के लिए किया जाता है।

फ़ंक्शन दो घटकों से मिलकर एक सूची देता है: $ न्यूरॉन्स, जहां प्रत्येक नेटवर्क परत के लिए न्यूरॉन्स संग्रहीत होते हैं, और $ net.result, जहां इस मॉडल का उपयोग करके अनुमानित मूल्यों को संग्रहीत किया जाता है।

उदाहरण:

concrete_model <- neuralnet(strength ~ cement + slag + ash,
      data = concrete, hidden = c(5, 5), act.fct = "tanh")
model_results <- compute(concrete_model, concrete_data)
strength_predictions <- model_results$net.result

आइए डिफ़ॉल्ट मापदंडों के साथ सरलतम बहु-स्तरीय प्रत्यक्ष वितरण नेटवर्क का प्रशिक्षण शुरू करें, जिसमें केवल एक छिपा हुआ नोड हो:

> concrete_model <- neuralnet(strength ~ cement + slag
         + ash + water + superplastic + coarseagg + fineagg + age,
         data = concrete_train)

उसके बाद, जैसा कि एफआईजी में दिखाया गया है। 7.11, आप प्लॉट () फ़ंक्शन का उपयोग करके नेटवर्क टोपोलॉजी की कल्पना कर सकते हैं और इसे परिणामस्वरूप मॉडल ऑब्जेक्ट पास कर सकते हैं:

> plot(concrete_model)

इस सरल मॉडल में, आठ विशेषताओं में से प्रत्येक के लिए एक इनपुट नोड है, फिर एक छिपा हुआ और एक आउटपुट नोड है, जो कंक्रीट की ताकत का पूर्वानुमान देता है। आरेख प्रत्येक लिंक के लिए वज़न भी दिखाता है और नंबर 1 के साथ चिह्नित नोड्स के लिए संकेतित ऑफ़सेट मान। ऑफ़सेट मान एक संख्यात्मक स्थिरांक है जो आपको निर्दिष्ट नोड में मान को ऊपर या नीचे स्थानांतरित करने की अनुमति देता है, लगभग एक रेखीय समीकरण में एक बदलाव की तरह।

एक छिपे हुए नोड के साथ एक तंत्रिका नेटवर्क को अध्याय 6 में चर्चा की गई रेखीय प्रतिगमन मॉडल के "चचेरे भाई" माना जा सकता है इनपुट नोड्स और छिपे हुए नोड के बीच वजन बीटा गुणांक के समान है, और ऑफसेट वजन एक बदलाव की तरह है।

आकृति के निचले भाग में, प्रशिक्षण चरणों की संख्या और त्रुटि की भयावहता प्रदर्शित की जाती है - कुल माध्य वर्ग त्रुटि (स्क्वेयर्ड एरर्स, एसएसई का योग), जो कि अपेक्षित है, पूर्वानुमानित और वास्तविक मूल्यों के बीच चुकता अंतर का योग है। एसएसई जितना छोटा होता है, उतना ही सटीक रूप से मॉडल प्रशिक्षण डेटा से मेल खाता है, जो इन आंकड़ों की प्रभावशीलता को इंगित करता है, लेकिन इस बारे में बहुत कम कहता है कि मॉडल अज्ञात डेटा के साथ कैसे काम करेगा।

चरण 4. मॉडल की प्रभावशीलता का आकलन करना

नेटवर्क टोपोलॉजी आरेख एक तंत्रिका नेटवर्क के "ब्लैक बॉक्स" को देखने का अवसर प्रदान करता है, लेकिन यह इस बात की अधिक जानकारी नहीं देता है कि मॉडल भविष्य के डेटा से कितनी अच्छी तरह मेल खाता है। एक परीक्षण डेटा सेट पर पूर्वानुमान उत्पन्न करने के लिए, आप गणना ()

> model_results <- compute(concrete_model, concrete_test[1:8])

फ़ंक्शन का उपयोग कर सकते हैं: गणना () फ़ंक्शन उस पूर्वानुमान () फ़ंक्शन की तुलना में थोड़ा अलग काम करता है जो हमने अब तक उपयोग किया है। यह दो घटकों से मिलकर एक सूची देता है: $ न्यूरॉन्स, जहां प्रत्येक नेटवर्क परत के लिए न्यूरॉन्स संग्रहीत होते हैं, और $ net.result, जहां अनुमानित मान संग्रहीत होते हैं। यह $ net.result है जिसकी हमें आवश्यकता है:

> predicted_strength <- model_results$net.result

चूंकि हमारे पास संख्यात्मक पूर्वानुमान का कार्य है, और वर्गीकरण नहीं, इसलिए हम मॉडल की सटीकता को सत्यापित करने के लिए विसंगतियों के मैट्रिक्स का उपयोग नहीं कर सकते हैं। हम अनुमानित और ठोस ताकत के सही मूल्य के बीच संबंध को मापते हैं। यदि अनुमानित और वास्तविक मूल्य दृढ़ता से सहसंबंधित होंगे, तो, संभवतः, कंक्रीट की ताकत निर्धारित करने के लिए मॉडल उपयोगी होगा।

आपको याद दिलाता हूं कि दो संख्यात्मक वैक्टर के बीच सहसंबंध प्राप्त करने के लिए, cor () फ़ंक्शन का उपयोग किया जाता है:

> cor(predicted_strength, concrete_test$strength)
                    [,1]
[1,] 0.8064655576

यदि आपका परिणाम हमारे से अलग है, तो चिंतित न हों। चूंकि तंत्रिका नेटवर्क यादृच्छिक भार के साथ काम करना शुरू कर देता है, इसलिए पुस्तक में प्रस्तुत भविष्यवाणियां विभिन्न मॉडलों के लिए भिन्न हो सकती हैं। यदि आप परिणामों का सटीक मिलान करना चाहते हैं, तो तंत्रिका नेटवर्क का निर्माण शुरू करने से पहले set.seed (12345) कमांड का प्रयास करें।

यदि सहसंबंध 1 के करीब है, तो यह दो चर के बीच एक मजबूत रैखिक संबंध को इंगित करता है। इसलिए, लगभग 0.806 का सहसंबंध एक मजबूत संबंध का संकेत देता है। इसका मतलब यह है कि मॉडल एकल छिपे हुए नोड के साथ भी काफी अच्छी तरह से काम करता है। यह देखते हुए कि हमने केवल एक छिपे हुए नोड का उपयोग किया है, यह संभावना है कि हम मॉडल की दक्षता में सुधार कर सकते हैं, जिसे हम करने की कोशिश करेंगे।

चरण 5. मॉडल दक्षता में सुधार

चूंकि अधिक जटिल टोपोलॉजी वाले नेटवर्क अधिक जटिल अवधारणाओं का अध्ययन करने में सक्षम हैं, आइए देखें कि क्या होता है यदि आप छिपे हुए नोड्स की संख्या को पांच तक बढ़ाते हैं। हम पहले की तरह न्यूरलनेट () फ़ंक्शन का उपयोग करेंगे, लेकिन हिडन = 5 पैरामीटर जोड़ें:

> concrete_model2 <- neuralnet(strength ~ cement + slag +
                                               ash + water + superplastic +
                                               coarseagg + fineagg + age,
                                               data = concrete_train, hidden = 5)

फिर से नेटवर्क आरेख (छवि 7.12) का निर्माण करने के बाद, हम कनेक्शन की संख्या में तेज वृद्धि देखेंगे। यह कैसे प्रभावित दक्षता है?

> plot(concrete_model2)

कृपया ध्यान दें कि परिणामी त्रुटि (फिर से SSE के रूप में मापी गई) पिछले मॉडल में 5.08 से घटकर 1.63 हो गई है। इसके अलावा, प्रशिक्षण चरणों की संख्या 4882 से बढ़कर 86,849 हो गई - जो आश्चर्यजनक नहीं है, यह देखते हुए कि मॉडल कितना जटिल है। अधिक जटिल नेटवर्क, इष्टतम भार को खोजने के लिए अधिक पुनरावृत्तियों की आवश्यकता होती है।

सच्चे लोगों के साथ अनुमानित मूल्यों की तुलना करने के लिए समान चरणों को लागू करने से, हमें लगभग 0.92 का सहसंबंध मिलता है, जो कि एक छिपे हुए नोड वाले नेटवर्क के लिए 0.80 के पिछले परिणाम की तुलना में बहुत बेहतर है:

> model_results2 <- compute(concrete_model2, concrete_test[1:8])
> predicted_strength2 <- model_results2$net.result
> cor(predicted_strength2, concrete_test$strength)
                  [,1]
[1,] 0.9244533426

महत्वपूर्ण सुधारों के बावजूद, आप मॉडल की प्रभावशीलता को बढ़ाने के लिए और भी आगे बढ़ सकते हैं। विशेष रूप से, अतिरिक्त छिपी परतों को पेश करना और नेटवर्क सक्रियण फ़ंक्शन को बदलना संभव है। इन परिवर्तनों को करके, हम एक सरल गहरे तंत्रिका नेटवर्क के निर्माण की नींव रख रहे हैं।

गहरी सीखने के लिए सक्रियण कार्य का विकल्प बहुत महत्वपूर्ण है। किसी विशेष शिक्षण कार्य के लिए सबसे अच्छा कार्य आमतौर पर प्रयोगात्मक रूप से पाया जाता है, और फिर मशीन सीखने वाले शोधकर्ताओं के समुदाय द्वारा व्यापक रूप से उपयोग किया जाता है।

हाल ही में, आसवन फ़ंक्शन, या रेक्टिफायर नामक सक्रियण फ़ंक्शन, छवि पहचान जैसे जटिल कार्यों में अपने सफल अनुप्रयोग के कारण बहुत लोकप्रिय हो गया है। एक न्यूरल नेटवर्क नोड जिसमें एक रेक्टिफायर एक सक्रियण फ़ंक्शन के रूप में उपयोग किया जाता है, एक रेक्टीफाइड लीनियर यूनिट (ReLU) कहलाता है। जैसा कि अंजीर में दिखाया गया है। 7.13, रेक्टिफायर टाइप एक्टिवेशन फंक्शन को इस तरह से वर्णित किया जाता है कि यदि x 0 से अधिक या 0, और 0 के बराबर है तो x लौटाता है। इस फ़ंक्शन का महत्व यह है कि, एक ओर, यह अरेखीय है, और दूसरी तरफ, इसमें सरल गणितीय गुण हैं जो इसे ढाल वंश के लिए कम्प्यूटेशनल रूप से सस्ती और अत्यधिक कुशल बनाते हैं। दुर्भाग्य से, x = 0 के लिए, शुद्ध व्युत्पन्न परिभाषित नहीं है,इसलिए, रेक्टिफायर का उपयोग न्यूरलनेट () फ़ंक्शन के साथ संयोजन में नहीं किया जा सकता है।

इसके बजाय, आप ReLU के स्मूथपेड सन्निकटन का उपयोग कर सकते हैं जिसे सॉफ्टप्लस या स्मूथरेलेयू कहा जाता है, लॉग के रूप में परिभाषित एक सक्रियण फ़ंक्शन (1 + पूर्व)। जैसा कि अंजीर में दिखाया गया है। 7.13, सॉफ्टप्लस फ़ंक्शन 0 से कम x मान के लिए शून्य के करीब है और x के लिए x के बराबर लगभग 0 से अधिक है।

R में सॉफ्टप्लस () फ़ंक्शन को परिभाषित करने के लिए, हम निम्नलिखित कोड का उपयोग करते हैं:

> softplus <- function(x) { log(1 + exp(x)) }

इस तरह के एक सक्रियण फ़ंक्शन को इनपुट न्यूरलनेट () एक्ट.फैक्ट पैरामीटर का उपयोग करके प्रदान किया जा सकता है। इसके अलावा, हम एक दूसरी छिपी हुई परत को जोड़ते हैं जिसमें पांच नोड्स होते हैं, जो छिपे हुए पैरामीटर को पूर्णांक वेक्टर सी (5, 5) के मान से जोड़ते हैं। नतीजतन, हमें एक दो-परत नेटवर्क मिलता है, जिनमें से प्रत्येक परत में पांच नोड होते हैं, और उनमें से सभी सॉफ्टऑक्सिटिव सक्रियण फ़ंक्शन का उपयोग करते हैं:

> set.seed(12345)
> concrete_model3 <- neuralnet(strength ~ cement + slag +
                                               ash + water + superplastic +
                                               coarseagg + fineagg + age,
                                               data = concrete_train,
                                               hidden = c(5, 5),
                                               act.fct = softplus)

पहले की तरह, नेटवर्क की कल्पना की जा सकती है (चित्र। 7.14):

> plot(concrete_model3)

कंक्रीट की अनुमानित और वास्तविक ताकत के बीच सहसंबंध की गणना निम्नानुसार की जा सकती है:

> model_results3 <- compute(concrete_model3, concrete_test[1:8])
> predicted_strength3 <- model_results3$net.result
> cor(predicted_strength3, concrete_test$strength)
                  [,1]
[1,] 0.9348395359

अनुमानित और वास्तविक ताकत के बीच सहसंबंध 0.935 था, जो अब तक का सबसे अच्छा संकेतक है। दिलचस्प है, मूल प्रकाशन में, यू ने 0.885 के सहसंबंध की सूचना दी। इसका मतलब है कि, अपेक्षाकृत कम प्रयास के साथ, हम एक तुलनीय परिणाम प्राप्त करने में सक्षम थे और यहां तक कि इस क्षेत्र के एक विशेषज्ञ के परिणामों को पार कर गए। यह सच है, ये के परिणाम 1998 में प्रकाशित हुए थे, जिसने हमें तंत्रिका नेटवर्क के क्षेत्र में 20 से अधिक वर्षों के अतिरिक्त शोध पर एक शुरुआत दी थी!

एक और महत्वपूर्ण विवरण को ध्यान में रखा जाना चाहिए: चूंकि हमने मॉडल को प्रशिक्षित करने से पहले डेटा को सामान्य किया था, पूर्वानुमान भी 0 से 1 तक सामान्यीकृत अंतराल में हैं। उदाहरण के लिए, निम्न कोड एक डेटा फ्रेम दिखाता है जो लाइन-बाय-लाइन की तुलना करता है, जो शुरुआती पूर्वानुमानों के साथ सेट किए गए प्रारंभिक डेटा से कंक्रीट की ताकत के मूल्यों की तुलना करता है:

> strengths <- data.frame(
      actual = concrete$strength[774:1030],
      pred = predicted_strength3
   )
> head(strengths, n = 3)
      actual        pred
774 30.14 0.2860639091
775 44.40 0.4777304648
776 24.50 0.2840964250

सहसंबंध की जांच करते हुए, हम देखते हैं कि सामान्यीकृत या असामान्य डेटा की पसंद परिकलित प्रदर्शन आंकड़ों को प्रभावित नहीं करती है - पहले की तरह, सहसंबंध 0.935 है: लेकिन अगर हमने एक और प्रदर्शन संकेतक की गणना की है, उदाहरण के लिए, पूर्वानुमानित और वास्तविक मूल्यों के बीच पूर्ण अंतर, तब पैमाने का चुनाव बहुत महत्वपूर्ण होगा। इसे ध्यान में रखते हुए, आप अप्राकृतिक () फ़ंक्शन बना सकते हैं जो मिनिमैक्स सामान्यीकरण के विपरीत प्रदर्शन करेगा और आपको सामान्यीकृत पूर्वानुमानों को मूल पैमाने पर बदलने की अनुमति देगा:

> cor(strengths$pred, strengths$actual)
[1] 0.9348395359

> unnormalize <- function(x) {
     return((x * (max(concrete$strength)) -
           min(concrete$strength)) + min(concrete$strength))
   }

पूर्वानुमानों को लिखे जाने वाले अप्राकृतिककरण () फ़ंक्शन को लागू करने के बाद, यह स्पष्ट हो जाता है कि नए पूर्वानुमानों का पैमाना कंक्रीट की ताकत के शुरुआती मूल्यों के समान है। यह आपको पूर्ण त्रुटि के सार्थक मूल्य की गणना करने की अनुमति देता है। इसके अलावा, असामान्य और प्रारंभिक शक्ति मूल्यों के बीच संबंध अपरिवर्तित रहता है:

> strengths$pred_new <- unnormalize(strengths$pred)
> strengths$error <- strengths$pred_new — strengths$actual
> head(strengths, n = 3)
           actual                pred             pred_new                    error
774          30.14         0.2860639091               23.62887889      -6.511121108
775          44.40         0.4777304648               39.46053639      -4.939463608
776          24.50         0.2840964250               23.46636470      -1.033635298

> cor(strengths$pred_new, strengths$actual)
[1] 0.9348395359

अपनी परियोजनाओं में तंत्रिका नेटवर्क को लागू करना, आपको डेटा को उसके मूल पैमाने पर वापस करने के लिए इसी तरह के अनुक्रम का पालन करना होगा।

आप यह भी पा सकते हैं कि तंत्रिका नेटवर्क तेजी से अधिक जटिल होते जा रहे हैं क्योंकि इनका उपयोग तेजी से कठिन शिक्षण कार्यों के लिए किया जाता है। उदाहरण के लिए, आप तथाकथित "गायब" छोटी ढाल समस्या और निकट संबंधी "विस्फोट" क्रमिक समस्या का सामना कर सकते हैं जब वापस प्रसार एल्गोरिथ्म एक उपयोगी समाधान नहीं ढूंढता है क्योंकि यह उचित समय में परिवर्तित नहीं होता है। इन समस्याओं को हल करने के लिए, आप छिपे हुए नोड्स की संख्या को बदलने की कोशिश कर सकते हैं, विभिन्न सक्रियण कार्यों को लागू कर सकते हैं, जैसे कि ReLU, सीखने की गति को समायोजित करना आदि। न्यूरलनेट फ़ंक्शन के लिए मदद पृष्ठ पर, आपको कॉन्फ़िगर किए जा सकने वाले विभिन्न मापदंडों के बारे में अतिरिक्त जानकारी मिलेगी। हालांकि, यह एक और समस्या की ओर जाता है,जब अत्यधिक कुशल मॉडल बनाने में अड़चन बड़ी संख्या में मापदंडों की जाँच कर रही है। यह तंत्रिका नेटवर्क का उपयोग करने की कीमत है, और इससे भी अधिक गहन शिक्षण नेटवर्क: उनकी विशाल क्षमता के लिए बहुत समय और प्रसंस्करण शक्ति की आवश्यकता होती है।

, ML . , Amazon Web Services (AWS) Microsoft Azure, . 12.

सपोर्ट वेक्टर मशीन (एसवीएम) विधि को एक सतह के रूप में दर्शाया जा सकता है जो एक बहुआयामी स्थान में प्लॉट किए गए डेटा बिंदुओं के बीच की सीमा बनाती है जो उनके गुणों के उदाहरण और मूल्यों का वर्णन करती है। एसवीएम का लक्ष्य एक सपाट सीमा का निर्माण करना है - एक हाइपरप्लेन जो अंतरिक्ष को इस तरह से विभाजित करता है कि सजातीय समूह इसके दोनों तरफ बनते हैं। इस प्रकार, SVM प्रशिक्षण अध्याय 3 में वर्णित उदाहरणों और अध्याय 6 में वर्णित रेखीय प्रतिगमन मॉडलिंग के आधार पर दोनों निकटतम-पड़ोसी प्रशिक्षण के पहलुओं को जोड़ती है। यह एक अत्यंत शक्तिशाली संयोजन है जो SVM को बहुत ही जटिल संबंधों को मॉडल बनाने की अनुमति देता है।

इस तथ्य के बावजूद कि एसवीएम में अंतर्निहित बुनियादी गणित दशकों से मौजूद है, इन विधियों में रुचि काफी बढ़ गई है जब वे एमएल पर लागू होने लगे। जटिल शिक्षण समस्याओं को हल करने में हाई-प्रोफाइल सफलता की कहानियों के साथ-साथ एसवीएम एल्गोरिदम के विकास के बाद इन विधियों की लोकप्रियता में वृद्धि हुई, जिन्हें आर। सहित कई प्रोग्रामिंग भाषाओं में अच्छी तरह से समर्थित पुस्तकालयों में सम्मानित और कार्यान्वित किया गया, इसके बाद, एसवीएम विधियों को व्यापक दर्शकों द्वारा स्वीकार किया गया। अन्यथा, एसवीएम को लागू करने के लिए आवश्यक जटिल गणित को लागू करना असंभव होगा। अच्छी खबर यह है कि यद्यपि गणित संभवतः जटिल है, बुनियादी अवधारणाएं समझ में आती हैं।

एसवीएम विधियों को वर्गीकरण और संख्यात्मक पूर्वानुमान सहित लगभग किसी भी प्रकार के प्रशिक्षण कार्य का उपयोग करने के लिए अनुकूलित किया जा सकता है। इस एल्गोरिथ्म की कई प्रमुख सफलताएं पैटर्न की मान्यता से संबंधित हैं। इन विधियों के लिए सबसे प्रसिद्ध अनुप्रयोगों में निम्नलिखित शामिल हैं:

कैंसर और अन्य आनुवंशिक रोगों का पता लगाने के लिए जैव सूचना विज्ञान में माइक्रोएरे जीन की अभिव्यक्ति पर डेटा का वर्गीकरण;
पाठ वर्गीकरण, जैसे कि किसी दस्तावेज़ में प्रयुक्त भाषा का निर्धारण, या विषय द्वारा दस्तावेजों को वर्गीकृत करना;
दुर्लभ लेकिन महत्वपूर्ण घटनाओं का पता लगाना, जैसे कि आंतरिक दहन इंजन की विफलता, सुरक्षा उल्लंघन या भूकंप।

एसवीएम विधियों को उदाहरण के रूप में द्विआधारी वर्गीकरण का उपयोग करके समझना आसान है - यह है कि वे आमतौर पर कैसे उपयोग किए जाते हैं। इसलिए, शेष खंडों में, हम केवल एसवीएम क्लासिफायर पर ध्यान केंद्रित करेंगे। संख्यात्मक प्रस्तुत करने के लिए एसवीएम विधियों को अपनाने के दौरान यहां प्रस्तुत सिद्धांतों के समान सिद्धांतों का भी उपयोग किया जाता है।

लेखक के बारे में

ब्रेट लैंट्ज़ (@DataSpelunking) एक दशक से अधिक समय से मानव व्यवहार का अध्ययन करने के लिए नवीन डेटा प्रोसेसिंग तकनीकों का उपयोग कर रहा है। प्रशिक्षण द्वारा समाजशास्त्री होने के नाते, ब्रेट पहली बार सोशल नेटवर्क पर किशोर प्रोफाइल के एक बड़े डेटाबेस की खोज करते हुए मशीन लर्निंग में रुचि रखते थे। ब्रेट डेटाकैम्प में एक शिक्षक हैं और अक्सर दुनिया भर के मशीन लर्निंग सम्मेलनों और सेमिनारों में प्रस्तुतियाँ देते हैं। वह खेल, मानवरहित वाहनों, विदेशी भाषाओं और फैशन के अध्ययन के साथ-साथ कई अन्य उद्योगों के क्षेत्र में डेटा विज्ञान के व्यावहारिक अनुप्रयोग के क्षेत्र में एक प्रसिद्ध उत्साही हैं। ब्रेट को उम्मीद है कि एक दिन डेटापॉइंटिंग डॉट कॉम पर डेटा में पैटर्न खोजने के बारे में ज्ञान के आदान-प्रदान के बारे में यह सब लिखें।

साइंस एडिटर के बारे में

राघव बाली (राघव बाली) - दुनिया के सबसे बड़े स्वास्थ्य देखभाल संगठनों में से एक के वरिष्ठ शोधकर्ता। वह स्वास्थ्य देखभाल और बीमा में उपयोग के लिए मशीन लर्निंग, गहरी शिक्षा और प्राकृतिक भाषा प्रसंस्करण के आधार पर कॉर्पोरेट समाधानों के अनुसंधान और विकास में लगे हुए हैं। इंटेल में अपनी पिछली स्थिति में, उन्होंने सूचना प्रौद्योगिकी के क्षेत्र में सक्रिय प्रयासों में भाग लिया, जो बड़े डेटा पर आधारित है, प्राकृतिक भाषा प्रसंस्करण, गहन शिक्षा और पारंपरिक सांख्यिकीय विधियों का उपयोग कर रहा है। अमेरिकन एक्सप्रेस में, उन्होंने डिजिटल सगाई और ग्राहक प्रतिधारण में काम किया।

राघव प्रमुख प्रकाशकों द्वारा प्रकाशित कई पुस्तकों के लेखक हैं। उनकी नवीनतम पुस्तक ट्रांसफर स्टडी में नवीनतम के बारे में है।

राघव ने बेंगलुरु के इंटरनेशनल इंस्टीट्यूट ऑफ इंफॉर्मेशन टेक्नोलॉजी से स्नातक किया है, उनके पास मास्टर डिग्री (ऑनर्स डिग्री) है। उन दुर्लभ क्षणों में जब वह वैज्ञानिक समस्याओं को हल करने में व्यस्त नहीं होते हैं, राघव को एक पंक्ति में सब कुछ पढ़ना और तस्वीरें लेना पसंद है।

»किताब के बारे में अधिक जानकारी पाया जा सकता है प्रकाशक की वेबसाइट पर
» सामग्री
» अंश

कूपन पर लिए Khabrozhiteley 25% छूट - मशीन लर्निंग

पुस्तक के कागज संस्करण के भुगतान करने पर, एक इलेक्ट्रॉनिक पुस्तक ई-मेल द्वारा भेजा जाता है।

आर पर मशीन सीखने: भविष्य कहनेवाला विश्लेषण के लिए विशेषज्ञ तकनीक