▪️ 👩🏼‍✈️ 😴 मोबाइल एमएल: अपनी जेब में मशीन सीखने। भाग 1

डेटाआर्ट

टुडे में वरिष्ठ आईओएस डेवलपर एंड्री बतुटिन ने पोस्ट किया , हर कोई हमारे फोन सहित मशीन लर्निंग कर रहा है। जी हां, जल्द ही आपका फोन सही मायने में स्मार्ट हो जाएगा। ठीक है, या कम से कम आप और मेरे से अधिक होशियार। क्यों? अब इसे समझ लेते हैं। चलो मोबाइल उपकरणों पर पहले से स्थापित हार्डवेयर से शुरू करते हैं।

टीएल, डॉ

मोबाइल सिस्टम-ऑन-चिप (SoC) के सभी प्रमुख निर्माता 3-4 साल के लिए अपने समाधान में सक्रिय रूप से एमएल-विशिष्ट हार्डवेयर जोड़ रहे हैं। यदि आपके पास एक टॉप-एंड एंड्रॉइड या आईफोन है, तो जीपीयू के बगल में आपको एमएल कार्यों के लिए विशेष रूप से एक चिप होने की गारंटी है।

अधिकतर ML चिप्स कंप्यूटर विज़न, ऑडियो, कैमरा / फोटो / वीडियो के लिए डिज़ाइन की जाती हैं। मुख्य कार्य: फोटो में शोर को कम करना, ज़ूम के साथ सबसे अच्छी गुणवत्ता, चेहरे और जानवरों की पहचान, भाषण मान्यता और पाठ संश्लेषण।

इसके अलावा, मुख्य विक्रेता एक एसडीके प्रदान करते हैं जो तीसरे पक्ष के डेवलपर्स को इस एमएल चिप तक पहुंच प्रदान करता है। तो आप अपने स्नैपचैट या सिरी को बहुत अच्छी तरह से बना सकते हैं, वैसे भी आप शायद घर बैठे हैं (यह सब कब खत्म होगा! मैं केएफसी में कैसे चाहता हूं!)।

लोहा

प्रमुख मोबाइल चिप विक्रेता अपने एसओसी आर्किटेक्चर को न्यूरल प्रोसेसिंग यूनिट (एनपीयू), डिजिटल सिग्नल प्रोसेसर (डीएसपी) और विशेष एआई कोर की मदद से सक्रिय रूप से विस्तारित कर रहे हैं। एमएल-मॉडल के संचालन के लिए इन घटकों को विशेष रूप से तेज किया जाता है।

क्वालकॉम

एमएल हार्डवेयर: डीएसपी + जीपीयू
एसडीके: क्वालकॉम न्यूरल प्रोसेसिंग एसडीके

द्वारा प्रदान किया गया क्वालकॉम न्यूरल प्रोसेसिंग एसडीके, जो स्नैपड्रैगन चिप्स के लिए डीएसपी + जीपीयू + सीपीयू के एक गुच्छा पर एमएल-मॉडल का हार्डवेयर त्वरण प्रदान करता है। डीएसपी को ऑडियो / वीडियो के साथ काम करने के लिए तैयार किया गया है: एक स्मार्ट कैमरा, शोर से तस्वीर को साफ करना, ज़ूम पर सबसे अच्छी गुणवत्ता और ध्वनि की गुणवत्ता में सुधार करने के लिए इसी तरह के उपकरण।

HiSilicon / Huawei

ML हार्डवेयर: NPU
SDK: HiAI SDK

Da Vinci NPU में तीन कोर होते हैं: दो उच्च-प्रदर्शन, और एक ऊर्जा-कुशल कोर ML-कंप्यूटिंग के लिए।

HiAI SDK NPU मैट्रिसेस पर संचालन के लिए जमीन तक पहुँच देता है। यही है, एनपीयू डीप न्यूरल नेटवर्क मॉडल के लिए आदर्श है। एंड्रॉइड स्टूडियो के लिए प्लग इन अच्छा है।

HiAI के लिए तेज किया जाता है:

कंप्यूटर दृष्टी
स्वचालित भाषण मान्यता;
प्राकृतिक भाषा को समझना

मीडियाटेक

ML हार्डवेयर: APU + GPU
SDK: NeuroPilot SDK

NeuroPilot SDK आपको AI प्रोसेसिंग यूनिट (APU) + GPU का उपयोग करके ML समस्याओं को हल करने की अनुमति देता है। एपीयू को डीप न्यूरल नेटवर्क मॉडल के तहत कैद किया गया है।

दृढ़ संकल्प, पूरी तरह से जुड़े परतों, सक्रियण कार्यों, आदि के लिए हार्डवेयर त्वरण प्रदान करता है। NeuroPilot 2.0 वास्तविक समय में अनुमति देता है:

बहु-व्यक्ति मुद्रा ट्रैकिंग;
3 डी पोज़ ट्रैकिंग;
कई वस्तु पहचान;
अर्थ संबंधी विभाजन;
छवि उन्नीतकरण।

सैमसंग

ML हार्डवेयर: NPU
SDK: सैमसंग न्यूरल SDK / EDEN SDK
सैमसंग ने Exynos SoC में एक विशेष NPU जोड़ा है। इसमें दो गुणा - संचित इकाइयाँ शामिल हैं, मैट्रिसेस पर संचालन के लिए तेज किया गया।

यह सैमसंग न्यूरल एसडीके भी प्रदान करता है, जो सीपीयू + जीपीयू + एनपीयू के संयोजन का उपयोग करके एमएल मॉडल के लिए हार्डवेयर त्वरण प्रदान करता है।

सेब

ML हार्डवेयर: NPU
SDK: CoreML SDK

Apple A11 से शुरू होता है, बायोनिक NPU का उपयोग करता है। A13 NPU आठ कोर तक बढ़ गया है। नए एनपीयू के हत्यारे-सुविधाओं में से एक डीप फ्यूजन इमेज प्रोसेसिंग है: हम 9 शॉट्स लेते हैं और उन्हें एक में जोड़ते हैं। विशेष रूप से रात की शूटिंग के लिए प्रासंगिक।

CoreML SDK प्रदान करता है। अन्य एसडीके की तरह, यह एमएल मॉडल के लिए हार्डवेयर त्वरण प्रदान करता है। बन्स से - एमएल-यूआई-केवल पर्यावरण बनाएं एमएल-मॉडल के प्रशिक्षण के लिए। आपको प्रशिक्षित करने की अनुमति देता है:

ऑब्जेक्ट डिटेक्शन / क्लासिफायरियर;
ध्वनि वर्गीकरण;
मोशन क्लासिफायरियर;
टेक्स्ट क्लासिफायर / शब्द टैगिंग;
सारणीबद्ध वर्गीकरण;
सिफारिश इंजन।

उपयोगी कड़ियाँ

एंड्रॉइड स्मार्टफोन के लिए एमएल-बेंचमार्क ;
क्वालकॉम न्यूरल प्रोसेसिंग एसडीके ;
हुवावे हायए एसडीके ;
Apple CoreML

सामग्री की निरंतरता में, हम एनपीयू के काम करने के तरीके पर करीब से नज़र डालेंगे । आइए मोबाइल एमएल के लिए आवश्यक सॉफ़्टवेयर और इसका उपयोग करने के तरीके के बारे में बात करते हैं।

मोबाइल एमएल: अपनी जेब में मशीन सीखने। भाग 1 - लोहा