"हम षड्यंत्र के सिद्धांतों को जन्म नहीं देंगे।" विज्ञान और आईटी कंपनियों के लोगों के साथ एमएल सम्मेलनों के बारे में बात करें

अब लगभग कोई सार्वजनिक कार्यक्रम नहीं होता है, लेकिन हमें उम्मीद है कि स्थिति जल्द ही बदल जाएगी (और हम ऐसा करने के लिए प्रयास कर रहे हैं)। हम उम्मीद करते हैं कि हस्तांतरित कार्यक्रम अन्य तिथियों पर होंगे, और भविष्य की घटनाओं को रद्द नहीं किया जाएगा, क्योंकि उन्हें रद्द करने की कोई आवश्यकता नहीं होगी। 2020 में, मशीन लर्निंग पर दर्जनों बड़े सम्मेलन आयोजित किए जाने चाहिए।

NeurIPS (पूर्व में NIPS) उनमें से सबसे प्रतिष्ठित माना जाता है। हर साल, NeurIPS हजारों शोधकर्ताओं और इंजीनियरों को इकट्ठा करता है जो एमएल के विभिन्न क्षेत्रों में अपने वैज्ञानिक परिणाम प्रस्तुत करते हैं: गहन शिक्षण, प्रबलित शिक्षण, स्केलेबल अनुकूलन, बेयसियन तरीके और बहुत कुछ।



वैंकूवर में कुछ महीने पहले आयोजित न्यूरिप्स के आधार पर, हमने एक चर्चा की थी जहां हमने वैज्ञानिक दुनिया और आईटी दुनिया के विशेषज्ञों को आमंत्रित किया था। उनमें से प्रत्येक मशीन सीखने में अलग-अलग चीजों में रुचि रखते हैं, न्यूरिप्स पर जाने का अनुभव भी अलग है। कटौती के तहत - चर्चा के उन हिस्सों का एक संक्षिप्त निचोड़ जो सम्मेलन में भाग लेने के कारणों से संबंधित हैं।

सदस्य

दिमित्री वत्र्त । फिजिक्स का उम्मीदवार।-मैथ विज्ञान।, प्रोफेसर-शोधकर्ता, कंप्यूटर विज्ञान संकाय, एचएसई, एचएसई में सैमसंग प्रयोगशाला के प्रमुख और एसएडी के प्रोफेसर। 130 से अधिक वैज्ञानिक पत्रों के लेखक। दीमा ने कई बार एमएलए सम्मेलन में प्रकाशन किए, जिनमें न्यूरिप्स भी शामिल हैं। वह 2011 से पांच बार सम्मेलन में आए हैं: एक वक्ता के रूप में और एक प्रतिभागी के रूप में।

मिखाइल बर्तसेव । भौतिकी और गणित में पीएचडी, तंत्रिका तंत्र की प्रयोगशाला के प्रमुख और डीप लर्निंग एमआईपीटी। 20 से अधिक वैज्ञानिक पत्रों के सह-लेखक। 2017 से, वह NeurIPS पर संवाद प्रणालियों में प्रतियोगिताओं का आयोजन कर रही है, वह संवादी कृत्रिम बुद्धिमत्ता से संबंधित हर चीज में रुचि रखती है।

सर्गेई कोलेनिकोवScitator। Tinkoff में R & D लीड, कैटलिस्ट में प्रोजेक्ट लीड, Yandex और MIPT में शोधकर्ता। पिछले पांच साल डीएल और आरएल में लगे हुए हैं। NeurIPS पहली बार 2019 में आया था।

मिखाइल बिलेंको । यांडेक्स में मशीन इंटेलिजेंस एंड रिसर्च के प्रमुख, पहले माइक्रोसॉफ्ट में काम करते थे। रुचि का क्षेत्र - वितरित शिक्षा। 2005 के बाद से NeurIPS में भाग लेता है, यह केवल तीन बार याद किया।

कॉन्स्टेंटिन लहमनklakhman। यांडेक्स में कंप्यूटर विजन और एमएल एप्लिकेशन के प्रमुख। सीवी और एनएलपी में रुचि। 2014 में शुरू होने वाले हर साल न्यूरिस की सवारी करता है।

एलेक्सी नैटकिनnatekin। ओपन डेटा साइंस (ओडीएस) के निर्माता और तानाशाह - सीआईएस में डेटा वैज्ञानिकों का सबसे बड़ा ऑनलाइन समुदाय। एमएल में रुचि के क्षेत्र मेटा लर्निंग, फेडरेटेड लर्निंग, ट्रांसफर लर्निंग और सब कुछ है जो ऑटो-एमएल के आसपास स्थित हैं। वह 2016 में पहली बार न्यूरिप्स पर गए, दो बार प्रतिभागी थे और दो बार प्रतियोगिताओं के आयोजन में मदद की।

गणितीय इंजीनियरिंग लोड के साथ आराम करें

आप न्यूरस की सवारी क्यों करते हैं?

सर्गेई कोलेनिकोव :
पिछले तीन वर्षों से मैं आरएल का प्रचार कर रहा हूं, यही एक कारण है कि मैं वहां जाना चाहता था। मैंने प्रतियोगिता जीती, मुझे आमंत्रित किया गया था, लेकिन कनाडा में एक महीने के लिए वीजा बनाना मुश्किल है। और 2019 में, मैंने आखिरकार पकड़ लिया: न्यूरिप्स के अतीत से एक वीजा था, जो छह महीने के लिए किया गया था। यह एक सफलता की कहानी है और तीन छूटे हुए वीजा हैं।

मिखाइल बिलेंको :
वहाँ मुझे ऐसे लेख और लोग मिलते हैं जिन्हें मैं अन्यथा नहीं पाता, मैं सहकर्मियों के साथ संवाद करता हूँ। 2016 में, मैं काम के सिलसिले में न्यूरलपीएस गया, तभी हम कोस्त्या लाहमान से मिले। सम्मेलन एक उत्कृष्ट इंजीनियरिंग और वैज्ञानिक पर्यटन है: बाकी, लेकिन एक गणितीय और इंजीनियरिंग भार के साथ। आपको आकार को सही करने और अच्छे आकार में नहीं होने देता है। आप काम के कार्यों से विचलित नहीं हो सकते हैं - आपको बस शुद्ध बौद्धिक आनंद मिलता है।

दिमित्री विक्रोत :
जब मैं छोटा था और होशियार था, मैं नई दिशाएँ और नई मशीन सीखने की तकनीक सीखने गया था। लगभग दस वर्षों के बाद, ऐसा लगने लगा कि रिपोर्ट्स अब इतनी अच्छी नहीं थीं, और जल्द ही मुझे अपने लिए कुछ भी मूल्यवान नहीं मिला। लेकिन अब तक हर बार मैं सम्मेलन से बहुत सारी दिलचस्प चीजें निकालता हूं - कुछ ऐसा जो कि arXiv पर पढ़ा नहीं जा सकता।

मिखाइल बर्तसेव :
मैं दीमा से जुड़ता हूं। एक तरफ, यह बहुत अजीब लगता है कि आप जो कुछ समय पहले पढ़ते हैं, वह आकर सुनने लगता है। दूसरी ओर, सम्मेलन उस काम पर ध्यान देने में मदद करता है जिसे आपने नहीं देखा होगा। अन्य लोगों के साथ संवाद करते हुए, आप अपने काम पर एक पूरी तरह से नया रूप पा सकते हैं, कुछ ऐसा देखें जो आपने खुद पहले नहीं देखा था। और लेखों के विपरीत, यहां लोग अभी भी चर्चा करते हैं कि वे अब क्या कर रहे हैं या क्या करने की योजना बना रहे हैं। यह उनके काम के पाठ्यक्रम को समायोजित करने में मदद करता है, न कि गलतियाँ करने के लिए। आप अचानक पता लगा सकते हैं कि आपको वह करने की ज़रूरत नहीं है जो आप करने जा रहे थे।

कोंस्टेंटिन लहमन :
नेटवर्किंग के अलावा, एक और महत्वपूर्ण बिंदु है - सम्मेलन यह जांचने में मदद करता है कि हवा कहाँ चलती है। जब एनआईपीएस थोड़ा छोटा था, तो हवा की दिशा अधिक समझ में आती थी। सबसे पहले, पवन ने GAN नेटवर्क की पाल में, फिर NLP की पाल में, फिर RL में उड़ा दिया।

अब कभी-कभी ऐसा महसूस होता है कि हवा एक ही समय में सभी पालों में बह रही है, लेकिन इतना नहीं। फिर भी, अपने क्षेत्र में दुनिया में क्या हो रहा है, उससे अपनी तुलना करना उपयोगी है। मिलान करना वैकल्पिक है, लेकिन तुलना करना दिलचस्प है।

आधुनिक विज्ञान को इसलिए बनाया गया है ताकि नकारात्मक परिणाम प्रकाशित न हों। केवल सकारात्मक प्रकाशित होते हैं, दुर्भाग्य से। इस तरह के सम्मेलन यह जानने का एक शानदार तरीका है कि क्या और क्यों काम नहीं किया।

एलेक्सी नैटकिन :
कमरे में एक औसत तापमान होता है: वे सम्मेलन में खुद को क्या कहते हैं और बाद के अवसर पर क्या करते हैं। हॉल में उन लोगों की तुलना में बैकस्टेज वार्तालाप शायद अधिक दिलचस्प हैं। वास्तव में कुछ नया मुख्य रूप से कार्यशालाओं में पाया जा सकता है, क्योंकि उनमें भागीदारी के लिए आवेदन एक महीने में प्रस्तुत किए जाते हैं, और सम्मेलन में भाग लेने के लिए आवेदन - केवल छह महीने में।

साल-दर-साल सम्मेलन बढ़ता है और थोड़ा बदलता है, लेकिन मौलिक रूप से कुछ भी नया नहीं जोड़ा जाता है। क्या आपको नहीं लगता कि वैज्ञानिक नवीनता छोटी हो रही है?

दिमित्री विक्रोत :
Axiom Cole को उद्धृत करने के लिए: "ग्रह पर मन का योग एक निरंतर मूल्य है, और जनसंख्या लगातार बढ़ रही है।" यह मुझे लगता है कि सम्मेलन में वैज्ञानिक नवीनता भी एक निरंतर मूल्य है, और अधिक से अधिक सम्मेलन हैं। इसलिए, मेरी राय में, NeurIPS पर रिपोर्ट का औसत स्तर गिर रहा है।

मिखाइल बिलेंको :
दीमा ने सही कहा, लेकिन मेरे लिए यह हमेशा महत्वपूर्ण है कि उस सामग्री के उस प्रतिशत से कुछ उपयोगी निकाला जाए जो दिलचस्प बना रहे। स्टर्जन का नियम है कि 90% सब कुछ पूर्ण बकवास है। मैं शेष दस पर ध्यान केंद्रित करता हूं। और बकवास के मात्रात्मक अनुपात में यह अधिक हो गया, मैं सहमत हूं।

कोंस्टेंटिन लहमन :
वैसे, मुझे यह लगता है कि न्यूरलपीएस के साथ जो कुछ भी होता है, वह सभी सम्मेलनों के साथ नहीं होता है। प्रशासनिक ढांचे के कारण, यह ऐसा आरक्षित क्षेत्र बनने की कोशिश कर रहा है, जहाँ सभी क्षेत्रों की न्यूनतम आवश्यक जनसंख्या कृत्रिम रूप से बनी रहे। सीवी सम्मेलन अलग तरीके से आयोजित किए जाते हैं: किसी विषय पर कोई काम नहीं होता है - ठीक है, किसी अन्य विषय पर बहुत सारे काम भी अच्छे हैं।

मिखाइल
बिलेंको : मैं कई वर्षों तक न्यूरिप्स कार्यक्रम समिति पर था, और फिर भी वास्तव में क्षेत्रों का काफी जैविक वितरण है। आइए, साजिश के सिद्धांत न लिखें।

अकादमी और आईटी कंपनियां

न्यूरलपीएस के साथ समस्या कितनी स्पष्ट है कि मॉडल को GPU के टन पर सीखने की जरूरत है, और कंपनियां और अकादमियां इसे बर्दाश्त नहीं कर सकती हैं?

मिखाइल बिलेंको :
पिछले कुछ वर्षों में आयोजकों ने एक खुली बैठक की है। इस पर, शिक्षाविदों का कहना है कि बड़ी आईटी कंपनियों के कॉमरेड केवल इस तथ्य के कारण लेख लिखते हैं कि उनके पास शांत हार्डवेयर है और वे विशाल प्रयोग कर सकते हैं। हमारे संसाधन वास्तव में समान नहीं हैं। इसलिए परिणामों की प्रतिलिपि प्रस्तुत करने योग्य होने के लिए उच्च मांगें हैं।

वैज्ञानिकों के लिए प्रश्न। आप इस तथ्य के बारे में कैसा महसूस करते हैं कि उद्योग से कई लोग सम्मेलन में आते हैं जो रिपोर्ट सुनते हैं, संवाद करते हैं, लेकिन कुछ नया नहीं लाते हैं?

दिमित्री विक्रोत :
जब मुझे लगता है कि मैं बड़ी संख्या में लोगों के साथ क्या कर सकता हूं, इस बारे में बहुत बड़ी चर्चा है - यह उद्योग के वैज्ञानिकों या विशेषज्ञों के लिए महत्वपूर्ण नहीं है। मुख्य बात यह है कि वे मेरे काम को उतना ही पसंद करते हैं जितना कि वैज्ञानिक।

मिखाइल बर्तसेव :
मेरे लिए यह मायने नहीं रखता कि कौन उद्योग से है, और कौन से वैज्ञानिकों से, विशेष रूप से अब से कई वैज्ञानिक उद्योग में चले गए हैं, और सब कुछ मिश्रित है। यह महत्वपूर्ण है कि व्यक्ति के साथ संवाद करना दिलचस्प हो। इस संबंध में, मैं कार्यशालाओं को अधिक पसंद करता हूं - वहां लोगों का चक्र सीमित है और संचार के लिए अधिक अवसर हैं।

विज्ञान क्या करता है और उत्पादन में क्या जाता है, के बीच हमेशा एक अंतर है। सम्मेलन में प्रस्तुत किए गए लेख कितने करीब होते हैं जिन्हें जल्दी से उत्पादन में लाया जा सकता है?

कोंस्टेंटिन लहमन :
यह कहना गलत है कि NeurIPS के बारे में, क्योंकि मूल रूप से व्यावहारिक रूप से इस पर कुछ भी नहीं है जिसे तुरंत उत्पादन में लागू किया जा सकता है। सम्मेलन के बजट में प्रायोजकों और प्रतिभागियों के योगदान होते हैं। अधिकांश प्रतिभागी उद्योग से हैं। यह पता चला है कि आईटी कंपनियां एक वैज्ञानिक सम्मेलन के लिए भुगतान करती हैं। और यह एक दिलचस्प सवाल उठाता है - क्या वैज्ञानिक समुदाय को इसे किसी तरह ध्यान में रखना चाहिए? उद्योग अपने काम के लिए अधिक भुगतान करता है। हो सकता है कि उसे उद्योग की मदद के लिए भी कुछ चाहिए?

न्यूरलपीएस प्रेरणा और समझ पाने के बारे में है जहां मशीन सीखने का विकास होता है।

सर्गेई कोलेनिकोव :
हां, NeurIPS वास्तव में दिलचस्प है क्योंकि एक सप्ताह में आप बड़ी संख्या में लोगों के साथ बात करने का प्रबंधन करते हैं, आप विभिन्न औद्योगिक और शैक्षणिक मामलों में खुद को विसर्जित कर सकते हैं, जो कुछ भी होता है उसका व्यापक दृष्टिकोण प्राप्त करते हैं। वहां से सभी विचारों को एक ब्लैक बॉक्स में डाला जा सकता है और फिर समय-समय पर इसे खोला जा सकता है। और अगले सम्मेलन में यह जाँचने के लिए कि क्या काम किया और क्या नहीं किया। इस संबंध में, परमात्मा।

शीर्ष एमएल सम्मेलन

यदि आप केवल वर्ष के दो सम्मेलनों में भाग ले सकते हैं, तो आप क्या चुनेंगे?

एलेक्सी नैटकिन :
मिन्स्क में डेटा फेस्ट और डेटा फेस्ट!

कॉन्स्टेंटिन
लहमन : न्यूरिप्स और सीवीपीआर।

मिखाइल
बर्टसेव : न्यूरिप्स और एनएलपी।

मिखाइल
बिलेंको : आईसीएमएल और न्यूरलपीएस।

सर्गेई
कोलेनिकोव : न्यूरलपीएस और डेटा फेस्ट।

दिमित्री
विक्रोत : ICML और NeurlPS। NeurlPS पर ट्रैफिक जाम नहीं होने पर उन्हें स्वैप करें!

वीडियो