ओपन कोर्स "डीएल लर्निंग इन एनएलपी" डीपपावलोव के रचनाकारों से पाठ्यक्रम सीएस 224 एन पर आधारित है

सभी को नमस्कार!
यदि आपके पास पाठ्यक्रम के बारे में कोई प्रश्न है, तो नीचे प्रश्नोत्तर खंड देखें।

परिचय

मेरा नाम अलेक्सई क्लोकोव है, मैं प्राकृतिक भाषा प्रसंस्करण में एक कक्षा पाठ्यक्रम के शुभारंभ के बारे में बात करना चाहता हूं, जो एक बार फिर दीपपावलोव परियोजना के भौतिक तकनीशियनों द्वारा शुरू की गई है - संवादी कृत्रिम बुद्धिमत्ता के लिए एक खुला पुस्तकालय, जो तंत्रिका प्रणालियों की प्रयोगशाला में विकसित हुआ है और एमआईपीटी पर गहन शिक्षण है। उन्हें धन्यवाद औरMoryshkaहमारे ओआरएस ब्लॉग में हैबे पर इस विषय को कवर करने की अनुमति के लिए। तो चलते हैं!

चित्र 1. दीपपावलोव लोगो

संक्षिप्त

C 11- 2020 «Deep Learning in NLP».
NLP . , , . (NLP ), . , , , " ". — cs224n , NLP (. 2019 ). “” !

2. GPU —

, , . python. tensorflow pytorch .

, ( ):

1. (Word embeddings: w2v, fasttext GloVe)
2. (FFNN, backprop)
3. NLP (Language Modeling: RNN. CNN)
4. Transfer learning (ELMo, ULMFiT)
5. (Attention, seq2seq NMT)
6. (Self-Attention, Transformer)
7. BERT
8. Next steps: GANs in NLP .

( @alexeysorokin89) ( @letmypeoplego).

1 : . , , .9 ( ""), 9235 (2 ).
: 11.02.2019, 19:00.

— inverted classroom. , , / Youtube, , , . :

• . cs224n roadmap. ( ). . 1 . ! >>1<<, >>2<< !
• . , . , . — . Youtube, . ( – transfer learning).
• — . , cs231n. w2v, backprop RNN . 2019 - (peer-reviewed). .. , - – .
• . ( NLP-Researcher). . . cs224n — Question Answering. SQuAD 2.0, . . , . , .
• . inclass competition – .

1. : https://forms.gle/1mz9rzoFdf2Von9L7
3. — Telegram. . : https://t.me/dlinnlp2020spring; 2020 : https://t.me/joinchat/HdGuOk3LL4J3iDqj8x0i6g
4. yorko roadmap ( , … ?) https://github.com/Yorko/dl_in_nlp_deeppavlov_cs224n_spring2020
5. , 800+ ( , ): https://t.me/dlinnlp_discuss

Q & A

1. road map? — . . .
2. ? — .
3. , ? — , . .
4. , ? — (moryshka). 19:00 11 .
5. ( .) , ? — , . !

ODS

OpenDataScience, 2 ML DL. DS (~41 ) ( ) . ODS . Slack. workspace_ods. «DL in NLP» #class_cs224n Slack.

. , , - . PhD University of Massachusetts Lowell Google. . – .

3. c RNN

ods.ai , , , . .

:

“ ”