рдПрдВрдбреНрд░рдпреВ рдЕрди рдХрд╛ рдХрд┐рддрд╛рдм, рдкреИрд╢рди рдлреЙрд░ рдорд╢реАрди рд▓рд░реНрдирд┐рдВрдЧ рдХрд╛ рдЕрдиреБрд╡рд╛рджред рдЕрдзреНрдпрд╛рдп релрез рдФрд░ релреи

Ers рдкрд┐рдЫрд▓реЗ рдЕрдзреНрдпрд╛рдп


51. рдкрд╛рдЗрдкрд▓рд╛рдЗрди рдХреЗ рдШрдЯрдХреЛрдВ рдХрд╛ рдЪрдпрди: рд╕рдорд╕реНрдпрд╛рдУрдВ рдХреЛ рд╣рд▓ рдХрд░рдиреЗ рдореЗрдВ рдЖрд╕рд╛рдиреА


рдкреНрд░рд╢рд┐рдХреНрд╖рдг рдбреЗрдЯрд╛ рдХреА рдЙрдкрд▓рдмреНрдзрддрд╛ рдХреЗ рдЕрд▓рд╛рд╡рд╛, рдкрд╛рдЗрдкрд▓рд╛рдЗрди рдХрд╛ рдирд┐рд░реНрдорд╛рдг рдХрд░рддреЗ рд╕рдордп рд╡рд┐рдЪрд╛рд░ рдХрд░рдиреЗ рдХреЗ рд▓рд┐рдП рджреВрд╕рд░рд╛ рдорд╣рддреНрд╡рдкреВрд░реНрдг рдХрд╛рд░рдХ рдШрдЯрдХ рдХреЗ рдЙрдкрдпреЛрдЧ рдореЗрдВ рдЖрд╕рд╛рдиреА рд╣реИред рдЖрдкрдХреЛ рдкрд╛рдЗрдкрд▓рд╛рдЗрди рдХреЗ рдРрд╕реЗ рдШрдЯрдХреЛрдВ рдХреЛ рдЪреБрдирдиреЗ рдХреА рдХреЛрд╢рд┐рд╢ рдХрд░рдиреЗ рдХреА рдЖрд╡рд╢реНрдпрдХрддрд╛ рд╣реИ, рдЬрд┐рдирдореЗрдВ рд╕реЗ рдкреНрд░рддреНрдпреЗрдХ рдХреЛ рд╡рд┐рдХрд╕рд┐рдд рдХрд░рдирд╛ рдпрд╛ рд╕реАрдЦрдирд╛ рдЖрд╕рд╛рди рд╣реИред рд▓реЗрдХрд┐рди рдЗрд╕рдХрд╛ рдХреНрдпрд╛ рдорддрд▓рдм рд╣реИ: рдШрдЯрдХ рд╕реАрдЦрдирд╛ рдЖрд╕рд╛рди рд╣реИ?


рдЫрд╡рд┐


рдХрдард┐рдирд╛рдИ рдХреЗ рдмрдврд╝рддреЗ рдХреНрд░рдо рдореЗрдВ рдорд╢реАрди рд╕реАрдЦрдиреЗ рдХреЗ рдХрд╛рд░реНрдп рдирд┐рдореНрдирд▓рд┐рдЦрд┐рдд рд╣реИрдВ:


  1. рдУрд╡рд░рдПрдХреНрд╕реНрдкреЛрдЬрд╝ рдХрд┐рдП рдЧрдП рдЪрд┐рддреНрд░реЛрдВ рдХрд╛ рд╡рд░реНрдЧреАрдХрд░рдг (рдЬреИрд╕рд╛ рдХрд┐ рдКрдкрд░ рджрд┐рдП рдЧрдП рдЙрджрд╛рд╣рд░рдг рдореЗрдВ рд╣реИ)
  2. рдпрд╣ рдирд┐рд░реНрдзрд╛рд░рд┐рдд рдХрд░рдирд╛ рдХрд┐ рдХреНрдпрд╛ рдПрдХ рдЫрд╡рд┐ рдШрд░ рдХреЗ рдЕрдВрджрд░ рдпрд╛ рдмрд╛рд╣рд░ рдХреА рдУрд░ рд▓реЗ рдЬрд╛рддреА рд╣реИ
  3. рдпрд╣ рдирд┐рд░реНрдзрд╛рд░рд┐рдд рдХрд░рдирд╛ рдХрд┐ рдПрдХ рдЫрд╡рд┐ рдореЗрдВ рдПрдХ рдмрд┐рд▓реНрд▓реА рд╣реИ рдпрд╛ рдирд╣реАрдВ
  4. рдпрд╣ рдирд┐рд░реНрдзрд╛рд░рд┐рдд рдХрд░рдирд╛ рдХрд┐ рдХреНрдпрд╛ рдПрдХ рдЫрд╡рд┐ рдореЗрдВ рдХрд╛рд▓реЗ рдФрд░ рд╕рдлреЗрдж рдлрд░ рдХреЗ рд╕рд╛рде рдПрдХ рдмрд┐рд▓реНрд▓реА рд╣реИ
  5. рдпрд╣ рдирд┐рд░реНрдзрд╛рд░рд┐рдд рдХрд░рдирд╛ рдХрд┐ рдХреНрдпрд╛ рдХрд┐рд╕реА рдЫрд╡рд┐ рдореЗрдВ рд╕реНрдпрд╛рдо рджреЗрд╢ рдХреА рдмрд┐рд▓реНрд▓реА (рдмрд┐рд▓реНрд▓реА рдХреА рдПрдХ рд╡рд┐рд╢реЗрд╖ рдирд╕реНрд▓) рд╣реИред

рдЙрдирдореЗрдВ рд╕реЗ рдкреНрд░рддреНрдпреЗрдХ рдПрдХ рджреНрд╡рд┐рдЖрдзрд╛рд░реА рд╡рд░реНрдЧреАрдХрд░рдг рд╕рдорд╕реНрдпрд╛ рд╣реИ: рдПрдХ рдЫрд╡рд┐ рдЗрдирдкреБрдЯ рд╣реИ, рдПрд▓реНрдЧреЛрд░рд┐рдереНрдо рдпрд╛ рддреЛ 0 рдпрд╛ 1 рдЖрдЙрдЯрдкреБрдЯ рдХрд░рддрд╛ рд╣реИред рдЗрд╕рдХреЗ рдЕрд▓рд╛рд╡рд╛, рд╕реВрдЪреА рдореЗрдВ рдЙрдЪреНрдЪ рдХрд╛рд░реНрдп, "рдЖрд╕рд╛рди" рддрдВрддреНрд░рд┐рдХрд╛ рдиреЗрдЯрд╡рд░реНрдХ рдХреЛ рд╣рд▓ рдХрд░рдирд╛ рд╕реАрдЦрдирд╛ рд╣реИред рд╕рд░рд▓ рдХрд╛рд░реНрдпреЛрдВ рдХреЗ рд▓рд┐рдП рдХрдо рдкреНрд░рд╢рд┐рдХреНрд╖рдг рдЙрджрд╛рд╣рд░рдгреЛрдВ рдХреА рдЖрд╡рд╢реНрдпрдХрддрд╛ рд╣реЛрддреА рд╣реИред


рд╡рд░реНрддрдорд╛рди рдореЗрдВ рдорд╢реАрди рд╕реАрдЦрдиреЗ рдореЗрдВ рдХрд╛рд░реНрдп рдХрдард┐рдирд╛рдИ рдХреА рдХреЛрдИ рдЕрдЪреНрдЫреА рдФрдкрдЪрд╛рд░рд┐рдХ рдкрд░рд┐рднрд╛рд╖рд╛ рдирд╣реАрдВ рд╣реИ


: ┬л ┬╗, , тАФ , , ( ). . .


, ┬л┬╗, ( (shallow neural network)), ┬л┬╗, (, () ). .


, , , .


рдЫрд╡рд┐


, . :


рдЫрд╡рд┐


, :
рдЫрд╡рд┐


( ) .


рдЫрд╡рд┐


( ) , 1, - .


рдЫрд╡рд┐


( ) , , 0 1.


: , , , . , , . , Deep Learning Coursera.


.


рдЫрд╡рд┐


: (1) , (2) (3) . ┬л┬╗, , .


, , , , ┬л┬╗ , .


52.


, x , . , ( , , )?


x = рдЫрд╡рд┐


y = ┬л , ┬╗


h: -> Y, y .


:


(X)(Y)
/ (0/1)
,
,

, , , y, , . , (x) (y).


XY
Mao et al., 2014
Suskever et al., 2014
(, )Bordes et al., 2015
Hannun et al., 2015
(TTS)van der Oord et al., 2016

рдЧрд╣рд░реА рд╕реАрдЦрдиреЗ рдХреА рдмрдврд╝рддреА рдкреНрд░рд╡реГрддреНрддрд┐ рдПрдВрдб-рдЯреВ-рдПрдВрдб рд╕рд┐рд╕реНрдЯрдо рдХрд╛ рд╢рд┐рдХреНрд╖рдг рд╣реИ, рдЬрд┐рд╕рдХреЗ рдЖрдЙрдЯрдкреБрдЯ, рдЙрдкрдпреБрдХреНрдд рд▓реЗрдмрд▓ рдбреЗрдЯрд╛ (рд╕рд┐рд╕реНрдЯрдо рдХреЗ рд▓рд┐рдП рд▓реЗрдмрд▓ рдФрд░ рдЖрдЙрдЯрдкреБрдЯ) рдХреА рдЙрдкрд▓рдмреНрдзрддрд╛ рдХреЗ рд╕рд╛рде, рдЖрдк рдЪрд┐рддреНрд░, рдкрд╛рда рдЯреБрдХрдбрд╝реЗ, рдСрдбрд┐рдпреЛ рдХреНрд▓рд┐рдк рдФрд░ рдЕрдиреНрдп рдЬрдЯрд┐рд▓ рдСрдмреНрдЬреЗрдХреНрдЯ рдкреНрд░рд╛рдкреНрдд рдХрд░ рд╕рдХрддреЗ рд╣реИрдВ, рдФрд░ рди рдХреЗрд╡рд▓ рд╕рдВрдЦреНрдпрд╛ред


рд╡рд┐рд╕реНрддрд╛рд░


All Articles