Feuille de route des disciplines mathématiques pour l'apprentissage automatique, partie 2 (probabilités)

Au lieu d'introduire


Il était une fois la première partie , il est maintenant temps pour la deuxième partie! Nous abordons ici les questions liées à la théorie des probabilités.


Comme dans l'article précédent, nous mettrons en évidence plusieurs "niveaux" d'immersion dans le sujet et son étude. En fait, je crois que chaque sujet doit être complété plusieurs fois à différents "niveaux" de difficulté: d'abord on s'immerge dans le sujet, on s'habitue au "dictionnaire", à la formulation typique des problèmes et aux méthodes pour les résoudre. Après un certain temps, enrichi de connaissances dans d'autres domaines, vous êtes prêt à reprendre le cours, mais à un niveau légèrement supérieur. Vous pouvez maintenant vous intéresser non seulement aux tâches standard, mais aussi aux limites de la méthodologie, aux approches non standard, peut-être à une sorte de philosophie dont le sujet est issu (l'éternel débat entre "l'école fréquentiste" et "l'école bayésienne").


Permettez-moi de vous rappeler que nous distinguons trois "niveaux" de complexité:


  1. Apportez-le - le cheval de bataille principal; ce sont des livres qui sont appelés «must have».
  2. Faites-moi beaucoup de mal - un niveau plus élevé, vous permet de regarder le niveau 1 à vol d'oiseau, systématise les connaissances, combine différents domaines de connaissances.
  3. Cauchemar - pour les forts d'esprit, le niveau de mehmat, pour les amateurs de mathématiques et de tours d'ivoire.

Dans la plupart des cas, j'indique les livres que je lis moi-même ou qui sont très populaires dans la communauté (mathématique) - ils sont conseillés sur stackoverflow, goodreads, quora, etc.


Probabilité classique


Je suis convaincu que cela n'a aucun sens de sauter immédiatement à travers trois étapes et de plonger immédiatement dans le monde de l'inférence bayésienne, sans avoir auparavant étudié les sections classiques: théorie des probabilités et statistiques.


() ?


  • : , () , ( , - );
  • , , . , ;
  • : /, , ;
  • : , , , , , ;
  • : , ;

( — ). , .


, ?


  • : , , ( , ) , " " - .
  • : . (, , ).
  • : ( MCMC )
  • : , ;
  • : , /;
  • : , ;

Bring it on


Blitzstein & Hwang "Introduction to Probability"; , : stat110. youtube edx stat110x. , . 110 .
, . : " " . R.


: coursera/ /openedu (. openedu). : .
:


  1. .. " ". — " - ..."
  2. - , : " . ". , " ".

Hurt me plenty


MIT
Grimmett, Stirzaker "Probability and random processes" , ( !!! ): One Thousand Exercises in Probability.
Michael Mitzenmacher, Eli Upfal: "
Probability and Computing: Randomization and Probabilistic Techniques in Algorithms and Data Analysis (2nd Edition)". , "real-world" . : VC-.


:


  1. " " 2008 ;
  2. " " ;
  3. . : ;
  4. , 1-2. , , (, , ..). , , , . 1984- ().

: . , "". - , computer science center: .


: . , , , .


Nightmare


. . ,
, , :


  1. , "";
  2. , " ";
  3. , , " ", , — , .

- , "", :


: .
, , :


  1. RICK DURRETT, "Probability, Theory and Examples";
  2. Kai Lai Chung, "A course in probability theory";

Unclassified


, .


,


, . , : overkill; .
, : David Williams, "Weighing the Odds".
, , . , .


Cheatsheets


, - cheatsheets (""), , . :


  1. 1;
  2. 2;


. -, , .


  1. One Thousand Exercises in Probability — , . , ;
  2. , " " — , . , , x. , " ".
  3. " " — ; , , , - ;
  4. , " ";
  5. Blitzstein & Hwang "Introduction to Probability";

?


, "" , ( , ) ; ; (MCMC ) .


python/julia, QuantEcon, , ; , , - R/Python/Julia.


?


De la probabilité, les statistiques mathématiques et l'approche bayésienne sont restées complètement inchangées. À mon grand regret, dans ces domaines, je lis moins de livres et les conseils seront donc moins utiles. Il n'est pas clair s'il faut écrire et dans combien de détails.


All Articles