Roadmap Disiplin Matematika untuk Pembelajaran Mesin, Bagian 2 (Kemungkinan)

Alih-alih memperkenalkan

Sekali waktu ada bagian pertama , sekarang saatnya untuk bagian kedua! Di sini kita menyentuh masalah yang berkaitan dengan teori probabilitas.

Seperti pada artikel sebelumnya, kami akan menyoroti beberapa "level" perendaman dalam subjek dan penelitiannya. Bahkan, saya percaya bahwa setiap mata pelajaran harus diselesaikan beberapa kali pada "tingkat kesulitan" yang berbeda: pertama Anda membenamkan diri dalam subjek, biasakan diri dengan "kamus", dengan rumusan masalah dan metode untuk menyelesaikannya. Setelah beberapa saat, diperkaya dengan pengetahuan dari bidang lain, Anda siap untuk mengambil kursus lagi, tetapi pada tingkat yang sedikit lebih tinggi. Anda sekarang mungkin tertarik tidak hanya pada tugas-tugas standar, tetapi juga pada keterbatasan metodologi, pendekatan non-standar, mungkin beberapa jenis filsafat dari mana subjek tumbuh (perdebatan abadi antara "sekolah yang sering" dan "sekolah bayesian").

Biarkan saya mengingatkan Anda bahwa kami membedakan tiga "level" dari kompleksitas:

1. Bawa - pekerja keras utama; ini adalah buku-buku yang disebut "must have".
2. Terluka saya banyak - level lebih tinggi, memungkinkan Anda untuk melihat level 1 dari pandangan burung, mensistematisasikan pengetahuan, menggabungkan berbagai bidang pengetahuan.
3. Mimpi buruk - untuk semangat yang kuat, tingkat mehmat, untuk pecinta matematika dan menara gading.

Dalam kebanyakan kasus, saya menunjukkan buku-buku yang saya baca sendiri atau yang sangat populer di komunitas (matematika) - mereka disarankan pada stackoverflow, goodreads, quora, dll.

Probabilitas klasik

Saya yakin bahwa masuk akal untuk segera melompat melalui tiga langkah dan segera terjun ke dunia inferensi Bayesian, tanpa sebelumnya mempelajari bagian-bagian klasik: teori probabilitas dan statistik.

() ?

• : , () , ( , - );
• , , . , ;
• : /, , ;
• : , , , , , ;
• : , ;

( — ). , .

, ?

• : , , ( , ) , " " - .
• : . (, , ).
• : ( MCMC )
• : , ;
• : , /;
• : , ;

Bring it on

Blitzstein & Hwang "Introduction to Probability"; , : stat110. youtube edx stat110x. , . 110 .
, . : " " . R.

: coursera/ /openedu (. openedu). : .
:

1. .. " ". — " - ..."
2. - , : " . ". , " ".

Hurt me plenty

MIT
Grimmett, Stirzaker "Probability and random processes" , ( !!! ): One Thousand Exercises in Probability.
Michael Mitzenmacher, Eli Upfal: "
Probability and Computing: Randomization and Probabilistic Techniques in Algorithms and Data Analysis (2nd Edition)". , "real-world" . : VC-.

:

1. " " 2008 ;
2. " " ;
3. . : ;
4. , 1-2. , , (, , ..). , , , . 1984- ().

: . , "". - , computer science center: .

: . , , , .

Nightmare

. . ,
, , :

1. , "";
2. , " ";
3. , , " ", , — , .

- , "", :

: .
, , :

1. RICK DURRETT, "Probability, Theory and Examples";
2. Kai Lai Chung, "A course in probability theory";

Unclassified

, .

,

, . , : overkill; .
, : David Williams, "Weighing the Odds".
, , . , .

Cheatsheets

, - cheatsheets (""), , . :

1. 1;
2. 2;

. -, , .

1. One Thousand Exercises in Probability — , . , ;
2. , " " — , . , , x. , " ".
3. " " — ; , , , - ;
4. , " ";
5. Blitzstein & Hwang "Introduction to Probability";

?

, "" , ( , ) ; ; (MCMC ) .

python/julia, QuantEcon, , ; , , - R/Python/Julia.

?

Dari probabilitas, statistik matematika dan pendekatan Bayesian tetap sama sekali tidak terpengaruh. Saya menyesal, dalam bidang-bidang ini saya membaca lebih sedikit buku, dan oleh karena itu, nasehat akan kurang bernilai. Tidak jelas apakah akan menulis, dan berapa banyak detailnya.