火光摇曳
Rickjin(靳志辉)

目录
第一章正态分布的前世今生4
1.1 正态分布，熟悉的陌生人. . . . . . . . . . . . . . . . . . . . 4
1.2 邂逅，正态曲线的首次发现. . . . . . . . . . . . . . . . . . . 7
1.3 最小二乘法，数据分析的瑞士军刀. . . . . . . . . . . . . . . 10
1.4 众里寻她千百度, 误差分布曲线的确立. . . . . . . . . . . . . 14
1.5 曲径通幽处，禅房花木深. . . . . . . . . . . . . . . . . . . . 20
1.5.1 高斯(1809) 的推导. . . . . . . . . . . . . . . . . . . . 21
1.5.2 赫歇尔(1850) 和麦克斯韦(1860) 的推导. . . . . . . 23
1.5.3 兰登(1941) 的推导. . . . . . . . . . . . . . . . . . . . 25
1.5.4 基于最大熵的推导. . . . . . . . . . . . . . . . . . . . 26
1.6 开疆拓土，正态分布的进一步发展. . . . . . . . . . . . . . . 29
1.6.1 论剑中心极限定理. . . . . . . . . . . . . . . . . . . . 29
1.6.2 进军近代统计学. . . . . . . . . . . . . . . . . . . . . 33
1.6.3 数理统计三剑客. . . . . . . . . . . . . . . . . . . . . 38
1.7 正态魅影. . . . . . . . . . . . . . . . . . . . . . . . . . . . . 41
1.8 大道至简, 大美天成. . . . . . . . . . . . . . . . . . . . . . . 44
1.9 推荐阅读. . . . . . . . . . . . . . . . . . . . . . . . . . . . . 48
第二章神奇的伽玛函数50
2.1 开篇. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 50
2.2 无心插柳— 沃利斯公式. . . . . . . . . . . . . . . . . . . . . 52
2.3 近似与插值的艺术. . . . . . . . . . . . . . . . . . . . . . . . 58
2.4 三封信—伽玛函数的诞生. . . . . . . . . . . . . . . . . . . . 65
2.5 􀀀(n) = (n 􀀀 1)! 还是􀀀(n) = n! ? . . . . . . . . . . . . . . . . 72
2.6 伽玛函数欣赏. . . . . . . . . . . . . . . . . . . . . . . . . . . 75
2.7 随机数学中的伽玛函数. . . . . . . . . . . . . . . . . . . . . . 81
2.8 结语. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 86
2.9 推荐阅读. . . . . . . . . . . . . . . . . . . . . . . . . . . . . 87
第三章认识Beta/Dirichlet 分布89
3.1 撒旦的游戏—认识Beta 分布. . . . . . . . . . . . . . . . . . 89
3.2 Beta-Binomial 共轭. . . . . . . . . . . . . . . . . . . . . . . . 93
3.3 Dirichlet-Multinomial 共轭. . . . . . . . . . . . . . . . . . . . 98
3.4 Beta/Dirichlet 分布的一个性质. . . . . . . . . . . . . . . . . 101
第四章MCMC 和Gibbs Sampling 103
4.1 随机模拟. . . . . . . . . . . . . . . . . . . . . . . . . . . . . 103
4.2 马氏链及其平稳分布. . . . . . . . . . . . . . . . . . . . . . . 106
4.3 Markov Chain Monte Carlo . . . . . . . . . . . . . . . . . . . 111
4.4 Gibbs Sampling . . . . . . . . . . . . . . . . . . . . . . . . . . 115
第五章LDA 数学八卦119
5.1 开篇. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 119
5.2 文本建模. . . . . . . . . . . . . . . . . . . . . . . . . . . . . 120
5.2.1 Unigram Model . . . . . . . . . . . . . . . . . . . . . . 121
5.2.2 Topic Model 和PLSA . . . . . . . . . . . . . . . . . . 126
5.3 LDA 文本建模. . . . . . . . . . . . . . . . . . . . . . . . . . 129
5.3.1 游戏规则. . . . . . . . . . . . . . . . . . . . . . . . . 129
5.3.2 物理过程分解. . . . . . . . . . . . . . . . . . . . . . . 131
5.3.3 Gibbs Sampling . . . . . . . . . . . . . . . . . . . . . . 136
5.3.4 Training and Inference . . . . . . . . . . . . . . . . . . 138
5.4 后记. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 140
第六章Stirling 公式推导142
6.1 Poisson 分布的性质. . . . . . . . . . . . . . . . . . . . . . . . 142
6.2 Stirling 公式的统计推导. . . . . . . . . . . . . . . . . . . . . 143