2020/01/11
《百面机器学习-算法工程师带你去面试》读书笔记
《No.11: p97~p105》第五章 非监督学习

Q39 K均值算法的缺点，有哪些改进的模型?

1        K均值算法的主要缺点:
1.1        需要人工预先确定初始K值。
1.2        K均值只能收敛到局部最优，效果受到初始值很大。
1.3        易受到噪点的影响。
1.4        样本点只能被划分到单一的类中。
2        改进的模型
2.1        K-mean++算法: 先选n个初始聚类中心，在选取第n+1个聚类中心时，距离当前n个聚类中心越远的点会有更高的概率被选为第n+1个聚类中心。
2.2        ISODATA算法: 当K值的大小不确定时，可使用ISODATA算法。当某类样本过少，则剃除该类别。当某个类别样本数过多时、分散程度较大时，把该类别分为两个子类别。

Q40 证明K均值算法的收敛性

1.        E步骤: 计算隐变量的期望
2.        M步骤: 最大化

Q41 高斯混合模型的核心思想? 如何迭代计算?

1        核心思想
1.1        假设数据可以看作从多个高斯分布中生成出来的。
1.2        每个单独的分模型都是标准高斯模型。
2        迭代计算步骤
2.1        E步骤: 根据当前的参数，计算每个点由某个分模型生成的概率。
2.2        M步骤: 使用E步骤估计出的概率，来改进每个分模型的均值、方差和权重。