2020/01/13
《百面机器学习-算法工程师带你去面试》读书笔记
《No.13: p116~p126》第六章 概率图模型

Q45 写出图6.1(a)中贝叶斯网络的联合概率分布?

利用条件概率的概念来写。
P(A,B,C,D)=P(A)P(B|A)P(C|A)P(D|B,C)

Q46 写出图6.1(b)中马尔可夫网络的联合概率分布?

依照马尔可夫网络的联合概率分布的定义来写。


Q47 解释朴素贝叶斯模型的原理，并给出概率图模型表示。
1.        朴素贝叶斯模型通过预测指定样本属于特定类别的概率来预测该样本的所属类别。
2.        可用盘式记法来表示概率图模型。这是一种简洁的概率图模型表示方法

Q48 解释最大熵模型的原理，并给出概率图模型表示

1.        熵就是不确定性的度量，熵越大，不确定性就越大。
2.        最大熵模型就是要学习到合适的分布，使得条件熵的取值最大。
3.        最大熵模型的概率图模型很像马尔可夫网络。

Q49 常见的概率图模型中，哪些是生成式模型，哪些是判别式模型?

1.        生成式模型: 假设可观测到的变量集合为X，需要预测的变量集合为Y，其他的变量集合为Z，生成式模型是对联合概率分布P(X,Y,Z)进行建模，在给定观测集合X的条件下，通过计算边缘分布来得到对变量集合Y的推断。如朴素贝叶斯、贝叶斯网络、pLSA、LDA等模型都是生成式模型。
2.        判别式模型: 直接对条件概率分布P(Y,Z|X)进行建模，然后消掉无关变量Z就可得到对变量Y的预测。条件随机场、最大熵模型是判别式模型。