骰子的熵
熵是物理，数学，信息论等许多领域中最重要的概念之一。
熵与一个随机系统可以采取的状态数量以及该系统将如何随着时间发展而变化，从而使不确定性最大化。
这将通过两种方式发生：第一，每个系统都会在所有可用信息中选择具有更高熵级的配置；第二，如果我们让系统进化，则一段时间后它将处于比更高熵级的配置中。初始值。
我们将熵定义为系统可用状态数的对数。
一个系统可用的状态数由这些状态中每个状态的概率给出，因此在基于这些概率的定义中进行思考似乎是合理的。
我们还要求此功能符合一些限制：
可用状态的概率之和必须等于1
由两个子系统组成的系统的熵必须是这两个子系统的熵之和
如果我们将系统视为孔，或者将其视为两个子系统1和2的总和，那么这些要求将迫使熵函数保持一致。
因此，我们发现
唯一可以维持这种关系的函数是，因此我们以这种方式介绍了熵作为状态概率的函数的定义。
现在我们有了一个可以管理的熵函数，让我们考虑一个可以采用不同概率的不同状态的系统。
一个熟悉且易于分析的示例是掷骰子。
一个骰子有6个面（1
如果增加引入模数n = 2，n = 3，n = 4等的系统的复杂度，系统的熵将是它们的和=（1.792·n）
例如，使用R，我们计算两个骰子的可能组合：
我们有兴趣了解如果认为骰子无法区分会发生什么以及在这种情况下熵会发生什么。当我们不能直接访问状态而是访问它们的功能（有时称为可观察的）时，可能会发生这种情况。为了说明这一点，我们将考虑每个草稿中使用的n个骰子的值之和。
考虑到可观察到的“和”给出的状态，我们将观察到概率分布和熵的急剧变化。现在状态（2
为了计算系统的新状态和新概率，我们使用了一种数值方法。
使用此函数，我们可以计算新状态及其概率
绘制不同骰子数量的概率分布很容易观察到，添加更多骰子时，全局概率会达到一个具体值。
不可区分性引入了对称性，对称性修改了概率分布，使得某些状态比其他状态更有可能。
当然，这极大地降低了不确定性，从而降低了熵。
要使用不可区分的状态来计算系统的熵，我们使用此函数
绘制每个n的每个骰子的熵，我们可以看到它随n减小。
n = 1的值是1.792，即熵的单一值，当n增加时，对称性开始减小该值。
在没有不可分辨性的系统中，每n熵为1.792·n。

关注 CDA人工智能学院 ，回复“录播”获取更多人工智能精选直播视频！