总复习
主要概念及运算     熵及其计算      互熵（平均互信息）及其计算     信道容量及其计算（尤其是对称及准对称信道容量）      马尔科夫信源平稳分布      即时码判定、信源编码方法（尤其是霍夫曼编码）      失真矩阵及平均失真度、失真定义域主要定理（香农三大定理及香农公式）     无失真信源编码定理     有噪信道编码定理               香农公式     限失真信源编码定理
信息怎样度量？ 熵及互熵（平均互信息）、信道容量2. 需要处理问题： 信息传输可靠性与有效性问题 信源编码与信道编码（香农三大定理）
通信基本问题（主要问题、关键问题）
自信息量
联合自信息量
条件自信息量