《机器学习导论》2nd Edition ---（土耳其）Ethem Alpaydin 著 范明 昝（zan）红英 牛常勇译 ----机械Press-2014.3

ML还可以进行压缩（compression）
用规则拟合数据，得到比数据更简单的解释，需要存储空间更少、处理所需时间更少。

ML的另一个用途是离群点检测（outlier detection）
即发现那些不遵守规则的例外实例。（在此情况下，学习规则后，我们感兴趣的不是规则，而是规则不能覆盖的例外，它们可能暗示出我们需要注意的异常，如诈骗）

1.2.3 回归
假设我们想要一个能预测二手车价格的系统，其输入是我们认为会影响车价的属性信息：品牌、车龄、发动机性能、里程、以及其他信息。
输出的是车的价格，这种输出为数值的问题是回归（regression）问题

假定x表示车的属性，y表示车的价格，调查一下以往的交易情况，能收集到训练数据，而ML程序用一个函数拟合这些数据来学习x的函数y。
其中对于ω和ω0的合适值，拟合函数具有如下形式：    y = ωx +ω0

回归和分类均为监督学习（supervised learning）问题，其中输入x和输出y给定，任务是学习从输入到输出的映射。机器学习的方法是，先假定某个依赖于一组参数的模型：  y = g( x | θ)


其中，g(*)是模型，θ是模型的参数。对于回归，y是数值；对于分类，y是类编码（如0、1）
g(*)是回归函数，或者对于分类是将不同类的实例分开的判别式函数。