《机器学习导论》2nd Edition ---（土耳其）Ethem Alpaydin 著 范明 昝（zan）红英 牛常勇译 ----机械Press-2014.3


2.6 回归
在分类问题中，给定一个输入，所产生的输出是一个布尔值，这是一个是/否型答案。
当输出是数值型的值时，我们所希望学习的不是一个类C（x) ∈{0, 1} ，而是一个连续函数。


在机器学习中，函数是未知的，不过我们有从其中抽取的训练集（此处有公式）
如果不存在噪声，则任务是插值（interpolation）。我们希望找到通过这些点的函数f(x)，使得  r t = f(x t)   这里t是上标

在多项式插值（polynomial interpolation）中，给定N个点，找出可以用来预测任何x的输出的（N-1）阶多项式。如果x落在训练集中x t的值域之外，则该方法称为外插或外推（extrapolation）。
例如，在时间序列预测中，我们拥有截止目前的数据，而且希望预测未来的值。
在回归（regression）分析中，噪声添加到未知函数的输出上： r t = f( x t) + ε   ，其中 f(x) 是未知函数，ε是随机噪声。
关于噪声的解释是，存在我们无法观察到的额外的隐藏（hidden）变量：  r t = f * (x t, Z t)