准备训练数据


深入理解问题，针对问题选择了相应的模型后，接下来则需要准备数据；数据是机器学习解决问题的根本，数据选择不对，则问题不可能被解决，所以准备训练数据需要格外的小心和注意：

###注意点：

待解决问题的数据本身的分布尽量一致；

训练集/测试集分布与线上预测环境的数据分布尽可能一致，这里的分布是指（x，y）的分布，不仅仅是y的分布；

y数据噪音尽可能小，尽量剔除y有噪音的数据；

非必要不做采样，采样常常可能使实际数据分布发生变化，但是如果数据太大无法训练或者正负比例严重失调（如超过100：1），则需要采样解决。

###常见问题及解决办法

待解决问题的数据分布不一致：

1）访购率问题中DEAL数据可能差异很大，如美食DEAL和酒店DEAL的影响因素或表现很不一致，需要做特别处理；要么对数据提前归一化，要么将分布不一致因素作为特征，要么对各类别DEAL单独训练模型。

数据分布变化了：

1）用半年前的数据训练模型，用来预测当前数据，因为数据分布随着时间可能变化了，效果可能很差。尽量用近期的数据训练，来预测当前数据，历史的数据可以做降权用到模型，或做transfer learning。

y数据有噪音：

1）在建立CTR模型时，将用户没有看到的Item作为负例，这些Item是因为用户没有看到才没有被点击，不一定是用户不喜欢而没有被点击，所以这些Item是有噪音的。可以采用一些简单规则，剔除这些噪音负例，如采用skip-above思想，即用户点过的Item之上，没有点过的Item作为负例（假设用户是从上往下浏览Item）。

采样方法有偏，没有覆盖整个集合：

1）访购率问题中，如果只取只有一个门店的DEAL进行预估，则对于多门店的DEAL无法很好预估。应该保证一个门店的和多个门店的DEAL数据都有；

2）无客观数据的二分类问题，用规则来获得正/负例，规则对正/负例的覆盖不全面。应该随机抽样数据，进行人工标注，以确保抽样数据和实际数据分布一致。

###访购率问题的训练数据

收集N个月的DEAL数据（x）及相应访购率（y）；

收集最近N个月，剔除节假日等非常规时间 （保持分布一致）；

只收集在线时长>T 且 访问用户数 > U的DEAL （减少y的噪音）；

考虑DEAL销量生命周期 （保持分布一致）；

考虑不同城市、不同商圈、不同品类的差别 （保持分布一致）。

抽取特征

完成数据筛选和清洗后，就需要对数据抽取特征，就是完成输入空间到特征空间的转换（见下图）。针对线性模型或非线性模型需要进行不同特征抽取，线性模型需要更多特征抽取工作和技巧，而非线性模型对特征抽取要求相对较低。


通常，特征可以分为High Level与Low Level，High Level指含义比较泛的特征，Low Level指含义比较特定的特征，举例来说：



基于上面的数据，可以抽到两种特征，POI（门店）或人均消费；POI特征则是Low Level特征，人均消费则是High Level特征；假设模型通过学习，获得如下预估：



所以，总体上，Low Level 比较有针对性，单个特征覆盖面小（含有这个特征的数据不多），特征数量（维度）很大。High Level比较泛化，单个特征覆盖面大（含有这个特征的数据很多），特征数量（维度）不大。长尾样本的预测值主要受High Level特征影响。高频样本的预测值主要受Low Level特征影响。

对于访购率问题，有大量的High Level或Low Level的特征，其中一些展示在下图：


非线性模型的特征

1）可以主要使用High Level特征，因为计算复杂度大，所以特征维度不宜太高；

2）通过High Level非线性映射可以比较好地拟合目标。

线性模型的特征

1）特征体系要尽可能全面，High Level和Low Level都要有；

2）可以将High Level转换Low Level，以提升模型的拟合能力。

###特征归一化

特征抽取后，如果不同特征的取值范围相差很大，最好对特征进行归一化，以取得更好的效果，常见的归一化方式如下：



###特征选择

特征抽取和归一化之后，如果发现特征太多，导致模型无法训练，或很容易导致模型过拟合，则需要对特征进行选择，挑选有价值的特征。

Filter：

假设特征子集对模型预估的影响互相独立，选择一个特征子集，分析该子集和数据Label的关系，如果存在某种正相关，则认为该特征子集有效。衡量特征子集和数据Label关系的算法有很多，如Chi-square，Information Gain。

Wrapper：

选择一个特征子集加入原有特征集合，用模型进行训练，比较子集加入前后的效果，如果效果变好，则认为该特征子集有效，否则认为无效。

Embedded：

将特征选择和模型训练结合起来，如在损失函数中加入L1 Norm ，L2 Norm。

训练模型


完成特征抽取和处理后，就可以开始模型训练了，下文以简单且常用的Logistic Regression模型（下称LR模型）为例，进行简单介绍。

设有m个（x，y）训练数据，其中x为特征向量，y为label；w为模型中参数向量，即模型训练中需要学习的对象。

所谓训练模型，就是选定假说函数和损失函数，基于已有训练数据（x，y），不断调整w，使得损失函数最优，相应的w就是最终学习结果，也就得到相应的模型。

###模型函数

1）假说函数，即假设x和y存在一种函数关系：


###优化算法



牛顿法（Newton’s Method）

牛顿法的基本思想是在极小点附近通过对目标函数做二阶Taylor展开，进而找到L(w)的极小点的估计值。形象地讲，在wk处做切线，该切线与L(w)=0的交点即为下一个迭代点wk+1（示意图如下）。w的更新公式如下，其中目标函数的二阶偏导数，即为大名鼎鼎的Hessian矩阵。



拟牛顿法（Quasi-Newton Methods）：计算目标函数的二阶偏导数，难度较大，更为复杂的是目标函数的Hessian矩阵无法保持正定；不用二阶偏导数而构造出可以近似Hessian矩阵的逆的正定对称阵，从而在"拟牛顿"的条件下优化目标函数。

BFGS： 使用BFGS公式对H(w)进行近似，内存中需要放H(w)，内存需要O(m2)级别；

L-BFGS：存储有限次数（如k次）的更新矩阵▷HIi，用这些更新矩阵生成新的H(w)，内存降至O(m)级别；

OWLQN： 如果在目标函数中引入L1正则化，需要引入虚梯度来解决目标函数不可导问题，OWLQN就是用来解决这个问题。


Coordinate Descent

对于w，每次迭代，固定其他维度不变，只对其一个维度进行搜索，确定最优下降方向（示意图如下），公式表达如下：



coordinate_descent

优化模型


经过上文提到的数据筛选和清洗、特征设计和选择、模型训练，就得到了一个模型，但是如果发现效果不好？怎么办？

【首先】

反思目标是否可预估，数据和特征是否存在bug。

【然后】

分析一下模型是Overfitting还是Underfitting，从数据、特征和模型等环节做针对性优化。

###Underfitting & Overfitting

所谓Underfitting，即模型没有学到数据内在关系，如下图左一所示，产生分类面不能很好的区分X和O两类数据；产生的深层原因，就是模型假设空间太小或者模型假设空间偏离。

所谓Overfitting，即模型过渡拟合了训练数据的内在关系，如下图右一所示，产生分类面过好地区分X和O两类数据，而真实分类面可能并不是这样，以至于在非训练数据上表现不好；产生的深层原因，是巨大的模型假设空间与稀疏的数据之间的矛盾。




underfitting_overfitting

在实战中，可以基于模型在训练集和测试集上的表现来确定当前模型到底是Underfitting还是Overfitting，判断方式如下表：



###怎么解决Underfitting和Overfitting问题？



总 结


综上所述，机器学习解决问题涉及到问题建模、准备训练数据、抽取特征、训练模型和优化模型等关键环节，有如下要点：

1.理解业务，分解业务目标，规划模型可预估的路线图。

2.数据：

y数据尽可能真实客观；
训练集/测试集分布与线上应用环境的数据分布尽可能一致。

3.特征：

利用Domain Knowledge进行特征抽取和选择；
针对不同类型的模型设计不同的特征。

4.模型：

针对不同业务目标、不同数据和特征，选择不同的模型；
如果模型不符合预期，一定检查一下数据、特征、模型等处理环节是否有bug；
考虑模型Underfitting和Qverfitting，针对性地优化。