8.11打卡
复习+预习
1.线性回归
  解析解:最小二乘法
  数值优化方法:
  梯度下降法:一阶导，批量，随机，小批量
  牛顿法:二阶导，比梯度下降法更快
  拟牛盾法:牛顿法需要求黑塞矩阵的逆，用正定矩   
                 阵代替
  共轭梯度:一阶导，下降快，同时不需要求黑塞矩  
                 阵的逆
  坐标轴下降法:Lasso回归只能用坐标轴下降法
2.逻辑回归
Logistic回归
Sigmoid函数
最大似然估计
梯度上升法