### 梯度下降

导数: 在函数的当前位置, 函数增长最快的方向. 导数的反方向就是减小最快的方向.

偏导数：把其他参数固定不变的情况下，剩余那个参数的导数.

梯度： 把所有参数的偏导放到一起组成一个矩阵，就是函数在当前点的梯度.

梯度的性质：函数在当前位置增长最快的方向

我们要移动的方向：函数减小最快的方向，也就是梯度的反方向