多元线性回归残差和

qiuzhaolin

5191

收藏 2012-10-18

在多元线性回归中，如果没有常数项，公式TSS=ESS+RSS为什么不成立，残差和为什么可能不等于0？

扫码加我拉你入群

请注明：姓名-公司-职位

以便审核进群资格，未注明则拒绝

全部回复

蓉婕

2012-10-18 22:45:37

关于残差的一个假定是误差项的均值为零。
在存在常数项的时候，这个假定很容易满足。
例如，假设E（u）=1，那么：
y = (b0 +1)+ b1x + (u-1),
即，我们总可以通过调整常数项来实现误差项的均值为零。

公式TSS=ESS+RSS成立的基础之一正是这个假定，如果这个假定不能满足，那这个公式自然不成立了。

扫码加我拉你入群

请注明：姓名-公司-职位

以便审核进群资格，未注明则拒绝

fd2008

2012-10-23 01:10:55

通过矩阵写法很容易看出来，Y=Xb+e_hat
X与e_hat正交，即Xe_hat=0，存在常数项是说X的第一列是1，这样e_hat之和必然为0.

扫码加我拉你入群

请注明：姓名-公司-职位

以便审核进群资格，未注明则拒绝

柘木

2012-11-23 16:21:42

建立多元线性回归模型的基本前提就是假定随机误差u的方差必须为常数，而且随机误差u服从均值为0，方差为σ^2的正态分布,如果不存在常数项,模型本身就没有任何意义

残差和不等于0,说明随机误差项u的方差不能始终相同，就会导致异方差的出现。造成对预测误差的变大，降低预测精度，所以需要对异方差性进行修正。