1、离差
离差也叫差量，是单项数值与平均值之间的差。一般计算离差平方和来表示数据分布的集中程度，反映了估计量与真实值之间的差距。可能出现结果与平均预期的偏离程度，代表风险程度的大小。
2、残差
残差是指观测值与预测值（拟合值）之间的差，即是实际观察值与回归估计值的差。
3、误差
测量值与真实值之间的差异称为误差，物理实验离不开对物理量的测量，测量有直接的，也有间接的。由于仪器、实验条件、环境等因素的限制，测量不可能无限精确，物理量的测量值与客观存在的真实值之间总会存在着一定的差异，这种差异就是测量误差。误差是不可避免的，只能减小。
4、偏差
偏差又称为表观误差，是指个别测定值与测定的平均值之差，它可以用来衡量测定结果的精密度高低[1]。在统计学中，偏差可以用于两个不同的概念，即有偏采样与有偏估计。一个有偏采样是对总样本集非平等采样，而一个有偏估计则是指高估或低估要估计的量。

参考资料：
http://blog.sina.com.cn/s/blog_5449408a01012nx6.html
http://baike.baidu.com/link?url= ... CGWQvtq7hZIY4vnHp4_
http://baike.baidu.com/link?url= ... Lli-F1TU822X8rnrNYO