全部版块 我的主页
论坛 计量经济学与统计论坛 五区 计量经济学与统计软件
1036 6
2024-03-05
lasso回归和ols的区别是什么???老师在上课的时候说ols几乎没有预测的功能,然后因果推断是对过去经验的总结,lasso回归是把偏差和方差的均衡,lasso回归预测是拟合(?)(实证小白不知道怎么问问题,犯基本错误请不要见怪请大佬指点)
二维码

扫码加我 拉你入群

请注明:姓名-公司-职位

以便审核进群资格,未注明则拒绝

全部回复
2024-3-6 09:17:23
OLS和Lasso回归都是用于回归分析的统计方法,但它们在处理数据和预测结果时有一些关键的区别。
OLS(最小二乘法):
OLS是一种线性回归的方法,主要目标是找到一条直线(或更高维度的超平面),使这条直线与数据点的距离(即残差)的平方和最小。
OLS假设所有的输入变量都对输出变量有影响,并且这些影响都是线性的。
OLS的预测是基于所有输入变量的,因此它可能不会很好地处理过拟合问题(即模型在训练数据上表现良好,但在新数据上表现不佳)。
OLS没有内置的变量选择机制,意味着即使某些输入变量与输出变量无关,它们也会被包含在模型中。

Lasso回归:
Lasso回归也是一种线性回归的方法,它通过在损失函数中添加一个正则化项(即L1范数)来约束模型的复杂度。Lasso回归的一个关键特性是它能够进行变量选择。具体地,当正则化参数足够大时,Lasso回归可以将某些输入变量的系数压缩到零,实现变量选择的效果。由于Lasso回归的变量选择特性,它通常比OLS更适用于处理高维数据集和过拟合问题。
如您所述,Lasso回归试图在偏差和方差之间找到一个平衡,通过调整正则化参数,可以在模型的复杂性和预测性能之间找到一个折衷方案。
关于您提到的“因果推断是对过去经验的总结”,确实是一个复杂的概念。因果推断试图理解一个变量(因)如何影响另一个变量(果)。在统计模型中,通常涉及到控制其他潜在影响因素,更准确地估计这种关系。OLS和Lasso回归都可以用于因果推断,但它们的适用性和准确性取决于具体的研究问题和数据特性。

您提到的“lasso回归预测是拟合”是一个合理的观点。在统计模型中,“拟合”通常指的是模型如何描述或“适应”数据,而“预测”则是指模型如何基于这些拟合结果来预测新的、未见过的数据。Lasso回归通过调整模型复杂度来优化这种拟合与预测之间的平衡。
二维码

扫码加我 拉你入群

请注明:姓名-公司-职位

以便审核进群资格,未注明则拒绝

2024-3-6 11:41:50
太详细啦!!!您的解释很清晰很全面,谢谢谢谢您的解答!!!
二维码

扫码加我 拉你入群

请注明:姓名-公司-职位

以便审核进群资格,未注明则拒绝

2024-3-6 11:43:34
olympic 发表于 2024-3-6 09:17
OLS和Lasso回归都是用于回归分析的统计方法,但它们在处理数据和预测结果时有一些关键的区别。
OLS(最小 ...
太详细啦!!!您的解释很清晰很全面,谢谢谢谢您的解答!!!
二维码

扫码加我 拉你入群

请注明:姓名-公司-职位

以便审核进群资格,未注明则拒绝

2024-3-6 21:21:07
感谢分享
二维码

扫码加我 拉你入群

请注明:姓名-公司-职位

以便审核进群资格,未注明则拒绝

2024-3-7 06:54:00
感谢分享
二维码

扫码加我 拉你入群

请注明:姓名-公司-职位

以便审核进群资格,未注明则拒绝

点击查看更多内容…
相关推荐
栏目导航
热门文章
推荐文章

说点什么

分享

扫码加好友,拉您进群
各岗位、行业、专业交流群