全部版块 我的主页
论坛 计量经济学与统计论坛 五区 计量经济学与统计软件
6614 7
2013-04-28
线性代数的最小二乘法与偏微分形式的最小二乘法有什么关系?可否理解为一个是理想形式(偏微分),一个是数值形式(线代,是一个数值逼近)。软件里应用各种最小二乘法的曲线拟合,是否是基于线代而不是偏微分的形式给出的啊?请大家不吝解答!谢谢!
二维码

扫码加我 拉你入群

请注明:姓名-公司-职位

以便审核进群资格,未注明则拒绝

全部回复
2013-4-29 00:06:17
二者处理的问题就不同,线性代数中的最小二乘一般适用于Linear system. 微积分中的范围就更宽一些。不过线性代数中的最小二乘解也是通过求偏微分得到normal equation后求出的。
二维码

扫码加我 拉你入群

请注明:姓名-公司-职位

以便审核进群资格,未注明则拒绝

2013-4-29 09:27:08
hugebear 发表于 2013-4-29 00:06
二者处理的问题就不同,线性代数中的最小二乘一般适用于Linear system. 微积分中的范围就更宽一些。不过线性 ...
不太懂啊,线代中的最小二乘法不是通过正交射影和最佳逼近定理,原始数据给出的方程组可能是矛盾方程而无解,但是通过矩阵转置的一系列变换后,就可以得到正规方程组(法方程组,Normal Equations),从而可以证明一定有解。但是偏微分求导里,从各种教材上看,但是是直接求导令两个偏导数为0,就一下子得出了正规方程组,一定就可以有解。这里没有涉及从矛盾方程组到正规方程组的转化。这种极值的存在性是如何证明的?
二维码

扫码加我 拉你入群

请注明:姓名-公司-职位

以便审核进群资格,未注明则拒绝

2013-4-29 09:32:58
正规方程得到的解是最小二乘解,并非严格满足所有方程的解。
二维码

扫码加我 拉你入群

请注明:姓名-公司-职位

以便审核进群资格,未注明则拒绝

2013-4-29 11:09:19
hugebear 发表于 2013-4-29 09:32
正规方程得到的解是最小二乘解,并非严格满足所有方程的解。
刚才和别人讨论了一下,可否理解为偏微分求导后,令两个偏导数为0的过程,其实就是对应线性代数里把矛盾方程组转化规范方程组的过程?
二维码

扫码加我 拉你入群

请注明:姓名-公司-职位

以便审核进群资格,未注明则拒绝

2013-4-29 11:56:56
对了,你要弄清楚最小二乘解是无法求得精确解在某种准则下的一种妥协。
二维码

扫码加我 拉你入群

请注明:姓名-公司-职位

以便审核进群资格,未注明则拒绝

点击查看更多内容…
相关推荐
栏目导航
热门文章
推荐文章

说点什么

分享

扫码加好友,拉您进群
各岗位、行业、专业交流群