logistic回归模型的奇怪事情

flutter88

4635

收藏 2014-12-04

悬赏 400 个论坛币未解决

最近做了一个logistic回归模型，比较神奇的是预测的目标变量全部都是1。考察了一下自变量中目标变量的分布，也是单调的！这么多年没有遇到如此神奇的问题！请各位大侠帮忙看看是什么问题？

为了简化问题，我只取了两个变量，第一列a是自变量，第二列b是目标变量。
数据集见附件。

proc logistic data =click outest=aa descending;
model b=a ;
output out =bb predicted=p;
run ;

结果为全部为1啊！

click.txt

大小:1.34 MB

马上下载

扫码加我拉你入群

请注明：姓名-公司-职位

以便审核进群资格，未注明则拒绝

全部回复

oliyiyi

2014-12-4 16:24:39

把data也贴出来吧

扫码加我拉你入群

请注明：姓名-公司-职位

以便审核进群资格，未注明则拒绝

oliyiyi

2014-12-4 16:25:52

看到拉

扫码加我拉你入群

请注明：姓名-公司-职位

以便审核进群资格，未注明则拒绝

oliyiyi

2014-12-4 16:28:47

哪个是b哪个是a啊？

扫码加我拉你入群

请注明：姓名-公司-职位

以便审核进群资格，未注明则拒绝

flutter88

2014-12-4 16:29:53

第一列是a，第二列是b

扫码加我拉你入群

请注明：姓名-公司-职位

以便审核进群资格，未注明则拒绝

viking203

2014-12-4 16:31:43

data呢？？发来看看？

扫码加我拉你入群

请注明：姓名-公司-职位

以便审核进群资格，未注明则拒绝

点击查看更多内容…

ziyenano

2014-12-4 16:42:56

response value是1，probability是预测值等于1的概率，以这种形式给出，没有问题，
反过来等于0的概率等于1-p。
对于二分类预测变量，只要给出一个响应水平的概率就可以了。

扫码加我拉你入群

请注明：姓名-公司-职位

以便审核进群资格，未注明则拒绝

flutter88

2014-12-4 16:53:02

ziyenano 发表于 2014-12-4 16:42
response value是1，probability是预测值等于1的概率，以这种形式给出，没有问题，
反过来等于0的概率等于 ...

这个模型没有任何预测效果

扫码加我拉你入群

请注明：姓名-公司-职位

以便审核进群资格，未注明则拒绝

ziyenano

2014-12-4 16:59:33

flutter88 发表于 2014-12-4 16:53
这个模型没有任何预测效果

为什么没有预测效果，二分类logistic回归最终的结果不就是预测P(Y=1)或者P(Y=0)

扫码加我拉你入群

请注明：姓名-公司-职位

以便审核进群资格，未注明则拒绝

flutter88

2014-12-4 17:06:07

ziyenano 发表于 2014-12-4 16:59
为什么没有预测效果，二分类logistic回归最终的结果不就是预测P(Y=1)或者P(Y=0)

全部是1有什么效果？

扫码加我拉你入群

请注明：姓名-公司-职位

以便审核进群资格，未注明则拒绝

flutter88

2014-12-4 17:09:59

ziyenano 发表于 2014-12-4 16:59
为什么没有预测效果，二分类logistic回归最终的结果不就是预测P(Y=1)或者P(Y=0)

一个模型不是说给一个P就OK了，还要看看这个P准不准啊

扫码加我拉你入群

请注明：姓名-公司-职位

以便审核进群资格，未注明则拒绝

ziyenano

2014-12-4 17:19:45

flutter88 发表于 2014-12-4 17:06
全部是1有什么效果？

这里并不是最终预测值全是1，只是给出了预测值等于1的概率，response value并不是预测结果。
最终输出0还是1都是人为确定的，本质还是P(Y=1)这个概率，
很多时候，会默认P(Y=1)>0.5输出1，<0.5则输出0，
但是很多时候这样的结果是没有意义的，好比这里的建模数据，b=1的记录占比很小，
这样的数据建模，导致最终预测结果P(Y=1)的值基本很小。
显然考虑现实情况，可以认为 P(Y=1)>0.2（或者其他值）为1，反之为0.

扫码加我拉你入群

请注明：姓名-公司-职位

以便审核进群资格，未注明则拒绝

ziyenano

2014-12-4 17:26:26

flutter88 发表于 2014-12-4 17:09
一个模型不是说给一个P就OK了，还要看看这个P准不准啊

基于准不准的问题，
如果数据本身是0和1的占比差不多的，混淆矩阵是个判别方法，
如果1占比很小的的数据类型，混淆矩阵就没有意义了，我全预测成0，显然
正确率很高，这时候通常选择提升或者增益的概念来表示正确性，
当然ROC图任何时候都可以，
楼主可以去看看资料。

扫码加我拉你入群

请注明：姓名-公司-职位

以便审核进群资格，未注明则拒绝

flutter88

2014-12-4 17:44:17

ziyenano 发表于 2014-12-4 17:26
基于准不准的问题，
如果数据本身是0和1的占比差不多的，混淆矩阵是个判别方法，
如果1占比很小的的数据 ...

说的就是这个问题，看ROC曲线几乎没有任何提升。
而且也试过抽样等方法，没有什么效果。
说明这个模型几乎没有任何的区分度。

扫码加我拉你入群

请注明：姓名-公司-职位

以便审核进群资格，未注明则拒绝

ziyenano

2014-12-4 17:53:32

flutter88 发表于 2014-12-4 17:44
说的就是这个问题，看ROC曲线几乎没有任何提升。
而且也试过抽样等方法，没有什么效果。
说明这个模型几 ...

这样的薄靶数据现实中很多，用提升或者增益指标来解释模型的准确性
比较合适，当然不能指着一个指标就能有好的预测效果。
楼主的疑问是什么，结果中哪个指标显示了输出结果全为1

扫码加我拉你入群

请注明：姓名-公司-职位

以便审核进群资格，未注明则拒绝

flutter88

2014-12-5 10:00:46

ziyenano 发表于 2014-12-4 17:53
这样的薄靶数据现实中很多，用提升或者增益指标来解释模型的准确性
比较合适，当然不能指着一个指标就能 ...

你可以用这个数据集跑一下，就知道很神奇了

扫码加我拉你入群

请注明：姓名-公司-职位

以便审核进群资格，未注明则拒绝

ziyenano

2014-12-5 11:12:40

flutter88 发表于 2014-12-5 10:00
你可以用这个数据集跑一下，就知道很神奇了

没有找到你说的结果，如果给出的话，那也全是0，不会是1。
proc logistic data =click outest=aa descending;
model b=a ;
score data=click out=pred;/*0.5为分割点*/
run ;

扫码加我拉你入群

请注明：姓名-公司-职位

以便审核进群资格，未注明则拒绝

jingju11

2014-12-5 13:13:00

flutter88 发表于 2014-12-4 17:09
一个模型不是说给一个P就OK了，还要看看这个P准不准啊

你的数据包含20万个观察。模型只给出10个不同的预测概率。x 每增加0。1，or=2.举一个例子。吸烟致癌。周所周知。但是，如果我告诉你这个人吸烟，让你猜猜他是否有肺癌。你肯定说没有。为什么？肺癌的概率非常低。但是，你可以说，他罹患肺癌的概率要比非吸烟者要大。如果说医院资金有限，只能对一部分做体检。那么他也许就是其中之一。从模型上，虽然他的肺癌概率有0.1%，但是普通人只有0.01%,两者的最佳猜测都为没有癌症。也就是说，虽然你的模型无法准确预测是否某人患有癌症，但是对医院却有很大的指导意义。如果医院要免费体检100个人，它也许会按照p值从大到小排列，取前100个人。同时你也指出了二分变量的局限性-非此即彼。比如说。我要设计一个试验来检测某种药物是否有效。我的目标测量指标往往不是病人是否痊愈，而是某个更加细微的指标。比如某中危险蛋白的量值是否降低。所以，y值虽然呈现为是和否。但是是否之间应该隐含过渡性。而这种过渡性可以从p来得到某中程度上的衡量。
京剧

扫码加我拉你入群

请注明：姓名-公司-职位

以便审核进群资格，未注明则拒绝

flutter88

2015-9-14 17:17:12

..............................

附件列表

1907年走势.png

原图尺寸 44.76 KB

扫码加我拉你入群

请注明：姓名-公司-职位

以便审核进群资格，未注明则拒绝

挞挞

2015-12-1 11:37:30

我想看看data，直接用b变量去拟合0 1 我也很好奇什么数据可以这么做

扫码加我拉你入群

请注明：姓名-公司-职位

以便审核进群资格，未注明则拒绝

吕小布韦

2015-12-2 00:45:11

刚用你的程序跑了一下, "结果全为1" 应该是 "response value"全为1, 这并不是说, 所有的观测的验证结果都为1, 而是结果为1的概率, 也就是后面的"estimated probability", 比如, a=0.1的时候, b=1的预测概率是0.0783, 这是很低的一个概率了, 也就是说sas指定让logistics给出b=1的概率, 而不是说谁高就显示谁. 所以你说的问题应该是看错表了...

不过我看了一下你这些观测的b=1的预测概率都不高, a=0.9的时候p不过是0.127, 看了一下原因还是b本身出现的概率就很低, 在a*b表中在任一a取值下b=1出现的概率都很低, 虽然随着a值的增大, b出现1的概率增大. 这也就是为什么a的系数的参数估计值很小, 只有0.6, 但是p<0.0001.

综合起来可以这么表述, 随着a的增大, b出现1的概率的确增大, 这种关系是比较确定的, 但是这种作用比较微弱

扫码加我拉你入群

请注明：姓名-公司-职位

以便审核进群资格，未注明则拒绝

flutter88

2016-1-8 17:38:51

的确是这样的

扫码加我拉你入群

请注明：姓名-公司-职位

以便审核进群资格，未注明则拒绝

扫码加我 拉你入群

扫码加我 拉你入群

扫码加我 拉你入群

扫码加我 拉你入群

扫码加我 拉你入群

扫码加我 拉你入群

扫码加我 拉你入群

扫码加我 拉你入群

扫码加我 拉你入群

扫码加我 拉你入群

扫码加我 拉你入群

扫码加我 拉你入群

扫码加我 拉你入群

扫码加我 拉你入群

扫码加我 拉你入群

扫码加我 拉你入群

扫码加我 拉你入群

扫码加我 拉你入群

扫码加我 拉你入群

扫码加我 拉你入群

扫码加我 拉你入群

扫码加我 拉你入群

分享

扫码加好友，拉您进群

扫码加我拉你入群

扫码加我拉你入群

扫码加我拉你入群

扫码加我拉你入群

扫码加我拉你入群

扫码加我拉你入群

扫码加我拉你入群

扫码加我拉你入群

扫码加我拉你入群

扫码加我拉你入群

扫码加我拉你入群

扫码加我拉你入群

扫码加我拉你入群

扫码加我拉你入群

扫码加我拉你入群

扫码加我拉你入群

扫码加我拉你入群

扫码加我拉你入群

扫码加我拉你入群

扫码加我拉你入群

扫码加我拉你入群

扫码加我拉你入群