全部版块 我的主页
论坛 数据科学与人工智能 数据分析与数据科学 数据分析与数据挖掘
4082 2
2016-03-28
1.选择放进模型的变量,应该如何选择,我所知道的是避免多重共线性,异方差性的情况。
2.对于评价这个决策树的效果,有没有什么指标,我通过后剪枝的方法,并用predict函数跟测试集数据验证,准确率为83%,
对于这个结果,我想确认是否可以认定这个决策树比较ok?

再次感谢大家帮助,谢谢!
二维码

扫码加我 拉你入群

请注明:姓名-公司-职位

以便审核进群资格,未注明则拒绝

全部回复
2016-3-29 21:58:50
1、变量选择的方法有很多种。一个是看变量数据是否OK,缺失情况等,另一个是看变量在正负样本上的区分能力。可以通过历史经验选择,也可以通过数据的方法,如信息值等方法。共线性是因为变量间的强相关性,如果要消除共线性,可以通过对相关性强的变量做处理后再建模,处理的方法可以是剔除强相关的变量,也可以是降维用新的变量建模,当然也可以选择复杂算法如随机森林之类的。当然如果你的数据量比较大,决策树对共线性并不会太敏感。
2、模型效果的评估,一方面是模型稳定性的评估,如在不同数据集上的效果是否稳定;另一方面是模型性能的评估,这个就需要基于你预定的目标和现状,看有了模型ROC达到多少,PR图上的P、R达到了多少,能比现在提升多少。
二维码

扫码加我 拉你入群

请注明:姓名-公司-职位

以便审核进群资格,未注明则拒绝

2016-3-30 14:21:25
非常感谢!另外我还想问问关于异常值的处理,模型中有几个连续型数值变量,偏度较大,这种情况下是否需要进行非线性转换呢?
二维码

扫码加我 拉你入群

请注明:姓名-公司-职位

以便审核进群资格,未注明则拒绝

相关推荐
栏目导航
热门文章
推荐文章

说点什么

分享

扫码加好友,拉您进群
各岗位、行业、专业交流群