急切求助：关于联合信息熵和互信息计算的R包

10562

收藏 2014-09-23

有谁用R做过熵和互信息的计算，想知道怎么计算某两列数据间的互信息，多列数据的联合信息熵？（只有数据，不知道概率分布）
最近用了一个叫entropy的包，但是里边貌似有多种计算熵的方法，不知道有什么区别，该用哪一种？求助高手……

请注明：姓名-公司-职位

以便审核进群资格，未注明则拒绝

全部回复

2014-9-23 19:30:45

不妨先按http://strimmerlab.org/software/entropy/
Manual (pdf file) 的 Examples试试看。不合适的话可以自己写个R的mutual entropy函数。
有了数据，概率分布应该比较容易计算。

请注明：姓名-公司-职位

以便审核进群资格，未注明则拒绝

2015-3-23 17:06:08

每个都不一样的。比如：
entropy.ChaoShen是针对Shannon的
entropy.Dirichlet是针对Dirichlet Prior Bayesian Estimators
都不一样，所以看下说明文档就好了
http://ftp.ctex.org/mirrors/CRAN/web/packages/entropy/entropy.pdf

请注明：姓名-公司-职位

以便审核进群资格，未注明则拒绝

分享