互熵。。就是KL距离。。
下面针对离散序列


R里面加载程序包entropy
library("entropy")
先把数据变成csv格式，放在c盘里，然后导入数据
mydata <- read.csv("c:/mydata.csv", 1)

freqs1=c(概率1,概率2,概率3等等)    %显然你要先知道每个数值的概率
freqs2=c(概率1,概率2,概率3等等)
KL.plugin(freqs1, freqs2, unit=c("log2"))
chi2.plugin(freqs1, freqs2, unit=c("log2"))