更具体地说,I(P,Q,γ)是其所有参数{P(G)}G的连续函数∈G、 {Q(G)}G∈G、 oI(P,Q,γ)≥ 0,当且仅当P(G)=Q(G)时相等, G、 oI(P,Q,γ)在零概率事件相加下不变;oI(P,Q,γ)是对数加性;o由参数γ值索引的泛函∈ (-1,0)满足三角形线质量;o表示适当度量距离(与Matusitadistance相关)的唯一函数是γ=-1/2.由于Q通常旨在总结有关系统的先验信息,搜索概率分布P的规定(该概率分布P与缺失信息最大程度上不一致)可以转化为最小化从Q到P的偏差的要求。在存在约束的情况下,这(第一)个优化步骤导致恢复P的表达式,该表达式取决于未知拉格朗日乘数的向量:minP(I(P,Q,γ)- λ“XG∈总成(G)- 1#-MXm=1λm“XG∈总成(克)厘米(克)-hCmi#);(62)对数可加性属性读取ln[1+θ(θ+1)I(P,Q,γ)]+ln[1+θ(θ+1)I(R,S,γ)]=ln[1+θ(θ+1)I(P×R,Q×S,γ)],其中P×R和Q×S表示两个涉及概率分布的张量积[110]。整个过程的第二步规定将恢复的P表达式替换为I本身,并针对未知参数λ优化I(~λ)[109]。方程(62)概括了前几节介绍的ERG形式的基础上的两个原则。随着γ的变化,描述P和Q之间发散的泛函也会变化。通过求解以下极限Slimγ,得到了两个值得注意的例子→0I(P,Q,γ)=DKL(P | | Q)=XG∈GP(G)lnP(G)Q(G), (63)limγ→-1I(P,Q,γ)=DKL(Q | | P)=XG∈GQ(G)lnQ(G)P(G)(64)即P和Q之间以及Q和P之间的KL散度。