赤池信息量准则(Akaike information criterion、简称AIC)是衡量统计模型拟合优良性的一种标准,是由日本统计学家赤池弘次创立和发展的。赤池信息量准则建立在熵的概念基础上,可以权衡所估计模型的复杂度和此模型拟合数据的优良性。
在一般的情况下,AIC可以表示为:AIC = 2k - 2\ln(L) 其中:K是参数的数量,L是似然函数。 假设条件是模型的误差服从独立正态分布。
让n为观察数,RSS为剩余平方和,那么AIC变为:AIC=2k + n\ln(RSS/n)
增加自由参数的数目提高了拟合的优良性,AIC鼓励数据拟合的优良性但是尽量避免出现过度拟合(Overfitting)的情况。所以优先考虑的模型应是AIC值最小的那一个。赤池信息量准则的方法是寻找可以最好地解释数据但包含最少自由参数的模型。
Schwarz criterion的标准的含义类似。
ESS TSS 分别表示误差平方和和总平方和。这些量会在回归分析表中给出(方差分析表)