AIC(Akaike information criteria)

[latexpage]

定義

AICは以下の式で計算される。

$$AIC=-2\log { L } +2k$$

L: 尤度、k:(推定される自由)パラメータの数。パラメータの数とはモデルに含まれる説明変数の数のことである。

モデル選択(model selection)の指標の1つであり、値が小さいほど良好なモデルと判定する。

AICの絶対値には意味はなく、モデル間のAIC値の大小関係を評価する。

数学的には、推定モデルと真のモデルの間の期待相対Kullback-Leiber距離の推定値である。

関連

BIC(Bayesian information  criteria)

オッカムの剃刀(Occam’s razor)