尤度関数(likelihood function)

定義

尤度関数(likelihood function)L(θ)とは、同時確率の公式を、データ → パラメータの方向という方向で見たものである。

パラメータθの母集団があり、この母集団からn個のデータ(x1,x2…,xn)が標本抽出される同時確率は以下の式で計算される（∵乗法定理 : multiple theorem of probability）

Pr(x1,x2,…,xn : θ) = Pr(x1 : θ) x Pr (x2 : θ) x … x Pr (xn : θ)

一方、尤度関数L(θ)は以下の式で定義される。

L(θ) = L(x1,x2,…,xn ; θ)

= Pr(x1,x2,…,xn : θ) =Pr(x1 : θ) x Pr (x2 : θ) x … x Pr (xn : θ)

要するに尤度関数と同時確率と数式上は完全に同じものである。

では尤度関数と同時確率の違いは何であるか。同時確率の公式では、パラメータθは既知であり、この場合にある事象が出現する確率を計算している。即ちパラメータ → データの方向で推論している。

一方、尤度においてはパラメータθは未知であり、ある事象が出現したということだけがわかっている。この場合にデータからパラメータを推定しようとするのが尤度関数である。

通常の科学研究では、母集団のパラメータは未知であり、観測されたデータからパラメータを推測することが大半である。この目的に尤度関数が使用される。