事前確率という概念について

Question

事前確率という概念とその周辺のことが良く分かりません。
事後確率は条件付確率のことだというのはなんとなくわかるのですが、事後確率P(A｜B)に対して事前確率P(A)なのであれば事前確率というのは周辺確率に対応する概念なのでしょうか？Wikipediaを見ると「事前確率に尤度関数の出力値を掛けると事後確率が得られる」とありますが、こちらのページには尤度は確率とあります。P(A, B)<P(A)やP(A, B)<(A｜B)は必ず成り立つと理解していますが、P(A｜B)<P(A)は必ずしも成り立たないと理解しています。であれば矛盾が生じる（確率であるはずの尤度が1を超えることがある）のではないでしょうか？
何か私の理解が間違っているのでしょうか？

Answer 1

事前確率、事前分布と言った言葉はベイズ統計学の分野で出てくる言葉です。
統計学には

• 頻度主義
• ベイズ主義

の２つの考え方があります。頻度主義というのは例えばコインを10回投げて、表が6回出た時に、表の出る確率は6/10であると考える考え方です。確率を事象の頻度として考えます。対して、ベイズ主義は確率を事象の発生する確信の度合いで考えます。

ベイズ主義の確率は主観に基づく確率、主観確率で確率を考えています。

この主観を確率に入れ込むのが**事前分布(事前確率)**の役割です。事前分布は分析者の主観により決まります。事前分布にはベータ分布と呼ばれる分布がよく用いられますが、これはベータ分布の持つ2つのパラメータを変化させることで、分布型を容易に変化させられることが理由です。

ベータ分布のパラメータによる分布型を見てみましょう。
以下はベータ分布をパラメータの値ごとに色分けしてプロットしたものです。

ベータ分布は上のように自由形を変化させることができますので、主観を表現するのに非常に有効なため、ベイズ統計の分野では事前分布としてよく登場します。

Answer 2

まず、尤度は確率ではありません。
確率（もしくは密度）関数 P(A|B)とは、「パラメータBが与えられたときの変数Aの関数」ですが、尤度関数はこれを「パラメータAが与えられたときの変数Bの関数」と解釈し直したものです。

次に本題の「事前確率」P(A)についてですが、これは「データが得られる前に解析者が想定するパラメータAの分布」です。例えば、パラメータAの値は不明でもA>0ということだけは分かっていたとします。このようなときはP(A)として正の値のみをとる確率分布を「設定」します。（解析者が主導的に定めるのがポイントです。）

ベイズ統計学は、「データ」と「事前情報」を複合的に捉えて「新しい情報」を得る手法です。これに対し、データからパラメータの値を評価するのが「尤度」であり、事前情報を表現するのが「事前確率」、そして新しい情報が「事後確率」です。