ベイズ推定
ベイズ推定（-すいてい）とは、ある証拠に基づいて、その原因となった事象を推定するための確率論的方法である。また統計学に応用されてベイズ統計学の代表的な方法となっている。
いま、AおよびXを離散確率変数とする。ここでA を原因、X をそれに対する証拠（つまり原因によって起きたと想定される事象）とするとき、
P(A) = 事象Aが発生する確率を、事前確率（prior probability）、
P(A|X) = 事象Xが発生した下で、事象Aが発生する条件付き確率を、事後確率（posterior probability）、
という。P(A|X) は、ベイズの定理によって、
P(X) = �� P(X | B)P(B)
と求められ、つまりP(A|X)は
ここで、P(X|A)のことを尤度と呼ぶ。またこれをA の関数と考えて尤度関数L(A|X) = P(X|A)ともいう（L(A|X)はA に関する確率分布ではない）。
ベイズ確率（ベイジアン）の考え方では、A を定数とする必要はなく、ある分布に従う確率変数としてよい（客観的に定義できるものではないから、主観確率である）。
この考え方からすると、上のベイズの定理の式は、
主観確率分布P(A) に、係数P(X|A) / P(X)をかけることにより、証拠X を加味して、より客観性の高い確率分布P(A|X) を求める
と解釈できることがわかる。このように確率分布をより客観的にする方法（ベイズ改訂）を利用して、A を推定する方法が、ベイズ推定である。さらに新たな証拠が加えられれば、事後確率を新たに事前確率として扱い、ベイズ改訂を繰り返すこともできる（さらに高い客観性が期待される）。
一方、A は「原因」であるから、従来の推計統計学では、確率分布P(A)はすでに決定しているものであり、従ってX を条件とする確率P(A|X)A は意味がない。
従来の推計統計学はすでに確固たる数学的理論として構築され、多方面に応用されている。しかしながら母数a を定数と仮定した上で造り上げられた理論であることから、必ずしも応用に向いたものではない（たとえば母集団を決定しにくい医学への応用など）という批判がされる。一方で、ベイズ推定は人間の思考の過程をモデル化したものとも考えられ、人間の思考様式になじむとも主張されている。
ベイズ推定に対する批判としては、事前確率が主観的で一意的に決められない、またそれをもとにして事後確率を求めても、それが客観的な確率分布に収束するという保証がない、といったものがある。
しかし現在では特にコンピュータを用いた方法の発展によりベイズ推定の方法も発展し、スパムメールを識別するためのベイジアンフィルタなどの応用が進んでいる。事前分布としては全く情報がない場合には一様分布などが用いられ（もちろん情報があれば他の分布でよい）、一般には異なる事前確率分布からマルコフ連鎖モンテカルロ法などで安定した結果（事後確率分布）が得られれば、実用的に問題はないと考えられている。
いま、AおよびXを離散確率変数とする。ここでA を原因、X をそれに対する証拠（つまり原因によって起きたと想定される事象）とするとき、
P(A) = 事象Aが発生する確率を、事前確率（prior probability）、
P(A|X) = 事象Xが発生した下で、事象Aが発生する条件付き確率を、事後確率（posterior probability）、
という。P(A|X) は、ベイズの定理によって、
と表わされる。分母のP(X)は、すべての想定される原因事象B から
P(X) = �� P(X | B)P(B)
B
と求められ、つまりP(A|X)は
と表される。
ここで、P(X|A)のことを尤度と呼ぶ。またこれをA の関数と考えて尤度関数L(A|X) = P(X|A)ともいう（L(A|X)はA に関する確率分布ではない）。
ベイズ確率（ベイジアン）の考え方では、A を定数とする必要はなく、ある分布に従う確率変数としてよい（客観的に定義できるものではないから、主観確率である）。
この考え方からすると、上のベイズの定理の式は、
主観確率分布P(A) に、係数P(X|A) / P(X)をかけることにより、証拠X を加味して、より客観性の高い確率分布P(A|X) を求める
と解釈できることがわかる。このように確率分布をより客観的にする方法（ベイズ改訂）を利用して、A を推定する方法が、ベイズ推定である。さらに新たな証拠が加えられれば、事後確率を新たに事前確率として扱い、ベイズ改訂を繰り返すこともできる（さらに高い客観性が期待される）。
一方、A は「原因」であるから、従来の推計統計学では、確率分布P(A)はすでに決定しているものであり、従ってX を条件とする確率P(A|X)A は意味がない。
従来の推計統計学はすでに確固たる数学的理論として構築され、多方面に応用されている。しかしながら母数a を定数と仮定した上で造り上げられた理論であることから、必ずしも応用に向いたものではない（たとえば母集団を決定しにくい医学への応用など）という批判がされる。一方で、ベイズ推定は人間の思考の過程をモデル化したものとも考えられ、人間の思考様式になじむとも主張されている。
ベイズ推定に対する批判としては、事前確率が主観的で一意的に決められない、またそれをもとにして事後確率を求めても、それが客観的な確率分布に収束するという保証がない、といったものがある。
しかし現在では特にコンピュータを用いた方法の発展によりベイズ推定の方法も発展し、スパムメールを識別するためのベイジアンフィルタなどの応用が進んでいる。事前分布としては全く情報がない場合には一様分布などが用いられ（もちろん情報があれば他の分布でよい）、一般には異なる事前確率分布からマルコフ連鎖モンテカルロ法などで安定した結果（事後確率分布）が得られれば、実用的に問題はないと考えられている。
2006年12月04日(月) 19:18:33 Modified by mizunobara