今はまだハローワールド

Just another kindly reminder

MAP推定メモ

結論

最尤推定・・・事前確率P(θ)を最大にするθを推定

MAP推定・・・事後確率P(θ|D)を最大にするθを推定

補足

P(θ|D) = P(θ) × P(D|θ) / P(D)

ベイズの定理を参照。

P(θ|D)

= P(θ, D) / P(D)

= P(D|θ) P(θ) / P(D)

= P(θ) × P(D|θ) / P(D)

方法

MAP推定を行うには、

argmax P(θ|D)

= argmax log P(θ|D)

= argmax { log P(θ)+log P(D|θ) }

これより log P(θ)+log P(D|θ) をθに関して偏微分して0になるθを求めればよい

事後確率の例題

「高齢ドライバーが免許返納を検討している」確率を P(θ) とする。

「免許返納を検討している高齢ドライバー」が「交通事故を起こす」確率をP(D|θ)とする。

「交通事故を起こした高齢ドライバー」が「免許返納を検討していた」確率P(θ|D)を求めよ。

答え・・・P(θ|D) = P(θ) × P(D|θ) / P(D)。

さらに

ポワソン分布の最尤推定において、さらにパラメータμの確率分布P(μ)が与えられればMAP推定を行うことができる。

moch.hatenablog.com