MAP推定メモ
結論
最尤推定・・・事前確率P(θ)を最大にするθを推定
MAP推定・・・事後確率P(θ|D)を最大にするθを推定
補足
P(θ|D) = P(θ) × P(D|θ) / P(D)
ベイズの定理を参照。
P(θ|D)
= P(θ, D) / P(D)
= P(D|θ) P(θ) / P(D)
= P(θ) × P(D|θ) / P(D)
方法
MAP推定を行うには、
argmax P(θ|D)
= argmax log P(θ|D)
= argmax { log P(θ)+log P(D|θ) }
これより log P(θ)+log P(D|θ) をθに関して偏微分して0になるθを求めればよい
事後確率の例題
「高齢ドライバーが免許返納を検討している」確率を P(θ) とする。
「免許返納を検討している高齢ドライバー」が「交通事故を起こす」確率をP(D|θ)とする。
「交通事故を起こした高齢ドライバー」が「免許返納を検討していた」確率P(θ|D)を求めよ。
答え・・・P(θ|D) = P(θ) × P(D|θ) / P(D)。
さらに
ポワソン分布の最尤推定において、さらにパラメータμの確率分布P(μ)が与えられればMAP推定を行うことができる。