기초통계학[24].공액 사전 확률분포 2

안녕하세요. 지난 시간 기초통계학[23].공액 사전확률분포 1에서 우도가 베르누이 분포나 이항 분포를 따를 때 베타 분포가 공액 사전 확률분포임을 확인했습니다. 오늘은 이어서 정규 분포의 공액 사전 확률분포가 자기 자신임을 확인해보도록 하겠습니다.

 

본격적으로 시작하기 전에 데이터와 가설이 연속이라고 가정하겠습니다.

 

1. 정규 분포

어떤 데이터를 측정했을 때 $x \sim {\sf N}(\theta, \sigma^2)$를 얻었다고 가정하겠습니다. 단, $\sigma^{2}$을 알고 있다고 가정하겠습니다. 따라서 저희의 가설은 $\theta$입니다. 따라서 $f(x|\theta)$는 정규 분포를 따를 것입니다. 이제 사전 확률분포를 정규 분포라고 가정하겠습니다. 즉, $f(\theta) \sim {\sf N}(\mu_{prior}, \sigma^{2}_{prior})$입니다. 

 

위와 같은 가정을 통해서 저희는 사후 확률분포 $f(\theta|x)$를 얻을 수 있습니다. 계산은 너무 복잡하니 생략하도록 하겠습니다. 현재 계산보다 중요한 것은 결과로 정규 분포의 공액 사전 확률분포가 자기 자신인 것입니다. 아래의 베이즈 추론 표를 참고해주시길 바랍니다.

 

가설	데이터	사전 확률분포	우도	사후 확률분포
$\theta$	$x$	$f(\theta) \sim {\sf N}(\mu_{prior}, \sigma^{2}_{prior})$	$f(x|\theta) \sim {\sf N}(\theta, \sigma^2)$	$f(\theta|x) \sim {\sf N}(\mu_{post}, \sigma^{2}_{post})$
$\theta$	$x$	$c_{1}exp(\frac{-(\theta-\mu_{prior})^{2}}{2\sigma^{2}_{prior}})$	$c_{2}exp(\frac{-(x-\mu_{prior})^{2}}{2\sigma^{2}})$	$c_{3}exp(\frac{-(\theta-\mu_{post})^{2}}{2\sigma^{2}_{post}})$

이를 통해서 얻을 수 있는 재밌는 공식은 사전확률 분포의 평균, 분산과 데이터를 기반으로 사후 확률분포의 평균과 확률을 빠르게 알 수 있다는 점입니다. $a = \frac{1}{\sigma^{2}_{prior}}$, $b = \frac{1}{\sigma^{2}}$라고 할 때 아래의 관계식이 성립합니다. 

 

$$\mu_{post} = \frac{a\mu_{prior} + bx}{a + b}, \sigma^{2}_{post} = \frac{1}{a + b}$$