[수학] 가우시안 분포

• 정규 분포
• 단일 실수 변수 x에 대해서 가우시안 분포는 아래와 같이 정의된다

$$ N ( x | \mu, \sigma^{2} ) = { 1 \over ( {2 \pi \sigma^{2} } ) ^{1 \over 2} } exp { - { 1 \over 2 \sigma^{2} } (x-\mu)^{2} }$$

• $ \mu $ 는 평균, $ \sigma^{2} $ 은 분산, $ \sigma $ 표준편차이다.
• 분산의 역수인 $ \beta = {1 \over \sigma^{2} } $ 정밀도 ( precision ) 이다.

 $$ N( x | \mu, \sigma^{2} ) > 0 $$

$$ \int_{-\infty}^{\infty} N( x | \mu, \sigma^{2} ) dx = 1 $$

$$ E[x] = \int_{-\infty}^{\infty} N( x | \mu, \sigma^{2} ) dx = \mu$$

$$ E[x^{2}] = \int_{-\infty}^{\infty} N( x | \mu, \sigma^{2} ) x^{2} dx = \mu^{2} + \sigma^{2} $$

$$ var[x] = E[x^{2}] - E[x]^{2} = \sigma^{2} $$

 

• 같은 분포에서 독립적으로 추출된 데이터 포인트들을 독립적이고 동일하게 분포되었다고 한다. ( independent and identically distributed )

$$ p(x|\mu, \sigma^{2}) = \prod_{n=1}^{N} N (x_{n} | \mu, \sigma^{2} ) $$