sliver__

불확실성을 수정하고 그 결과에 따라 최적의 선택을 내리는 해석 사후 확률 $ \propto $ 가능도 X 사전확률 가능도 함수 ( likelihood function ) 각각의 다른 매개변수 벡터 w에 대해 관측된 데이터 집합이 얼마나 그렇게 나타날 가능성이 있었는지를 표현 w에 대한 확률 분포가 아니며, w에 대해 가능도 함수를 적분하여도 1이 될 필요가 없다. 최대 가능도( maximun likelihood ) w는 가능도 함수 p(D|w)를 최대화 하는 값으로 선택된다. 음의 로그 가능도 함수를 error function 이라고 한다. 부트 스트랩 ( boot strap ) N개의 데이터 포인트 $ X = {x_{1}, ... , x_{n} } $ X에서 N개의 데이터 포인트를 임의로 추출하여 데이..

[기댓값과 공분산] 확률과 관련된 가장 중요한 계산 중 하나는 함숫값들의 가중 평균을 구하는 것이다. 확률 밀도 p(x) 하에서 어떤 함수 f(x) 의 평균값은 f(x)의 기댓값 ( expectation ) 이라 하며, $ E[f] $ 라 적는다. 이산 분포의 경우 기댓값은 아래와 같다. $ E[f] = \Sigma_{x} p(x) f(x) $ 각 x 값에 대한 확률을 가중치로 사용한 가중 평균이다. 연속변수의 경우 해당 확률 밀도에 대해 적분을 시행해서 기댓값을 구할 수 있다. $ E[f] = \int f(x)p(x) dx$ 유한한 N개의 포인트를 확률 분포 또는 확률 밀도에서 추출했다면, 이산/연속 모든 경우에 각 포인트들의 유한한 합산으로 기댓값을 근사할 수 있다. $ E[f] \simeq {{1 ..

[확률 용어 기본] $n_{00}$ $n_{01}$ $n_{02}$ $n_{03}$ $n_{04}$ $n_{10}$ $n_{11}$ $n_{12}$ $n_{13}$ $n_{14}$ $n_{20}$ $n_{21}$ $n_{22}$ $n_{23}$ $n_{24}$ X, Y 두 가지 확률 변수가 있다. X는 $x_{i} (i=1 ... M) $ Y는 $y_{j} {j=1 ... L ) $ X, Y 각각에서 표본을 추출하는 시도를 N번 한다 $ X = x_{i}, Y = y_{j} $ 인 시도의 개수를 $ n_{ij} $ Y의 값과 상관 없이 $ X = x_{i} $ 를 $ c_{i} $로 X 의 값과 상관없이 $ Y = y_{j} $ 인 시도의 숫자를 $ r_{j} $ 로 현 결합 확률 ( joint prob..

[확률 밀도] 연속적인 변수의 확률 실수 변수 x가 $ (x, x + \delta x ) $ 구간 안의 값을 가지고 그 변수의 확률이 $ p(x) \delta x (\delta x -> 0 )$ 일 경우 p(x)를 x의 확률 밀도 ( probability density ) 라고 부른다. $ p ( x \in (a,b) ) = \int_{a}^{b} p(x) dx $ 확률은 양의 값을 가지고 x의 값은 실수축 상에 존재해야 한다. 따라서 확률 밀도 함수 p(x)는 두 조건을 만족시켜야 한다. $ p(x) \geq 0 $ $ \int_{-\infty}^{\infty} p(x) dx = 1 $ 누적 분포 함수 ( cumulative distribution function ) x가 $ (-\infty, z ) ..