2.1 이산 확률 변수

하나의 이진 확률 변수 x ∈ {0,1} 을 고려, 

x = 1 일 확률은 매개변수 mu 를 통해 다음과 같이 표현할 수 있다.

x 에 대한 확률 분포를 다음의 형태로 적을 수 있다.

이것을 베르누이 분포라고 한다. 이는 정규화되어 있으며 평균과 분산이 다음과 같이 주어진다.

 

x 의 관측값 데이터 집합 D 가 주어졌다고 하자. 관측값들이 p(x|mu) 에서 독립적으로 추출되었다는 가정하에 mu 의 함수로써 가능도 함수를 구성할 수 있다.

 

빈도적 관점에서는 가능도 함수를 최대화하는 mu 를 찾아서 mu 의 값을 추정할 수 있다.