충분통계량 정의
모수 θ를 갖는 분포에서 추출한 확률 표본 X1,...,Xn에 대한 통계량
Y=u(X1,...,Xn)이 주어질 때, Y의 가능한 어떠한 y값에 대해서도 Y=y일 때의
X1,...,Xn에 대한 조건부 확률분포가 θ와 무관하면 Y를 모수 θ에 대한 충분 통계량이라 합니다.
쉽게 풀어쓰면 n개의 표본을 뽑는 대신 충분 통계량만으로도 모수 θ에 대한 동일한 추론이 가능하다는 것입니다.
동전 던지기 예시 : 이산형
하나의 동전을 n번 던지는 실험에서 시행결과를 관측하는 것은 베르누이 분포에서 크기 n인 확률 표본으로
간주할 수 있고 한 번 던질 때 앞면이 나오는 확률 p를 추정하고 싶습니다. n번의 실행에서 앞면이 나오는 횟수
Y=∑Xi는 p에 대한 충분통계량인가요?
풀이 :
fX|Y(x1,...,xn|y)=P(X1=x1,...,Xn=xn|Y=y) (y=∑xi일때)
=P(X1=x1,...,Xn=xn,Y=y)P(Y=y)
=P(X1=x1,...,Xn=xn)P(Y=y)
=∏ni=1pxi(1−p)1−xi(ny)py(1−p)n−y=1(ny)
이 값은 p와 무관하므로 Y는 p에 대한 충분 통계량입니다.
연속형 확률변수
P(X1≤x1,...,Xn≤xn|Y=y)가 Θ와 무관하면 Y=u(X1,...,Xn)은 Θ에 대한 충분 통계량입니다.
X1,...,Xn과 Y,Y2,...,Yn이 일대일 대응관계일 때 Y2,...,Yn|Y=y의 분포가 θ에 종속되어 있지 않으면
Y,Y2,...,Yn|Y=y의 분포도 θ와 무관합니다. 이때 X1,...,Xn|Y=y의 분포가 θ와 무관하므로
Y=u(X1,...,Xn)는 θ에 대한 충분 통계량입니다.
정규분포 예시 : 연속형
평균이 θ, 분산이 1인 정규분포에서 확률 표본 X1,X2을 추출하였습니다. Y=X1+X2는 θ에 대한 충분 통계량인가요?
풀이 :
Y=X1+X2, Y=X2−X1이면 (X1,X2), (Y,Y2)는 일대일 대응입니다.
fY2∣Y(y2∣y)가 θ에 종속되어 있지 않으면 Y는 θ에 대한 충분 통계량입니다.
정규분포에서 적률 생성 함수는 다음과 같습니다.
MX(t)=exp(μt+12σ2t2)
문제에 적용하면
MY(t)=E[et(X1+X2)]=E(etX1)E(etX2)=[exp(θt+12t2)]2=exp(2θt+t2)
MY2(t2)=E[et2(X2−X1)]=E(et2X2)E(e−t2X1)=[exp(θt2+12t22)][exp(−θt2+12t22)]=et22
MYY2(t,t2)
=E[exp(t(X1+X2)+t2(X2−X1))]
=E[exp((t−t2)X1)+(t+t2)X2]
=exp((t−t2)θ+12(t−t2)2)exp((t+t2)θ+12(t−t2)2)
=e2θt+t22et22
=MY(t)MY2(t2)
Y, Y2는 서로 독립입니다.
fY2∣Y(y2∣y)=1√2π1√2exp(−12y222)입니다.
Y2∣Y의 분포가 평균이 0, 표준편차가 2인 정규분포이므로, θ와 무관합니다.
따라서 Y=X1+X2는 θ에 대한 충분 통계량입니다.
유니와이즈 수리통계학의 내용을 바탕으로 요약 작성되었습니다.
댓글