불편추정량, 편의추정량

불편 추정량과 편의 추정량

• 불편 추정량(unbiased estimate)
  • 표본평균은 표본의 추정량의 기댓값이 모수와 같다.
• 편의 추정량(biased estimate)
  • 표본의 추정량의 기댓값이 모수와 다르다. 고로 값을 보정해줘야하는데, 그 보정을 Bessel’s Correction(베셀 보정)라고 한다.

 

< n으로 표본분산 계산시>

$\begin{matrix} E(s^2) &=& E(\frac{1}{n}\sum_{i=1}^n (X_{i} - \bar{X})^2) \\ &=& \frac{1}{n}E(\sum_{i=1}^n (X_{i}^2 - 2X_{i}\bar{X} + \bar{X}^2) \\ &=& \frac{1}{n} E(\sum_{i=1}^n X_{i}^2 - 2\bar{X}\sum_{i=1}^n X_{i} + \sum_{i=1}^n \bar{X}^2) \\ &=& \frac{1}{n} E(\sum_{i=1}^n X_{i}^2 - 2n\bar{X}^2 + n\bar{X}^2 ) \\ &=& \frac{1}{n} \sum_{i=1}^n E(X_{i}^2) - E(\bar{X}^2) \\ &=& \frac{1}{n} \sum_{i=1}^n (\mu^2 + \sigma^2) - (\mu^2 + \frac{\sigma^2}{n}) \\ &=& \frac{n-1}{n}\sigma^2 \end{matrix}$

 

<n-1로 표본분산 계산시>

$\begin{matrix} E(s^2) &=& E(\frac{1}{n-1}\sum_{i=1}^n (X_{i} - \bar{X})^2) \\ &=& \frac{1}{n-1}E(\sum_{i=1}^n (X_{i}^2 - 2X_{i}\bar{X} + \bar{X}^2) \\ &=& \frac{1}{n-1} E(\sum_{i=1}^n X_{i}^2 - 2\bar{X}\sum_{i=1}^n X_{i} + \sum_{i=1}^n \bar{X}^2) \\ &=& \frac{1}{n-1} E(\sum_{i=1}^n X_{i}^2 - 2n\bar{X}^2 + n\bar{X}^2 ) \\ &=& \frac{1}{n-1} \sum_{i=1}^n E(X_{i}^2) - \frac1{n-1}E(\bar{X}^2) \\ &=& \frac{1}{n-1} \sum_{i=1}^n (\mu^2 + \sigma^2) - \frac1{n-1}(\mu^2 + \frac{\sigma^2}{n}) \\ &=& \sigma^2 \end{matrix}$

 

 

* 참고

https://en.wikipedia.org/wiki/Bias_of_an_estimator

https://1992jhlee.tistory.com/19