无偏估计是用样本统计量来估计总体参数时的一种无偏推断。估计量的数学期望等于被估计参数的真实值,则称此此估计量为被估计参数的无偏估计,即具有无偏性,是一种用于评价估计量优良性的准则。无偏估计的意义是:在多次重复下,它们的平均数接近所估计的参数真值。无偏估计常被应用于测验分数统计中。
定义
无偏估计
具有无偏性。
例如,估计总体平均值μ时,若以样本平均值ξ'为估计量,则可算得ξ'的数学期望E(ξ')=μ,这说明ξ'是总体平均值μ的无偏估计。
(ξ1,ξ2,…,ξn)为θ的渐近无偏估计。
有偏估计
优良性
无偏估计的优良性可以从下面两个方面给予概率论解释。
没有系统偏差
,总会时而对某些样本偏高,时而对另一些样本偏低。而无偏性表示,把这些正负偏差在概率上平均起来,其值为零,即无偏估计量只有随机误差而没有系统误差。例如,用样本均值作为总体均值的估计时,虽无法说明一次估计所产生的偏差,但这种偏差随机地在0的周围波动,对同一统计问题大量重复使用不会产生系统偏差。
但是需要注意的是,所谓“平均为零”只有在大量重复使用此模型时才能体现出来。关于这一点,需要用大数定律作进一步解释。
解释
(X(i))。设X(1),X(2),…,X(m)是独立同分布的。若具有无偏性,按照强大数定律,有
性质
是总体期望E[X]的无偏估计;
的无偏估计;
;
的无偏估计,但对 k 阶中心矩则不一样。
的线性函数。
存在问题
(1)无偏估计有时并不一定存在。
(2)可估参数的无偏估计往往不唯一。统计学中,将存在无偏估计的参数称为可估参数,可估参数的无偏估计往往不唯一,而且只要不唯一,则即有无穷多个。一个参数往往有不止一个无偏估计。