参数估计:利用样本的信息去估计总体的参数或参数的函数,如平均降水量、箱包的合格率等;

估计量:用来估计总体参数的统计量的名称;

估计值:根据一个具体样本计算出来的估计量的数值。

点估计:用样本估计值直接作为总体的未知参数真实值的方法。

估计量选择的优良标准

(一)无偏性。若样本某统计量的数学期望值等于其所估计的总体参数,则这个估计统计量就叫做该总体参数的无偏估计量。

(二)有效性。无偏估计量中方差越小越有效。

(三)一致性。估计量随样本容量n的增大而越来越接近总体参数值,则称该估计量为总体参数的一致性估计量,也称相合估计量。




寻求估计量的方法

1.矩估计法        

矩估计法是英国统计学家K.皮尔逊(Karl Pearson)于1894年提出的,也是最古老的一种估计法之一。对于随机变量来说,矩是其最广泛,最常用的数字特征,主要有中心矩和原点矩。 由辛钦大数定律知,简单随机样本的原点矩依概率收敛到相应的总体原点矩,这就启发我们想到用样本矩替换总体矩,进而找出未知参数的估计,基于这种思想求估计量的方法称为矩法。用矩法求得的估计称为矩法估计,简称矩估计。

矩法估计原理简单、使用方便,使用时可以不知总体的分布,而且具有一定的优良性质(如矩估计为的一致最小方差无偏估计),因此在实际问题,特别是在教育统计问题中被广泛使用。但在寻找参数的矩法估计量时,对总体原点矩不存在的分布如柯西分布等不能用,另一方面它只涉及总体的一些数字特征,并未用到总体的分布,因此矩法估计量实际上只集中了总体的部分信息,这样它在体现总体分布特征上往往性质较差,只有在样本容量n较大时,才能保障它的优良性,因而理论上讲,矩法估计是以大样本为应用对象的。

2. 极大似然法

极大似然估计方法(Maximum Likelihood Estimate,MLE)也称为最大概似估计或最大似然估计,是求估计量的另一种方法。这一方法1821年首先由德国数学家高斯(Carl Friedrich Gauss)提出,但是这个方法通常被归功于英国的统计学家罗纳德·费希尔(Ronald Fisher)他在1922年的论文On the mathematical foundations of theoretical statistics, reprinted in Contributions to Mathematical Statistics (by R. Fisher), 1950, J. Wiley & Sons, New York 中再次提出了这个思想,并且首先探讨了这种方法的一些性质.极大似然估计这一名称也是费希尔给的。

这是一种目前仍然得到广泛应用的方法。它是建立在极大似然原理的基础上的一个统计方法,极大似然原理的直观想法是:一个随机试验如有若干个可能的结果A,B,C,...。若在仅仅作一次试验中,结果A出现,则一般认为试验条件对A出现有利,也即A出现的概率很大。一般地,事件A发生的概率与参数相关,A发生的概率记为p(A,θ),则的估计应该使上述概率达到最大,这样的顾名思义称为极大似然估计。

3.最小二乘估计法

这个重要的估计方法是由德国数学家高斯(Carl Friedrich Gauss)在1799~1809年和法国数学家A.-M.勒让德(Adrien-Marie Legendre)在1806年提出,并由俄国数学家马尔可夫(AndreyevichMarkov )在1900年加以发展。它主要用于线性统计模型中的参数估计问题。







4.贝叶斯估计法

贝叶斯估计法 是基于“贝叶斯学派”的观点而提出的估计法(见贝叶斯统计)。美国统计学家奈曼(Jerzy Neyman,1894~1981)高度概括了在统计推断中可用的三种信息:总体信息、样本信息和先验信息。只用前两种信息的统计学称为经典统计学,三种信息都用的统计学称为贝叶斯(Thomas Bayes)统计学。

下面简要介绍贝叶斯统计学中的点估计方法。







[1]邱东.抽样推断就在身边——纵横话抽样(一).中国统计,2010.8.

[2]邱东.为啥要搞抽样?——纵横话抽样之二.中国统计,2010.9.

[3]邱东.从无奈之举到刻意为之——纵横话抽样之三.中国统计,2010.10.

[4]邱东.高于生活的抽样与推断——纵横话抽样之四.中国统计,2010.11.

[5]邱东.抽样方法确立坎坎坷坷——纵横话抽样之五.中国统计,2010.12.

[6]邱东.原生态的抽样统计——纵横话抽样之六.中国统计,2011.1.













小节练习