180 likes | 274 Views
估计量: 设 为总体 X 的未知参数,用样本 ( X 1 , X 2 , …, X n ) 构成的一个统计量 来估计 的真值,称 为 的估计量。. 估计值: 对应于样本的一组观测值 ( x 1 , x 2 , …, x n ) ,估计量 的值 ( x 1 , x 2 , …, x n ) 称为 的估计值,仍记作 。. 第七章 参数估计.
E N D
估计量:设 为总体X的未知参数,用样本(X1, X2, …, Xn)构成的一个统计量 来估计 的真值,称 为的估计量。 估计值:对应于样本的一组观测值 ( x1, x2, …, xn),估计量 的值 ( x1, x2, …, xn)称为 的估计值,仍记作 。 第七章 参数估计 问题:若总体X的分布函数F(x)的类型已知,但它的一个或多个参数未知,如何估计这些未知参数? 想法:用X的样本观察值(x1,x2,…,xn)来估计总体中未知参数的值,即用样本统计量的值估计总体中未知参数的值。 §7.1参数的点估计 参数的点估计:用样本统计量的值估计未知参数的值。 本节介绍 :1)矩估计法;2)极大似然估计法。
一、矩估计法 矩估计法:用样本矩估计相应的总体矩,用样本矩函数估计总体矩的同一函数。 理论根据:格利文科定理:Fn(X) 以概率1收敛于F(X)。 进而可以证明, 只要总体的k阶矩存在, 样本的k阶矩依概率1收敛于总体的k阶矩。 总体矩 总体矩的估计值 样本矩 mk= E(Xk) = ck= E[X-E(X)]k = 显 然 通常取
例1设总体X的均值和方差都存在, (x1,x2,…,x6)是来自X的样本,试求X的均值和方差的矩估计量,并依据样本观察值 1.20 0.82 0.12 0.45 -0.85 -0.30 计算X的均值和方差的矩估计值. 解 由于 令
从中解出和2作为其估计量,得到 (7.2) (7.3) 即样本均值是总体均值的矩估计,样本的二阶中心矩是总体方差2的矩估计.但更多的是以S2估计2,其原因将在估计量的评选标准中解释. 代入样本值(-1.20, 0.82, 0.12, 0.45, -0.85, -0.30),得到其矩估计值
例2设总体X服从 [1, 2]上的均匀分布,密度函数为 其中2> 1,试求1 , 2的矩估计量. 解 由第四章4.2.3节的讨论,知 由(7.2)、(7.3)式,令
解 由于D(X)= ,得的矩估计量 ; 又由于E(X)= ,故得的另一个矩估量 .由此可见一个参数的矩估计量是不唯一的. 解之即得1, 2的矩估计量为: 例3设总体X服从泊松分布,即 试求的矩估计量.
二、 极大似然估计法 极大似然估计法是求估计值的另一种方法,最早由高斯 (R. A. Gauss) 提出,后来为费史(Fisher)在1912年重新提出,并证明该方法的一些性质.它是建立在极大似然原理基础上的一个统计方法. 极大似然原理:一个随机试验有若干种可能的结果A, B, C, …若在一次试验中,结果A出现,则一般认为试验条件对A出现有利,也即A出现的概率很大. 引例 甲、乙两个箱子外形完全相同,甲箱有99个白球1个黑球,乙箱有1个白球99个黑球,随机取出一箱,再从取出的一箱中抽取一球,结果取得白球,问这球是从哪个箱子中取出的? 解 甲箱中抽得白球的概率P(白|甲)=99/100 乙箱中抽得白球的概率P(白|乙)=1/100 白球从甲箱中抽出的概率比从乙箱中抽出的概率大得多,根据极大似然原理,既然在一次抽样中抽得白球,当然可以认为是从抽取概率大的箱子中抽出的,所以,可作出统计推断:白球是从甲箱中抽出的.
二、 极大似然估计法 1. 极大似然估计法 设总体X的概率密度函数为 f(x; ),(若X是离散型, f(x; ) 是分布律),则样本(x1, …,xn )的联合密度函数为: 这是参数 的函数,称为样本的似然函数,记为L()。使似然函数取得最大值的 称为的极大似然估计量。这种方法称为极大似然估计法。 2. 求极大似然估计步骤 (1)写出似然函数 (2) 求出使L(x; )达到最大值的 特别地,若的取值范围为开集时,可转化为求L(x, )的驻点. 取对数lnL,求lnL关于未知参数的导数。由导数等于零解得的估计值
例4设连续型随机变量 , 即X的密度函数为 其中>0为参数.(x1, x2, …, xn)为的一组样本观察值,求的极大似然估计. 解 由上述得似然函数为 所以
令 解得 即为的极大似然估计. 例5某电子管的使用寿命X(单位:h)服从指数分布,概率密度见例4,今抽取一组样本,其具体数据如下: 1067 919 1196 785 1126 936 918 1156 920 948 试估计估计其平均寿命. 解 根据例4的结果,平均寿命即参数用样本均值来估计,于是 为平均寿命的极大似然估计值.
一般情况 ,但希望n→∞时 。这就是说当样本容量n无限增大时,估计值 非常接近真值的概率趋近于1. 若 依概率收敛于θ,即 对于任意ε>0,有 ,则称 为 的一致估计量。 则称 为 的无偏估计量。 定义2设 为未知参数 的估计量,若E( ) = , 三、评价估计量的优劣标准 1 . 一致性 为未知参数 的估计量, 定义1设 一致估计是对极限性质而言的,只在样本容量较大时才起作用。 2 . 无偏性 一个好的估计量的数值应该在参数的真值周围摆动,也就是估计的期望值与未知参数的真值相等。
故 为μ的无偏估计量。 例6 试证样本均值 及样本方差S2分别是总体均值μ及总体方差σ2的无偏估计。 证明 而 故 ,即S2为2的无偏估计量。 即样本的二阶中心距,不是总体方差的无偏估计.
3.有效估计 对总体的某一参数的无偏估计量 往往不止一个,而且无偏仅仅表明 所有可能取的值按概率平均等于,有可能它取的值大部分与 相差很大。 为保证 的取值能集中于 附近,自然要求 的方差越小越好。 设 , 是 的两个无偏估计量,若 定义3 则称 较 有效。 若在 的一切无偏估计中, 的方差最小,则称 为 的最小方差无偏估计量。
故 比 有效. 例7 比较总体期望 的两个无偏估计的有效性(方差为 ). (1) ; (2) 解: 得 利用初等不等式
选讲内容 例1 X~P(),求极大似然估计。 解 设x1,…,xn为样本的一组观测值,于是似然函数为: 两边取对数得 对求导数,并使其等于0得 解这一方程得的极大似然估计为: 例如,样本观测值为:10,13,65,18,79,42,65,77,88,123,n=10。则
例2 X服从参数为的指数分布,求的极大似然估计。 解 似然函数为
例3 设X~N(μ,σ2),求μ,σ2的极大似然估计。 解 似然函数L(x1,…,xn;μ,σ2) 则 由 得μ,σ2的极大似然估计为:
例4 设总体X具有[0,θ]均匀分布,密度函数为: 求未知参数 的极大似然估计。 解 设x1,…, xn是取自这一总体的一个样本,似然函数为: 显然L是 的一个单值递减函数。要使 达到极大,就要使 达到极小,但 不能小于每一个xi( i=1, 2, 3…, n), 所以 的极大似然估计量为: 对同一个参数用不同的方法得到的估计量可能不相同。