智轩考研数学2010第30专题讲座--离散情形下的最大似然法参数估计题型题法

智轩考研数学 2010 第 30 专题讲座--离散情形下的最大似然法参数估计题型题法 http://bbs.qinjing.cc 离散情形下的最大似然法参数估计题型题法 【例 1】设 1, , nX XK 是来自总体 ( ), U a a- 的简单随机样本，求a的最大似然估计量 $a。 解：似然函数 1 1 , , , 2 0, n na X X aL a other ìæ ö - £ £ïç ÷= íè ø ï î K 。要使 L最大，即a尽量小，但由于 1, , na X X a- £ £K 可知必有 ( ) ( ) ( ) ( ) $ ( ) 1 1 1 1 1 i i i i ii n i n i n i n i n a Min X a Min X a Max X a Max X a Max X £ £ £ £ £ £ £ £ £ £ - £ Þ ³ - Ç ³ Þ = Þ = 。 【例 2】设 ( )~ 0, , 0X U q q > ，求q的最大似然估计量和矩估计量。 解： ( )1 由于 ( )~ 0, X U q ，分布密度为 ( ) 1 , 0 ; 0, x f x other q q q ì < <ï= í ïî ( ) ( ) ( ) 1 1 , 0 ; 1, 2, , 0, n in i i x L f x i n other q q q q = ì < <ï= = =í ïî Õ L 对于这类分布函数不连续的间断函数就不能求导取极值了，我们必须回到定义思想上去。因为 0q > ， ( )L q 随q减少而增大，由于 { } 1 i i n Max Xq £ £ > ，故q的最大似然估计量为 { } 1 i i n Max Xq Ù £ £ = 。 ( )2 1 1 , 2 . 2 2 n i i EX X X EX X X X n q q q Ù = = = Þ = Þ = Þ =å 【例 3】设 ( )1 2~ , , X U q q ，求q的矩估计和极大自然法估计量。 解： ( )1 q矩估计， 22 1 1 1 1 , i n n i i i X x B X n n= = = =å å ( ) ( ) ( ) ( ) ( ) ( ) 2 2 22 2 2 1 1 221 2 1 2 1 2 1 2 2 2 2 2 1 1 2 2 ; 2 2 12 2 12 4 2 12 4 b aa b a b EX DX EX EX X X B B q q q qq qm m q q m m q q q q - - +++ +æ ö= = = = + = = + = +ç ÷ è ø +ì =ïì =ï ïÞí í = - +ïî ï + =ïî 2 2 x x q q Ù Þ = Þ = 为q的矩估计量。 ( )2 q的极大自然法估计，联合密度函数为 ( ) 1 22 11 2 1 , ; , 0, x f x other q q q qq q ì < <ï -= í ïî ( ) ( ) ( ) ( )1 i 2 1 2 12 11 2 1 2 1 2 2 1 1 0 , , ; , 1, 2, 00, n n i i L n x L f x i n L n other q q q q q q qq q q q q q q = ¶ì = =ì ï< < ¶ -ï ï-Þ = = = Þí í ¶ -ï ï = =î ï¶ -î Õ L 智轩考研数学 2010 第 30 专题讲座--离散情形下的最大似然法参数估计题型题法 http://bbs.qinjing.cc 上述方程不可能解得 1 2, q q 的最大似然估计量。 对于这类分布函数 ( ); f x q 不连续的题型，不能通过求导得出结论，需要按照极大自然法的原理来求 解 因为 0q > ，所以 ( )L q 随q的减少而增大，而 1 i 2xq q< < ，即 { } { }1 1 2 2 1 2, , , ; , , , n nMin x x x Max x x xq q< >L L 当取 { } { }1 1 2 2 1 2, , , ; , , , n nMin x x x Max x x xq q= =L L ，则 ( )2 1 1 nq q- 达到最大值。 故 1 2, q q 的最大似然估计值为 { } { }1 1 2 2 1 2, , , ; , , , n nMin x x x Max x x xq q Ù Ù = =L L 【例 4】设总体 X 有概率分布， ix 1 2 3 ip 2q ( )2 1q q- ( )21 q- 已知观察 3个样本的数值为 1 2 31, 2, 1x x x= = = ，求q的最大似然估计值。 解：似然函数为 ( ) ( ) ( ) ( ) ( ) ( ) ( ) ( ) ( ) ( ) 2 2 5 1 2 3 1 2 31, 2, 1 1 2 1 2 1 2 1 ln 2 5ln ln 1 5 1 0 1 L P X X X P X P X P X lnL lnL q q q qq q q q q q q q q q q q q q = = = = = = = = = × - × = - Þ = + + - ¶ Þ = - = ¶ - q的最大似然估计值为 5 6 q Ù = 。 【例 4】 ~ ( , ), X B n p n已知，求 p的矩估计和最大似然估计值。 解：（1） ~ ( , ), ( ) ,X B n p E X np= 令 np X= ，所以 Xp n Ù = 。 （2） 2 1 1 1 1 ! ! ( ) (1 ) (1 ) !( )! !( )! n n i i i i i i x n xn n x n x i i i i i i n n L p p P p p x n x x n x p p= = - - = = å å = - = - - - 2 1 1 1 ( ) ln ( ) ln(1 ) (ln! ln ( )!) n n n i i i i i i i LnL p x p n X p x n x = = = æ ö= + - - + - -ç ÷ è ø å å å 21 1 2 1 ( ) 1 0 1 n n i in i i i i x x dLnL p X n x p dp p p n n Ù = = = æ ö= - - = Þ = =ç ÷- è ø å å å 可见二项分布的两种估计结果是相同的，请读者记住这个结论。 智轩考研数学 2010 第 30 专题讲座--离散情形下的最大似然法参数估计题型题法 http://bbs.qinjing.cc 【例 5】设总体 X 的分布律为 X 1 2 3 P 2q ( )2 1q q- ( )21 q- 其中：0 1q< < ， 1 2, , , nX X XL 为来自总体 X 的简单随机样本。求 ( )1 q的矩估计q Ù ； ( )2 q的极大似然法估计q Ù ， ( )3 判断q的无偏性和一致性。 解： ( )1 根据点估计的定义：用对应的样本一阶和二阶原点矩（对正态总体使用二阶中心矩）分别替换 分布函数中的EX 或DX 。 ( ) ( )22 31 2 2 1 3 1 3 2 2 3 2 X EX Xq q q q q q q Ù Ù - = ´ + ´ - + ´ - = - Þ - + = Þ = ( )2 注意此题一般需要给出样本点来写出联合分布函数。故本题的关键是根据分布率写出代数分布形 式，可以验证：总体 X 的分布律可以等价写成 { } ( ) ( ) ( ) ( ) ( ) ( ) 11 3 2 2 1 11 3 1 3 2 2 1 21 3 2 1 1 1 , 1, 2, 3 2 1 2 1 3 1 1 kk k k kk k k k kk k k C P X k C k k C k C q q q q q q q q q q q q -- - - -- - - - -- - æ öì = Þ - = ç ÷ïïç ÷= = - = = Þ - = -íç ÷ïç ÷= Þ - = -ïîè ø Q ( ) { } { } { } ( ) ( ) ( ) ( ) ( ) 1 21 1 2 2 11 2 1 1 2 1 2 1 1 11 31 3 1 3 2 2 2 3 11 1 2 2 2 1 2 1 1 , , , , 1 1 1 1 ln ln 1 3 nn n n n i i in i i n n x x xx xx x x x n x x nxx x n n x i i i L x x x P X x P X x P X x C C C C C C lnL C x n n q q q q q q q q q q = = - - -- -- - - - æ ö æ ö ç ÷-ç ÷ç ÷--- - è øç ÷ è ø - = = Þ = = = = é ù é ù é ù= - - -ë û ë û ë û åå= - æ öÞ = + - - +ç ÷ è ø å å L L L L 1 1 1 1 1 ln 1 1 3 3 1 1 3 3 0 1 2 2 2 n i i n n i in n i i i i i i x x X lnL Xn nn x n x q q q q q q = Ù = = = = æ ö-ç ÷ è ø - - ¶ -æ ö æ ö Þ = - + - = Þ = Þ = =ç ÷ ç ÷¶ - è ø è ø å å å å å ( )3 ( )3 3 23 3 3 2 2 2 2 X EX EX E E q q q Ù æ ö - -- - - = = = = =ç ÷ è ø 故q Ù 估计是无偏的。 根据大数定理，X 依概率收敛到q，于是 3 2 Xq Ù - = 依概率收敛到q，即 3 2 Xq Ù - = 为q的一致估计 量。