会计学1最大似然估计§2.1最大似然估计一、最大似然原理二、线性模型的最大似然估计三、非线性模型的最大似然估计四、异方差和序列相关的最大似然估计五、最大似然估计下的Wald、LM和LR检验第1页/共43页一、最大似然原理第2页/共43页最大似然方法(MaximumLikelihood,ML)当从模型总体随机抽取n组样本观测值后,最合理的
参数
转速和进给参数表a氧化沟运行参数高温蒸汽处理医疗废物pid参数自整定算法口腔医院集中消毒供应
估计量应该使得从模型中抽取该n组样本观测值的概率最大。将样本观测值联合概率
函
关于工期滞后的函关于工程严重滞后的函关于工程进度滞后的回复函关于征求同志党风廉政意见的函关于征求廉洁自律情况的复函
数称为样本观测值的似然函数。在已经取得样本观测值的情况下,使似然函数取最大值的总体分布参数所代
表
关于同志近三年现实表现材料材料类招标技术评分表图表与交易pdf视力表打印pdf用图表说话 pdf
的总体具有最大的概率取得这些样本观测值,该总体参数即是所要求的参数。通过似然函数极大化以求得总体参数估计量的方法被称为极大似然法。第3页/共43页二、线性模型的最大似然估计第4页/共43页1、一元线性模型的最大似然估计Yi的分布Yi的概率函数Y的所有样本观测值的联合概率—似然函数第5页/共43页对数似然函数对数似然函数极大化的一阶条件结构参数的ML估计量第6页/共43页分布参数的ML估计量第7页/共43页注意:ML估计必须已知Y的分布。只有在正态分布时ML和OLS的结构参数估计结果相同。如果Y不服从正态分布,不能采用OLS。例如:选择性样本模型、计数数据模型等。第8页/共43页2、多元线性模型的最大似然估计i=1,2,…,n第9页/共43页结构参数估计结果与OLS估计相同第10页/共43页分布参数估计结果与OLS不同第11页/共43页3、最大似然估计量的性质一致性渐近正态性渐近有效性不变性第12页/共43页三、非线性模型的最大似然估计第13页/共43页1、简单非线性模型的最大似然估计i=1,2,…,n第14页/共43页面临NLS同样的过程,得到相同的估计结果。第15页/共43页2.一般非线性模型的ML估计以上是一般非线性模型的完整描述。随机项满足经典假设第16页/共43页模型参数的一种估计方法是最小二乘法,即最小化模型参数的另一种估计方法是最大似然法。得到广泛应用。第17页/共43页最大似然估计yi的密度函数雅可比行列式雅可比行列式×正态分布密度函数第18页/共43页因变量样本的对数似然函数为:很明显若没有雅可比行列式项,参数的非线性最小二乘估计将是最大似然估计;但是,如果雅可比行列式包括θ,最小二乘法不是最大似然法。第19页/共43页最大化对数似然函数的一阶条件为:第20页/共43页一般是得到中心化对数似然函数,然后最大化如果变换的雅可比行列式是1,则不存在因变量的参数变换;如果变换的雅可比行列式包含θ,则称为因变量的参数变换模型。第21页/共43页3、说明非线性模型最大似然估计的性质结构参数的最大对数似然估计是渐近无偏、一致估计且渐近地服从正态分布;分布参数的最大对数似然估计是渐近无偏和一致估计。非线性模型的最大对数似然估计一般不等价于非线性最小二乘估计,而是一个加权非线性最小二乘估计。在特殊情况下,最大对数似然估计才等价于非线性最小二乘估计。第22页/共43页四、异方差和序列相关的最大似然估计第23页/共43页1、思路经典模型的异方差问
题
快递公司问题件快递公司问题件货款处理关于圆的周长面积重点题型关于解方程组的题及答案关于南海问题
或者序列相关问题的处理方法:一类是变换模型,使之成为不再具有异方差性或者序列相关性的模型,然后采用OLS进行估计,例如WLS、GLS等;一类是修正OLS估计量的
标准
excel标准偏差excel标准偏差函数exl标准差函数国标检验抽样标准表免费下载红头文件格式标准下载
差,纠正模型具有异方差性或者序列相关性时OLS估计量的非有效性,使得继而进行的统计推断(例如显著性检验、参数的置信区间估计等)仍然有效,例如White修正、Newey-West修正方法等。第24页/共43页非线性ML方法将异方差问题或者序列相关问题看成一类非线性问题,采用NML估计,比较简单,可以同时得到结构参数估计量和反映异方差或者序列相关特征的分布参数估计量。第25页/共43页2、异方差的最大似然估计第26页/共43页被解释变量样本的对数似然函数为:第27页/共43页对异方差的结构给出假定,可以对模型的参数和异方差的结构参数进行最大似然估计。针对不同的问题假定不同的异方差结构;针对同一个问题假定不同的异方差结构,进行估计和比较。典型的异方差结构及其对应的对数似然函数,见教材。第28页/共43页3、例题第29页/共43页第30页/共43页OLSML第31页/共43页第32页/共43页线性模型,截面样本,一般存在异方差。采用非线性最大似然法估计,可以得到关于异方差结构的估计结果。在某些情况下,得到异方差结构的估计结果比模型参数估计量更重要。这就是异方差性的非线性方法的意义所在。第33页/共43页4、序列相关的最大似然估计首先假定模型随机误差项的序列相关结构。一般以AR(1)、MA(1)、ARMA(1,1)为常见。求出随机误差项对被解释变量的偏导数表达式。构造最大似然函数。同时得到模型参数和随机误差项的序列相关结构的估计结果。第34页/共43页假定模型随机误差项的序列相关结构为AR(1)第35页/共43页对数似然函数为:中心化对数似然函数:第36页/共43页假定模型随机误差项的序列相关结构为MA(1)方法步骤相同,见教材第37页/共43页假定随机误差项的序列相关结构为ARMA(1,1)方法步骤相同,见教材第38页/共43页5、例题第39页/共43页五、最大似然估计下的Wald、LM和LR检验第40页/共43页1、说明在采用最小二乘估计的经典模型的检验中,常用的检验统计量是基于残差平方和构造的,例如F统计量、t统计量等。在采用最大似然估计的非经典模型的检验中,常用的检验统计量是基于最大似然函数值构造的,例如Wald统计量、LR统计量、LM统计量等。第41页/共43页2、受约束检验θ为模型参数构成的列向量,J为参数的约束数目θ的无约束下的最大似然估计θ的有约束下的最大似然估计第42页/共43页