第十八章 对数极大似然估计

第十八章 对数极大似然估计 为了能解决一些特殊的问 题 快递公司问题件快递公司问题件货款处理关于圆的周长面积重点题型关于解方程组的题及答案关于南海问题 ，EViews提供了对数极大似然估计这一工具来估计各种不同类型的模型。对数极大似然估计提供了一个一般的，开放的工具，可以通过这个工具极大化相关参数的似然 函 关于工期滞后的函关于工程严重滞后的函关于工程进度滞后的回复函关于征求同志党风廉政意见的函关于征求廉洁自律情况的复函 数对一大类模型进行估计。 使用对数极大似然估计时，我们用EViews的序列生成器，将样本中各个观测值的对数似然贡献描述为一个未知参数的函数。可以给出似然函数中一个或多个参数的解析微分，也可以让EViews自动计算数值微分。EViews将寻找使得指定的似然函数最大化的参数值，并给出这些参数估计的估计标准差。在本章，我们将详细论述对数极大似然估计，并说明其一般特征。 §18.1 概 论 用对数极大似然估计来估计一个模型，主要的工作是建立一个用来求解似然函数的说明文本。似然函数的说明只是一系列对序列的赋值语句，这些赋值语句在极大化的过程中被反复的计算。我们所要做的是写下一组语句，在计算时，这些语句将描述一个包含每个观测值对似然函数贡献的序列。 首先，我们简单地回顾一下线性回归模型的对数极大似然估计方法。考虑多元线性回归模型的一般形式 t =1, 2 , ……, T (1) 其中k是解释变量个数，T是观测值个数，随机扰动项 ～ ，设模型的参数估计量已经求得为 ，那么 服从如下的正态分布： ～ (2) 其中 Y的随机抽取的T个样本观测值的联合概率为 (3) 这就是变量Y的似然函数。对似然函数求极大值和对对数似然函数求极大值是等价的，对数似然函数为 (4) 注意到，我们能将对数似然函数写成所有观测值t的对数似然贡献的和的形式， (5) 这里每个观测值的贡献由下面的式子给出： (6) 以只含一个解释变量的方程为例。假定知道模型参数的真实值，并且想用EViews产生一个包含每个观测值的贡献的序列。可以将已知的参数赋值给系数向量的c(1)到c(3)元素，然后把下面的赋值语句作为EViews的命令或程序来执行。 Series res=y-c(1)-c(2)*x Series var=c(3) Series logL1=-log(2*3.14159*var)/2- (res^2/var)/2 前面两行语句描述了用来存储计算时的中间结果的序列。第一个语句创建了残差序列：res，而第二个语句创建了方差序列：var。而序列logL1包含了每个观测值的对数似然贡献的集合。EViews将对不同参数值重复执行说明中的赋值语句，使用迭代法来求使得对数似然贡献最大的一组参数值。当EViews再不能提高全部的似然贡献时，它将停止迭代并在估计输出中报告最终参数值和估计标准差。 §18.2 似然说明 要创建一个似然对象，选择Objects/New Object.../LogL或者在命令窗口输入“logL”。似然窗口将打开一个空白说明视图。说明视图是一个文本窗口，在这个窗口里可以输入描述统计模型的说明语句，还可以设置控制估计程序各个方面的选项。 一．似然的定义 正如概述中所描述的那样，似然说明的主线是一系列赋值语句，在计算时，这些赋值语句将产生一个包含样本中每个观测值的对数似然贡献的序列。赋值语句的多少可以由自己决定。 每个似然说明都必须包含一个控制语句，该语句命名了保存似然贡献的序列。语句的格式为： @logL series_name 这里series_name是保存似然贡献的序列的名字，可以写在似然说明的任何位置。 如果想在估计完成后删除说明中的一个或多个序列，可以使用@temp语句： @temp series_name1 sereis_name2 ... 这个语句告诉EViews在对说明的计算完成后，删除列 表 关于同志近三年现实表现材料材料类招标技术评分表图表与交易pdf视力表打印pdf用图表说话 pdf 中的序列。 二．参数名 在上面的例子中，我们使用了系数c(1) 到c(3) 作为未知参数的名称。更一般的，出现在说明中一个已命名的系数向量中的每一个元素都将被视为待估参数。可以使用不同的系数向量，用命令创建命名的系数向量，如coef(4) beta，则定义了beta(1)，beta(2)，beta(3)，beta(4)，4个待估计系数。例如似然说明可写为： @logL logL1 res=y-beta(1)-beta(2)*x-beta(3)*z var= beta(4) logL1=log(@dnorm(res/@sqrt(var)))-log(var)/2 由于说明中的已命名的系数向量的所有元素都将被视为待估参数，必须确定所有的系数确实影响了一个或多个似然贡献的值。如果一个参数对似然没有影响，那么在试图进行参数估计时，将遇到一个奇异错误。注意到除了系数元素外所有的对象在估计过程中都将被视为固定的，不可改变的。例如，假定omega是工作文件中一个已命名的标量，如果将子表达式var定义如下：var=omega，EViews将不会估计omega，omega的值将被固定在估计的开始值上。 三．估计的顺序 logL说明包含了一个或多个能够产生包含似然贡献的序列的赋值语句。在执行这些赋值语句的时候，EViews总是从顶部到底部执行，所以后面计算要用到的表达式应放在前面。 EViews对整个样本重复的计算每个表达式。EViews将对模型进行重复计算时采用方程顺序和样本观测值顺序两种不同方式，要用方程顺序来计算，仅加一行关键字“@byeqn”，则EViews将先用所有的观测值来计算第一个赋值语句，然后用所有的观测值计算第二个赋值语句，……。要用样本顺序来计算，可以用关键字“@byobs”，EViews用观测值顺序来计算模型，此种方式是先用第一个观测值来计算所有的赋值语句，接下来是用第二个观测值来计算所有的赋值语句，如此往复，直到估计样本中所有观测值都使用过。如果没有给出计算顺序关键字，那么系统默认为“@byobs”。 四．解析导数 默认情形下，当极大化似然函数和形成标准差的的估计时，EViews计算似然函数关于参数的数值微分。可以用@deriv语句为一个或多个导数指定解析表达式，该语句格式为： @deriv pname1 sname1 pname2 sname2 ... 这里pname是模型中的一个参数名称，而sname是由模型产生的对应的导数序列的名称。 五．导数步长 如果模型的参数没有指定解析微分，EViews将用数值方法来计算似然函数关于这些参数的导数。在计算导数时的步长由两个参数控制：r (相对步长)和m（最小步长）。用 表示参数 在第i次迭代时的值，那么在第i+1次迭代时的步长由下式定义： (18.5) 双侧数值微分被定义为： (18.6) 而单侧数值微分则由下式计算： (18.7) 这里f是似然函数。双侧导数更加精确，但它要对似然函数进行的计算量大概是单侧导数的两倍，运行时间上也是如此。 @derivstep可以用来控制步长和在每次迭代时计算导数的方法。关键字@derivstep后面必须设置三项：被设置的参数名（或用关键字@all代替）；相对步长；最小步长。默认的最小步长被设置为机器 的平方根(1.49e-8)而最小步长为m＝1010。 §18.3 估 计 定义了一个似然对象后，可以在似然窗口工具栏中单击Estimate，打开估计对话框。 一．初值 默认情况下，EViews使用储存在系数向量或已估计的其它系数向量中的值。如果在说明中用了@param语句，那么就使用该语句指定的值来代替。 二．估计样本 在估计对数似然函数的参数时，Eviews将在Estimation Option对话框里指定了当前工作文件的观测值样本，需根据滞后次数。重新确定样本区间。 §18.4 LogL视图 ·likelihood Specification: 显示定义和编辑似然说明的窗口。 ·Estimation Output: 显示通过最大化似然函数得到的估计结果。 ·Covariance Matrix: 显示参数估计的协方差矩阵。这是通过计算在最优参数值下一阶导数的外积的和的逆求得的。可以用@cov这个函数将其保存为(SYM)矩阵。 ·Wald Coefficient Test: 执行Wald系数限制检验。参看第14章，系数检验，关于Wald检验的讨论。 ·Gradients: 如果模型没有被估计，显示当前参数值下logL的梯度（一阶导数）视图，若模型已经被估计，则显示收敛的参数值下logL的梯度视图。当你处理收敛问题时，这些图将成为有用的鉴别工具。 ·Check Derivatives : 如果使用了@param语句，显示在初值下数值微分和解析微分（如果可获得）的值，如果没有使用@param语句，则给出在当前值下数值微分和解析微分的值。 §18.5 LogL过程 ·Estimate.: 弹出一个设置估计选项的对话框，并估计对数似然函数的参数。 ·Make Model : 建立一个估计对数似然函数说明的未命名的模型对象。 ·Make Gradient Group : 在参数估计值下创建一个未命名的对数似然函数的梯度组（一阶导数）。这些梯度常用来构造拉格朗日乘数检验。 ·Update Coefs from LogL : 用似然函数对象得出的估计值来更新系数向量。该过程让你可以将极大似然估计结果作为其他估计问题的初始值。 大多数这些过程和EViews的其他估计对象相似。下面我们将着重介绍LogL对象所独有的特征。 1．估计输出 LogL对象的标准输出除了包含系数和标准差估计外，还描述了估计的方法，估计使用的样本，估计的日期和时间，计算顺序以及估计过程收敛的信息。 2．梯度 梯度概要、图表、表格视图可以检查似然函数的梯度。如果模型尚未估计，那么就在当前参数值下计算梯度，若模型已经估计出来了，就在收敛的参数值下计算。 PAGE 38 _1092464519.unknown _1092466805.unknown _1092467018.unknown _1092468240.unknown _1092464646.unknown _1092464681.unknown _1092464550.unknown _1090672388.unknown _1090730695.unknown _1092464023.unknown _1090673244.unknown _1062771342.unknown _1064770786.unknown _1090568748.unknown _1062771768.unknown _1062772562.unknown _1062771651.unknown _1062771316.unknown