普通最小二乘法（OLS）

普通最小二乘法（OLS）普通最小二乘法（OLS）普通最小二乘法，OLS，普通最小二乘法(Ordinary Least Square，简称OLS)，是应用最多的参数估计方法，也是从最小二乘原理出发的其他估计方法的基础，是必须熟练掌握的一种方法。 y,xii在已经获得样本观测值(i=1,2,„,n)的情况下(见图2.2.1中的散点)，假如模型(2.2.1)的参数估计量已经求 ^^,,01得到，为和，并且是最合理的参数估计量，那么直线方程(见图2.2.1中的直线) ^^^ y,,，,xii01 i=1,2,„,n (2.2.2...

普通最小二乘法（OLS）普通最小二乘法，OLS，普通最小二乘法(Ordinary Least Square，简称OLS)，是应用最多的参数估计方法，也是从最小二乘原理出发的其他估计方法的基础，是必须熟练掌握的一种方法。 y,xii在已经获得样本观测值(i=1,2,„,n)的情况下(见图2.2.1中的散点)，假如模型(2.2.1)的参数估计量已经求 ^^,,01得到，为和，并且是最合理的参数估计量，那么直线方程(见图2.2.1中的直线) ^^^ y,,，,xii01 i=1,2,„,n (2.2.2) ^ yi应该能够最好地拟合样本数据。其中为被解释变量的估计值，它是由参数估计量和解释变量的观测值计算得到的。那么，被解释变量的估计值与观测值应该在总体上最为接近，判断的标准是二者之差的平方和最小。 n22Q,(y,,,,x),u,Q(,,,),,i01ii01 ,i1 22nn2ˆˆˆˆ，，，，Q,u,y,y,y,,,,xmin,Q(,,,),,,ˆˆiiiii0101 ,,,,,,,001111 (2.2.3) 为什么用平方和,因为二者之差可正可负，简单求和可能将很大的误差抵消掉，只有平方和才能反映二者在总体上的接近程度。这就是最小二乘原则。那么，就可以从最小二乘原则和样本观测值出发，求得参数估计量。由于 n^2Q,(y,y),ii1 n^^2,(y,(,，,x)),i01i1 ^^^,,,001是、的二次函数并且非负，所以其极小值总是存在的。根据罗彼塔法则，当Q对、^ ,1的一阶偏导数为0时，Q达到最小。即 ,Q ,0 ,ˆˆ0,,,,,,,,0011 ,Q (2.2.4) ,0 ,ˆˆ1,,,,,,,,0011 容易推得特征方程: n ˆˆ,,ˆ，，(y,,x),y,y,e,0,,,01iiiii1i, n ˆˆx(y,,,,x),xe,0,,01iiiii1i, 解得: ^^ y,,n，,x,,i01i ^^2yx,,x，,x,,,ii0i1i (2.2.5) nnnn,nxy,(x)(y)(x,x)(y,y),,,,iiiiii,i1i1i1i1,,,,ˆ,,,,,12nnn2,2(x,x)所以有: (2.2.6) nx,(x),i,,ii,i1,i1i1,,,ˆˆ,,,y,,x01, 于是得到了符合最小二乘原则的参数估计量。为减少计算工作量，许多教科书介绍了采用样本值的离差形式的参数估计量的计算公式。由于现在计量经济学计算机软件被普遍采用，计算工作量已经不是什么问题。但离差形式的计算公式在其他方面也有应用，故在此写出有关公式，不作详细说明。记 ,1x,x,in ,1y,y,in ，x,x,xii ，y,y,yii (2.2.6)的参数估计量可以写成 n,，，xy,ii,t1,ˆ,,,,1n,2 (2.2.7) ，x,i,t1,,ˆˆ,,,y,x01, 至此，完成了模型估计的第一项任务。下面进行模型估计的第二项任务，即求随机误差项方 ˆˆe,u,y,y差的估计量。记为第i个样本观测点的残差，即被解释变量的估计值iiii 与观测值之差。则随机误差项方差的估计量为 2e,i2ˆ,, (2.2.8) un,2 2ˆ,在关于的无偏性的证明中，将给出(2.2.8)的推导过程，有兴趣的读者可以参考u 有关资料。在结束普通最小二乘估计的时候，需要交代一个重要的概念，即“估计量”和“估计值”的区别。由(2.2.6)给出的参数估计结果是由一个具体样本资料计算出来的，它是一个“估 ^^,,01计值”，或者“点估计”，是参数估计量和的一个具体数值;但从另一个角度，仅仅 ^^^yy,,,ii001把(2.2.6)看成和的一个表达式，那么，则是的函数，而是随机变量，所以 ^^,,01和也是随机变量，在这个角度上，称之为“估计量”。在本章后续内容中，有时把和 ^^^ ,,,011作为随机变量，有时又把和作为确定的数值，道理就在于此。

                    本文档为【普通最小二乘法（OLS）】，请使用软件OFFICE或WPS软件打开。作品中的文字与图均可以修改和编辑，
                    图片更改请在作品中右键图片并更换，文字修改请直接点击文字进行修改，也可以新增和删除文档中的内容。 
 该文档来自用户分享，如有侵权行为请发邮件ishare@vip.sina.com联系网站客服，我们会及时删除。

                    [版权声明] 本站所有资料为用户分享产生，若发现您的权利被侵害，请联系客服邮件isharekefu@iask.cn，我们尽快处理。

                    本作品所展示的图片、画像、字体、音乐的版权可能需版权方额外授权，请谨慎使用。

                    网站提供的党政主题相关内容(国旗、国徽、党徽..)目的在于配合国家政策宣传，仅限个人学习分享使用，禁止用于任何广告和商用目的。
                

下载需要：免费已有0 人下载

立即下载

普通最小二乘法（OLS）

你可能还喜欢