第11章 相关与回归分析幻灯片

第11章一元线性回归分析11.1相关与回归的基本概念11.2线性相关与回归分析学习目标1.理解简单线性相关系数的涵义,掌握其计算和检验2.理解总体回归函数与样本回归函数的概念3.理解简单线性回归的基本假定4.掌握简单线性回归参数的估计与检验11.1相关与回归的基本概念一、变量间的相互关系二、相关关系的类型三、相关分析与回归分析变量间的相互关系◆确定性的函数关系Y=f(X)◆不确定性的统计关系—相关关系Y=f（X）+ε(ε为随机变量)◆没有关系变量间关系的图形描述：坐标图(散点图)相关关系的类型●    从涉及的变量数量看简单相关多重相关（复相关）●    从变量相关关系的 表 关于同志近三年现实表现材料材料类招标技术评分表图表与交易pdf视力表打印pdf用图表说话 pdf 现形式看线性相关——散布图接近一条直线(左图)非线性相关——散布图接近一条曲线(右图)● 从变量相关关系变化的方向看正相关——变量同方向变化A同增同减(A)负相关——变量反方向变化一增一减(B)B●从变量相关的程度看完全相关(B)不完全相关(A)C不相关(C)相关关系的类型相关分析用一个指标(相关系数)去表明变量间相互依存关系的性质和密切程度不能说明变量间相关关系的具体形式,不能从一个变量的变化去推测另一个变量的具体变化相关分析与回归分析的联系●共同的研究对象：都是对变量间相关关系的分析●只有当变量间存在相关关系时，用回归分析去寻求相关的具体数学形式才有实际意义●相关分析只表明变量间相关关系的性质和程度，要确定变量间相关的具体数学形式依赖于回归分析相关分析与回归分析的区别研究目的不同:相关分析是分析变量间相互联系的方向和程度;回归分析是寻求变量间联系的具体数学形式对变量的处理方式不同:相关分析不区分自变量和因变量,并将两个变量都视为随机变量;回归分析必须明确划分自变量和因变量,并将自变量视为取固定值的非随机变量,而将因变量视为具有一定概率分布的随机变量.11.2线性相关与回归分析一、线性相关系数及检验二、一元线性回归模型三、回归系数的估计四、线性回归模型的检验相关分析要解决的问题变量之间是否存在关系变量之间的关系强度如何样本所反映的变量之间的关系能否代表总体变量之间的关系线性相关分析的步骤绘制散点图，判断变量之间的关系形态.计算相关系数，测度变量之间的关系强度.对相关系数进行显著性检验线性相关系数及检验●总体相关系数对于所研究的总体，表示两个相互联系变量相关程度的总体相关系数为：总体相关系数反映总体两个变量X和Y的线性相关程度。特点：对于特定的总体来说，X和Y的数值是确定的总体相关系数是客观存在的特定数值。样本相关系数通过X和Y的样本观测值去估计样本相关系数变量X和Y的样本相关系数通常用表示特点：样本相关系数是根据从总体中抽取的随机样本的观测值计算出来的，是对总体相关系数的估计，它是个随机变量。相关系数的特点相关系数的取值在-1与1之间。当r=0时，表明X与Y没有线性相关关系。当时，表明X与Y存在一定的线性相关关系:若表明X与Y为正相关;若表明X与Y为负相关。当时，表明X与Y完全线性相关:若r=1，称X与Y完全正相关；若r=-1，称X与Y完全负相关。使用相关系数的注意事项▲X和Y都是相互对称的随机变量，所以▲相关系数只反映变量间的线性相关程度，不能说明非线性相关关系。▲相关系数不能确定变量的因果关系，也不能说明相关关系具体接近于哪条直线。相关系数的检验为什么要检验？样本相关系数是随抽样而变动的随机变量,相关系数的统计显著性还有待检验。检验的依据：如果X和Y都服从正态分布，在总体相关系数的假设下，与样本相关系数r有关的t统计量服从自由度为n-2的t分布：～相关系数的检验方法给定显著性水平，查自由度为n-2的临界值若，表明相关系数r在统计上是显著的，应否定而接受的假设；反之，若，应接受的假设。回归分析要解决的问题确定变量之间的数学关系式对数学关系式的可信程度进行统计检验利用所得关系式估计因变量的取值，并给出这种估计的可靠程度.一元线性回归模型1.基本概念因变量:被预测或被解释的变量自变量:用来预测或解释因变量的一个或多个变量当回归中只涉及一个自变量,且因变量与自变量之间为线性关系时称为一元线性回归.用来表示具有线性关系的两个变量的方程称为线性回归模型.一元线性回归模型的数学表达y=β0+β1x+εβ0+β1x反映了由于x变化而引起的y的线性变化；ε是被称为误差项的随机变量，反映了除自变量以外的其他随机因素对因变量的影响。一元线性回归模型的基本假定假定1：因变量y与自变量x之间具有线性关系假定2：在重复抽样中,自变量x的取值是固定的假定3：对于所有的x值,ε的方差都相同假定4：误差项ε的期望值为零假定5：误差项ε是一个服从正态分布的随机变量,且相互独立.回归方程概念：描述因变量y的期望值如何依赖于与自变量x的方程表现形式：估计的回归方程概念：用样本统计量代替回归方程中的回归参数,就得到估计的回归方程.表现形式：线性样本回归函数可表示为回归系数的最小二乘估计基本思想：希望所估计的偏离实际观测值的误差越小越好。可以取误差平方和作为衡量观测值与估计值偏离程度的标准.估计式：见P324式11.9拟合优度的度量基本思想：如果各观测数据的散点都落在回归直线上，那么这条直线就是对数据的完全拟合。各观察点与回归直线的距离越小，回归直线对数据的拟合程度越好；反之则越差。样本回归拟合优度的度量建立在对因变量总离差平方和分解的基础上。判定系数：回归平方和占总平方和的比例,记为R2.对判定系数的理解判定系数的特点判定系数是非负的统计量；判定系数取值范围在零到1之间；判定系数是样本观测值的函数，判定系数是随抽样而变动的随机变量；在一元线性回归中，判定系数在数值上是简单线性相关系数的平方估计标准误差是均方残差的平方根，用Se来表示。计算公式：见P330式11.16作用：反映了用估计的回归方程预测因变量时预测误差的大小。是一个样本统计量，是一元线性回归模型中误差项ε的标准差的估计值。显著性检验1.线性关系的检验目的:检验自变量和因变量之间的线性关系是否显著.原理:以回归平方和与残差平方和为基础构造检验统计量,服从F分布.步骤:(1)提出假设:H0:β1=0两个变量之间的线性关系不显著线性关系的检验(2)计算检验统计量F(3)作出决策:根据显著性水平计算临界值,若F大于临界值则拒绝H0,表明两个变量之间的线性关系是显著的;反之,则不拒绝H0.回归系数的检验目的:检验自变量对因变量的影响是否显著,即检验回归系数β1是否等于零.原理:利用β1的估计值的分布构造检验统计量,服从t分布.步骤:提出假设:H0:β1=0计算检验统计量作出决策回归分析结果的 评价 LEC评价法下载LEC评价法下载评价量规免费下载学院评价表文档下载学院评价表文档下载 估计的回归系数的符号是否与理论或事先预期一致回归模型在多大程度上解释了因变量取值的差异：用判定系数度量自变量与因变量之间是否存在显著的线性相关关系：用F检验和t检验判断关于误差项ε的正态性假定是否成立：画出残差的直方图或正态概率图利用线性回归方程进行预测1.点估计:对于x的一个特定的值x0,求出y的一个估计值.平均值的点估计：利用估计的回归方程,对于x的一个特定的值x0,求出y的平均值的一个估计值E(y0).个别值的点估计：利用估计的回归方程,对于x的一个特定的值x0,求出y的一个个别值的估计值.区间估计1.平均值的置信区间估计:对于x的一个特定的值x0,求出y的平均值的区间估计.方法:见P336式11.232.个别值的预测区间估计:对于x的一个特定的值x0,求出y的一个个别值的区间估计方法:见P337式11.25因变量的区间预测的特点(1)个别值的预测区间大于平均值的预测区间:平均值的预测值与真实平均值有误差，主要是受抽样波动影响;个别值的预测值与真实个别值的差异不仅受抽样波动影响，而且还受随机扰动项的影响.因变量的区间预测的特点（2）预测区间与样本容量有关：样本容量n越大，预测误差的方差越小，预测区间也越窄。（3）当样本容量趋于无穷大（即n→∞）时,不存在抽样误差，平均值预测误差趋于0，此时个别值的预测误差只决定于随机扰动的方差。（4）当x0=x时，预测区间最小。注意事项在利用回归方程进行估计或预测时，应尽量使自变量的取值在样本自变量的最小值和最大值之间，不要用超出这一范围的x值来预测对应的y值。