平稳时间序列概述

《时间序列分析》课程作业 韩二东 2010489 说明：由于我自己在《时间序列分析》这门课上花费的时间实在有限，也写不出什么像样的东西来，也只能对其中的<平稳时间序列>部分做些 总结 初级经济法重点总结下载党员个人总结TXt高中句型全总结.doc高中句型全总结.doc理论力学知识点总结pdf 。望允。 赵老师 亲启 2011年6月25日 平稳时间序列概述 1 时间序列的基本概念 从统计意义上讲, 时间序列就是将某一个指标在不同时间上的不同数值, 按照时间的先后顺序排列而成的数列. 数列由于受到各种偶然因素的影响, 往往表现出某种随机性, 之间存在着统计上的依赖关系. 中 表示时间, 示时间 上发生的事件的数据表示形式, 表示时间序列. 一个时间序列的未来值是完全确定的, 被某一数学函数严格确定, 为确定性时间序列.一个时间序列未来值是不确定的, 只能用概率分布来加以描述, 为随机时间序列. 我们所说的时间序列分析主要是分析随机时间序列. 在许多情况下, 时间序列指的是随机时间序列, 它是一类特殊的随机过程. 下面介绍随机时序分析的有关概念. 定义1 若对于每一个特定的 （ 是一个无穷集合，称为参数集), 是一个随机变量, 则称这一族无穷多个随机变量 时是一个随机过程[1]. 定义2 随机过程 , 如果是由一个不相关的随机变量序列构成, 即对于所有 , 随机变量 和 的协方差均为常数, 则称其为纯随机过程. 对于一个纯随机过程来说, 若其期望和方差均为常数, 则称之为白噪声过程. 定义3 统计特性不随时间的平移而变化的过程, 称之为平稳过程. 当把条件适当放宽时, 便得到了宽平稳随机过程. 定义如下: 若随机过程 的均值和协方差存在，且满足 (1) (2) 则称 为宽平稳随机过程, 为 的协差函数. 可见, 宽平稳性指的是 和 之间的协方差仅与这两个观测值的时间间隔长度 有关, 而与观察值的时期 无关, 不满足上述条件之一的过程就是非平稳过程. 2 平稳时间序列分析 2.1 ARMA模型的基本理论 ARMA模型是一种常用的随机时序模型, 由博克斯(Box), 詹金斯(Jenkins)创立, 亦称B-J方法。它是一种精度较高的时序短期预测方法, 其基本思想是: 除极个别的情况外, 几乎所有的时间序列中按照时间顺序排列的观察值之间具有依赖关系或自相关性，这种自相关性体现了变量发展的连续性, 所以, 一旦时间序列的这种自相关性被各种方式定量描述出来, 就可以根据时间序列的过去值预测其将来值. 因此, 随时间变化而又相互关联的数字序列, 可以用相应的数学模型加以近似描述, 并通过对相应数学模型的分析研究, 认识动态数据的内在结构和复杂特性, 从而达到最小方差意义下的最佳预测. 运用模型的前提条件是, 用来建立模型的时间序列是一个零均值的平稳随机过程, 即AR九例模型只适用于对平稳时间序列的描述, 但不要求是严平稳序列, 宽平稳即可. 2.2 ARMA模型的基本类型 ARMA模型有三种基本类型:自回归模型(AR, Autoregressive Models), 移动平均模型(MA, Moving Average Models), 自回归移动平均模型(ARMA Auto-regressive Moving Average Models). (1) 自回归AR(p)模型 如果时间序列 是它的前p期值和随机项的线性函数, 即 则称该时间序列 是自回归序列, 上式为p阶自回归模型, 记为AR(p). 其中: --当前的预测值, 与自身过去观测值 是同一序列的不同时刻的随机变量,相互间有线性相关关系, 也反映了时间之后关系: --模型的阶次即滞后期. 描述了系统的动态记忆性, 即当前的预测值只与前p期的历史观测值相关, 而与p期以前的观测值无线性相关关系; 一自回归系数, 也称为记忆函数, 描述了 对 的影响程度, 它们是模型的待估参数. 一随机干扰误差项, 假设它是相互独立的白噪声序列, 且服从均值为 . 方差为 的正态分布. 与滞后变量 不相关. 设 为 步滞后算子, 即 , 则模型可表示为 令 , 则模型可简写为 (2) 移动平均MA(q)模型 如果时间序列 是它的当期和前q期的随机误差项的线性函数, 即 则称该时间序列 是移动平均序列, 上式为q阶自回归模型, 记为MA(q). 参数 为移动平均系数, 是模型的待估参数. 引入滞后算子 , 并令 , 则模型可简写为 (3) 自回归移动平均ARMA(p, q)模型 如果时间序列 是它的前p期值及当期和前q期的随机误差项的线性函数, 即 则称该时间序列 是自回归移动平均序列, 上式为 阶自回归模型, 记为ARMA(p, q),参数, 为自回归系数, 为移动平均系数, 都是模型的待估参数. 引入滞后算子 , 则模型可简写为 2.3 ARMA模型的特性分析 由文献[2],[3],[4], 平稳性和可逆性是讨论上述三种模型的前提条件, 对于时间序列模型来说, 只有满足了平稳性与可逆性, 才能够真正有意义地反映动态系统的特征. 因而, 有必要系统地研究ARMA模型的这两个特性. 平稳性表示系统对某一时刻进入的扰动的记忆逐渐衰减, 时间越远, 它的影响作用越小,逐渐被完全忘掉, 而可逆性表示某一时刻的系统响应对后继时刻的响应的影响呈递减状态, 离该时刻越远, 影响程度越小. 当满足可逆性条件时, 人工峨模型可以转化为AR模型. 下面介绍了两种判断模型的平稳性和可逆性的方法. (一) 通过检验模型对应的算子方程的根来判断 如果ARMA(p, q)模型对应的滞后多项式叫 (算子方程)的根全部在单位圆外, 则称该模型平稳的. 对于ARMA(p,q)的模型, 称 为ARMA(p,q)模型对应的特征方程. 显然特征方程的根同 的根互为倒数, 所以特征方程 的根全部在单位圆内, 即 是模型平稳的条件. 如果ARMA（p,q）模型对应的算子方程 的根全部在单位圆外, 则称该模型是可逆的. 同理, ARMA(p, q)模型可逆的条件是特征方程 的根全部在单位圆内, 即 (二) 通过模型参数来判断 根据特征方程的根与模型参数的关系, 可以把判断模型平稳性和可逆性的条件转化为对于模型参数的约束条件. 下面引入模型参数的平稳域和可逆域的概念. 对于MA(q)或ARMA(p, q)模型, 使 的根全部在单位圆外的参数向量 的全体构成一个 维向量空间上的子集, 记为 , 称之为MA(q)或ARMA(p, q)模型的可逆域. 在可逆域内, 模型是可逆的. 对于AR(p)或ARMA(p, q)模型, 使 的根全部在单位圆外的参数向量必的全体构成一个p维向量空间上的子集, 记为 , 称之为AR(p)或ARMA(p, q)模型的平稳域. 在平稳域内, 模型是平稳的. 当AR(p), MA(q)或ARMA(p, q)模型的阶数p和q不超过2时, 模型的平稳域和可逆域可用具体的解析式表示, 如 2.4 ARMA模型的建立 (一)模型的识别 (1) 自相关函数和偏自相关函数 建立随机时间序列模型, 首先应当研究对象的性质, 以判断它是否满足建模的条件. 如果序列不符合建立ARMA模型的条件, 应当对原序列做适当调整,然后分析新序列是否能够用B-J方法建模. 自相关函数和偏自相关函数是研究时间序列特性进而进行模型识别的的重要工具. (a) 自相关函数(ACF) 时间序列的每个序列值戈, 之间的简单相关关系称为自相关. 其相关程度用自相关函数 度量, 自相关函数 的取值范围是 , 并且 越接近1, 自相关程度越高. 对于ARMA系统来说, 设 是零均值化序列, 则自协方差函数 , 自相关函数 , 即为时间序列中相隔k期的观测值之间的相关程度. 而实际运用中, 获取的是有限样本数据, 通常计算样本自相关函数. 当序列均值非零时,样本自协方差可表示为: 或 因而, 得出样本自相关函数 其中, 为样本量, 为滞后期, 代表样本数据的算术平均值. MA(q)模型的自相关函数为 MA(q)模型的自相关函数 在 时为0, 所以MA(q)模型的自相关函数呈现q步截尾性. 而对于AR和ARMA模型来讲, 它们的自相关函数永远不会精确为零. 自相关函数的截尾性是MA模型所特有的, 可以以此作为利用自相关函数进行模型识别的理论依据。 (b) 偏自相关函数(PACF) 偏自相关是指对于时间序列 , 在给定 , 的条件下, 与 之间的条件相关关系, 也是被负指数函数所控制的程度. 其相关程度用偏自相关函数 度量, . 设 为零均值的平稳过程，对于 用 , 对 作最小方差估计, 即选择系数 ，使得 达到极小值. 为此分别求 关于 的偏导数 并令其为零, 得到 满足Yule-Wolker方程: 求解该方程可得 当用样本自相关函数代替Yule-Wblker方程中的理论自相关函数后, 可以得到样本偏自相关函数. 对于AR模型来说, 第k个偏自相关系数 就是AR模型中 的回归系数, 因而有 . 可见AR(P)模型的偏自相关函数p步截尾. 这一性质是AR模型所特有的, 而对于MA和ARMA模型, 它们的偏自相关函数呈现拖尾性. (2)初步识别 (a) 零均值检验 ARMA模型形式都存在均值为0的假设. 若序列 , 的样本平均数是 , 均值标准误为 , 则当 落入 时, 认为序列满足零均值假设. 均值标准误采用下式近似计算 其中, 是序列样本方差, 为样本自相关系数, k=1到M表示前M个显著不为0的样本自相关系数，N是序列观测量. (b) 平稳性检验 对时间序列数据进行平稳性检验, 可以通过序列的散点图或者折线图进行初步判断. 如果时间序列没有明显的上升或下降趋势, 各个观测值围绕某个固定值上下波动, 则时间序列很可能是平稳的. 测定时间序列的平稳性主要运用自相关分析图. 如果时间序列在时滞 (或 )时, 自相关函数落入随机区间, 逐渐趋于0, 则时间序列为平稳的;若有更多的自相关系数落在随机区间外, 时间序列就是非平稳的. 一般采用ADF单位根检验来精确判断该序列的平稳性. (c) 识别原则与方法 根据零均值平稳序列的自相关函数和偏自相关函数的统计特性可以对模型进行初步识别, 识别的原则见下表: 模型 AR(p) MA(q) ARMA(p, q) ACF 拖尾 截尾 截尾 PACF 截尾 拖尾 拖尾 识别过程如下: i) 若 序列在q步截尾(即kp时, 几显著地等于零), 并且 序列被负指数函数控制收敛到零, 则可判断 为MA(q)序列. 具体做法是: 若 , 应有 , 此时 渐近于正态分布: 可由此来检验 是否显著地等于零。由上式可知 对于每个 , 分别检验 (通常取 或 ), 中满足 的比例是否达到68.3%，若 都未达到，而 达到了，那么几在q步截尾。 ii) 若 序列在p步截尾, 并且 序列被负指数函数控制收敛到零, 则可判断 为AR(p)序列. 具体做法是: 若 , 应有 , 此时 的分布渐近于 , N为样本序列长度, 于是有 对于每个 , 分别检验 中满足 的个数所占的百分比是否超过31.7%, 若 都超过了, 而 时没有超过, 则可以认为 在p步截尾. iii) 若 序列与 序列皆不截尾, 但都被负指数函数控制收敛到零, 则 很有可能是ARMA序列. (二) 模型的定阶 模型的定阶主要是为了在不同的模型之间择优。模型的定阶应当综合考虑模型的准确性和简洁性，对模型的优劣给予客观的评价，评价准则及指标如下: (l) AIC准则 日本学者赤池(Akaike)提出AIC准则来辨识AIC模型的阶数. 具体运用时，在规定范围内使模型阶数从低到高, 分别计算AIC值, 最后确定使其值最小的阶数是模型的合适阶数. AIC准则函数定义如下: 上式中 是样本容量, 是拟合残差方差. 当样本容量 固定时, 随着模型阶数 增加, AIC值的第一项单调下降, 而第二项单调上升, 整个AIC值先下降后上升, 所以, 准则函数存在最小值. 若 AIC(L为拟合的最高阶数), 则可判定ARMA模型的阶数为(p, q). 由于 是随 而变化的, 其极限并不一定趋于真值, 鉴于此, Akaike后来又提出了一个准则，称之为BIC准则. BIC准则函数定义如下: (2) 样本决定系数 和调整后的样本决定系数 把分解式 记作SST=SSR+SSE, 其中SSR称作回归平方和, SSE称作残差平方和, 它们的和构成总离差平方和SST。 那么, 样本决定系数 表示总离差平方和由回归方程可以解释的部分所占的比例, 这一比例越大, 回归方程可以解释的部分越多, 模型越精确, 回归效果越显著. 是一个介于0和1之间的数, 越接近1说明回归拟合效果越好. 但是, 随着回归模型中自变量个数的增加, 而逐渐增大, 这会让使用者误认为拟合效果越来越好, 为克服尸的这一缺点, 引入调整的样本决定系数 : 其中, 是样本容量, 是参数个数. 不随自变量个数的增加而增加, 用来判别拟合优度比 更有效. (3) 残差Q-统计量 残差Q-统计量的定义见下文模型检验部分. 残差Q-统计量越小, 模型越好. (4)平均绝对百分误MAPE 预测是建模的目的之一, 预测效果的好坏也是评判模型建立优劣的重要指标之一. 在社会消费品零售总额中, 通常更注重查看相对指标, 因此本文采用平均绝对百分误差MAPE作为预测效果的评价指标, 其定义为: 一般认为如果MAPE的值低于10, 则认为预测精度较高. (三) 模型参数的估计 (1) AR(p)模型参数的矩估计 AR(P)模型的待估参数为 和 . 的估计满足Yule-Walker方程组 其中 根据样本计算得到. (2) MA(q)模型参数的矩估计 MA(q)模型的待估参数 和 讨的矩估计满足下列方程组: 可见, 上式含有 个方程, 可以采用直接法或迭代法解出 个未知数 . (3) ARMA(p, q)模型参数的矩估计 ARMA(p, q)待估参数为 , 和 . 先用Yule-Walker方程组估计自回归参数 , 再将自回归部分为一个新序列 , 把这个新序列近似看作MA(q)序列, 用上述方法估计移动平均参数 和 。 模型的参数还可以采用最小二乘估计和极大似然估计，这两种方法的估计精较高，可以通过计算程序(软件)实现。 (四) 模型的检验 模型检验主要是检验模型对原时间序列的拟合效果, 就是检验整个模型对信的提取是否充分, 即检验残差序列是否为白噪声序列. 如果残差序列是白噪声序列, 就认为拟合模型是有效的. 如果拟合模型通不过检验, 即残差序列不是白噪声序列, 那么需要重新选择模型进行拟合. 模型的有效性检验侧重于检验残差序列的随机性, 即滞后 期, 残差序列的样本自相关系数应近似为0. 下面使用Q统计量对残差序列进行了 检验. 若将残差序列的自相关函数记为 ，则有 其中 是计算 的序列观测量, 是自相关函数个数. 若观测量较多, 可取 , ; 若样本量较少, 则 一般取 , 当 时 假设 那么，检验统计量 在零假设下服从 分布. 给定置信度 (a通常取0.05或0.10, 本文取0.05, 若 则不能拒绝残差序列相互独立的原假设，检验通过，否则检验不能通过。 2.5 ARMA模型的预测 (一) 正交投影预测(几何预测法) 所谓预测, 就是用过去和现在的观测序列样本值, 对该序列未来时刻的取值进行估计. 这里将预测误差的均方差作为衡量预测效果的标准. 设 是零均值平稳序列， 表示以 为原点，向前步长为 的值 ，的预测值。根据 在 及以前时刻的取值 所提供的信息， 可表示为如下形式: 若 的线性组合构成平面 ，则将 在平面 上的正交投影作为 , 可以使 ( 为预测误差)达到最小。 当 时，有ARMA(q)如下等价形式: (l) 传递形式, 即 (其中 ) (2) 逆转形式, 即 式中 和 分别称为传递函数和逆转函数, 它们可由 计算，其值随 的增大而负指数率衰减。 由上面两个式子可得 其中 ，满足 . 由此可以看出， 形成的平面就是由 形成的平面，是 之间是相互依赖的，而 之间则是相互正交的，而 是平面M的一组正交基。 由正交基 表示如下: 显然，当 时, 上式达到最小. 综上可得， 的最小均方误差预测为 预测误差为 其方差为 它是在时刻 用 对 的所有线性预测中的最小方差, 因而也称为平稳线性最小方差预测. 由上式可知, 步线性最小方差预测误差的方差和预测步长 有关, 而与预测的时间原点 无关. 同时可以看出, 预测的步长 越大, 预测误差的方差也越大, 即预测的准确性越差. (二) 条件期望预测 由于 之间具有相关性, 的概率分布是有条件的(即在 给定的条件下)其期望也是有条件的, 即 有关 和 的条件期望具有以下定则: (l) 常量的条件期望是其本身 对ARMA序列而言，现在时刻与过去时刻的观测值及扰动的条件期望是其本身，即 (2) 未来扰动的条件期望为零, 即 (3) 未来取值的条件期望为未来取值的预测值, 即 因此，利用以上性质可得 (三) 适时修正预测 对于ARMA系统, 由 的最小均方误差预测 可得 因而有 其中 如果把 时刻的观察值和预测值 称为“新”的, 而把t时刻的预测值 称为“旧”的, 则上式说明新的预测值可以由新的观察值和旧的预测值算出来, 即新的预测值是在旧的预测值基础上加一个修正项, 而这一修正项比于旧的一步预测误差, 比例系数随预测超前步数而变化. 适时修正预测能够利最新信息不断对以前的预测进行修正, 得到最新的预测. 参考文献 [1] 倪少凯, 陈卫红. 用Matlab实现灰色数列模型GM(l, l)的预测[J], Joumal of Mathematieal Medieine, 2005, 15(4): 292-293. [2] 王燕著, 应用时间序列分析[M], 北京:中国人民大学出版社, 2005.7. [3] 王振龙主编, 顾岚主审，时间序列分析[M], 中国统计出版社, 200. [4] 王成名, 应用概率统计[M], 广西师范大学出版社, 1994. _1370368093.unknown _1370415773.unknown _1370418583.unknown _1370534168.unknown _1370535128.unknown _1370535954.unknown _1370536690.unknown _1370536995.unknown _1370537162.unknown _1370537389.unknown _1370537809.unknown _1370537921.unknown _1370537937.unknown _1370537999.unknown _1370537882.unknown _1370537721.unknown _1370537758.unknown _1370537454.unknown _1370537281.unknown _1370537306.unknown _1370537262.unknown _1370537056.unknown _1370537148.unknown _1370537010.unknown _1370536883.unknown _1370536909.unknown _1370536919.unknown _1370536902.unknown _1370536829.unknown _1370536866.unknown _1370536185.unknown _1370536588.unknown _1370536598.unknown _1370536399.unknown _1370536463.unknown _1370536058.unknown _1370536119.unknown _1370536025.unknown _1370535619.unknown _1370535808.unknown _1370535873.unknown _1370535930.unknown _1370535828.unknown _1370535723.unknown _1370535746.unknown _1370535656.unknown _1370535280.unknown _1370535424.unknown _1370535523.unknown _1370535360.unknown _1370535222.unknown _1370535244.unknown _1370535209.unknown _1370534742.unknown _1370534964.unknown _1370535018.unknown _1370535091.unknown _1370535032.unknown _1370535055.unknown _1370534999.unknown _1370534946.unknown _1370534892.unknown _1370534915.unknown _1370534544.unknown _1370534653.unknown _1370534700.unknown _1370534592.unknown _1370534341.unknown _1370534396.unknown _1370534314.unknown _1370533396.unknown _1370534015.unknown _1370534100.unknown _1370534119.unknown _1370534139.unknown _1370534088.unknown _1370534075.unknown _1370533651.unknown _1370533950.unknown _1370533976.unknown _1370533907.unknown _1370533559.unknown _1370533617.unknown _1370533413.unknown _1370440767.unknown _1370441183.unknown _1370533183.unknown _1370533387.unknown _1370441317.unknown _1370533107.unknown _1370533161.unknown _1370441513.unknown _1370441225.unknown _1370441094.unknown _1370441136.unknown _1370440917.unknown _1370440614.unknown _1370440667.unknown _1370440729.unknown _1370440648.unknown _1370419122.unknown _1370440591.unknown _1370418610.unknown _1370417275.unknown _1370417591.unknown _1370418165.unknown _1370418258.unknown _1370418440.unknown _1370418566.unknown _1370418395.unknown _1370418204.unknown _1370417875.unknown _1370418007.unknown _1370418093.unknown _1370417900.unknown _1370417687.unknown _1370417756.unknown _1370417650.unknown _1370417402.unknown _1370417506.unknown _1370417575.unknown _1370417485.unknown _1370417327.unknown _1370417355.unknown _1370417314.unknown _1370416578.unknown _1370416794.unknown _1370416914.unknown _1370416987.unknown _1370416828.unknown _1370416650.unknown _1370416724.unknown _1370416627.unknown _1370416251.unknown _1370416326.unknown _1370416477.unknown _1370416271.unknown _1370416185.unknown _1370416111.unknown _1370416151.unknown _1370412254.unknown _1370413723.unknown _1370415360.unknown _1370415508.unknown _1370415755.unknown _1370415661.unknown _1370415688.unknown _1370415403.unknown _1370415417.unknown _1370415383.unknown _1370414983.unknown _1370415073.unknown _1370415255.unknown _1370415018.unknown _1370413819.unknown _1370414230.unknown _1370413745.unknown _1370413183.unknown _1370413362.unknown _1370413698.unknown _1370413720.unknown _1370413464.unknown _1370413304.unknown _1370413327.unknown _1370413236.unknown _1370412922.unknown _1370413060.unknown _1370413122.unknown _1370412938.unknown _1370412302.unknown _1370412890.unknown _1370412263.unknown _1370410659.unknown _1370411705.unknown _1370411827.unknown _1370412023.unknown _1370412150.unknown _1370411960.unknown _1370411743.unknown _1370411787.unknown _1370411600.unknown _1370411628.unknown _1370411649.unknown _1370411688.unknown _1370411615.unknown _1370411333.unknown _1370411563.unknown _1370410744.unknown _1370410512.unknown _1370410546.unknown _1370410566.unknown _1370410535.unknown _1370410363.unknown _1370410492.unknown _1370410270.unknown _1370364858.unknown _1370365977.unknown _1370366742.unknown _1370367030.unknown _1370367941.unknown _1370367041.unknown _1370367855.unknown _1370366994.unknown _1370367024.unknown _1370366983.unknown _1370366340.unknown _1370366514.unknown _1370366645.unknown _1370366411.unknown _1370366101.unknown _1370366228.unknown _1370366030.unknown _1370365741.unknown _1370365801.unknown _1370365863.unknown _1370365892.unknown _1370365847.unknown _1370365760.unknown _1370365773.unknown _1370365583.unknown _1370365613.unknown _1370365669.unknown _1370365696.unknown _1370365324.unknown _1370365360.unknown _1370365508.unknown _1370364876.unknown _1370364455.unknown _1370364687.unknown _1370364812.unknown _1370364833.unknown _1370364775.unknown _1370364537.unknown _1370364642.unknown _1370364510.unknown _1370364151.unknown _1370364209.unknown _1370364000.unknown _1370364133.unknown _1370363971.unknown _1370363987.unknown