自回归模型AR参数估计
自回归模型AR(p)的整体估计
[1] 1 自回归模型
1.1 模型
子样观测值{},白噪声序列
表
关于同志近三年现实表现材料材料类招标技术评分表图表与交易pdf视力表打印pdf用图表说话 pdf
示为{},回归系数用,(j,1,2,?,p)x,i,0,,1,?ajit表示,则可得到的AR模型:
(1) x,,x,,x,?,,x,at1t,12t,2pt,pt
1.2模型参数的最小二乘估计
设样本观测值{},记 X,t,0,,1,?t
T,, Y,xx?x,1,2ppN
T,, ,,aa?a,1,2ppN
T,,,,,,?, 12p
xx?x,,pp,11,,xx?xp,1p2,, A,,,???
,,xx?x,,N,1N,2N,p,,则AR(p)模型可以表示为
(2) Y,A,,,
由最小二乘原理可得到模型参数的估计为
T,1Tˆ ,,(AA)AY那么根据最小二乘估计值可以得到噪声的估值为
ˆˆˆˆ a,x,x,,x,,?,x,(t,p,1,?,N)ttt,11t,22t,pp
2ˆ噪声方差的最小二乘估值为 ,a
2N,112Tˆˆˆ ,a,,,,u,tN,pN,pt,p,1
2 整体最小二乘法参数估计
在进行许多时间序列分析的实际问
题
快递公司问题件快递公司问题件货款处理关于圆的周长面积重点题型关于解方程组的题及答案关于南海问题
中,建立模型的主要目的就是在确定模型参数之
后,对未来可能出现的结果进行分析预报。而结果又与自身前一个或前几个时刻的观测值有
A关,观测必有误差的存在,所以不能忽略之前观测值的随机误差。整体最小二乘法就是
同时考虑自变量和因变量误差存在的算法。
方程(2)与线性回归方程具有相同的形式。在线性回归中y=ax+b,自变量xY,A,,,
是确定的,y和b是随机变量。在AR(p)模型中自然也是随机变量,但在t-1时刻,x,x,?t,1t,2
它们均已确定不变,所以AR(p)模型可以看做条件线性回归模型,故可用多元回归分析中的
[1]A有关方法进行参数估计。作为自身前一个或前几个时刻的观测值是确定已知的,但在观测中是含有随机误差的,在计算中应该考虑其所含误差的影响。应用整体解算的方法进行解算。
2.1整体最下二乘原理及解算步骤。
[2]TLS的基本思想可以归纳为:观测方程中,不仅观测向量Y中存在误差V,yY,X,n,1n,mm,1
,同时系数矩阵X中也含有误差V。此时,可用TLS方法求得参数。也就是说,在TLS中,X,考虑的是矩阵方程
,,,Y,VX,V = (2-1) ,YX
或
^^^^^,, (2-2) X,,Y,X,X,V,Y,Y,V,,XX,,
的求解。
在测量数据处理中,为观测个数,为参数个数,通常情况下,矩阵X的秩,nmnm,,。显然式(2-1)的矩阵表示为 RX,m,n,,n,m,,
^,,,,, (2-3) ,,[XY],[],0VVXY,,,1
,,
或等价为
(2-4) ,,B,Dz,0
其中:
^,,,,,为增广矩阵,为误差矩阵,,求解上式的m,1Z,D,[]B,[XY]VVXYm,1,1n,m,1n,mn,1,,,1,,,,整体最小二乘方法可以表示为约束最优化问题:
(2-5) ,minDF
F(Frobenius)D是的范数。 DF
求的=min的问题称为TLS问题,若能找到式(2-1)的一个最小点,[]DVVXOYOF
^^[3]则任何满足的都称为TLS解 ,,,X,,,Y,VVXOYO
[4]求解TLS问题的主要工具是奇异值分解,得
TTTˆ,,,,,,XXXXY,T ,,,,BB,XY,k,Z,,,,,,,,m,1TTTYYXYY1,,,,,,,
TTNN,,XXXY,,,1XXXYˆ令,得 ,,,,N,,IN,,,XXmXY,1,,TTNNYXYYXYYY,,,,
Y,X,,综上所述,求解矩阵方程中参数的TLS解的步骤为: ,TLSn,1n,mm,1
(1)列观测方程式; Y,X,n,1n,mm,1
,, (2)构成增广矩阵; ,BXY,,n,m,1n,mn,1,,
T (3)求矩阵的特征值,并求出最小特征值; BB,m,1
1,,,^,, (4)计算参数的TLS解。 ,,,N,IN,XXm1XY,,m,m,m,1m,mm,1,,,,
2.2自回归模型AR(p)的整体估计
线性模型: Y,A,,,
ˆ用矩阵形式表示: ,Y,X
ˆ 式中: X,A,,,,
,1ˆ 可得:, ,,,,,,N,,INXXmXY,1
3 实例分析
以文献[3]例5.6的数据为样本观测数据,共计36个数据
沉降观测数据
序数 高程 序数 高程 序数 高程 序数 高程 序数 高程 序数 高程 1 26.33 7 25.93 13 26.67 19 28.09 25 26.81 31 26.81 2 26.27 8 26.43 14 27.95 20 26.78 26 28.50 32 28.50 3 26.43 9 26.52 15 26.74 21 28.66 27 27.68 33 27.68 4 25.56 10 25.46 16 27.53 22 26.75 28 26.57 34 26.57 5 26.82 11 26.12 17 25.31 23 27.24 29 28.36 35 28.36 6 26.56 12 27.28 18 26.90 24 28.02 30 27.94 36 27.94 (1) 模型参数的最小二乘估计
由文献[3]得模型阶数为 p,3
ˆˆˆ误差方程 v,bx,bx,bx,x,i,4,5,?,36i1i,12i,23i,3i
ˆ,,0.041087b,,1,,,,T,1Tˆˆ参数估计为 ()0.327809 ,,,,bXXXY,,2,,ˆ,,,,0.635059b,,3,,
得自回归模型 x,0.041087x,0.327809x,0.635059xii,1i,2i,3
TVV19.42862ˆˆ ,,,,0.6476,,,0.80(mm)n,2p30(2) 整体估计
ˆ,,b,,1,,,1,,ˆˆ参数估计为 ,,,,,b,,N,IN,,2XXm,1XY,,ˆ,,,,b,,3,,
得自回归模型