维纳滤波基本概念
Wiener滤波概述
Wiener滤波器是从统计意义上的最优滤波, 它要求输入信号是宽平稳随机序列, 本章主要集中在FIR结构的Wiener滤波器的讨论。
{x(n),x(n,1),?,x(n,M,1)}由信号当前值与它的各阶延迟,估计一个期望信号
x(n)x(n)d(n)d(n),输入信号是宽平稳的,和是联合宽平稳的, 要求这个估计的均方误差最小。
在本章中,不特别说明, 假设信号是零均值.
Wiener滤波器的几个实际应用实例如下:
1
?通信的信道均衡器。
S(n)u(n)d(n)=S(n)S'(n)+-Wiener信道滤拨器
e(n)
图1. 信道均衡器的结构示意
2
?系统辨识:
u(n)-y(n)Wiener
滤拨器
+
d(n)
未知系统
图2. 线性系统辨识的结构
3
?一般结构:
u(n)
y(n)-e(n)Wiener
滤拨器
+
d(n)
图3. Wiener滤波器的一般结构
wWiener滤波器的目的是求最优滤波器系数,使 o
2,,2ˆ,,,J(n)E[|e(n)|]Ed(n)d(n)
,, 最小。 ,,
4
?3.1 从估计理论观点导出Wiener滤波
FIR结构(也称为横向)的Wiener滤波器的核心结构如图4所示.
u(n)u(n-1)u(n-2)u(n-M+1)
z-1z-1
w0w1w2wm-1
y(n)
图4. 横向Wiener滤波器
FIR结构的Wiener是一个线性Beyesian估计问题.
5
为了与第2讲中估计理论一致,假设信号,滤波器权值均为实数
x(n)d(n)由输入和它的1至(M-1)阶延迟,估计期望信号,确定权系数{w,i,0,?M,1}使估计误差均方值最小,均方误差定义为: i
2ˆJ,E[(d(n),d(n))]
M,1
ˆˆd(n),wx(n,k)d(n),k这里估计写为:
k,0
除了现在是波形估计外,与线性Bayesian估计一一对应。
M,1N,1
ˆˆd(n),wx(n,k),,ax(k),k,k
k,0k,0
TTw,[w,w,?w]a,[a,a,?a] 01,101,1NN
TT
x(n),[x(n),x(n,1),?,x(n,M,1)]x,[x(0),x(1),?x(N,1)]
6
d(n),
R R(零均值假设) xx
T
r,E[x(n)d(n)],[r(0),r(,1),?,r(,M,1)]R xdx,xdxdxd
(r(,k),E[x(n,k)d(n)])这里, Wiener滤波与线性Bayesian估计变量之间具有一一xd
w对应关系, 设最优滤波器系数为,由线性Bayesian估计得到Wiener滤波器系数对应式: 0
Ra,R,Rw,r xxx,0xd
上式后一个方程称为Wiener-Hopf方程,
,1,1
a,RR,w,Rrxxx,xd或 0
7
T11T,,Tˆˆ,,RRx,d(n),rRx(n),wx(n) ,xd0xxx
T,12,1TˆBmse(,),C,RRR,J,,,rRr ,,,,xdxdminxxxxd
结论:
1) Wiener滤波器是线性FIR滤波器中的最优滤波器,但非线性滤波可能会达到更好结果。 2) 在联合高斯条件下,Wiener滤波也是总体最优的(?从Bayesian估计意义上讲是这样,
?要满足平稳条件)
3) 从线性贝叶斯估计推导过程知,在滤波器系数取非最优的w时,其误差性能表示:
2TTT
J(w),,,wr,pr,wRw xdxdd
J(w),Jw,w它是w的二次曲面,只有一个最小点,时, min0
8
?3.2维纳滤波:从正交原理和线性滤波观点
分析
定性数据统计分析pdf销售业绩分析模板建筑结构震害分析销售进度分析表京东商城竞争战略分析
Wiener滤波器
Wiener 滤波器是一个最优线性滤波器,滤波器核是IIR或FIR的。
导出最优滤波器的正交原理, 并从正交原理出发重新导出一般的Wiener滤波器方程
推导适应于IIR和FIR的一般结论,然后分别讨论FIR和IIR。
讨论一般的复数形式。
x[0],?,x[n],?? 输入过程。
w,w,w,?012? 滤波器系数,(权系数)
?希望的响应 d[n]
e[n],d[n],y[n]?输出误差:
9
?正交性原理
对复数据情况,推导一般结论,实数据是特例。
,,**y[n],wx(n,k)d[n],wx(n,k),k,ke[n],d[n],y[n] = k0k0,,
2,,J,Ee[n]e*[n],,,E|e[n]|均方误差是:
w,a,jbkkk设权系数:
,,,T,,,,jk,,[,,,,?,?]定义递度算子 . 其中 01k,w,a,bkkk
,J,J
,J,,jk,J符号是递度算子作用于J,其中第k项为: ,a,bkk
w,w,?,J,001要求的值, 使得J最小,即
10
,J,0k,0,1,2?等价: k
J,E{e[n]e*[n]}由
,,,e[n],e*[n],e[n],e*[n]
,J,Ee*[n],e[n],je*[n],je[n],,k得: ,a,a,b,bkkkk,,
,
*
e[n],d[n],wx[n,k],k由 k0,
,e[n],e[n],jx[n,k],,x[n,k]
得到: ,b,akk
,e*[n],e*[n]
,,jx*[n,k],,x*[n,k]
,b,akk
11
,J,,2E[x[n,k]e*[n]],Jk代入表达式整理得: k
,J,0k,0,1,?k当 时,J达到最小。
w,e[n]J,J00设J达最小时,用表示权系数和误差e[n],且 min
*
E[x[n,k]e[n]],0k,0,1,?则有:, 0
以上为正交性原理,达到最优滤波时,误差和输入正交。
*
E[y[n]e[n]],0推论: 00
12
?维纳,霍夫方程(Wiener-Hopf)
,,,,,
Ex[n,k]d*[n],wx*[n,i],0,,,0,,k,0,1,?i由正交性原理得 0,,i,,,
,
wE[x[n,k]x*[n,i]],E[x[n,k]d*[n]],0i i0,
r[i,k],E[x[n,k]x*[n,i]]r[,k],E[x[n,k]d*[n]]xxd定义:
,
wr[i,k],r[,k],0ixxd
k,0,1,?有 i0,
,,w这就是Wiener-Hopf方程,解此方程,可得到最优权。 0i
13
对于M阶FIR滤波器,(横向滤波器)Wiener-Hopf方程变为:
M,1
wr[i,k],r[,k],0ixxdk,0,1,?M,1, i,0
?矩阵形式:
T
x[n],[x[n],x[n,1],?,x[n,M,1]] 令
r[0],r[1],?r[M,1],,
,,
r*[1],r[0],?r[M,2],,
,H,,R,E[x[n]x[n]]?和 ,,,,r*[M,1],r*[M,2],?r[0],,
T
r,E[x[n]d*[n]],[r[0],r[,1],?,r[1,M]] xdxdxdxd
TRw,rw,[w,w,w,?w]Winer-Hopf方程: 这里 0xd00001020,1M
14
,1
w,Rr解方程求得: xd0
?最小均方误差:
ˆy[n]d[n|X]x[n],x[n,1],??0在达最优时,也写成,表示由张成的空间对n
ˆe[n],d[n],y[n],d[n],d[n|X]d[n]的估计(最优线性估计)。 00n
d[n],e[n],d[n|X]0n也可以写成:
2222ˆ,,,,Ee[n],,,J,,e[n]d[n|X]ˆdoˆmind0由和正交性得: nd
22
J,,,,ˆmind即: d
15
M,1
*ˆHd[n|X],wx[n,k],nk,wx[n]0由 k,0
2HHˆˆ,,E[d[n|X]d*[n|X]],E[wx[n]x[n]w]ˆnn00得 d
HHH
,wRw,wE[x[n]x[n]]w0x000
HHH,1
,wr,rw,rRrxdxdxdxd0 0
H22H22,1
J,,,,,,,rw,,,rRrˆmind0xdxd则 dxddd
16
?误差性能表面
M,1
*
e[n],d[n],wx[n,k],kJ,E[e[n]e*[n]]由 直接代入 k,0
M,1M,1M,1M,1
2**
J,,,wr(,k),wr*(,k),,wwr[i,k],,,,dkxdkxdkix整理得:
k,0k,0k,0i,0由上式,可以看出,J是W的二次曲面,是碗状曲面,碗口向上,J在碗底,其实,由kmin上式直接对w求导,得到一组方程,正是wiener-Hopf方程。 k
H2HH
J(w),,,wr,rw,wRw矩阵形式 xdxdd
H2,1,1H,1J(w),,,rRr,(w,Rr)R(w,Rr) xdxdxdxdd
H2,1,1J,minJw(),,,rRrw,Rrxdxdmind在时,达最小, xd0w
17
H
J(w),J,(w,w)R(w,w)J()w性能表面可以写成: min00
HHH
J(w),J,(w,w)Q,Q(w,w)R,Q,Q由于 故 min00
H
v,Q(w,w)令 0
NM
2*H,J,,|v|,J,,vv,min,minkkkkkJ,J,v,v min,1,1kk
J,J通过坐标变换,得到如上规范形式,对于一个给定, 有: min
2M||vk
,,1JJ,min
1,1k 这是超橢圆,为其一个轴。 ,k,k
18
数值例子1:
k
101,,
r[k],,,s[n]s有一信号,它的自相关序列为,被一白噪声所污染,噪272,,
x[n]2/3声方差为,被污染信号作为Wiener滤波器的输入,求2阶FIR
s[n]滤波器使输出信号是的尽可能的恢复。
d[n],s[n]x[n],s[n],v[n]解:本题中,, 。
k
1012,,
r[k],r[k],r[k],,,[n],,xsv 2723,,
k
101,,
,,r[k],Ex[n]s[n,k],r[k],,,xds 272,,
19
由于只需要2阶滤波器设计,因此
10210110,,,,
,,,,,,27327227,,,Rr,,,,xd101102101
,,,,,,,
272273272,,,,
T,1,,w,Rr0.3359,0.1186, oxd
T
10,,
0.3359,,,,10H227J,,,rw,,,0.2240,,xdmindo,,1010.118627,, , ,,,
272,,
20
数值例子2:
2v[n]d[n]a,0.8458,,0.27?希望响应是一个AR(1)过程,,是白噪声,, 由白1111
1
H(Z),1,1噪声驱动的产生该过程的传输函数为: 1,0.8458,Z
2H(Z)d[n],,0.1?经过了一个通信信通,信道的传输函数为,并加入了白噪声即: 22
1
H(Z),x[n],s[n],v[n]2,1 21,0.9458Z
通道模型如图5所示:
21
v2(n)
d(n)s(n)x(n)
z-1
0.9548
图5. 通道模型
?求解:一个二阶FIR结构Wiener滤波器,目的是由x[n]尽可能恢复d[n] 解:
22
,12AR(1)d[n]A(Z),1,aZ,,,0.27?是一个过程, 111
20.27,21,,,0.9486,d22 1,a1,(0.8458)11
x[n],s[n],v[n]s[n]AR(2)?在中,是一个二阶过程,相当于2
H(z),H(z)H(z) 12
,1,1A(z),(1,0.8458z)(1,0.9458z)
,1,2,1,2,1,0.1z,0.8z,1,az,az 2122
r(k)AR(z)由二阶参数,确定, 由Yule-walker方程: s
r(0)r(1)r(1)a,,,,,,sss212,,,,,,,,,,r(0),ar(1),ar(2),,,,,, 1s21s22sr(1)r(0)r(2)ass22s,,,,,,
23
r(0),r(1)ss反解.得
2,,,1,a1,0.80.27221,,r(0),,,1s22,,22 1,a[(1,a),a]1,0.8[(1,0.8),0.1]222221,,
,a,r(0)0.1,121sr(1),,,0.5s 1,a1,0.822
10.5,,
,,,Rs,,由上确定s[n]的自相关矩阵为: 0.51,,
1.10.510.510,,,,,,
2,,,,,,,,,,0.1R,R,,,I,,,,,,但: xs20.51.10.5101,,,,,,
24
,,r[k],Ex[n,k]d[n]r[k]?求 xd xd
x[n],s[n],v[n]s[n],0.9458s[n,1],d[n]由:, 和 代入上式 2
r[k],r[k],0.9458r[k,1]xdss得:
r[0],r[0],(,0.9458,r[,1]),0.5272故 xdss
r[1],r[1],(,0.9458,r[0]),,0.4458xdss
0.5272,,
,rxd,, ,0.4458,,
25
最优系数
,1
[0][1]rr,,rr[0],[1],,1,1,,R,,,,x,,,,22 [1][0]rrrr,[1][0]rr[0],[1],,,,
1.1456,0.52080.8368,,,,,1,,,,,,,wRrxd0,,,, 0.7853,0.52081.1456,,,,,
最小均方误差:
0.8360,,T2,,,0.9486,[0.5272,,0.4458]J,,,rw,0.1579,, minxd0d,0.7853,,
26
性能表面
H2TT2HH,,,2wr,wRwJ(w,w),,,wr,rw,wRw xdxdxdd01d
ww1.10.5,,,,,,00,,,,,,0.94862[0.5272,0.4458][w,w],,,,01,,,,,, ww0.51.111,,,,,,
22,0.9486,1.0544w,0.8916w,ww,1.1(w,w) 010101规范误差性能表面
,1.1,0.522,0,(1.1,,),(0.5),0R,,I,0解 0.51.1,,
,,1.6,,0.6 12
22J(v,v),J,1.6v,0.6v 12min12
27
22
vv121,,
(J,J)(J,J)minmin
,,12
11
22,,,,,,JJJJminmin,,,,,,,,这是一个随圆,主轴,副轴 ,,,,1,,2
28
?IIR Wiener 滤波器
考虑Wiener-Hopf方程在IIR滤波器时的情况,为简单,先讨论非因果IIR滤波器的设计式。为简单,考虑实信号和实滤波器系数的情况。
在非因果条件下,Wiener-Hopf方程改写为
,
wr[i,k],r[,k],oixxdk,,,,?,,1,0,1,?, i,,,
上式两边取z变换,得
H(z),(z),,(z)xxd
,(z)xd
H(z),
,(z)或 x
29
H(z)r[k],(z)这里是滤波器冲激响应(权系数)的z变换,是的z变换,xx
p[k],(z)是的z变换。 xd
,
2
J,,,wr[,l]dolxd,min 最小均方误差为 l,,,
30
k
101,,
r[k],,,s[n]s例2(有一信号,它的自相关序列为,被一白噪声所污272,,
x[n]2/3染,噪声方差为,被污染信号作为Wiener滤波器的输入,求IIR
s[n]滤波器使输出信号是的尽可能的恢复。
d[n],s[n]x[n],s[n],v[n]解:本题中,, 。
k
1012,,
r[k],r[k],r[k],,,[n],,xsv 2723,,
k
101,,
,,r[k],Ex[n]s[n,k],r[k],,,xds 272,,
31
,15/18220,6z,6z
,(z),,,x11113,1,1 (1,z)(1,z)18(1,z)(1,z)
2222
5/18
,(z),xd11,1 (1,z)(1,z)
22
,(z)55xdH(z),,,,111,(z)20,6z,6z,1 x18(1,z)(1,z)
33
51k
w,h,()okkH(z)求的反变换得到 163
ll,,10511015,,,,,,2[]J,,,wr,l,,,,,,,,,,,mindolxd最小均方误差 2716327224,,,,,,l,,,l,,,
32
因果IIR维纳滤波器
现在考虑因果IIR维纳滤波器设计。因果IIR维纳滤波器的传输函数为
,,,(z)1xdH(z),,,,, ,(z),(z)xx,,,
,,,(z)xd,
,(z),,,(z),x上式中,是由中位于单位圆内的极点和零点组成;x,(z)x,,,
,(z)xd
,是对应于中的因果序列部分的z变换。最小均方误差为 ,(z)x
,
2
J,,,wr[,l]mindolxd,
l0,
33
例3(用因果滤波器实现例2的相同问题 解:
11,1(1,z)(1,z),120,6z,6z33,(z),,x1111,1,1 由 18(1,z)(1,z)(1,z)(1,z)
2222得到
11,1(1,z)(1,z)
,3,3,(z),,(z),xx11,1 , (1,z)(1,z)
22
34
1,1z
,(z)51/36xdY(z),,,,,1111,(z),1,1另外,令 x18(1,z)(1,z)(1,z)(1,z)
2323
1111n,1,ny[n],()u[n,1],()u[,n]由反变换得 6233
u[n]y[n]上式中的代表阶跃序列。的因果部分为
,,(),z1/3nxd()Yz,,,,11,,,,,,,y[n]u[n]1,,(),z,1,x,, ,1,z32,,
2
35
1,1(1,z)1/31/32,,(z)1,xd1H(z),,,11,,1,,,1,1, ,z1(z)(z),,1,z(1,z)xx,,,332
11k
w,h,(),k,0okk 33
ll,,10111016,,,,,,2
[]J,,,wr,l,,,,,,,,,min,,dolxd 273327227,,,,,,0l,l,,,
因果的IIR Wiener滤波器比非因果的剩余误差要略大。
36