现代信号处理教程书稿第十二章

第12章 双正交小波及小波包 我们在上一章给出了正交小波的构造方法。正交小波有许多好的性质，如 ， ， ，此外，尺度函数和小波函数都是紧支撑的，有着高的消失矩等等。Daubechies给出的正交小波的构造方法可以方便的构造出所需要的小波(如DBN，SymN，CoifN)。但是，正交小波也有不足之处，即 和 都不是对称的，尽管SymN和CoifN接近于对称，但毕竟不是真正的对称，因此，这在实际的信号处理中将不可避免地带来相位失真。 和 的不对称性来自所使用的共轭正交滤波器组 和 的不对称性。我们已在7.8节讨论了具有线性相位的双正交滤波器组的基本概念，给出了可准确重建的双正交滤波器组的 设计 领导形象设计圆作业设计ao工艺污水处理厂设计附属工程施工组织设计清扫机器人结构设计 方法。本章，我们把这些内容引入到小波分析，给出适合小波变换的双正交滤波器组准确重建的条件，给出双正交条件下的多分辨率分析及双正交小波的构造方法，最后简要讨论小波包的基本概念 12.1 双正交滤波器组 现在，我们结合小波变换的需要来研究双正交滤波器组的内在关系及实现准确重建的条件。所谓“小波变换的需要”是指在用 对 分解时需要将 和 的系数作时间上的翻转，即用的是 及 ，或 , ，见(10.6.1)式及图10.6.2。将图10.6.2的正变换和图10.6.3的反变换结合起来，我们可得到如图12.1.1所示的一级分解和重建的类似于两通道滤波器组的信号流图。注意，图中用于重建的滤波器不再是图10.6.3中的 和 ，而是 和 ，它们分别是 和 的对偶滤波器。有关“对偶”的概念见1.6节，在下面的讨论中将涉及对偶滤波器的作用。 现在我们来分析该图中各信号之间的关系及实现PR的条件。由第七章关于两通道滤波器组的理论，我们有 图12.1.1 双正交滤波器组 (12.1.1a) (12.1.1b) (12.1.2) 将(12.1.1)式代入(12.1.2)式，有 (12.1.3) (12.1.1)式是用一组向量 对 作分析，(12.1.3)式是用一组对偶向量 对 作综合。(12.1.3)式还可表为 (12.1.4) 显然，如果 (12.1.5a) (12.1.5b) 则 从而实现了准确重建。(12.1.5)式的含意是，在图12.1.1中，同一条支路上的两个滤波器 或 的偶序号位移之间是正交的。但是该式没有涉及上下支路两个滤波器之间的关系。我们更关心的是这些滤波器系数的移位可否构成小波分析中的基函数。下面的两个定理清楚地回答了该问题。 定理12.1 对图12.1.1所示的两通道滤波器组，对任意的输入信号 ，其准确重建的充要条件是： (12.1.6a) 及 (12.1.6b) 证明：仿照(7.1.5)式的导出，有 (12.1.7) 式中 、 分别是 和 的 变换， 是混迭分量。因此，为消除混迭失真，应有 (12.1.8a) 为保证系统的准确重建，应有 (12.1.8b) 式中 和 均为常数。令 ， ，(12.1.8)式对应的频率表示是： 于是定理得证。 对比图7.1.1的两通道滤波器组，其对应的PR条件是（见(7.1.5)式）： (12.1.9a) (12.1.9b) 将(12.1.9)和(12.1.8)式相比较可以看出，在双正交滤波器组的情况下，我们分别用 、 代替了 和 ，并在分析滤波器组中，用 、 分别代替了 和 。其实，(12.1.8)式导出的原理和(12.1.9)式是完全一样的。 由(12.1.6a)式，有 (12.1.10) 可求出 (12.1.11) 式中 (12.1.12) 显然，为了保证对偶滤波器 和 是稳定的， 在 的范围内应该非零。为了保证 和 是FIR的， 应取纯延迟的形式。 仿照(7.2.16)式对 和 的定义，我们可给出在双正交条件下对偶滤波器和分析滤波器之间的关系： (12.1.13a) (12.1.13b) 或 (12.1.14a) (12.1.14b) 假定 ，它们对应的时域关系是 (12.1.15a) (12.1.15b) 注意，上述时域、频域关系均是在图12.1.1中的交叉方向上给出的，它正好反映了双正交滤波器组的特点。 将(12.1.13)式代入(12.1.6)式，我们可得到如下的关系： (12.1.16a) 或 (12.1.16b) 及 (12.1.17a) 或 (12.1.17b) 至此，我们给出了在双正交滤波器组中的若干基本关系，即 (1) 去除混迭条件：(12.1.6a)式； (2) PR条件 ：(12.1.6b)式； (3) 保证PR条件和滤波器均为FIR的情况下，四个滤波器在时域和频域的关系：(12.1.13)式～(12.1.17)式。 回顾在共轭正交滤波器组的情况下，我们经常用到的功率互补关系，即 ， 或 (12.1.18) 显然，若 ，则(12.1.16a)式即变成(12.1.18)式，也即双正交滤波器组变成了正交滤波器组。 有了以上讨论的基础，我们可给出在小波分析中要用到的“基”的概念。 定理12.2[8] 如果图12.1.1中的四个滤波器 ， ， 和 满足准确重建条件，且它们的傅里叶变换均是有界的，则 和 是 中的双正交Riesz基。 证明：为证明 、 、 及 的偶序号项移位是双正交的，我们需要证明如下三个关系成立： (12.1.19a) (12.1.19b) 及 (12.1.19c) 由(12.1.16a)式，有 该式对应的时域关系是 (12.1.20) 于是(12.1.19a)式得证。同理，由(12.1.16b)式可证明(12.1.19b)式，而(12.1.17)式对应的时域关系即是(12.1.19c)式。这样，(12.1.19)式给出了三组正交关系。 若 ， ， ， 的偶序号位移能够构成 中的双正交Riesz基，它们还需满足如下的条件： ，有 (12.1.21) 此即(10.2.11)式。式中 ， ， 是 的傅里叶变换，此处 代表 ， ， 或 。由本定理所给的条件，即它们的傅里叶变换都是有界的，所以(12.1.21)式满足，因此 ， ， 及 的偶序号移位构成 中的双正交Riesz基。于是定理得证。 我们之所以说这些序列为“双正交”基，是因为在图12.1.21中的滤波器组中，上下支路各自是正交的，即 和其对偶 正交， 和其对偶 正交；同时，上下支路交叉正交，即 正交于 ， 正交于 。注意，在双正交滤波器中，我们并没有强调 和 之间的正交关系，而这一正交关系是共轭正交滤波器组中的基本关系。由此读者可搞清正交和双正交的区别。总之，在小波的多分辨率分析中，使用正交滤波器组时，分解滤波器和重建滤波器是相同的，而在双正交小波分析中，分析滤波器是 和 ，而综合滤波器是它们的对偶，即 和 。 此外，(12.1.19a)和 (12.1.19b)的双正交关系与本章开头所给出的(12.1.5)式的关系是一致的，只不过(12.1.19)式更简洁。 12.2 双正交小波 上一节我们讨论了双正交滤波器的基本概念、PR条件及各滤波器时域、频域的关系。本节，我们将把双正交滤波器组的概念引入双正交小波变换，给出类似第十章的多分辨率分析。 由(9.8.18)和 (9.8.19)式，信号 的离散小波变换是： (12.2.1) 令 ，则 称为小波系数，也即 的DWT。我们可由 重建 。由(9.8.20)式，有 (12.2.2) 式中 是 的对偶小波。由以上两式可以看出，小波 用于信号的分析，对偶小波 用于信号的综合。在正交小波的情况下， 。 我们在第十章详细讨论了离散小波变换的多分辨率分析，引出了尺度函数 ，证明了在 中存在正交基 和 ，给出了 、 和正交滤波器组的关系，即二尺度差分方程和(10.4.7)和(10.4.8)式的频域关系。在双正交滤波器组的情况下，分解滤波器( ， )和重建滤波器( ， )将产生两个尺度函数( ， )和两个小波函数( ， )。其中 和 对应信号的分解，而 和 对应信号的重建。它们和 ， ， 及 相应的时域和频域的关系是： (12.2.3a) (12.2.3b) (12.2.4a) (12.2.4b) 及 (12.2.5a) (12.2.5b) (12.2.6a) (12.2.6b) 定理10.3给出了在正交滤波器组情况下 和 的关系，即(10.5.1)式。对应双正交滤波器组，这一关系变成： (12.2.7) 此即(12.1.6a)式。由(12.1.13)式，令 ，则分解和重建滤波器之间有如下关系： ，或 (12.2.8a) ，或 (12.2.8b) 同正交小波时一样，我们要求 和 都是低通的， 和 都是带通的。对应的，要求 和 是低通的， 和 是高通的，即 (12.2.9a) (12.2.9b) (12.2.10a) (12.2.10b) 由(12.1.16)式，有 ，及 (12.2.11a) ，及 (12.2.11b) 类似(10.4.14)式，可由(12.2.5)式导出 (12.2.12a) (12.2.12b) 类似(10.4.15)式，可由(12.2.6)式导出 (12.2.13a) (12.2.13b) 由上面的讨论可知，在“双正交”的情况下，我们在第七章及第十章所讨论的滤波器组及两尺度差分方程各增加了一套“对偶”，即 ， ； ， ； ， 和 ， 。上面各节给出了它们所应满足的时域及频域关系。下面的定理将给出双正交小波基的存在性。 定理12.3[42,5,8] 假定存在两个恒正的三角多项式 和 ，使得 (12.2.14a) (12.2.14b) 并假定 、 在 内非零，则 1． 由(12.2.12)式定义的 和 属于 ，且满足双正交关系 (12.2.15) 2． 两个小波函数序列 和 是 中的双正交Riesz基，即 (12.2.16) 该定理的证明见文献[42]。有了 中的双正交基，我们可对 作如下的分解： (12.2.17) 既然 ， 是 中的Riesz基，则必然存在常数 ， ，使得 (12.2.18a) (12.2.18b) 由上面的讨论可知，在双正交的情况下，我们并不要求 和 之间是正交的，也不要求 和 之间，以及其对偶函数 和 之间是正交的，仅要求 和 之间以及 和 之间是正交的，也即(12.2.15)和(12.2.16)式。正交性的放宽是使 及 具有线性相位，从而使 和 更具有对称性，从而减小了相位失真。 在第十章的多分辨率分析中，我们假定 (12.2.19a) (12.2.19b) 并有 ， (12.2.19c) 在双正交情况下，尺度函数 及其对偶 将产生两个空间。除了(12.2.19a)和(12.2.19b)式的关系外，还有 (12.2.20a) 及 (12.2.20b) 和 的嵌套关系是 (12.2.21a) (12.2.21b) 此时， 不再是 的正交补空间，但 ， ， 和 之间有如下关系： ， (12.2.22a) ， (12.2.22b) 由1.7节关于正交基的性质，有 (12.2.23a) (12.2.23b) 双正交小波下的快速算法和正交基小波下的快速算法基本相同，区别是在重建时使用的是对偶滤波器 和 。具体的分解方程和重建方程是： （12.2.24a） (12.2.24b) (12.2.25) 式中 ， 分别是 ， 作二插值得到的序列，见图12.1.1。 12.3 双正交小波的构造 双正交小波的构造包括 ， ， 及 的构造，而它们又都源于分解滤波器 、 及用于重建的对偶滤波器 和 。(12.1.14)式给出了 、 和 及 的关系，因此，双正交小波构造的核心问题是 和 的构造，这和正交小波的构造过程是一样的。如同第十一章关于正交小波的讨论，在具体给出双正交小波的构造方法之前，先讨论一下有关支撑范围、消失矩等有关的有关问题。 1． 支撑范围 如果 和 都是FIR滤波器，由(12.2.3)和(12.2.4)式， ， ， 及 将都具有有限支撑。若 和 的支撑范围分别是 ， ，则 和 的支撑范围分别是 和 ，而小波函数 和 的支撑范围分别是[8] 和 它们的长度都是 2． 消失矩 和 消失矩的数目取决于 和 在 处零点的数目。由定理11.1，若 在 处有 阶零点，则 有 阶消失矩。同理，若 在 处有 阶零点，则 有 阶消失矩。因此，在构造 和 时，应尽量让它们在 处有高阶的重零点。 3． 规则 编码规则下载淘宝规则下载天猫规则下载麻将竞赛规则pdf麻将竞赛规则pdf 性 此处不再详细讨论，其一般结论是： a) 由(12.2.4a)式， 和 有着相同的规则性； b) 和 的规则性随着 在 处零点数的增加而增加； c) 和 的规则性也是随着 在 处零点数的增加而增加； d) 如果 和 在 处有不同的零点数，则 和 的规则性也不相同。 4． 对称性 之所以使用双正交小波，其目的是使 ， 及其对偶滤波器具有线性相位，同时也使 和 都具有对称性。除Haar小波外，在正交小波的情况下，上述对称性是不可能实现的。如果 ， 具有奇数长且以 为对称，则 和 是以 为对称的，而 和 是相对位移位中心为对称的。如果 ， 具有偶数长且以 为中心作对称，则 和 是以 为中心作对称，而 和 以其位移中心作反对称。 显然，若 ， 是对称的，则图12.1.1中的 ， 都可改记为 和 ，也即在对 作分解时无需再将 和 翻转。 5. 及 的构造 由于要求 及 具有线性相位，因此，它们的频率响应可表为： (12.3.1a) (12.3.1b) 这是和Daubechies正交小波的一个主要区别。在实际工作中，我们总选取 和 为实值序列。因此，又有 ， (12.3.2) 由(12.2.12)式，必有 。同理，我们总是选择 为实函数，因此又有 ，即尺度函数 以 为对称。同样的结论适用于 。 若 和 以 为对称，例如，Haar小波的尺度函数即是如此。此时要求 、 仍是偶对称，但要增加一个移位因子，即 ， (12.3.3) 现在的问题是，如何找到合适的 及 ，使其所形成的滤波器组为双正交滤波器组，也即保证 、 及 ， 的双正交条件，即满足： 也即(12.1.16a)式。习惯上将该式两边取共轭，即 (12.3.4) Cohen，Daubechies给出了不同类型的双正交小波的结构方法[42, 5]，其要点是： (1). 令 固定，假定 是(12.3.4)式的解，若 ，则 也是(12.3.4)式的解。将该式代入(12.3.4)式即可验证。 (2). 因为 、 是实序列， 、 满足(12.3.2)式，所以 、 均应是实系数的三角多项式，它们可分别写成 (12.3.5a) 和 (12.3.5b) 的形式。 若 、 按(12.3.3)式的形式对称，则它们可表为 (12.3.6a) (12.3.6b) 的形式。 (3). 将(12.3.5)和(12.3.6)式分别代入(12.3.4)式，有 (12.3.7) 对应(12.3.5)式， ；对应(12.3.6)式， 。 由于 ，所以 ， 均可以表示为 的函数，再令 (12.3.8) 则(12.3.7)式可表示为： (12.3.9) (4). 令 ，则(12.3.9)式又可表为如下的Bezout方程： (12.3.10) 该方程和(11.4.5)式是一样的，区别只是 所表示的内容。只要能求出 ，由(12.3.8)式，即可得到 和 ，从而可按(12.3.5)或(12.3.6)式构造出 和 。 (5). (12.3.10)式的解由下式给出： (12.3.11) 这和(11.4.7)式的结果是一样的，式中 是一奇对称多项式，即 。 当 时， 、 以 为对称 时， 、 以 为对称 选用不同的R，对 作不同的分解可得到不同类型的双正交小波。Daubechies重点给出了基于样条函数的双正交小波的构造方法，同时也给出了 、 长度接近相等的基于样条函数的双正交小波的构造方法，现分别给以讨论。 12.4 双正交样条小波 样条函数是分段光滑且在连结点处具有一定光滑性的一类函数，它在数值逼近方面获得了广泛的应用。其中基数B样条(Cardinal B-Spline)函数具有最小的支撑范围且又容易在计算机上实现，因此被认为是构造小波函数的最佳候选者之一。 次B样条函数 是一阶B样条函数 自身作 次卷积所得到的，而 正是Haar小波的尺度函数，即 (12.4.1) 所以 (12.4.2) (12.4.3) 依次类推，有 (12.4.4) Battle和Lemarie用上述的样条函数构造了小波[8]，其思路是令尺度函数 等于 。考虑到 往往以 为对称，所以令 (12.4.5) (12.4.6) (12.4.7) 时的 如图12.4.1所示。由该图可以看出， 是不连续的， 连续但一阶导数不连续，而 的一阶导数是连续的，曲线已比较光滑。当 增大时， 会变得更光滑。 图12.4.1 由 得到尺度函数 很容易证明(12.4.4)式所决定的 的傅里叶变换是 (12.4.8) 而对移位后的 ，其傅里叶变换为 (12.4.9) 如果 为偶数，式中 ，若 为奇数，则式中 。 分析(12.4.6)式，我们发现 (12.4.10) 满足我们在第十章所讨论的二尺度差分方程。同时，可求出 (12.4.11) 是有界的。当 时， (12.4.12) 同样也满足二尺度差分方程，同理可求出 (12.4.13) 因此，在 时不同的 可构成一个多分辨率分析。由1.7节关于正交基频域的性质，由于(12.4.11) 和(12.4.13)式的右边不等于1，因此 的整数移位之间不构成正交基。由(9.8.40)式，我们可将 “正交化”，即令 (12.4.14)对 作反变换，得尺度函数 ，则 ， 可形成一族正交基。再由第十章的方法可得到正交归一的小波函数。 在双正交的情况下，我们可不必对 作(12.4.14)式的正交化，而直接用 作适当移位后的 作为尺度函数，如(12.4.5)～(12.4.7)式所示。这样选定 后，Daubechies令(12.3.11)式中的 等于零，并令 。 ，从而得到了在双正交条件下样条小波分析滤波器 和重建滤波器 的系数，即 ， (12.4.15a) ， (12.4.15b) ， (12.4.16a) ， (12.4.16b) (12.4.15a)和 (12.4.15b)分别对应(12.3.5b)式和 (12.3.6b)式，而(12.4.16)式是(12.3.5a)式、(12.3.6a)式和(12.3.11)式的结合。 由(12.4.15)式可以看出， 仅和 有关，而和 无关；由(12.4.16)式， 不但和 有关，而且还和 有关，也即 取决于 和 。给定不同的 和 ，就可求出一对 和 。将(12.4.15)式和(12.4.8)及(12.4.9)式相比较可以看出，尺度函数 的傅里叶变换的“阶次 ”和 中的 等价，也即 即是得到 时由 卷积的次数，或称之为 的“阶次”。 现给出不同 和 组合情况下 、 、 、 、 和 的系数。 情况1. 令 ，则必有 ，由(12.4.15b)式，有 所以 ， 即 令 ，则必有 ，由(12.4.16b)式，有 [注]：Daubechies在文献[5]中令 ，故和本 书 关于书的成语关于读书的排比句社区图书漂流公约怎么写关于读书的小报汉书pdf 定义的 有区别。 所以 即 在 时的尺度函数 即是Haar尺度函数，即 ，对 ，其余为零。又由于在 时的 ，由(12.2.12b)式，必有 。 易知在该情况下的小波函数即是Haar小波，即 我们知道， Haar小波属正交小波，即DB1，但因为它是对称的，故又属双正交小波。我们记在该情况下的 ， ， 和 分别为 ， ， 及 。前面的1代表 ，后面的1代表 ，以下均相同。 在 的情况下，我们再令 ，则必有 ，由(12.4.16b)式，有 所以 因为 仍为1，所以， 不变， ， 及 可由上一节的公式推出。但MATLAB中的wavefun.m文件可用来产生这些函数，如图12.4.2所示。 情况2：令 ，则 ，由(12.4.5a)式，有 再令 ，则 ，由(12.4.16a)式，有 即 按此方法类推，读者不难得出在不同 和 的组合下的 及 ，如表12.4.1所示。 和 的合适组合是： ， ， ， 由该表可以看出， 和 ，特别是 ，若不考虑前面的 ，其分母的系数都是2的整次幂，因此有利于在计算机上快速实现。此外，在不同的 值下， 都是精确已知的，这些都是样条点双正交小波的优点。在不同组合下的 ， ， 及 如图12.4.2~12.4.6所示。其中图12.4.2给出的是 ， 和5时的 及 。图中左边标的“bior 1.3 phi-D”，即是指双正交小波的尺度函数 ，对应 ， ，“D”代表分解，右边图标的“psi”指的是“ ”。以下各图的标法均相同。另外，图中的横坐标是MATLAB按正的坐标求出的，这和12.3节所给出的支撑范围有区别。 图12.4.2 ， 时用于分解的 和 图12.4.5给出的是 ， ， 和 时的 (图中标为phi-R，R代表重建)。显然， 时的 即是Haar尺度函数，它即是图12.4.1的(a)图。而 时的 即是图12.4.1(b)， 时的 即是图12.4.1(c)。它们分别是 ， 和 。显然，图中 时的 应是 。注意， 只和 有关，而和 无关。 图12.4.6给出的是 ， ； ， ； ， 和 ， 时的 。显然， 不仅和 有关，而且也和 有关。 图12.4.3， ， 时用于分解的 和 图12.4.4， ， 时用于分解的 和 12.4.5， 时用于重建的 图12.4.6， ， ； ， ； ， 和 ， 时用于重建的 表12.4.1给出了在 时 取不同值时 ， 的系数，由于在 ， 和8， ， 和9时的 的系数过长，故表中没有列入，详细数据可参考文献[5]。 由以上讨论可知，按(12.4.15)或(12.4.16)式构造出的 及 的长度差别甚大，且 越大，这一差别越明显。由(12.1.15a)式， 的长度决定了 的长度。这样，一对分解滤波器 和 的长度将会有着明显的不同。这在一些应用中将会带来不便和麻烦，特别是在语音和图像处理方面。 和 长度不同的原因在于对 的分解，即(12.4.15)和(12.4.16)式是在假定 ， 情况下得到的。若对 作另外形式的分解，即 ， ， (12.4.17) 然后将 和 分别代入(12.3.5)和(12.3.6)式，则可得到保证在双正交条件下且长度接近的 和 。Daubechies令[5] (12.4.18) 表12.4.1 ， 的系数 1 1 3 5 2 2 4 3 1 3 式中 为 的一阶实根， 是 的共扼复根，然后在保证 、 系数始终为实数的情况下，考虑 ， 对 和 的分配。 在 ， ，即 的情况下，有 即 它有两个实根，即 ， ，两对共扼复根，即 ， 。又由于 令 ，则上式等效为 。它即属于 ，也属于 。若将上面分解出的零点 和 赋给 ，则 的长度为7。将余下的 和 赋给 ，则 的长度为9。这样，二者的长度基本相等，即满足了(12.3.9)式，且又具有对称性。 当 ， 时，存在两种分解方式。相应的系数如表12.4.2所示。 ， 时的 ， ， 和 如图12.4.7所示， 时的 ， ， 和 如图12.4.8所示。 图12.7.7 ， 时用于分解的 , 及用于重建的 ， 以上除双正交小波外，Daubechies还构造了接近于正交基的双正交基函数，详细内容见文献[5]，此处不再讨论。 图12.4.8 ， 时用于分解的 , 及用于重建的 ， 表11.4.2 具有接近长度的双正交小波对应的滤波器系数 , =4 =4 0 -1,1 -2,2 -3,3 -4,4 0.78848561640637 0.41809227322204 -0.04068941760920 -0.06453888262976 0 0.85269867900889 0.37740285561283 -0.11602440441844 -0.02384946501956 0.03782845554969 =5 =5 0 -1,1 -2,2 -3,3 -4,4 -5,5 0.89950610974865 0.47680326579848 -0.09350469740094 -0.13670658466433 -0.00269496688011 0.01345670945912 0.73666018142821 0.34560528195603 -0.05446378846824 0.00794810863724 0.03968708834741 0 =5 =5 0 -1,1 -2,2 -3,3 -4,4 -5,5 0.54113273169141 0.34335173921766 0.06115645341349 0.00027989343090 0.02183057133337 0.00992177208685 1.32702528570780 0.47198693379091 -0.36378609009851 -0.11843354319764 0.05382683783789 0 12.5 正交小波包 第十章讨论的多分辨率分析将 空间逐层进行分解，如将 分成 和 ，再将 分成 和 ，其中 ， ，及 。对同一尺度 ， 是低频空间， 是高频空间，因此，信号 在 中的展开系数 反映了信号的“概貌”，而在 中的展开系数 反映了信号的“细节”，也即 的小波系数。由于这种分解具有恒 性质，即在高频端可获得很好的时域分辨率而在低频端可获得很好的频域分辨率，因此，这种分解相对均匀滤波器组和短时傅里叶变换有着许多突出的优点，因此获得了广泛的应用。 但这种分解仅是将 逐级往下分解。而对 不再作分解。将 和 相比，显然， 对应最好的时域分辨率，但是有着最差的频域分辨率。这在既想得到好的时域分辨率又想得到好的频域分辨率的场合是不能满足需要的。当然，在任何情况下，时域－频域分辨率之间都要受到不定原理的制约，但是，我们毕竟可根据工作的需要在二者之间取得最好的折中。例如，在多分辨率分解的基础上，我们可将 空间再作分解，如图12.5.1所示。 图12.5.1 空间的逐级分解 在该图的分解中，任取一组空间进行组合，如果这一组空间：①能将空间 覆盖；②相互之间不重合，则称这一组空间中的正交归一基的集合构造了一个小波包(wavelet packet)。显然，小波包的选择不是唯一的，也即对信号分解的方式不是唯一的。如在图12.5.1中，我们可选择 ① ， ， ， ， ， ， ， ； ② ， ， ， ， ； ③ ， ， 等不同空间来组合，它们都可覆盖 ，相互之间又不重合。如何决定最佳的空间组合及寻找这些空间中的正交归一基便是小波包中的主要研究内容。 图12.5.1的空间分解可用图12.5.2的滤波器组来实现。注意，在实现各级的卷积时，图中滤波器 的系数要事先翻转，即将 变成 。 图12.5.2 图12.5.1的滤波器组实现 由该图可以看出，基于小波包的信号分解也是用一对滤波器 和 来实现的。在第十章的多分辨率分析中，我们详细讨论和论证了在 和 中分别存在正交归一基 和 ，它们和共轭正交镜像滤波器组 、 有如下关系： (12.5.1a) (12.5.1b) 当 时，有 (12.5.2a) (12.5.2b) 此即二尺度差分方程。式中， 、 有如下关系： (12.5.3) 在上述的多分辨率分析中，当将 分解成 和 时， 中的正交归一基基 产生了两个正交归一基 和 ，它们分别属于 和 ，生成办法即是(12.5.1)式的二尺度差分方程。由此我们可以设想，在图12.5.1中，将 分解生成 和 时， 中的正交归一基 也将会依照二尺度差分方程分别生成 和 中的正交归一基。如果这一结论正确，则图12.5.1中的各个子空间将都存在正交归一基。文献[8]证明了这个一般结论。该结论可由下述定理来描述： 定理12.5 令 是空间 中的正交归一基， ， 是满足(12.5.3)式的一对共轭正交滤波器，令 (12.5.4a) (12.5.4b) 则 是 中的正交归一基。 该定理的证明见文献[8]。显然，令 ， 分别是 和 所产生的空间。自然有 (12.5.5) 在图12.5.1中， 中有正交基 ， 中有正交基 ， 中有正交基 。按定理12.5，由 可生成 ， 中的正交基。依次类推，我们可得到图12.5.1中任一子空间中的正交归一基。 对于给定的尺度 ，在图12.5.1中，共有 个子空间。为了讨论的方便，我们将图中的子空间统一标记为 ， ， 。如 ，共有 ， ， 个子空间。显然， 对应每一次剖分的低频部分，而 对应其高频部分， 。令每一个子空间的正交归一基为 。由(12.5.1) 及(12.5.4)式，有 (12.5.6a) (12.5.6b) 及 (12.5.7a) (12.5.7b) 由(12.5.5)式，有 (12.5.8) 显然，当 时， 即是空间 ，基函数 即是 中的正交归一基 ，也即尺度函数。由图12.5.1也可看出， 即是我们在第十章讨论过的多分辨率分析中的空间 ，因此 中的正交归一基 即是 中的正交归一基 ，也即小波函数。由(12.5.6)式，令 ，则 (12.5.9a) (12.5.9b) 按照上述思路，只要我们给定了 中的尺度函数 及相应的小波函数 ，由(12.5.6)，或(12.5.9)式即可递推地求出小波包分解中各个子空间中的基函数 和 。 例12.5.1 对Harr小波， ， ， 由(12.5.6)式，有 当 时， 当 时， ， 的宽度都是 ，而 的宽度为 。 时的 分别示于图12.5.3a，b和c。 图12.5.3 由Harr小波生成的小波包 (a) , (b) (c) 例12.5.2 令 空间中的 为“DB5”小波对应的尺度函数，当 时，求出 中的小波基 如图12.5.4所示。 图12.5.4 时，由“DB5”小波生成的 上述两例的分解过程可以形象地表为一个二进制的树结构，如图12.5.5所示。图中结点处的数值即为 。MATLAB中的plottree命令文件可画出此结构图。 令 ，则 (12.5.10) 是 在空间 中的“概貌”。我们把它当作一个树状滤波器组的输入信号。在小波 图12.5.5 时的二进制树结构图 包的分解中，对任意的结点 ，则 为 在该结点(或子空间 )处的小波包系数，它是 和基函数 作内积的结果。下述定理给出了小波包系数的快速计算方法。 定理12.6 在小波包的分解中，在结点 处的小波包系数由下式给出 (12.5.11a) (12.5.11b) 而在结点 处的小波包系数 可由下式重建： (12.5.12) 式中 和 分别是 和 每两个点插入一个零后所得到的序列。 该定理的证明类似于定理10.6和定理10.7，此处不再讨论。 时的分解与重建如图12.5.6a和b所示。图中 即是 。在图（a）中，当实现各级的卷积时，图中滤波器 的系数同样要事先翻转，即将 变成 。 图12.5.6 基于滤波器组的小波包分解与重建 （a）小波包分解, (b) 小波包重建 例12.5.3 信号 是MATLAB中所给的信号noisdopp.mat，如图12.5.7a的第一个图所示。令 ，我们可得到对 作小波包分解后的各个子空间的系数 。由此可看出信号 在各个频带上的时域行为。图中所用小波均是“DB5”正交小波。图a对应 ，图b对应 ，图c对应 。 图12.5.7信号的小波包分解， (a) 原信号 ， 和 ；(b) ， ， 及 ；(c) 。 由该图可以看出，当 时， 反映了 的概貌，它相当于多分辨率分析中的 空间的 。而 相当于 空间的 ，它是 中的噪声分量，也即高频成分；当 时， 仍是信号的概貌，但比 含有较少的噪声， ， 及 也属于噪声分量，当 时，反映概貌的 已几乎不含噪声， 属于噪声成分，但其幅值已很小。 上述分解是将 及3时的分解系数全部求出。实际上，根据小波包的定义，我们只需取部分互不重迭且又能覆盖 的子空间即可，这即是所谓“最佳小波包”的选择问题。一个最佳小波包的选择取决于三个因素： (1) 信号本身的性质； (2) 信号分解的目的； (3) “最佳”原则的选择。 显然，一个最佳的小波包应使信号 在其各个子空间中的投影(即 )尽可能地大。至于说由哪几个空间组成一个最佳的小波包，显然取决于信号 能量随频率的分布。从应用的角度看，分解的目的若是为了去噪，那就应舍弃噪声能量较大的子空间，选择不但信号能量大而且噪声也小的空间；分解的目的若是为了数据的压缩，则应选择信号能量集中的空间。但是，无论何种目的，在决定“最佳小波包”的过程中，我们总要确定一个“代价函数”，从而使在各种小波包选择的可能中，所选择的一种具有最小的代价函数。 至今，人们已提出了代价函数的多种选择方法，如“编码率－失真(R－D)指标”[21]，“Shannon熵判据”[21]，“范数(Norm)”判据等。若令 为信号 在某一子空间正交基上的投影，则定义 (12.5.13) 为 的Shannon熵，定义 (12.5.14) 为 的 范数。此外，还可定义， (12.5.15) 为 的对数能量熵。这样，对给定的信号 ，我们可求出它在每一个子空间中的“熵”或范数，并把它们作为代价函数来决定小波包的选择。文献[21]以 为例介绍了一种自底向顶的快速搜索方法。如图12.5.8所示。上方的空间为“母空间”，下方的空间为“子空间”。在每一个空间都标上了由(12.5.13)～(12.5.15)式中任一式求出的代价函数。如果子空间的代价总和小于母空间的代价，这说明这一分解是值得的，因此，该子空间应预以保留。反之，若子空间的代价总和大于母空间的代价，则这一分解是不适当的，应加以放弃，即保留“母空间”。 由于 加上 中的代价为3，小于 的代价11，所以由 至 和 的分解应加以保留； 加上 的代价为7，小于 的代价12，所以这一分解也应保留。同理， 加 的代价为11，小于 的代价13，应加以保留，但 加 的代价为15，大于 的代价14，因此这一分解应该放弃。依次往上类推，最后选中的应是子空间 ， ， ， 及 ，由它们构成在所给定意义上最佳的“小波包”。其中，选中的 ， 和 由于可由 所覆盖，故可以放弃。 图12.5.8 最佳小波包选择 图中阴影部分为最后所选择的小波包 MATLAB中的wavelet Toolbox中有着丰富的有关小波包的命令，其中 Wentropy.m：用来计算所给定信号在各个子空间分解后的熵； Besttree.m：在指定所用的熵的基础上用来确定最佳小波包的选择。实际上给出的是最佳树的选择； Wpdec.m：对给定的信号 和熵，确定分解的树结构和分解后的数据结构； Wpcoef.m：由上面的数据结构得到在各子空间的分解系数(即 )； Wprec.m：由上述分解系数重建信号 。 例12.5.4 令 仍然为MATLAB中的noisdopp.mat。如图12.5.5(a)的第一个图 所示。用如下三个命令可得到对 的最佳二进制树结构： [wpt，wpd]=wpdec(x，3，‘wname’)； ％：对 作分解，wpt中含树结构，wpd中含数据结构，使用“Shannon”熵； ％：‘wname’指定要选的小波。本例中，wname＝DB1。3表示 。 [t1，d1，e，n]=besttree(wpt，wpd)； ％：找最佳树结构，存t1中，d1含新的数据结构，e中含各结点的熵，n为波合并％：的结点索引序号； [t，d]＝wp2wtree( ， )； ％：抽取最佳树结构t，并得到相应的数据结构； Plottree(t)； ％：画出该树结构。如图12.5.9所示。 图12.5.9 时的最佳树结构。(a) 最佳树结构, (b) 分解的区间 由该图可以看出，结点(1.1)没有再分解，结点(2.1)也没有再分解，所分解的空间如图(b)所示。因此，我们可选 ， ， 及 作最佳小波包。当然，也可选 ， 及 作最佳小波包，但这对应的是 的分解，而不是 的分解。 H1(z) � EMBED Equation.3 ��� H0(z) � EMBED Equation.3 ��� � EMBED Equation.3 ��� � EMBED Equation.3 ��� ↑2 ↓2 H1 (z-1) ↑2 H0 (z-1) ↓2 � EMBED Equation.3 ��� � EMBED Equation.3 ��� V0 V1(L) W1(H) V21(LL) W21(HL) V22(LH) W22(HH) W34(HHH) V34(HHH) V31(LLL) W31(HLL) W33(HLH) V33(LLH) W32(HHL) V32(LHL) � EMBED Equation.3 ��� � EMBED Equation.3 ��� � EMBED Equation.3 ��� � EMBED Equation.3 ��� � EMBED Equation.3 ��� � EMBED Equation.3 ��� � EMBED Equation.3 ��� � EMBED Equation.3 ��� ↓2 H0 ↓2 H1 � EMBED Equation.3 ��� � EMBED Equation.3 ��� � EMBED Equation.3 ��� � EMBED Equation.3 ��� � EMBED Equation.3 ��� � EMBED Equation.3 ��� � EMBED Equation.3 ��� ↓2 H0 ↓2 H0 ↓2 H1 ↓2 H1 ↓2 H0 ↓2 H1 ↓2 H0 ↓2 H0 ↓2 H1 ↓2 H1 ↓2 H0 ↓2 H1 � EMBED Equation.3 ��� � EMBED Equation.3 ��� � EMBED Equation.3 ��� � EMBED Equation.3 ��� � EMBED Equation.3 ��� � EMBED Equation.3 ��� � EMBED Equation.3 ��� � EMBED Equation.3 ��� � EMBED Equation.3 ��� � EMBED Equation.3 ��� � EMBED Equation.3 ��� � EMBED Equation.3 ��� � EMBED Equation.3 ��� � EMBED Equation.3 ��� � EMBED Equation.3 ��� � EMBED Equation.3 ��� � EMBED Equation.3 ��� � EMBED Equation.3 ��� � EMBED Equation.3 ��� � EMBED Equation.3 ��� � EMBED Equation.3 ��� � EMBED Equation.3 ��� ↓2 H0(z) ↓2 H1(z) ↓2 H0(z) ↓2 H0(z) ↓2 H1(z) ↓2 H1(z) � EMBED Equation.3 ��� � EMBED Equation.3 ��� � EMBED Equation.3 ��� � EMBED Equation.3 ��� � EMBED Equation.3 ��� � EMBED Equation.3 ��� � EMBED Equation.3 ��� ↑2 H1(z) ↑2 H0(z) ↑2 H0(z) ↑2 H0(z) ↑2 H1(z) ↑2 H1(z) � EMBED Equation.3 ��� � EMBED Equation.3 ��� � EMBED Equation.3 ��� 20 � EMBED Equation.3 ��� 22 � EMBED Equation.3 ��� 11 � EMBED Equation.3 ��� 12 � EMBED Equation.3 ��� 14 � EMBED Equation.3 ��� 13 1 2 3 4 5 6 7 8 � EMBED Equation.3 ��� � EMBED Equation.3 ��� � EMBED Equation.3 ��� � EMBED Equation.3 ��� � EMBED Equation.3 ��� � EMBED Equation.3 ��� � EMBED Equation.3 ��� � EMBED Equation.3 ��� � EMBED Equation.3 ��� � EMBED Equation.3 ��� � EMBED Equation.3 ��� � EMBED Equation.3 ��� � EMBED Equation.3 ��� � EMBED Equation.3 ��� � EMBED Equation.3 ��� W03 W13 W02 W12 W01 W11 PAGE - 394 - _1040540066.unknown _1040562559.unknown _1040573007.unknown _1040579683.unknown _1043047865.unknown _1043129166.unknown _1044452683.unknown _1044625046.unknown _1044795792.unknown _1044796011.unknown _1046086239.unknown _1046086272.unknown _1045336015.unknown _1045336022.unknown _1046086071.unknown _1045336018.unknown _1045336014.unknown _1044795917.unknown _1044795957.unknown _1044795804.unknown _1044795810.unknown _1044795797.unknown _1044795699.unknown _1044795729.unknown _1044795742.unknown _1044625339.unknown _1044795685.unknown _1044453108.unknown _1044453514.unknown _1044453531.unknown _1044625024.unknown _1044453522.unknown _1044453486.unknown _1044453503.unknown _1044453461.unknown _1044453473.unknown _1044453081.unknown _1044453097.unknown _1044452770.unknown _1044453054.unknown _1044452705.unknown _1044450758.unknown _1044450905.unknown _1044452674.unknown _1044452643.unknown _1044452659.unknown _1044452630.unknown _1044450857.unknown _1044450893.unknown _1044450769.unknown _1044450829.unknown _1044430661.unknown _1044447115.unknown _1044450729.unknown _1044447088.unknown _1044447102.unknown _1044447077.unknown _1044430555.unknown _1044430587.unknown _1044430621.unknown _1044430571.unknown _1043129275.unknown _1044430520.unknown _1043127756.unknown _1043127917.unknown _1043128168.unknown _1043129111.unknown _1043127928.unknown _1043127814.unknown _1043127835.unknown _1043127788.unknown _1043062428.unknown _1043063212.unknown _1043066779.unknown _1043063078.unknown _1043062252.unknown _1043062332.unknown _1043048550.unknown _1043043338.unknown _1043045761.unknown _1043047484.unknown _1043047517.unknown _1043047857.unknown _1043047506.unknown _1043047241.unknown _1043047465.unknown _1043045782.unknown _1043044529.unknown _1043045687.unknown _1043045730.unknown _1043045390.unknown _1043043543.unknown _1043043548.unknown _1043043428.unknown _1040580364.unknown _1040583111.unknown _1040628998.unknown _1040630617.unknown _1040632852.unknown _1040644674.unknown _1040646687.unknown _1040647187.unknown _1040647418.unknown _1043043316.unknown _1040647664.unknown _1040647734.unknown _1040647712.unknown _1040647472.unknown _1040647332.unknown _1040647399.unknown _1040647259.unknown _1040647017.unknown _1040647085.unknown _1040647149.unknown _1040647043.unknown _1040646746.unknown _1040646760.unknown _1040646703.unknown _1040645435.unknown _1040645848.unknown _1040646082.unknown _1040646112.unknown _1040645985.unknown _1040645648.unknown _1040645814.unknown _1040645506.unknown _1040644717.unknown _1040645067.unknown _1040645380.unknown _1040644915.unknown _1040644101.unknown _1040644610.unknown _1040644399.unknown _1040644583.unknown _1040644158.unknown _1040643944.unknown _1040644031.unknown _1040644047.unknown _1040643974.unknown _1040643883.unknown _1040643609.unknown _1040643666.unknown _1040632064.unknown _1040632356.unknown _1040632641.unknown _1040632770.unknown _1040632561.unknown _1040632194.unknown _1040632293.unknown _1040632165.unknown _1040631493.unknown _1040631985.unknown _1040631908.unknown _1040631932.unknown _1040631296.unknown _1040631311.unknown _1040631260.unknown _1040629744.unknown _1040630113.unknown _1040630348.unknown _1040630504.unknown _1040630557.unknown _1040630239.unknown _1040630273.unknown _1040630188.unknown _1040630162.unknown _1040629954.unknown _1040630070.unknown _1040629876.unknown _1040629440.unknown _1040629586.unknown _1040629611.unknown _1040629487.unknown _1040629329.unknown _1040629376.unknown _1040629289.unknown _1040626237.unknown _1040628115.unknown _1040628582.unknown _1040628812.unknown _1040628882.unknown _1040628695.unknown _1040628358.unknown _1040628400.unknown _1040628296.unknown _1040626505.unknown _1040628016.unknown _1040628057.unknown _1040627911.unknown _1040626310.unknown _1040626341.unknown _1040626250.unknown _1040583862.unknown _1040584093.unknown _1040584139.unknown _1040625973.unknown _1040626011.unknown _1040584132.unknown _1040583989.unknown _1040584054.unknown _1040583902.unknown _1040583463.unknown _1040583586.unknown _1040583666.unknown _1040583490.unknown _1040583223.unknown _1040583403.unknown _1040583165.unknown _1040581430.unknown _1040582021.unknown _1040582798.unknown _1040583075.unknown _1040582940.unknown _1040582971.unknown _1040582733.unknown _1040582586.unknown _1040581853.unknown _1040581930.unknown _1040581950.unknown _1040582002.unknown _1040581885.unknown _1040581788.unknown _1040581840.unknown _1040581735.unknown _1040581761.unknown _1040581617.unknown _1040580905.unknown _1040581137.unknown _1040581291.unknown _1040580982.unknown _1040580700.unknown _1040580767.unknown _1040580365.unknown _1040580234.unknown _1040580272.unknown _1040580305.unknown _1040580329.unknown _1040579915.unknown _1040580143.unknown _1040580175.unknown _1040580082.unknown _1040580119.unknown _1040579945.unknown _1040579865.unknown _1040579854.unknown _1040575668.unknown _1040577880.unknown _1040578813.unknown _1040579314.unknown _1040579552.unknown _1040579587.unknown _1040579378.unknown _1040578869.unknown _1040579268.unknown _1040578842.unknown _1040578519.unknown _1040578557.unknown _1040578781.unknown _1040578532.unknown _1040578383.unknown _1040578456.unknown _1040578262.unknown _1040576130.unknown _1040577682.unknown _1040577823.unknown _1040577461.unknown _1040577673.unknown _1040577390.unknown _1040575868.unknown _1040575997.unknown _1040576025.unknown _1040575914.unknown _1040575735.unknown _1040575766.unknown _1040574082.unknown _1040575104.unknown _1040575586.unknown _1040575426.unknown _1040575527.unknown _1040575406.unknown _1040574760.unknown _1040574989.unknown _1040575081.unknown _1040574888.unknown _1040574624.unknown _1040574274.unknown _1040574305.unknown _1040574093.unknown _1040573458.unknown _1040573858.unknown _1040573961.unknown _1040573976.unknown _1040574040.unknown _1040573917.unknown _1040573701.unknown _1040573728.unknown _1040573677.unknown _1040573267.unknown _1040573317.unknown _1040573437.unknown _1040573294.unknown _1040573222.unknown _1040573239.unknown _1040573182.unknown _1040565924.unknown _1040566959.unknown _1040567466.unknown _1040572592.unknown _1040572829.unknown _1040572920.unknown _1040572699.unknown _1040572489.unknown _1040572563.unknown _1040572397.unknown _1040567154.unknown _1040567261.unknown _1040567305.unknown _1040567186.unknown _1040567054.unknown _1040567140.unknown _1040567044.unknown _1040566321.unknown _1040566791.unknown _1040566920.unknown _1040566946.unknown _1040566895.unknown _1040566534.unknown _1040566680.unknown _1040566705.unknown _1040566579.unknown _1040566453.unknown _1040566162.unknown _1040566227.unknown _1040566298.unknown _1040566202.unknown _1040566002.unknown _1040566065.unknown _1040565973.unknown _1040565050.unknown _1040565228.unknown _1040565303.unknown _1040565329.unknown _1040565444.unknown _1040565317.unknown _1040565248.unknown _1040565272.unknown _1040565240.unknown _1040565164.unknown _1040565201.unknown _1040565218.unknown _1040565179.unknown _1040565097.unknown _1040565137.unknown _1040565081.unknown _1040563967.unknown _1040564558.unknown _1040564814.unknown _1040565023.unknown _1040564784.unknown _1040564449.unknown _1040564493.unknown _1040564425.unknown _1040564357.unknown _1040564390.unknown _1040563354.unknown _1040563407.unknown _1040563779.unknown _1040563396.unknown _1040563166.unknown _1040563345.unknown _1040563094.unknown _1040544924.unknown _1040558997.unknown _1040560868.unknown _1040561768.unknown _1040562229.unknown _1040562448.unknown _1040562476.unknown _1040562396.unknown _1040562418.unknown _1040562168.unknown _1040561423.unknown _1040561503.unknown _1040561696.unknown _1040561458.unknown _1040561046.unknown _1040561172.unknown _1040561124.unknown _1040561155.unknown _1040561164.unknown _1040561067.unknown _1040561006.unknown _1040559788.unknown _1040560590.unknown _1040560849.unknown _1040560859.unknown _1040560817.unknown _1040560345.unknown _1040560495.unknown _1040559817.unknown _1040559250.unknown _1040559547.unknown _1040559752.unknown _1040559325.unknown _1040559110.unknown _1040559199.unknown _1040559045.unknown _1040545539.unknown _1040546195.unknown _1040546303.unknown _1040558669.unknown _1040558860.unknown _1040558268.unknown _1040546274.unknown _1040546291.unknown _1040545886.unknown _1040546106.unknown _1040546132.unknown _1040546157.unknown _1040546063.unknown _1040545565.unknown _1040545576.unknown _1040545547.unknown _1040545104.unknown _1040545394.unknown _1040545488.unknown _1040545133.unknown _1040545037.unknown _1040545093.unknown _1040545015.unknown _1040543146.unknown _1040543885.unknown _1040544778.unknown _1040544089.unknown _1040544321.unknown _1040544513.unknown _1040544652.unknown _1040544144.unknown _1040543935.unknown _1040543468.unknown _1040543780.unknown _1040543813.unknown _1040543628.unknown _1040543364.unknown _1040543417.unknown _1040543318.unknown _1040541317.unknown _1040541634.unknown _1040542788.unknown _1040543124.unknown _1040542597.unknown _1040541400.unknown _1040541616.unknown _1040541332.unknown _1040540729.unknown _1040541059.unknown _1040541306.unknown _1040540730.unknown _1040540303.unknown _1040540586.unknown _1040540623.unknown _1040540556.unknown _1040540129.unknown _977602195.unknown _977605810.unknown _978889582.unknown _1037628601.unknown _1037630022.unknown _1037630116.unknown _1037630252.unknown _1037630307.unknown _1037630353.unknown _1040540051.unknown _1037630332.unknown _1037630272.unknown _1037630197.unknown _1037630234.unknown _1037630178.unknown _1037630079.unknown _1037630095.unknown _1037630059.unknown _1037628977.unknown _1037629231.unknown _1037629993.unknown _1037630001.unknown _1037629235.unknown _1037629239.unknown _1037629327.unknown _1037629237.unknown _1037629233.unknown _1037629211.unknown _1037629229.unknown _1037629003.unknown _1037628830.unknown _1037628952.unknown _1037628691.unknown _979059143.unknown _979059746.unknown _1037628464.unknown _1037628498.unknown _979060389.unknown _979059499.unknown _979059584.unknown _979059261.unknown _979058871.unknown _979059090.unknown _979059119.unknown _979059004.unknown _979059031.unknown _979059052.unknown _979058893.unknown _978889685.unknown _978891436.unknown _978889675.unknown _977652709.unknown _977657629.unknown _977660048.unknown _977662404.unknown _977663848.unknown _977678773.unknown _977679019.unknown _977679106.unknown _977680343.unknown _977681123.unknown _977681195.unknown _977685423.unknown _978889540.unknown _977685435.unknown _977681230.unknown _977681187.unknown _977680655.unknown _977680963.unknown _977680644.unknown _977679326.unknown _977679872.unknown _977680183.unknown _977679333.unknown _977679803.unknown _977679133.unknown _977679255.unknown _977679116.unknown _977679083.unknown _977679062.unknown _977678996.unknown _977679006.unknown _977678799.unknown _977678791.unknown _977678258.unknown _977678725.unknown _977678764.unknown _977678699.unknown _977677607.unknown _977677789.unknown _977664044.unknown _977677593.unknown _977662882.unknown _977663166.unknown _977663705.unknown _977663760.unknown _977663688.unknown _977662993.unknown _977663104.unknown _977662902.unknown _977662717.unknown _977662754.unknown _977662832.unknown _977662805.unknown _977662727.unknown _977662497.unknown _977662701.unknown _977662474.unknown _977661747.unknown _977662142.unknown _977662315.unknown _977662368.unknown _977662393.unknown _977662335.unknown _977662353.unknown _977662173.unknown _977662257.unknown _977662149.unknown _977662055.unknown _977662096.unknown _977662130.unknown _977662082.unknown _977661961.unknown _977661963.unknown _977661960.unknown _977661360.unknown _977661522.unknown _977661631.unknown _977661688.unknown _977661581.unknown _977661562.unknown _977661443.unknown _977661450.unknown _977661383.unknown _977660708.unknown _977660990.unknown _977661013.unknown _977660902.unknown _977660523.unknown _977660572.unknown _977660335.unknown _977660195.unknown _977660316.unknown _977658814.unknown _977659326.unknown _977659776.unknown _977659936.unknown _977659625.unknown _977659660.unknown _977659610.unknown _977659491.unknown _977659549.unknown _977659082.unknown _977659145.unknown _977659303.unknown _977659103.unknown _977658909.unknown _977659016.unknown _977659050.unknown _977658944.unknown _977658884.unknown _977658106.unknown _977658629.unknown _977658729.unknown _977658788.unknown _977658667.unknown _977658329.unknown _977658532.unknown _977658220.unknown _977658328.unknown _977657844.unknown _977657975.unknown _977658074.unknown _977657953.unknown _977657674.unknown _977657791.unknown _977657652.unknown _977655377.unknown _977656552.unknown _977657271.unknown _977657443.unknown _977657474.unknown _977657319.unknown _977657389.unknown _977657300.unknown _977656902.unknown _977657107.unknown _977657185.unknown _977657257.unknown _977656943.unknown _977656643.unknown _977656782.unknown _977656587.unknown _977656298.unknown _977656424.unknown _977656445.unknown _977656506.unknown _977656433.unknown _977656359.unknown _977656375.unknown _977656324.unknown _977656056.unknown _977656197.unknown _977656229.unknown _977656089.unknown _977655412.unknown _977656046.unknown _977655402.unknown _977653541.unknown _977654036.unknown _977655092.unknown _977655230.unknown _977655354.unknown _977655110.unknown _977654073.unknown _977654405.unknown _977654072.unknown _977653825.unknown _977653874.unknown _977654011.unknown _977654024.unknown _977653899.unknown _977653837.unknown _977653629.unknown _977653650.unknown _977653662.unknown _977653612.unknown _977653085.unknown _977653490.unknown _977653514.unknown _977653422.unknown _977652995.unknown _977653042.unknown _977652970.unknown _977607335.unknown _977651841.unknown _977651949.unknown _977652621.unknown _977652646.unknown _977652672.unknown _977652519.unknown _977652541.unknown _977651986.unknown _977651970.unknown _977651908.unknown _977651917.unknown _977651891.unknown _977651793.unknown _977651821.unknown _977651829.unknown _977651812.unknown _977651748.unknown _977651768.unknown _977651783.unknown _977651767.unknown _977651728.unknown _977606522.unknown _977606753.unknown _977607320.unknown _977607326.unknown _977606837.unknown _977606896.unknown _977606944.unknown _977606809.unknown _977606824.unknown _977606768.unknown _977606791.unknown _977606607.unknown _977606691.unknown _977606572.unknown _977606419.unknown _977606460.unknown _977606469.unknown _977605874.unknown _977606358.unknown _977606402.unknown _977605856.unknown _977603639.unknown _977605268.unknown _977605515.unknown _977605666.unknown _977605750.unknown _977605779.unknown _977605799.unknown _977605727.unknown _977605720.unknown _977605552.unknown _977605643.unknown _977605541.unknown _977605407.unknown _977605464.unknown _977605500.unknown _977605448.unknown _977605375.unknown _977604563.unknown _977604836.unknown _977605063.unknown _977605238.unknown _977604855.unknown _977604601.unknown _977604722.unknown _977604576.unknown _977604257.unknown _977604368.unknown _977604542.unknown _977604350.unknown _977603839.unknown _977604211.unknown _977603736.unknown _977603751.unknown _977603693.unknown _977602486.unknown _977603115.unknown _977603478.unknown _977603561.unknown _977603498.unknown _977603529.unknown _977603215.unknown _977603309.unknown _977603146.unknown _977602552.unknown _977603027.unknown _977602595.unknown _977602715.unknown _977602573.unknown _977602527.unknown _977602302.unknown _977602438.unknown _977602455.unknown _977602338.unknown _977602275.unknown _977602290.unknown _977602251.unknown _977599657.unknown _977601480.unknown _977601911.unknown _977601934.unknown _977602141.unknown _977602163.unknown _977602165.unknown _977602148.unknown _977602076.unknown _977601950.unknown _977601589.unknown _977601689.unknown _977601869.unknown _977601894.unknown _977601842.unknown _977601812.unknown _977601832.unknown _977601703.unknown _977601660.unknown _977601548.unknown _977601575.unknown _977601520.unknown _977600871.unknown _977601155.unknown _977601287.unknown _977601300.unknown _977601279.unknown _977600913.unknown _977601000.unknown _977600893.unknown _977600322.unknown _977600621.unknown _977600717.unknown _977600792.unknown _977600861.unknown _977600670.unknown _977600567.unknown _977600591.unknown _977600597.unknown _977600469.unknown _977600521.unknown _977600550.unknown _977600438.unknown _977599983.unknown _977600100.unknown _977600218.unknown _977600001.unknown _977599798.unknown _977599906.unknown _977599675.unknown _977594523.unknown _977595459.unknown _977595756.unknown _977599497.unknown _977599517.unknown _977599536.unknown _977598244.unknown _977598694.unknown _977598695.unknown _977595999.unknown _977595572.unknown _977595678.unknown _977595691.unknown _977595611.unknown _977595526.unknown _977595549.unknown _977595498.unknown _977594899.unknown _977595240.unknown _977595415.unknown _977595448.unknown _977595405.unknown _977594970.unknown _977595191.unknown _977594923.unknown _977594803.unknown _977594856.unknown _977594867.unknown _977594822.unknown _977594746.unknown _977594773.unknown _977594553.unknown _977593535.unknown _977593912.unknown _977594214.unknown _977594278.unknown _977594417.unknown _977594234.unknown _977594109.unknown _977594170.unknown _977593976.unknown _977593706.unknown _977593746.unknown _977593889.unknown _977593721.unknown _977593664.unknown _977593688.unknown _977593571.unknown _977593159.unknown _977593205.unknown _977593411.unknown _977593184.unknown _977593204.unknown _977593170.unknown _977593123.unknown _977593151.unknown _977593080.unknown _977593063.unknown _977593041.unknown