随机信号处理1

null随机信号分析基础随机信号分析基础第一讲第一讲第一讲绪论 授课内容梗概 教材及参考书 习题及相关内容的期末考试要求 本节课正题 随机信号分析基础绪论绪论关于课程内容的标题_随机信号分析基础 随机信号分析研究些什么？与其它先修基础课程有 哪些方面的联系？本课程的核心问题？ 学习本课程希望达到的教学目的授课内容梗概授课内容梗概第一讲 随机信号分析基础 第二讲 平稳过程的线性模型 第三讲 功率谱估计 第四讲 自适应滤波器教材及参考书教材及参考书随机信号处理. 张玲华 郑宝玉 . 清华大学出版社 数字信号处理. 理论.算法与实现 胡广书. 清华大学出版社 现代信号处理. 张贤达. 清华大学出版社 Statistical and Adaptive Signal Processing . Manolakis D.G. The McGraw-Hill Companies, Inc. null§1 随机信号分析基础 随机过程部分内容复习§1 随机信号分析基础 随机过程部分内容复习1.1 随机信号 1.2 随机信号的统计描述 1.3 平稳随机信号 1.4 统计特征估计的质量平价 1.5 随机信号的功率谱 1.6 白噪声信号与谐波信号1.1 随机信号1.1 随机信号随机信号的概念 随机信号的定义 随机信号举例 随机信号的分类null 回顾随机变量的定义： 设 E 是随机试验， Ω={ξ}是其样本空间，如果对于每一个ξ∈Ω，都有一个实数 X(ξ) 与之对应，这样就得到了一个定义在Ω上的单值 函数 excel方差函数excelsd函数已知函数     2 f x m x mx m      2 1 4 2拉格朗日函数pdf函数公式下载 X(ξ)，称 “ X(ξ) ”为随机变量，简记为X 。 随机变量是定义在样本空间Ω上的样本ξ所对应的一个单值函数X(ξ)； 对应于不同的样本ξ（一次具体的 E ），X 有着不同的取值； X 的随机性取值在试验完成后得以体现； X 为连续值时称“连续型随机变量”； X 为离散值时称“离散型随机变量”； X 为连续值与离散值的混合值时称“混合型随机变量” 。 null 随机过程定义1： 设 E 是随机试验， Ω={ξ}是其样本空间，如果对于每一个ξ∈Ω，总可 依某种规则确定一参数为t的实值函数“X(ξ,t), t∈Ｔ”与之对应；当ξ取遍 Ω时，便得到了定义在 T 上的一族时间t的函数，称它为随机过程。族中的每 个函数即为该过程的一个样本函数，称为随机过程的一个“实现”，Ｔ是参数t的 变化范围，称为“参数集”，一般表示时间集合，随机过程可简记为X(t)。 随机过程也可看成是变量ξ、t 的函数，其含义分别为： 若ξ、t均为变量， X(t)是一个时间函数族； ξ固定、t为变量，指随机过程的一个样本“实现”，X(t)是一个确定的时间函数； t固定、ξ为变量，X(t)是一个随机变量； ξ、t 均固定，X(t)是该过程某一样本所对应的 t 时刻的函数值。tξ... ......null 随机过程定义2： 若对于每个特定的时刻 ti (i=1,2,……)，X(ξ,ti) 都是随机变量， 则称 X(ξ,t) 为随机过程。 通常，将连续型随机过程 X(ξ,t) 简记为 X(t) ，将该过程的一个 样本函数（或称该过程的一个“实现”）简记为 x(t)。 将离散型随机过程 X(ξ,n) 简记为 X(n) ，将该过程的一个样本函 数（或称该过程的一个“实现”）简记为 x(n)。 tξ... ......null1：对于每一个固定的时刻 ti :2：在(0,2π)内随机抽取一数φi :А、ω是常数，φ是在(0,2π)均匀分布的随机变量 例：这时X(ti)是一个随机变量；这时Xi(t)是一个样本函数，是该随机过程的一个“实现”。∴ 随机相位正弦波是一个随机过程null随机信号举例：t iy1(t)X(φ,t)Y(i,t)y2(t)y3(t)X1(t)X2(t)X3(t)随机相位正弦波随机噪声随机信号举例随机信号举例均匀分布高斯分布柯西分布n随机信号的分类随机信号的分类按照时间和状态的连续性分类 时间及状态取值都连续 时间及状态取值都离散 时间连续状态离散 时间离散状态连续 按照样本函数的形式分类 不可预测型随机信号 部分可预测型随机信号 按照统计特性分类 高斯型过程 马尔可夫过程 独立增量过程 ……1.2 随机信号的统计描述1.2 随机信号的统计描述1.2.1 随机信号的概率分布 1.2.2 随机信号的数字特征 1.2.3 随机信号的特征函数 1.2.4 随机信号的导数与积分1 一维概率分布1 一维概率分布tΩ设 {X(t),t Є T} 是随机过程，x为实数，随机过程的一维概率分布描述为： 定义：FX(x,t) = P{X(t)≤x} 为X(t)的一维分布。 如果FX(x,t)的一阶导数存在， 定义：px(x,t) = ∂FX(x,t)/∂x 为X(t)的一维概率密度。 ... ............t12 二维及多维概率分布2 二维及多维概率分布tΩ对于任意两个不同时刻 t1 Є T、t2 Є T， x1、x2为实数，随机过程的二维 联合概率分布描述为： 定义：FX(x1,x2,t1,t2) = P{X(t1)≤x1,X(t2)≤x2} 为X(t)的二维分布。 如果FX(x1,x2,t1,t2)的偏导数存在， 定义：pX(x1,x2,t1,t2) = ∂2FX(x1,x2,t1,t2)/∂x1∂x2 为X(t)的二维概率密度。 可仿此类推多维分布的情形…... ............... ............t1t21.2.2 随机信号的数字特征1.2.2 随机信号的数字特征随机信号的矩 均值函数（数学期望） 均方函数与方差函数 自相关函数与自协方差函数 互相关函数与互协方差函数 随机信号间的 “独立、不相关、正交” 关系随机信号的矩随机信号的矩均值函数（数学期望）均值函数（数学期望）在M次测量中，测得结果为x1的次数m1、测得结果为x2的次数m2、… 测得结果为xk的次数mk ：其测量的算术平均 ：当M充分大时，m/M 接近于 x 的概率，定义均值 ： 均值与概率密度有关，均值仅对长期（或大量）观察才有意义。均值函数（数学期望）均值函数（数学期望）称 “ 一阶原点矩 ” ， 为全部样本值在某时刻取值的 “集合平均”、或“统计平均” 均值函数表示了随机过程在各个时刻的摆动中心。注意：区别于 “时间平均” ：对于连续时间函数 ：均方函数与方差函数均方函数与方差函数t X1(t)t X2(t)均方函数（二阶原点矩）：方差函数（二阶中心矩）：两者均表示随机信号在时刻 t 对于均值的平均偏离程度均方函数与方差函数均方函数与方差函数t X1(t)t X2(t)方差函数：称为“ 标准 excel标准偏差excel标准偏差函数exl标准差函数国标检验抽样标准表免费下载红头文件格式标准下载 差”，同样表示随机信号的分散程度null例：自相关函数与自协方差函数自相关函数与自协方差函数t X1(t)t X2(t)自相关函数（二阶联合原点矩）：自协方差函数（二阶联合中心矩）：表示随机过程在两个不同时刻的状态间的统计关联关系t X3(t)null 二维随机过程： 设 X(t),Y(t)是定义在同一样本空间Ω和同一参数集Ｔ上的随机 过程，对于不同的 t∈Ｔ，X(t)、Y(t) 分别是不同的两个随机变量， 称 {X(t),Y(t), t∈Ｔ} 为二维随机过程。 对于给定的二维随机过程，或将其称为二维随机过程X(t)、Y(t)的“n+m维联合分布”。是n+m维随机变量，其n+m维分布为：将上述概念推广，即可得出多维随机过程及其分布函数、以及概率密度函数的定义（能完整描述 n 维随机过程的分布函数、概率密度函数的维数分别应为 m1+m2+…+mn 维）。互相关函数与互协方差函数互相关函数与互协方差函数t y(t)互相关函数：互协方差函数：表示两个随机信号在两个不同时刻的状态间的统计关联关系t X(t)互相关应用举例：互相关应用举例：举例： 求两个随机数据序列的协方差举例： 求两个随机数据序列的协方差随机信号间的 “独立、不相关及正交关系” 随机信号间的 “独立、不相关及正交关系” 如果 X(t)、Y(t) 统计独立，则有: 随机过程间若相互独立，则必互不相关（反之不一定） 随机过程间的正交性与相关性一般没有直接关系，但若其 中任一随机过程的均值为零，则正交性与相关性是一致的。如果 X(t)、Y(t) 互不相关，则有：如果 X(t)、Y(t) 相互正交，则有：例题：例题：例：试说明：相关函数是一、二阶数字特征中最主要的统计特征例：试说明：相关函数是一、二阶数字特征中最主要的统计特征nullRx( )Rx(0)τσ2mx2τ1.2.3 随机信号的特征函数1.2.3 随机信号的特征函数null1.2.4 随机信号的导数与积分null 随机信号数字特征的微积分1.3 平稳随机信号1.3 平稳随机信号1.3.1 平稳随机过程的概念1.3.2 严平稳过程（狭义平稳、强平稳） 1.3.3 宽平稳过程（广义平稳、弱平稳）1.3.4 平稳随机过程的各态历经（遍历）性 1.3.5 高斯(正态)过程 1.3.1 平稳随机过程的概念1.3.1 平稳随机过程的概念平稳随机过程的主要特征：过程的统计特性不随时间改变。* 平稳随机过程分析方法简单，对于平稳随机过程已建立起 了一套完整、有效、成熟的理论分析和实验研究方法。 * 实际应用中的许多非平稳随机过程大都可以在一定条件下 被近似看作平稳过程，或分段看作短时平稳过程。 * 非平稳随机过程的理论分析相对复杂、相对不成熟。 实际问题多为非平稳过程，为何单独要研究平稳过程？1.3.2 严平稳过程（狭义平稳、强平稳）1.3.2 严平稳过程（狭义平稳、强平稳） 如果对于任意的 n ，都有 t1,t2, … tn∈T , 和任意实数τ∈T ， 使得 n 维随机变量： 具有相同的分布函数，则称随机过程 {X(t), τ∈T } 是严平稳（狭义平稳）随机过程。从分布函数描述：从数字特征描述：对所有整数1≤k≤n和所有t1、t2、…tk及τ，其k阶矩有界； 2. 其k阶矩与时间起点无关：mx(t1、…tk) = mx(t1+τ,…tk+τ) 则该随机过程是平稳的（严平稳）。由于严平稳过程的均值、方差都是与时间无关的常数。因此 样本曲线都在均值的水平线周围波动，其分散度由方差决定 由于严平稳过程的均值、方差都是与时间无关的常数。因此 样本曲线都在均值的水平线周围波动，其分散度由方差决定 1.3.3 宽平稳过程（广义平稳、弱平稳）1.3.3 宽平稳过程（广义平稳、弱平稳）问题： “ 严平稳过程同时必是宽平稳的么？” “ 严平稳过程不一定是宽平稳的么？”由上述第2、3项特征导致： 宽平稳随机过程的协方差函数也与时间起点无关：宽平稳随机过程的统计特征例：对随机相位信号讨论其平稳性例：对随机相位信号讨论其平稳性 A、ω0为常数，Ф为(0,2π)上均匀分布的随机变量例：对随机相位信号讨论其平稳性例：对随机相位信号讨论其平稳性 A、ω0为常数，Ф为(0,π/2)上均匀分布的随机变量1.3.4 平稳随机过程的各态历经（遍历）性1.3.4 平稳随机过程的各态历经（遍历）性问题的提出： 以随机过程的数字特征作为统计分析手段虽然十分有效实用，但这 些数字特征本身如何获取？ 是否按照各阶矩的定义去计算？ 是否需要 通过分析观察大量的样本函数之后再求其“集平均”获取？ 对于各态历经随机过程，可用该过程的一个样本函数的时间平均计算 该随机过程的集合平均，各态历经性保证了两种平均以概率1相等。各态历经随机过程的部分运算特性：各态历经随机过程的部分运算特性：从一个特例看各态历经过程的一、二阶矩函数的物理意义从一个特例看各态历经过程的一、二阶矩函数的物理意义RX( )RX(0)τσ2mX2τ例：判断下述随机过程是否各态历经例：判断下述随机过程是否各态历经例：对随机相位信号讨论其是否各态历经例：对随机相位信号讨论其是否各态历经 如何判定某随机过程是各态历经的？如何判定某随机过程是各态历经的？如何判定某随机过程是各态历经的？如何判定某随机过程是各态历经的？统计实验分析的理论基础是随机过程的各态历经性假设统计实验分析的理论基础是随机过程的各态历经性假设实际处理问题时，常常先假定信号是平稳的、 再假定是各态历经的，做完统计分析工作后 再对结果检验这种假设的正确性并加以修正。高斯(正态)过程高斯(正态)过程随机向量(N维随机变量)随机向量(N维随机变量)高斯(正态)过程高斯(正态)过程高斯过程的一些重要特性高斯过程的一些重要特性高斯过程是二阶矩过程； 由一阶矩和二阶矩即可确定其任意有限维分布； 对于高斯过程，若是宽平稳的则必然也是严平稳的； 对于高斯过程，若两个时刻信号值不相关则必然也统计独立； 高斯过程与确定信号之和的概率密度仍为高斯型的； 高斯过程经过任意线性变换，仍然为高斯过程。null例：1.4 统计特征估计的质量评价1.4 统计特征估计的质量评价本课程提到的估计理论涉及三个方面： （1） 根据观测样本讨论如何直接对样本的各类统计特性作出估计，并对这类估计结果的优劣提出一些客观评价标准，这部分内容是估计问题中最基本的一类问题，是後两类问题的基础；（估计量的评价问题） （2）对于观测样本，其波形 y(t) = s(t;θ1,θ2,…θN) + x(t) 已知，只是其中若干参数θ1,θ2,…待定，待定参数可能分别为确定量或随机量，这类问题称“信号的参量估计”，通信领域存在大量此类问题，相应的估计方法有最小均方误差估计、最小二乘估计、最大似然估计、最大后验概率估计等；（静态估计问题） （3）根据观测样本对时间信号的波形（状态）作估计。（动态估计问题）1.4 统计特征估计的质量平价1.4 统计特征估计的质量平价1.4.1 估计的基本统计性能(评价)指标： 估计的偏 估计的方差 估计的均方误差 1.4.2 对一些典型数字特征的估计： 均值的估计 方差的估计null、= 0null1.4.2 对一些典型数字特征的估计：null1.4.2 对一些典型数字特征的估计：nullnull对上述估计运算的补充说明：1.5 随机信号的功率谱1.5 随机信号的功率谱1.5.1、确定性信号的能量谱与功率谱 1.5.2、平稳随机信号的功率谱 1.5.3、平稳随机信号的相关函数与功率谱的性质1.5.1、确定性信号的能量谱与功率谱1.5.1、确定性信号的能量谱与功率谱1.5.2、平稳随机信号的功率谱1.5.2、平稳随机信号的功率谱“对平稳随机信号，功率谱密度函数与自相关函数 是一对傅里叶变换。” ———— Wiener(美)-Khinchine(俄) 定理“对平稳随机信号，功率谱密度函数与自相关函数 是一对傅里叶变换。” ———— Wiener(美)-Khinchine(俄) 定理null例：已知平稳随机信号X(n)的自相关函数： RX(m)=a|m|，|a|<1，试求其功率谱。例：给定平稳过程的功率谱密度，求其相关函数与平均功率。 例：给定平稳过程的功率谱密度，求其相关函数与平均功率。 1.5.3、平稳随机信号的相关函数与功率谱的性质1.5.3、平稳随机信号的相关函数与功率谱的性质对实平稳随机信号，易证以下性质成立： 1. R(τ)、s(ω) 均为实偶函数 2. s(ω) 非负、R(0)≥|R(τ)| 3.周期平稳过程的自相关函数也是周期函数，其周期与过程的周期相同 R(τ+T) = E{X(t)X(t+τ+T)} = E{X(t)X(t+τ)} = R(τ) 4.对不含周期分量的非周期平稳过程，满足： 1.6 白噪声信号与谐波信号1.6 白噪声信号与谐波信号1.6.1 线性时不变系统的时频关系 1.6.2 白噪声信号 1.6.3 谐波过程1.6.1 线性时不变系统的时频关系1.6.1 线性时不变系统的时频关系1.6.2 白噪声信号 1.6.2 白噪声信号 ωt00σRW(τ)SW(ω)一般称“平谱”null高斯白噪声及其数据值分布直方图：均匀白噪声及其数据值分布直方图：分析例题分析例题1.6.3 谐波过程1.6.3 谐波过程谐波过程谐波过程ω0S(ω)一般称“线谱”习题习题