离散随机信号的特征描述及其估计.ppt

第 章离散随机信号的特征描述及其估计 4 1引言4 2离散随机信号的特征描述4 3线性系统对平稳随机信号的响应4 4均值 方差 自相关函数的估计 4 1引言随机信号是一种非确定性的信号 如热噪声信号发生器输出的电信号 飞行器起飞时的结构振动 以及起伏海面的波动高度等 它们的共同特点是无法预测其未来瞬间的精确值 处理的目的是便于从中提取有用的信息 削弱信号中的多余信息量 便于估计信号的特征参数 或变换成易于分析和识别的形式等 随机信号处理的主要理论基础是信号检测理论 估计理论和随机过程理论 根据理论分析 随机信号的不同样本函数在同一时刻的值往往是不确定的 因而只能用样本函数集的统计平均来描述 如用均值 均方值 方差 概率密度函数 相关函数和功率谱密度函数来描述随机过程的特性 随机信号处理就是利用信号的这些统计特征或信号本身导出一套最佳的估计算法 然后利用软件或者硬件予以实现 下一章所讲的维纳滤波器和卡尔曼滤波器就是根据最佳原理实现的 离散随机信号或序列 是指由随机变量按一定顺序排列而成的时间序列 随机序列中的任何一个时间点上的取值都是不能先验确定的随机变量 即离散随机信号可表示为 4 1 式中为随机变量 它可以是有限维的也可以是无限维的 产生这些随机变量的过程称为随机过程 简记为 例如抛硬币就是一个随机过程 抛硬币的结果就是一个离散随机序列 这个结果有两种状态 一种是正面朝上 用表示 另一种是反面朝上 用表示 连续抛掷 可以得到一个由 1和 1组成的序列如图4 1所示 这个序列就是离散随机信号或序列 要注意的是如果重新将抛掷硬币的过程进行一次 我们得到序列可能看起来与图4 1所示的序列完全不同 所以我们每次得到的序列是这个离散随机信号的一个样本序列 4 2离散随机信号的特征描述4 2 1平稳随机过程和各态历经性实际中的很多随机过程是属于平稳随机过程 设是一个平稳随机过程 则其随机序列在各点上的概率特性不随时间平移而变化 而且是无始无终的 即随机变量的概率特性对于任何时刻都是相同的 对于一个无始无终的平稳随机信号 它的傅立叶变换是不存在的 也就是说它的频谱是不存在的 我们只能求它的功率谱 一个平稳随机信号的功率谱就是这个信号的自相关函数的傅立叶变换 因此 我们就可用信号的功率谱来表征它的谱特性 在本课程中我们所要讨论的随机序列都为平稳随机序列 4 2 2各态历经性随机过程的各个样本序列在某一时刻的各种平均特性 称为集合平均 当样本数趋于无穷时 集合平均就趋于统计平均 随即过程的某个样本序列在不同时刻的各种平均特性 称为时间平均 已知时刻随机变量的个取值的集合平均为 4 2 已知随机信号的一个样本序列 则其时间平均为 4 3 如果一个随机信号的时间平均等于过程的集合平均 则称随机过程是各态历经的或各态遍历的 具体地说 如果有则称为均值各态历经随机过程 可见 对各态历经随机过程 可以用一个样本序列的时间平均计算随机过程的集合平均 实际上 对一个样本过程进行长时间统计比对许多样本进行统计要容易实现 实际处理信号时 对已获得的一个物理信号 先假设它是平稳的 再假设它是各态历经的 对信号按此假设处理后 再用处理结果来检验假设的正确性 各态历经的随机过程一定是平稳随机过程 实际中常用的高斯白噪声 就是平稳各态历经的 4 2 3离散随机信号的数字特征一个离散随机序列在任何时间点上的取值 随机变量 是不能先验确定的 但它一定具有一定的统计规律 可用其统计平均特性来描述 例如抛硬币的所得到的离散序列 每个时间点上的取值虽然不能预知 但我们知道取值出现 1和 1的概率都为1 2 实际中要得知一个随机变量的概率分布函数是比较困难的 我们往往只要知道概率分布的某些数字特征就足够了 这些数字特征就是随机过程的矩 包括各阶原点矩和各阶中心矩 对于实随机过程 各阶原点矩是指原点差值各次方的均值 各阶中心矩是指与均值差值各次方的均值 平稳随机过程的主要数字特征包括以下几个 1 均值 数学期望 随机变量的均值可用表示均值就是一阶原点矩 它是全部样本在同一时刻取值的集合平均 2 均方值随机变量的均方值为取值平方后的集合平均 是二阶原点矩 3 方差随机变量的方差定义为 4 4 方差是二价中心矩 反映了与均值的偏离程度 方差可以用均值和均方值表示 根据上式有 即 4 5 4 自相关函数设两个时间点和上的随即变量分别为和 自相关函数用表示 4 6 这里是时间间隔 上式也可表示为 4 7 自相关函数是二价联合原点矩 它反映了同一随机信号在不同时刻取值的关联程度 5 自协方差函数自协方差函数用表示 4 8 自协方差函数是二价联合中心矩 自相关函数和自协方差函数只相差一个常数 它们之间没有本质的差别 即 6 互相关函数和互协方差函数和是两个同时发生的随机过程 则它们之间的互相关函数和互协方差函数分别用和表示 4 10 4 11 它们反映了两个随机信号在不同时刻取值的关联程度 如果 则称和为正交过程 如果 则称和互不相关 在以上这些数字特征里 自相关函数和自协方差函数是表征一个随机过程的最重要的统计特性 4 2 4自相关序列和自协方差序列的性质设和是两个实的平稳随机序列 则自相关序列和自协方差序列具有以下性质 性质1 4 12 当时 4 13 性质2 4 14 4 15 性质3 4 16 性质4 4 17 性质5 4 18 证明 即又因为平稳随机序列 故有同理可证明 性质6 4 19 当越大时 相关性越小 当趋于无穷大时 可认为不相关 也就是说以上性质说明自相关函数是随机过程最重要的统计表征 它蕴含了 等主要物理量 4 2 5平稳随机序列的功率谱密度我们知道 平稳随机序列是非周期函数 且是能量无限的 因此它的傅立叶变换是不存在的 但其功率谱是存在的 如果平稳随机序列的均值为零 则它的功率谱密度和自相关函数是一对傅立叶变换对 即 4 20 对于实平稳随机序列功率谱 有以下性质 1 功率谱是的偶函数 即 2 功率谱是实的非负函数 即 4 3线性系统对平稳随机信号的响应设一个线性非时变系统 它的单位样本响应为 如输入一个平稳随机序列 可以证明所得到的响应也将是一个平稳随机序列 有 4 21 如果已知随机信号的特征量 和等 我们来求响应的这些特征量 的均值按定义为即 4 22 的自相关函数为因为是平稳的 所以所以令 代入上式 4 23 式中 4 24 的功率谱为 4 25 当输入为白噪声时 有 4 26 4 4均值 方差 自相关函数的估计随机信号与确定性信号不同 它不能用数学表达式或图表来表示 只能用它的某些数字特征来表征 如 和等 由于随机信号是无始无终的 所以这些数字特征是不能精确求出的 我们只能通过估计的方法来得到 估计的方法很多 所以我们必须有一个标准来确定一个估计是 好 的估计 我们用表示平稳随机序列的某个数字特征值 可以是均值 方差 自相关函数 功率谱等 实际上即使用相同的方法进行估计 由于每次所用样本不同 得到的估计也是不同的 所以得估值也是随机变量 可以取很多值 用表示估值的均值 设为样本数 如果当时 满足以下两个条件 4 27 4 28 这里 称为的偏差 为零表示是的一个无偏估计 称为估计方差 满足以上两式的估计称为一致估计 一个好正确的估计必须满足一致估计的条件 实际上 4 29 下面用随机序列的N个样本数据 来估计的均值 方差和自相关函数 4 4 1均值的估计将的N个样本数据的算术平均作为均值得估计 即 4 30 由上式可得 4 31 即偏差为 4 32 故这种估计为无偏估计 现在求 按定义有 4 33 对有 4 34 为便于分析 假定与是互不相关的 则于是式 4 34 成为 上式代入 4 33 有可见 当时 综合上面对偏差和方差的分析 可以得出结论 由 4 30 所得的对的估计是无偏的一致估计 均值的估计在实际中应用很广 往往通过减去均值使随机信号的均值不为零的情况变为均值为零的情况 4 4 2方差的估计对于有N个样本数据的随机序列 其方差可由下式来估计 4 35 此估计的数学期望为 4 36 即 当时所以 式 4 35 对方差的估计是无偏估计 下面来讨论这种估计的方差 根据定义有 4 37 将 4 36 代入上式 得可以证明 当时 估计的方差趋于零 所以 式 4 35 对方差的估计是无偏的一致估计 实际中 也可以用下式来估计方差可以证明 用此式对方差进行估计得到的也是满足一致估计的条件 4 4 3自相关函数的估计由于我们只能观察到的N个样本数据 而与的数据是不知道的 因此 可用下式对自相关函数进行估计 4 38 对于实序列 其自相关函数偶对称 即于是 可将式 4 38 表示为 4 39 此估计的均值为 4 40 可见 这种估计属于无偏估计 很多学者都主张用下式来估计自相关函数 4 41 此估计的均值为 4 42 偏差为可以看出 当时 偏差 所以式 4 41 也是无偏估计 下面来讨论这两种估计的方差 将式 4 40 写为即 4 44 对有将式 4 40 代入上式 4 45 对有 第 章功率谱估计 5 1经典谱估计5 2自回归模型法5 3最大熵谱估计5 4AR模型参数的求解 第 章维纳滤波器和卡尔曼滤波器 6 1离散维纳滤波器的时域解6 2离散维纳滤波器的域解6 3维纳预测器6 4卡尔曼 Kalman 滤波器 第 章自适应滤波器 7 1LMS自适应滤波器的基本原理7 2Widrow HoffLMS算法7 3自适应滤波器的应用 第 章小波变换 8 1连续小波变换的基本概念和性质8 2常用的小波变换8 3尺度因子离散化的小波变换及小波标架8 4离散小波变换的多分辨分析8 5Mallat算法及实现8 6小波变换总结 第 章信号测试技术 9 1测试技术概论9 2测量方法9 3信号的分类和可测性9 4测试信号的转换与调理9 5现代测试系统