压缩感知介绍--最终版课件

单击此处编辑母版标题样式,单击此处编辑母版文本样式,第二级,第三级,第四级,第五级,精选课件,*,单击此处编辑母版标题样式,单击此处编辑母版文本样式,第二级,第三级,第四级,第五级,精选课件,*,压缩感知理论及应用,Compressed Sensing (CS),：,Theory and Applications,南京航空航天大学电子工程学院,张 弓,1,精选课件,1,背景介绍,1.1,传统采样理论介绍及问题提出,1.2,压缩感知理论的基本思想,2,压缩感知理论分析,2.1,压缩感知的前提,2.2,压缩感知流程介绍,第一步：信号的稀疏表示,第二步：观测矩阵的设计,第三步：信号重构,3,压缩感知应用,3.1,波形信号仿真分析,3.2 CS,图像融合,3.3,单像素,CS,相机,3.4,CS,雷达,2,精选课件,1,背景介绍,1.1,传统采样理论介绍及问题提出,1.2,压缩感知理论的基本思想,3,精选课件,1.1,传统采样理论介绍及问题提出,传统的基于,Nyquist,采样定理指导下的信息的处理主要表现在两个方面：,1,、采样速率需达到信号带宽的两倍以上才能精确重构信号。这样的采样硬件成本昂贵，获取效率低下，对宽带信号处理的困难日益加剧。,2,、在实际应用中，为了降低成本，人们常将采样的数据经压缩后以较少的比特数表示信号，而很多非重要的数据被抛弃，这种高速采样再压缩的方式浪费了大量的采样资源，另外一旦压缩数据中的某个或某几个丢失，可能将造成信号恢复的错误。,1,背景介绍,4,精选课件,而现实生活中，随着信息技术的高速发展，信息量的需求增加，携带信息的信号所占带宽也越来越大,这就大大考验了数字化社会对信息处理的能力，包括：数据存储、传输和处理速度，基于,Nyquist,采样的理论遭到严峻的考验。,1,背景介绍,5,精选课件,能否以远低于,Nyquist,采样定理要求的采样速率获取信号，而保证信息不损失，并且可以完全恢复信号？,即能否将对信号的采样转化为对信息的采样？,一个亟待解决的问题：,1,背景介绍,6,精选课件,1.2,压缩感知理论的基本思想,一种新的理论,Compressed Sensing(CS,压缩感知，亦称压缩传感,),。,由,Candes,、,Romberg,、,Tao,和,Donoho,等人在,2004,年提出，,2006,年才发表文献,基本思想：,1,、信号是可压缩的或在某个变换域是稀疏的,;,2,、就可以用一个与变换基不相关的观测矩阵将变换所得高维信号投影到一个低维空间上,;,3,、然后通过求解一个优化问题就可以从这些少量的投影中以高概率重构出原信号。,1,背景介绍,7,精选课件,2,压缩感知理论分析,2.1,压缩感知的前提,2.2,压缩感知流程介绍,2.3,第一步：信号的稀疏表示,2.4,第二步：观测矩阵的设计,2.5,第三步：信号重构,8,精选课件,2.1,压缩感知的前提,稀疏性的定义：,一个实值有限长的,N,维离散信号 ，由信号理论可知，它可以用一个标准正交基,的线性组合来表示，假定这些基是规范正交的，其中 表示矩阵 的转置，那么有,其中 ，若 在基 上仅有 个非零系数 时，称 为信号 的稀疏基， 是 稀疏,(K-Sparsity),的。,2,压缩感知理论分析,9,精选课件,E.Candes,等人证明了：信号的稀疏性是,CS,的必备条件。,信号是可压缩的或在某个变换域是稀疏的，这个条件的限制等同于信号带宽对于,Nyquist,采样定理的约束。,2,压缩感知理论分析,10,精选课件,2.2,压缩感知流程介绍,长度为,N,的信号 在正交基 上的变换系数是稀疏的；,用一个与基 不相关的观测基 对系数向量进行线性变换，并得到观测向量,利用优化求解的方法从观测集合中精确或高概率地重构原始信号 。,2,压缩感知理论分析,11,精选课件,如同信号带宽对于,Nyquist,，信号的稀疏性是,CS,的必备条件；,如同,Nyquist,采样规则对于,Nyquist-Shannon,采样定理，,CS,的关键是非相关测量（该测量称为测量矩阵），他们都是信号得以精确恢复的条件；,如同,Fourier,变换对于,Nyquist,，非线性优化是,CS,重建信号的手段。,2,压缩感知理论分析,12,精选课件,第一步：信号的稀疏表示,如图是一个稀疏度为,3,的稀疏变换，,在时域 基本都是非零值，,但将其变换到 域,时，非零值就只有,3,个了，数目远小于,原来的非零数目，实,现了信号的稀疏表,示。,2,压缩感知理论分析,13,精选课件,如何找到信号的最佳稀疏域呢？,这是压缩感知理论的基础和前提，也是信号精确重构的保证。对稀疏表示研究的热点主要有两个方面：,1,、基函数字典下的稀疏表示：,寻找一个正交基使得信号表示的稀疏系数尽可能的少。比较常用的稀疏基有：高斯矩阵、小波基、正（余）弦基、,Curvelet,基等。,Candes,和,Tao,经研究发现光滑信号的,Fourier,系数、小波系数、有界变差函数的全变差范数、振荡信号的,Gabor,系数及具有不连续边缘的图像信号的,Curvelet,系数等都具有足够的稀疏性,可以通过压缩感知理论恢复信号。,2,、超完备库下的稀疏表示：,用超完备的冗余函数库来取代基函数，称之为冗余字典，字典中的元素被称之为原子，目的是从冗余字典中找到具有最佳线性组合的,K,项原子来逼近表示一个信号，称作信号的稀疏逼近或高度非线性逼近。,2,压缩感知理论分析,14,精选课件,超完备库下的稀疏表示涉及到两个问题：,一是如何构造这样一个适合某一类信号的冗余字典；,二是在已知冗余字典的前提下如何设计快速有效的分解方法来稀疏地表示某一个信号。,右图为一些不,同的字典,2,压缩感知理论分析,15,精选课件,第二步：观测矩阵的设计,观测器的目的是采样得到 个观测值，并保证从中能够重构出原来长度为 的信号 或者稀疏基下的系数向量 。,观测过程就是利用 观测矩阵的 个行向量对稀疏系数向量进行投影，得到 个观测值，即,2,压缩感知理论分析,16,精选课件,2,压缩感知理论分析,17,精选课件,观测矩阵要满足什么样的条件呢？,从上式中求出 是一个线性规划问题，但由于方程的个数少于未知数的个数 ，这是一个病态问题,但如果 具有稀疏性，则有可能求出确定解。,Candes,、,Tao,等人提出必须保证观测矩阵不会把两个不同的 项稀疏信号映射到同一个采样几何中，这就要求从观测矩阵中抽取的每个列向量构成的矩阵是非奇异的，,这跟有限等距特性,(RIP),条件的要求是一致的。,R.Baraniuk,将上述条件简化为如果保证观测矩阵和稀疏基不相干，则在很大概率上满足,RIP,性质。不相干是指 不能用 稀疏表示，不相干性越强，互相表示时所需的系数越多。,2,压缩感知理论分析,18,精选课件,第三步：信号重构,首先介绍下范数的概念。向量的,p-,范数为：,当,p=0,时得到,0-,范数，它表示上式中非零项的个数。,由于观测数量 ，不能直接求解，在信号 可压缩的前提下，求解病态方程组的问题转化为最小,0-,范数问题：,2,压缩感知理论分析,19,精选课件,对于,0-,范数问题的求解是个,NP,问题，需要列出所有非零项位置的种组合的线性组合才能得到最优解，在多项式时间内难以求解，而且也无法验证其可靠性。,Chen,，,Donoho,和,Saunders,指出求解一个优化问题会产生同等的解。于是问题转化为：,或者：,求解该最优化问题，得到稀疏域的系数，然后反变换即可以得到时域信号。,2,压缩感知理论分析,20,精选课件,目前出现的重构算法主要可归为三大类：,1),第一类贪婪算法：这类算法是通过每次迭代时选择一个局部最优解来逐步逼近原始信号，典型的贪婪算法,-MP,算法，贪婪算法是针对组合优化提出,目前已发展了多种变形，例如，,OMP, OOMP, CosMP,等。该类重建算法速度快,然而需要的测量数据多且精度低。,2),第二类凸优化算法：这类方法是将非凸问题转化为凸问题求解找到信号的逼近，如,BP,算法，梯度投影方法等。该类算法速度慢，然而需要的测量数据少且精度高。,3),第三类组合算法：这类方法要求信号的采样支持通过分组测试快速重建，如代表性方法,Sparse Bayesian,。该类方法位于前两者之间。,2,压缩感知理论分析,21,精选课件,3,压缩感知应用,3.1,波形信号仿真分析,3.2 CS,图像融合,3.3,单像素,CS,相机,3.4,CS,雷达,22,精选课件,3.1,波形信号仿真分析,基于,CS,理论的一个简单的信号分析。,信号长度为,N=256,，稀疏度为,K=7,，测量数,M=32,。信号为三个频率叠加的正弦信号，傅里叶正交变换矩阵作为系数矩阵，高斯矩阵来测量，并用,OMP,算法重构原信号。,3,压缩感知应用,23,精选课件,原信号与恢复结果对照图：,3,压缩感知应用,24,精选课件,3.2 CS,图像融合,图像融合是对来自单一传感器不同时间、不同环境下获取的图像或由多个传感器同一时间获取的信息进行多级别、多层次的处理与综合，从而获得更丰富、更精确、更可靠的有用信息。,图像融合的目的是提高图像显示的质量、实现图像的特征提取、图像去噪、目标识别和跟踪以及图像的三维重构。,大部分图像的稀疏特性为,CS,的应用带来可能，同时,CS,的引入为图像的融合在计算速度、融合策略上都带来了新的飞跃。,3,压缩感知应用,25,精选课件,图像融合结果图：,3,压缩感知应用,26,精选课件,3.3,单像素,CS,相机,运用压缩感知原理，,RICE,大学成功研制了单像素,CS,相机。,传统百万像素的相机需要百万个探测传感器，而压缩传感数码相机只使用一个探测器来采光，然后跟捕获后的计算相结合来重构图像。这种样机的镜头由两部分组成：一个光电二极管和一个微镜阵列。,该相机直接获取的是,M,次随机线性测量值而不是获取原始信号的,N,个像素值，为低像素相机拍摄高质量图像提供了可能。,3,压缩感知应用,27,精选课件,“,数字微镜阵列,”,完成图像在伪随机二值模型上的线性投影的光学计算，其反射光由透镜聚焦到单个光敏二极管上，光敏二极管两端的电压值即为一个测量值,y,，将此投影操作重复,M,次，即得到测量向量,Y,，,然后用最小全变分算法构建的数字信号处理器重构原始图像,x,。,数字微镜器件由数字电压信号控制微镜片的机械运动以实现对入射光线的调整，相当于随机观测矩阵。,3,压缩感知应用,28,精选课件,字母,R,的,实验结果：,3,压缩感知应用,29,精选课件,3.4 CS,雷达,在雷达目标探测中，目标相对于背景高度稀疏，与复杂的雷达系统、海量数据呈现极度的不平衡，这就为,CS,技术在雷达目标探测与识别的应用提供了必要的条件。,3.4.1,CS,与传统的高分辨雷达,3.4.2,CS,与,MIMO,雷达,3.4.3,CS,与雷达成像,3,压缩感知应用,30,精选课件,3.4.1 CS,与传统的高分辨雷达,CS,雷达的三个关键点,（,1,）发射信号必须是充分不相关的；,（,2,）在,CS,方法中，不需要使用匹配滤波器；,（,3,）目标场景可以恢复是在假设目标满足稀疏性约束的条件下。,3,压缩感知应用,31,精选课件,3.4.1 CS,与传统的高分辨雷达,CS,技术很重要的思想是设计一个观测矩阵,，用来表示稀疏信号的字典集,，并且,与,是不相关的。利用这个思想设计出,CS,雷达接收机如下图所示。,3,压缩感知应用,32,精选课件,假设空间有若干个稀疏目标，将目标所在的距离向与方位向分割成网格形式。,CS,雷达可以检测的目标数量,，,为稀疏单元数目。如果,，则可以采用,CS,理论，通过优化问题求解，精确分辨出空间的多个目标。,3,压缩感知应用,33,精选课件,3.4.2 CS,与,MIMO,雷达,2004,年,Fishler,等人提出了多输入多输出,(Multiple Input Multiple Output,，,MIMO),雷达的概念,MIMO,雷达收发阵列配置图,3,压缩感知应用,34,精选课件,3.4.2 CS,与,MIMO,雷达,文献,Yao Yu, Athina P. Petropulu, H. Vincent Poor, MIMO Radar Using Compressive Sampling, IEEE Journal Of Selected Topics in Signal Processing, Vol. 4, NO. 1, FEB,2010,基于小规模的无线网络将,CS,理论应用于非相参,MIMO,雷达系统,求得目标的角度和多普勒解。,文献,Chun-Yang Chen and P. P. Vaidyanathan, Compressed Sensing in MIMO Radar, Signals, Systems and Computers, 2008 42nd Asilomar Conference on,，,26-29 Oct.,2008,结合,MIMO,雷达目标在距离,-,多普勒,-,角度域的稀疏特点,研究了,CS,在相参,MIMO,雷达系统中的信号重构和波形优化问题。,文献,Yao Yu, Athina P. Petropulu and H. Vincent Poor, Compressed Sensing for MIMO Radar . ICASSP,2009,.,已经开展了,CS,用于,MIMO,雷达的参数估计。,3,压缩感知应用,35,精选课件,对于均匀线阵的,MIMO,雷达信号模型，利用,CS,方法估计目标波达方向,(Direction of Arrival,，,DOA),，可以高概率的精确估计目标的,DOA,。,均匀线阵,MIMO,雷达估计结果,1,均匀线阵,MIMO,雷达估计结果,2,3,压缩感知应用,36,精选课件,分布式压缩感知（,Distributed Compressive Sensing, DCS,）与,MIMO,雷达,相参,MIMO,雷达系统通过多发多收形成大数量的虚拟阵列，在发射机、目标以及接收机之间构成对目标的分布式探测系统，这与分布式压缩感知（,DCS,）的思想不谋而合。,如果多个信号都在某个变换基下是稀疏的,并且这些信号彼此相关,那么每个信号都能够通过测量矩阵进行联合压缩测量，利用优化方法对待测量进行联合重构。,3,压缩感知应用,37,精选课件,分布式压缩感知（,DCS,）与,MIMO,雷达,（,1,）基于,MIMO,雷达体系的,DCS,变换基构造,3,压缩感知应用,38,精选课件,（,2,）联合稀疏表示,构造压缩测量矩阵 对接收信号,进行联合稀疏表示，即是充分利用接收信号自身以及接收信号之间的相关性信息，对变换域系数进行联合编码，对接收信号进行降低冗余度的信息融合 。,分布式压缩感知（,DCS,）与,MIMO,雷达,3,压缩感知应用,39,精选课件,（,3,）,DCS-MIMO,联合重构算法,求解欠定方程的处理过程，实现,DCS-MIMO,雷达信号重构。,常采用的方法有贪婪算法、粒子群算法、模拟退火算法等优化算法。,分布式压缩感知（,DCS,）与,MIMO,雷达,3,压缩感知应用,40,精选课件,3.4.3 CS,与雷达成像,基于,CS,的,SAR,成像需要解决的主要问题有,:,目标场景的稀疏基设计，,非相关测量,最优化重构算法等。,3,压缩感知应用,41,精选课件,3.4.3 CS,与雷达成像,实际场景信号的构成模式比点目标模型要复杂得多；,大场景雷达成像，由于噪声的缘故，在实际雷达系统中非相关测量的设计是一个有待解决的问题 ；,压缩感知需要求解一个非线性最优化问题，即需要较高的信噪比，然而大场景雷达成像的数据量特别大，且信噪比很差。因此，如何利用,CS,实施大场景雷达成像是一件非常具有挑战性的课题。,3,压缩感知应用,42,精选课件,穿墙雷达成像和探地雷达成像,余慧敏等 压缩感知理论在探地雷达三维成像中的应用 电子与信息学报，,2010,Richard Baraniuk et al,，,Compressive Radar Imaging, Preprint, 2008,A. Gurbuz, et al, Compressive sensing for GPR imaging, Preprint, 2008,3,压缩感知应用,3.4.3 CS,与雷达成像,43,精选课件,穿墙雷达成像和探地雷达成像,http:/to- CS,与雷达成像,44,精选课件,基于压缩感知的含旋转部件目标,ISAR,成像方法,目标到雷达距离,1km,目标运动速度,100m/s,发射信号载频,10GHz,发射信号带宽,600MHz,脉冲宽度,10-e6 s,脉冲重复频率,300Hz,距离分辨率,0.25m,横向距离分辨率,0.25m,3,压缩感知应用,45,精选课件,成像结果对比,利用,RD,算法成像图,基于,Hough,变换剔除微多普勒成像图,基于,CS,方法成像图 （压缩,60%,）,基于,CS,方法成像图 （压缩,80%,）,3,压缩感知应用,46,精选课件,3.4.5 CS,在雷达目标检测与识别中的应用,CS,在雷达目标识别中的应用，可涉及到两大类：第,1,类是基于复回波信号的特征矢量的目标识别方法；第,2,类是基于各种成像算法所得到的复图像的目标识别方法。,3.2.1,字典设计,3.2.2,测量算子设计及雷达目标识别,3,压缩感知应用,47,精选课件,3.2.1,字典设计,理论上，自然信号或图像在适当的变换字典下具有稀疏性,表示每个源信号只需要有较少的时刻采样是非零值,(,或者较大值,) ,而绝大多数时刻取值为零,(,或者接近零,),。,据此，假设,是信号空间,中的一个字典，令,，,信号,在子空间,上的投影可以表示为：,（,6,）,其中，,，,当,；当,时，,。若,为正交基，可用设置阈值的方法得到（,6,）；若,为冗余字典，可以用优化理论来实现字典的设计。,3,压缩感知应用,48,精选课件,测量算子设计及雷达目标识别,运用滤波器组设计以及信息融合的方法来设计测量算子，来实现雷达信号中感兴趣目标及其特征的稀疏性测量。,采用多通道分析,/,综合的设计思想对信号,进行测量算子设计,。流程如下图所示：,用于雷达目标识别的测量算子设计,3,压缩感知应用,49,精选课件,基于稀疏表示理论的,SAR,目标识别,3,压缩感知应用,50,精选课件,识别率（,%,）,BRDM2,BTR70,D7,T72,ZSU234,平均,多线性分析方法,95.08,95.62,100,97.26,98.36,97.26,基于稀疏表示能量最大化,98.32,97.85,100,98.28,99.00,98.69,3,压缩感知应用,51,精选课件,3.1,压缩感知应用,52,精选课件,4. NLM,实验结果,4.1,车牌超分辨,4,倍,参数：,图像数目：,24,搜索窗口：,21,块尺寸：,17,SRFactor,：,4,Sigma,：,90,原始序列,插值序列,超分辨序列,53,精选课件,四、总结与展望,压缩,理论充分利用信号稀疏性或可压缩性来实现信号处理，为信号的采样率的降低提供了一种可能，对于宽带雷达信号来说显得尤为重要。,压缩感知理论作为信号处理领域一个新的基础理论,，,其研究成果将对信号处理等领域产生重大影响，给雷达技术的发展带来一次新的机遇。,54,精选课件,THE END!,55,精选课件,