基于模糊回归聚类的稀疏信号盲分离

基于模糊回归模型的稀疏信号盲分离摘要：盲信号分离发展到欠定情况后，人们开始逐渐应用信号稀疏性情况下混合信号的线性特征进行信号盲分离。然而好多算法都要对观测信号归一化，使分离变得复杂不直观。本文根据信号稀疏性情况所表现出的线性特征，提出了用年轻的模糊回归模型（Fuzzy C-Regression Model）聚类的方法估计混合矩阵，然后巧用最大隶属度分离出源信号.由仿真实验的结果可以看出，本文的方法具有直观效率高的特点。关键词：盲信号分离，稀疏性，模糊回归模型，最大隶属度。1. 引言盲信号分离1是信号处理领域的一个活跃分支。从源信号的混合混合方式来看，信号混合可以分为瞬时线性叠加，实时线性叠加，非线性叠加混合等方式，现在所指的信号混合通常是对源信号的线性混迭。基本线性混合可以数学建摸为 (1)其中（1）式为混叠模型，s(t)=(s1(t)sn(t)T为源信号矢量，x(t)=(x1(t)xn(t)T为观测信号矢量;A为未知的mn混叠矩阵;源信号矢量s(t)也是未知的.盲信号分离指的是:在源信号和传输通道的参数的未知的情况下，根据源信号的统计特性，仅由观测信号恢复出源信号的过程，有时也称为盲源分离(Blind Source Separation).盲信号分离理论的发展可追溯到上个世纪80年代初期.1985年法国学者J.Heraulth和C.Jutten等人2较早进行盲信号分离方法研究，首次提出了ICA的基本概念以及独立分量提取的非线性不相关法则.随后他们于1991年3提出了H-J算法，H-J算法中提出了一种针对两个源信号和两个混合信号的递归连接人工神经网络，利用梯度下降算法调整网络权值对网络输出信号的残差最小化实现盲分离.此后盲分离问题引起了神经网络领域和信号处理领域的广泛研究兴趣，盛况空前.随着盲信号分离研究的发展，其应用领域也越来越广泛后，人们也感觉到BSS算法的一些不足和受限.因此，最近几年，有些专家、学者在继续研究瞬时线性盲分离算法的同时，开始逐渐将注意力转向欠定(传感器数目小于源信号数目，即m1,按照(7)定义直线模型,根据(5)定义误差dih0.设置终止迭代参数e并初始化划分矩阵U(0).迭代次数r=0.2).最小化目标函数(6)得到待定参数qi.3).把qi代入(5)计算dih (qi),更新划分矩阵UrU(r+1),使 (8)其中Ih=i1ic,dih (qi)=0,nik是Ih所包含的元素个数。4).查看迭代终止条件，如果Ur-U(r+1)e，停止计算，否则r=r+1,转到第二步.最小化(6)式得到的qi可以通过用(WLS)16算法得到: (9)其中,3基于模糊回归模型（Fuzzy C-Regression Model）的稀疏信号盲分离模糊C回归模型是对线性数据进行聚类的方法，针对稀疏信号的观测信号呈现一条条直线形式,有多少条直线就有多少个源信号，把观测点聚类就能达到估计混合矩阵和分离原信号的目的。3.1混合矩阵的估计由图1可知，这些观测信号的散点图由几条直线组成，对于观测信号x(t)=(x1(t)xm(t)T,其中t=1,2,N,本文把x(t)=(x1(t)xm-1(t)T看做自变量,Y(t)=xm(t)看做变量,每一个Y(t)对应一个x(t),我们可设为Y(t)=bX(t)，其中然后用模糊回归模型找出b和划分矩阵U.因为观测信号的方向分别和混合矩阵的每一列对应着，且XY=1b，所以混合矩阵可以表示为11C b(m-1)CT，虽然它和原混合矩阵有一定差别，但是它和原混合矩阵所表示的直线斜率都是一样的.用模糊回归模型估计混合矩阵的具体流程如下：1).如果信号不够稀疏，首先对观测信号进行Fourier变换（加窗Fourier变换）或者小波变换转化为稀疏信号。计稀疏化了的观测信号X是mn的矩阵，行数m表示观测的混合信号个数，列数n表示一共取得时间点数。2).给出聚类数c，把X每一列前m-1个数作为自变量值，第m个数作为对应的函数值，按照2.2给出的用模糊回归模型对这n列进行聚类得到m-1c的矩阵B和cn划分矩阵U，B表示c条直线方向，U表示每一点对c条直线的隶属度。3).把B上方并上一个1c的矩阵得到mc矩阵A,A即为所求的混合矩阵。3.2源信号的估计对于充分稀疏的情况，即每个时刻最多有一个源信号存在，混合信号x(t)=ajsj(t)只在一条直线上，对应的对这条直线隶属性最大，那么我们可以通过找划分矩阵U中x(t)对应的最大隶属度ujt，再找出ujt对应的直线斜率b，1 b就是这个时刻对应的混合向量aj，从而源信号可用公式 （10）求出.而其它的源信号在t时刻值都默认为零.用模糊回归模型估计源信号的具体流程如下：1).如果信号不够稀疏，首先对观测信号进行Fourier变换（加窗Fourier变换）或者小波变换转化为稀疏信号。计稀疏化了的观测信号X是mn的矩阵，行数m表示观测的混合信号个数，列数n表示一共取得时间点数。2).给出聚类数c，把X每一列前m-1个数作为自变量值，第m个数作为对应的函数值，按照2.2给出的模糊回归模型对这n列进行聚类得到m-1c的矩阵B和cn划分矩阵U，B表示c条直线方向，U表示每一点对c条直线的隶属度。3).对每一个观测信号x(t),我们找它对应的划分矩阵U中最大隶属度ujt，再找出ujt对应的直线斜率b.4).令aj=1 bT,按照(10)式计算sj(t)，si(t)=0，ij，i=1c。5).分别画出sk(t)，k=1c，即为我们分离出的源信号。对于在t时刻出现的源信号数目不大于观测信号数目这种情况，观测信号个数m个,我们可以通过分别求出前m大隶属度分别对应混合矩阵的列，让他们组成m混合矩阵Aj1j2jm，其中j1j2jm1,2,n.源信号在时刻t可表示为： （11）4实验分析4.1性能评价指标由于分离信号具有符号的不确定性，本文采用文献22中提出的检验指标. （12）其中源信号si和分离信号i都是归一化信号，指标PI越小，说明分离效果越好.4.2仿真分析本文主要以两个观测信号，源信号数目从二到五个进行试验验证本文方法的有效性.本文的信号都没有对观测信号进行Fourier变换转化为稀疏信号，只是人中采集或加工后的一些相对稀疏的信号进行试验，但分离效果显而易见.仿真1到3是充分稀疏的情况, 仿真4到7是非充分稀疏的情况仿真1 三个语音信号，两个混叠信号盲分离源信号波形如图1a图1 a 三个充分稀疏的源信号混叠矩阵为：混合后的两个观测信号波形如图1b图1 b 两个混叠信号由本文算法得混叠矩阵A的估计为:以为基础,用最大隶属度找每一时刻存在的源信号，得到的重构的源信号波形如图1c图1 c 三个分离出的稀疏信号三个信号的的分离效果检验指标PI分别为8.2553e-004，9.9729e-004.仿真2 四个语音信号，两个混叠信号盲分离源信号波形如图2a图2 a 四个充分稀疏的源信号混叠矩阵为：混合后的两个观测信号波形如图2b图2 b两个混叠信号由本文算法得混叠矩阵A的估计为:以为基础，用最大隶属度找每一时刻存在的源信号，得到的重构的源信号波形如图2c图2 c四个分离出的稀疏信号四个信号的的分离效果检验指标PI分别为0.0172，0.0207，0.0156，0.0010.仿真3 五个语音信号，两个混叠信号盲分离源信号波形如图3a：图3 a 五个充分稀疏的源信号混叠矩阵为：混合后的两个观测信号波形如图3b：图3 b两个混叠信号由本文算法得混叠矩阵A的估计为:以为基础，用最大隶属度找每一时刻存在的源信号，得到的重构的源信号波形如图3c图3 c五个分离出的稀疏信号五个信号的的分离效果检验指标PI分别为0.0123，0.0207，0.0340，0.0037，0.0042.仿真4 两个语音信号，两个混叠信号盲分离源信号波形如图4a图4 a两个不太稀疏的源信号混叠矩阵为：混合后的两个观测信号波形如图4b图4 b两个混叠信号由本文算法得混叠矩阵A的估计为:以为基础，用s=A-1x，得到的重构的源信号波形如图4c图4 c两个分离出的不太稀疏信号两个源信号的的分离效果检验指标PI分别为0.1008，0.0606.仿真5 三个语音信号，两个混叠信号盲分离源信号波形如图5a图5 a三个不太稀疏的源信号混叠矩阵为：混合后的两个观测信号波形如图5b图5 b两个混叠信号由本文算法得混叠矩阵A的估计为:以为基础，用划分矩阵的前2大隶属度找每一时刻存在的源信号，得到的重构的源信号波形如图5c图5 c三个分离出的不太稀疏信号三个源信号的的分离效果检验指标PI分别为0.6643，0.4556，0.3927。仿真6 四个语音信号，两个混叠信号盲分离源信号波形如图6a图6 a四个不太稀疏的源信号混叠矩阵为：混合后的两个观测信号波形如图6b图6 b两个混叠信号由本文算法得混叠矩阵A的估计为:以为基础，用划分矩阵的前2大隶属度找每一时刻存在的源信号，得到的重构的源信号波形如图6c图6 c四个分离出的不太稀疏信号四个源信号的的分离效果检验指标PI分别为0.3591,0.2821,0.5971，0.0508。仿真7 五个语音信号，两个混叠信号盲分离源信号波形如图7a图7 a 五个不太稀疏的源信号混叠矩阵为：混合后的两个观测信号波形如图7b：图7 b两个混叠信号由本文算法得混叠矩阵A的估计为:以为基础，用划分矩阵的前2大隶属度找每一时刻存在的源信号，得到的重构的源信号波形如图7c图7 c五个分离出的不太稀疏信号五个源信号的的分离效果检验指标PI分别为0.4509,0.3578,0.4441,0.1288, 0.1372。 4 结论本文主要给出了一种稀疏信号盲分离混叠矩阵估计方法，混叠矩阵的精确估计是源信号有效分离的基础。此外本文又提出了一种充分稀疏信号分离的方法，基于最大隶属度进行信号盲分离。本文提出的方法容易实现，特别适合欠定情况。对于稀疏盲分离，源信号的稀疏程度对于盲分离精度极为关键。由于某些时候信号的稀疏性不够，如果有可能，我们有必要对其合理的稀疏变换（比如Fourier变换、小波变换等），在变换域实现盲分离。参考文献1 Haykin S. Unsupervised Adaptive Filtering: Blind Source SeparationM.New York, USA: Wiley J & Sons, 2000.2 J. Herault, C. Detection. degrandeurs primitive dansun message Composites parune architecture decalcul newromimeriqueen apprentissage non superviseJ.Nice,Freance.1985.3 J. Herault, C. Jutten. Blind separation of sources,Part I: An adaptive algorithm based on neuromimeticJ.Signal Processing,1991,24(l):l-10.4 Y.Q. Li,J.Wang,J.M.Zurad ,Blind extraction of singularly mixed Source signalsJ,IEEE Trans on Neural Networks,2000,11(6):1413-1422.5 J.L. Zhang, S.L. Xie, Z.S. He. Separability theory for blind signal separationJ.Acta Automatica Sinica , April 2004, vol. 30(3), pp.337-344.6 A.Belouchrani, J.F Cardoso. Maximum likelihood source separation for discrete sourcesA.in Proc. EUSIPCOC, 1994, pp.768-771.7 M. Zibulevsky, B.A. Pearlmutter. Blind source separation by sparse decomposition in a signal dictionaryJ.Neural computation, April 2001, vol.13, no. 4, pp. 863-882.8 T.W.Lee, M.S.Lewicki, M.Girolami et al. Blind source separation of more Sources than mixtures using over complete representationJ.IEEE Signal processing letter (S1070-9908), 1999, 6(4), pp. 87-90.9 M.S. Lewicki, T.J. Sejnowski. Learning overcomplete representations J.Neural computation, 2000, vol. 12, pp. 337-365.10 Y.Q.Li, A.Ciehocki, S.Amari.Analysis of sparse representation and blind source separation J.Neural computation, June 2004, vol.16, no. 6, pp. 1193-1234.11 P.Bofill, M.zibulevsky. Underdetermined source separation using sparse representationJ. Signal Processing, 2001, 81, pp. 2353-2362.12 B.A.Pearlmutter, VK.Potluru. Sparse separation:Principles and tricksA.Proc SPIE vol.5l02, “Independent Component Analyses, Wavelets, and Neural Networks”C,April2003,pages l-4.13 Z.S.He,S.L.Xie,Y.L.Fu. Sparse representation and blind source separation of ill-posed mixturesJ.Science in China Series F-Information Science,2006,vol.49 No.5pp.639-652.14 Z.S He,A.Ciehocki. K-EVD Clustering and its Application in Sparse Component AnalysisA.6th International Conference on Independent Component Analysis and Blind Signal SeparationC,Charleston SC, USA, March 5-8,2006.15 R.J. Hathaway, J.C. Bezdek. “Switching regression models and fuzzy clustering,”IEEE Trans.,Fuzzy Syst, vol. 1, no. 3, pp. 195-204, 1993.16 L.L. jung , T. Soderstrom, Theory and Practice of Recursive Identification.MIT Press, 1983.17 C.C.Chun Kung, J.Yiao.Su. A Study of Cluster Validity Criteria for the Fuzzy c-Regression Models Clustering AlgorithmJ.IEEE Trans. Fuzzy Syst, 2007.