资源描述
单击此处编辑母版文本样式,第二级,第三级,第四级,第五级,*,北京邮电大学信息理论与技术教研中心,母版标题样式,有记忆信源的编码,解除相关性的方式实现信源编码,从时域解除相关性，预测编码,从广义频域上解除相关性，变化编码,1,它是一类有记忆信源的限失真编码。,有记忆信源最主要的是解除信源的相关性，而预测编码主要是从时域来解除相关性，压缩信息率。,预测编码,一,预测编码的基本原理,信源输出,预测器,量化编码,输出,它不直接对信源输出,u,i,进行量化编码，而是对其差值,:,进行量化编码。其中 为预测值。,2,由信息论：,差值熵：,由信源熵匹配编码有：,(16),其中 表示预测前信源编码平均码长,其中 表示预测后信源编码平均码长,从概率观点看，预测可理解为：,3,由于信息熵是概率分布的泛函数，预测前，信源分布越不均匀，熵越大；预测后，预测越准确，分布越集中，熵值就越小。,即 。,通过预测后，信源数据压缩的倍数就越大。,实现预测编码要进一步研究如下三个问题：,）,预测函数的选取；,）,预测误差准则的选取；,）,预测器输入数据源的选取。,第）个问题决定预测器质量的标准，第）、）两个问题则主要决定预测质量的好坏。,4,下面，我们首先讨论预测函数的选取：,在工程上一般是采用容易实现的线性预测，这时：,可见，当预测函数,f,确定为线性函数以后，预测精度主要决定于,K,值大小：,K,越大，预测越准确，但设备也越复杂；,K,越小，预测越不准确，设备也就越简化。,5,其次，讨论预测误差准则的选取,:,目前大致有下列四种类型：,MMSE,（,最小均方误差）准则；,PSEM,（,功率包络匹配）准则；,PCIV,（,预测系数不变性）准则；,ME,（,最大误差）准则。,其中最常用的是,MMSE,准则，,PCIV,主要特点是与输入信号统计特性无关，它可对多种混合信号进行有效预测。而,ME,准则则主要用于遥测数据压缩。,最后,讨论预测器输入数据流的选取,它可以划分为三类,:,6,预测编码的基本类型,1,）,PCM,型,u,i-1,u,i-2,u,i,-K,1,2,k,量化编码器,7,它可简化为,量化,线性,预测器,线性,预测器,u,i,y,i,x,i,e,i,这是一类最简单的线性预测器。其预测器输入直接来自信源输出，预测函数为线性加权和，其预测精度主要决定于预测项数,K,。,其主要缺点是量化噪声较大。,1,）,PCM,型,（续）,8,2,）,DPCM,型：,u,i,e,i,x,i,量化器,线性,预测器,线性,预测器,y,i,DPCM,与,PCM,比较，不同点有：,线性预测器的输入数据源来自输出反馈端,对于量化器而言，,PCM,是开环型而,DPCM,是闭环型。可利用反馈环进一步压低量化误差。从而进一步提高,DPCM,的预测性能。,预测编码的基本类型（续）,9,-,延时,延时,滤波,DPCM,的特例,M:,2,）,DPCM,型,（续）,10,若将量化等级定为,2,即差值为正时,用”,1”,代表,;,差值为负时,用”,0”,代表,;,而每个差值只需,1,比特,这时,DPCM,即为,M,，,又称它为增量调制,.,为了减少量化误差,一般要增加取样频率,不能再来用常用的最 高频率的,2,倍，即,2,f,m,.,在收端，译码是编码的反变换，即规定一个增量,值，当收到一个“,1”,则在前一个值中加一个,，,收到一个“,0”,，则减去一个,值。,2,）,DPCM,型,（续）,11,3,）噪声反馈编码,(NFC),预测编码的基本类型（续）,NFC,是吸取,PCM,与,DPCM,的优点，即在,PCM,结构简单的基础上,改进其量化噪声大的缺点，将量化器设计在另外增加的一个反馈环内,以达到进一步压减量化误差的目标。这一点上类似于,DPCM.,可见,NFC,是,PCM,与,DPCM,的混合改进型,.,12,预测编码的基本类型（续）,4),预测误差门限型,(,非线形,),设信源输出序列为,:,若仅采用前一位作为后一样值的预测值,则预测误差,若,不传送,;,若,传送,.,13,4),预测误差门限型,(,非线形,),（续）,其中是允许误差的门限值,即可接受的最大误差,在上述图形中虽然有 ，前四个应传送， 不传送。,若选择的预测值不仅仅是前一位，而是前,n,位的线性加权和，则可构成高阶预测误差门限型，其原理同上，实现方框图如下：,显然这一类型中线性预测器与前三类是一致的，但是由于引入了非线性门限比较器，所以它实质上是一类非线性预测器。,14,DPCM,性能分析,下面我们给出四种类型中最常用的,一种,DPCM,的性能分析：,线性预测可表示为：,其,Z,变换为：,可见线性预测器的响应为：,式中,j,为第,i,项加权系数，,N,为预测阶次。由,DPCM,接收部分框图。可求得：,故：,15,可见，线性预测器为一全极点滤波器。故又称为全极点模型。,下面再分析一下,DPCM,的几个主要关系式：,预测误差：,经量化后：,其中,q,i,为量化噪声引入的误差。经无差错传输后接受端恢复后的重建信号为：,可见，,进一步性能分析可参见教材。,DPCM,误差,16,DPCM,中,预测系数的计算,1,线性预测值为 ，为过去,p,个,样值的线性组合， 为预测系数,若选择均方误差准则,17,DPCM,中预测系数的计算,2,假设信源输出广义平稳,r,(,m,),为样值,u,n,的相关函数，上式对,a,i,求偏导,r,(,m,),可通过 估算,18,DPCM,中预测系数的计算,3,将,r,(,m,),代入，可得,a,i,求预测系数的线性方程称作正态方程，,Yule,Walker,方程。,Levinson,和,Durbin,提出一种算法能有效的解上述方程。,19,Levinson-Durbin,算法,Levinson-Durbin,算法是一种用来确定线性方程组 解的阶递归算法。,其中 是一个 阶,Toeplitz,矩阵。,是预测器系数向量，可表示为,是一个 维向量，其元素为,对于一阶,( ),预测器，我们得解,20,一阶预测器的残余均方误差,(MSE),为,一般的，可以用,m-1,阶预测器的系数来表示,m,阶预测器系数的解。于是，把 表示为,两个向量之和，即,21,式中，向量 和标量 待定。于是，,还可以表示为,式中， 刚好是反序的向量,现在,由上式可以得到两个方程。第一个方程为如下矩阵方程,22,从而上式可以简化为,这个方程的解为,刚好是反序 。,从而，上式的解,就是反序的 乘以 ，即,(1),23,由前式得到的第二个方程为如下标量方程,利用前式,(1),，可从上式消去 。,结果的方程,给出 ，即,式中,是残余,MSE,，,由下式确定,24,用前式,(1),代替,最小,MSE,也可以递归计算，于是,得到如下递归关系,及,在上式中利用递归关系，得到,25,上式中方括号内的项就是前式中 的分子，,因此,26,
展开阅读全文