第五章-补充-常用压缩编码方法

统计编码：属于无失真编码。根据信源符号出现概率的分布特性进行编码，让概率大的信源符号用短码字表示，让概率小的信源符号用长码字表示，从而去除数据之间的冗余而达到压缩的目的。预测编码：根据离散信号之间存在一定的相关性特点，利用前面的一个或多个信号对下一个信号进行预测，然后对实际值和预测值的差值进行编码。变换编码：属于有失真的编码。变换编码是将原始数据从初始空间或时间域进行数学变换，变换为更适合于压缩的抽象域。关键的是要寻找一个最佳变换，使信息中最重要的部分易于识别。变换本身是可逆的无损的，为了取得更好的效果，忽略了一些编码位数较长的系数而成为了有损编码。变换域有一定的物理意义，其系数包含信号的某些成分，根据需要做删除，达到压缩目的。分析/合成编码：是基于某种模型的编码方法，这些模型可以是声道模型、语音模型、人体模型等。通过分析模型的具体特征，确定与之匹配的编码。其他编码方法常见的有：其他编码方法常见的有：混合编码（混合编码（Hybrid CodingHybrid Coding）、）、矢量量化（矢量量化（Vector QuantizeVector Quantize，VQVQ）、）、LZWLZW算法等。算法等。人工神经元网络（人工神经元网络（Artificial Neural NetworkArtificial Neural Network，ANNANN）算法、）算法、分形（分形（FractalFractal）算法、小波（）算法、小波（WaveletWavelet）算法、）算法、基于对象（基于对象（Object-BasedObject-Based）的算法、）的算法、基于模型（基于模型（Model-BasedModel-Based）的算法等。）的算法等。数据压缩的性能指标数据压缩的性能指标 衡量一种数据压缩技术的重要性能指标有压缩比、衡量一种数据压缩技术的重要性能指标有压缩比、压缩速度、压缩质量和计算量。压缩速度、压缩质量和计算量。压缩比压缩比 压缩比是指原始数据量和压缩后数据量的比值。压缩比是指原始数据量和压缩后数据量的比值。例如，例如，MPGEMPGE是一种包含音频和图像在内的压缩技术，利用是一种包含音频和图像在内的压缩技术，利用MPEG-1MPEG-1、MPEG-2MPEG-2、MPEG-4MPEG-4三个方案，对音频的感知编码中，三个方案，对音频的感知编码中，MPEG-1MPEG-1方案的音频压缩比是方案的音频压缩比是1:41:4，MPEG-2MPEG-2方案的音频压缩方案的音频压缩比是比是1:61:8 1:61:8，MPEG-4MPEG-4方案的音频压缩比是方案的音频压缩比是1:101:12 1:101:12。但是但是MPEGMPEG对图像的压缩算法，所提供的压缩比可以高达对图像的压缩算法，所提供的压缩比可以高达200:1200:1。利用。利用JPEGJPEG也可以有多种图像的压缩比，甚至可以也可以有多种图像的压缩比，甚至可以减小到原图像的百分之一（压缩比减小到原图像的百分之一（压缩比100:1100:1）。）。压缩速度压缩速度压缩速度指编码或解码的快慢程度。不同的应用场合，对压缩速度要求是不同的。对于一个压缩系统而言，有对称压缩和非对称压缩之分。对称压缩，就是压缩和解压缩都需要实时进行的。例如：电视会议的图形传输。非对称压缩常常在解压缩方面要求是实时的，但压缩可以不是实时的。例如，多媒体CD-ROM的制作过程可以不是实时的，但解压缩必须是实时的，否则用户看到的就不是连续的图像。压缩质量压缩质量 压缩质量是指压缩以后对媒体的感知效果压缩质量是指压缩以后对媒体的感知效果。有损压缩才可能影响人对媒体的感知效果。压缩质量的好坏与压缩质量的好坏与压缩算法压缩算法、数据内容数据内容和和压缩比压缩比有密切的关系。有密切的关系。例如，使用JPEG编码时，当压缩比为20:1时，能看到图像稍微有点变化，当压缩比大于20:1时，一般图像质量开始变坏。统计编码统计编码 统计编码属于一种无失真的编码，具体实现的方统计编码属于一种无失真的编码，具体实现的方法有多种，包括行程编码、法有多种，包括行程编码、LZWLZW编码、编码、HuffmanHuffman编码、算术编码。编码、算术编码。统计编码统计编码又称熵编码。根据信息论的原理，我们可又称熵编码。根据信息论的原理，我们可以找到最佳的压缩编码方法，数据压缩的理论极限以找到最佳的压缩编码方法，数据压缩的理论极限是信息熵。也就是说，信息中可能存在着冗余信息，是信息熵。也就是说，信息中可能存在着冗余信息，要去除信息的冗余部分，使编码后单位数据量等于要去除信息的冗余部分，使编码后单位数据量等于其信息源的熵，就达到了压缩极限。其信息源的熵，就达到了压缩极限。信息论认为信源中存在的冗余度来自于信源本身信息论认为信源中存在的冗余度来自于信源本身的相关性和信源概率分布的不均匀性。的相关性和信源概率分布的不均匀性。熵编码要熵编码要解决的问题，是如何利用信息熵理论减少数据在解决的问题，是如何利用信息熵理论减少数据在存储和传输中的冗余度存储和传输中的冗余度,即即要找到去除信源的相关要找到去除信源的相关性和概率分布的不均匀性的方法。性和概率分布的不均匀性的方法。预测编码 常用的解除相关性的措施：预测和变换 预测有可能完全解决序列的相关性，但必须知道序列的概率统计特性 变换只能解除矢量内部的相关性，它可以有许多变换方式以适应不同的信源。预测编码预测编码 预测编码是一种有失真的编码，预测编码是一种有失真的编码，DPCMDPCM编码和编码和ADPCMADPCM编码是两种较典型的预测编码，它们比较适用于编码是两种较典型的预测编码，它们比较适用于声音和图像数据的压缩。声音和图像数据的压缩。预测编码预测编码 预测编码预测编码是根据离散信号之间存在一定的相关性的是根据离散信号之间存在一定的相关性的特点，利用前面的一个或多个信号对下一个信号进特点，利用前面的一个或多个信号对下一个信号进行预测，然后对实际值和预测值的差值进行编码。行预测，然后对实际值和预测值的差值进行编码。预测编码根据预测器的设计分为线性预测和非线性预测编码根据预测器的设计分为线性预测和非线性预测。但为了预测的效率，大多采用线性预测。预测。但为了预测的效率，大多采用线性预测。预测编码非常适用于声音和图像方面的压缩。对预测编码非常适用于声音和图像方面的压缩。对于声音来讲，预测的对象是声波的下一个幅度、于声音来讲，预测的对象是声波的下一个幅度、下一个音色。对于图像而言，预测的对象是下一下一个音色。对于图像而言，预测的对象是下一个像点、下一条线或下一帧。声音和图像中通常个像点、下一条线或下一帧。声音和图像中通常都存在冗余的信号，而且在相邻的音色或相邻像都存在冗余的信号，而且在相邻的音色或相邻像点之间的相关性比较强，它们的差值比较小，这点之间的相关性比较强，它们的差值比较小，这样任何音色或像点都可以通过已知样本值进行预样任何音色或像点都可以通过已知样本值进行预测。对于连续的多帧图像，上下帧通常具有一些测。对于连续的多帧图像，上下帧通常具有一些相同的部分内容，如背景和静止的物体，可以预相同的部分内容，如背景和静止的物体，可以预计在一定的时间内将不会发生变化。主要对其差计在一定的时间内将不会发生变化。主要对其差值进行编码，可以达到压缩的目的。值进行编码，可以达到压缩的目的。预测编码时首先要存储的是当前内容，接着以把预测编码时首先要存储的是当前内容，接着以把当前内容作为样板，预测下一个信号，将预测所当前内容作为样板，预测下一个信号，将预测所得的不同内容进行存储或传输，如内容相同则是得的不同内容进行存储或传输，如内容相同则是数据冗余，予以剔除。这样数据量将会大幅度减数据冗余，予以剔除。这样数据量将会大幅度减少，达到压缩效果。少，达到压缩效果。预测编码常见的方法有预测编码常见的方法有DPCMDPCM、ADPCMADPCM、MM、MM调制编码。预测编码主要采用压缩图像数据的调制编码。预测编码主要采用压缩图像数据的空间冗余和时间冗余的方法，简捷且易于实现，但空间冗余和时间冗余的方法，简捷且易于实现，但要求数据传输速度很高。另外，预测编码方法的压要求数据传输速度很高。另外，预测编码方法的压缩能力有限。为了进一步提高数据压缩的能力，可缩能力有限。为了进一步提高数据压缩的能力，可采用其它编码方法，例如变换编码。采用其它编码方法，例如变换编码。差分脉冲编码（差分脉冲编码（DPCM)DPCM)的抽样速率通常是与的抽样速率通常是与PCMPCM相同，相同，因此在编码器中的带限滤波器和解码器中的平滑滤波因此在编码器中的带限滤波器和解码器中的平滑滤波器基本上与器基本上与PCMPCM系统中的滤波器是一样的，但是它不是系统中的滤波器是一样的，但是它不是对每个采样值进行量化的，而是根据前一个样值预测对每个采样值进行量化的，而是根据前一个样值预测下一个样值，并量化实际值和预测值之间的差值。差下一个样值，并量化实际值和预测值之间的差值。差分脉冲编码的基本原理如下，在发送端输入的采样信分脉冲编码的基本原理如下，在发送端输入的采样信号，经量化器后传送到编码器，号，经量化器后传送到编码器，DPCMDPCM编码器将产生不编码器将产生不同抽样值，简单的抽样方法就是将前一个输入抽样直同抽样值，简单的抽样方法就是将前一个输入抽样直接存储在抽样保持电路中，并使用模拟减法器来测试接存储在抽样保持电路中，并使用模拟减法器来测试抽样有无变化。如果信号有变化，则差值被量化、被抽样有无变化。如果信号有变化，则差值被量化、被编码和传输。编码和传输。差分脉冲编码的基本原理差分脉冲编码的基本原理 量化器预测器XnEnEnXnXnqnqn恰好就是发送端的量化误差。所以，恰好就是发送端的量化误差。所以，DCPMDCPM系统系统中，量化器和预测器的设计是关键，好的预测器中，量化器和预测器的设计是关键，好的预测器编码应能根据信号的局部特性，调整量化器的步编码应能根据信号的局部特性，调整量化器的步长和预测器的参数，使得许多预测值和实际值之长和预测器的参数，使得许多预测值和实际值之间差值为最小。间差值为最小。在接收端，经过和发信端的预测完全相同的操作，在接收端，经过和发信端的预测完全相同的操作，可以得到量化的原信号，然后再通过低通滤波便可以得到量化的原信号，然后再通过低通滤波便可恢复与原信号近似的波形。可恢复与原信号近似的波形。ADPCMADPCM编码编码 ADPCMADPCM自适应差分编码，它具有自适应编码的特自适应差分编码，它具有自适应编码的特性，该编码包括自适应量化和自适应预测两种性，该编码包括自适应量化和自适应预测两种形式。形式。ADPCMADPCM编码的方法是针对输入样值进行自编码的方法是针对输入样值进行自适应预测，然后对预测误差进行量化编码。适应预测，然后对预测误差进行量化编码。综合了综合了APCMAPCM的自适应特性和的自适应特性和DPCMDPCM系统的差分特性，系统的差分特性，是一种性能比较好的波形编码。是一种性能比较好的波形编码。它的核心想法是：它的核心想法是：利用自适应的思想改变量化阶的大小，即使用利用自适应的思想改变量化阶的大小，即使用小的量化阶小的量化阶(step-size)(step-size)去编码小的差值，使用去编码小的差值，使用大的量化阶去编码大的差值大的量化阶去编码大的差值,使用过去的样本使用过去的样本值估算下一个输入样本的预测值，使实际样本值值估算下一个输入样本的预测值，使实际样本值和预测值之间的差值总是最小。和预测值之间的差值总是最小。ADPCMADPCM主要用于对中等质量的音频信号进行高效主要用于对中等质量的音频信号进行高效率压缩。例如语音的压缩、调幅广播音质的信号率压缩。例如语音的压缩、调幅广播音质的信号压缩等。压缩等。CCITTCCITT的的32kbit32kbits s语音编码标准语音编码标准G.721G.721采用采用ADPCMADPCM编码方式，每个语音样值相当于用编码方式，每个语音样值相当于用4 4个个二进制位进行编码。二进制位进行编码。变换编码变换编码 变换编码变换编码是一种有失真编码，所谓变换主要是是一种有失真编码，所谓变换主要是将原始数据的原来的时间或空间域进行数学变将原始数据的原来的时间或空间域进行数学变换，使得通过变换后能够突出原始数据中的重换，使得通过变换后能够突出原始数据中的重要部分，以便重点处理。变换编码中的较为典要部分，以便重点处理。变换编码中的较为典型的是最佳变换（型的是最佳变换（K-LK-L变换）编码和离散余弦变变换）编码和离散余弦变换（换（DCTDCT）编码，其中）编码，其中K-LK-L变换是在均方误差最变换是在均方误差最小意义下导出的，其基向量是输入数据向量协小意义下导出的，其基向量是输入数据向量协方差矩阵的特征向量，这种变换矩阵将随着输方差矩阵的特征向量，这种变换矩阵将随着输入数据的不同而不同，因此难于实现。入数据的不同而不同，因此难于实现。图像变换编码不是直接对空间域图像信号编码，而图像变换编码不是直接对空间域图像信号编码，而是首先将当前所表达的空间域图像信号经过变换映是首先将当前所表达的空间域图像信号经过变换映射到另一个正交矢量空间，将得到一系列变换系数，射到另一个正交矢量空间，将得到一系列变换系数，然后对这些变换系数进行编码处理。结果是重要的然后对这些变换系数进行编码处理。结果是重要的系数在变换到其他空间域后，其编码的精确度高于系数在变换到其他空间域后，其编码的精确度高于次重要的系数。变换本身是一种无损且可逆的技术，次重要的系数。变换本身是一种无损且可逆的技术，为了能获得更好的编码效果，忽略了一些不重要的为了能获得更好的编码效果，忽略了一些不重要的系数，由此成为了有损的技术。系数，由此成为了有损的技术。变换编码原理如下。图中，输入信号经过适当的正变换编码原理如下。图中，输入信号经过适当的正交变换到另一个频域空间，相关性就会明显减少，交变换到另一个频域空间，相关性就会明显减少，能量集中在频域的少数低频系数上，这样就达到了能量集中在频域的少数低频系数上，这样就达到了数据压缩的效果。如果保留频域中系数大的元素，数据压缩的效果。如果保留频域中系数大的元素，忽略小的系数，然后辅以非线性量化来提高压缩程忽略小的系数，然后辅以非线性量化来提高压缩程度，最后进行编码，可获得很高的压缩比。度，最后进行编码，可获得很高的压缩比。图像傅立叶变换原图像幅度谱相位谱图像傅立叶变换原图像幅度谱相位谱图像傅立叶变换 幅度谱告诉我们图像中某种频率的成份有多少 相位谱告诉我们频率成份位于图像的什么位置 通常我们只关心幅度谱 下面两个图对应的幅度谱是一样（这里只显示了其幅度谱，当然相位谱是不一样的）图像傅立叶变换 从幅度谱中我们可以看出明亮线反映出原始图像的灰度级变化，这正是图像的轮廓边图像傅立叶变换 从幅度谱中我们可以看出明亮线和原始图像中对应的轮廓线是垂直的。如果原始图像中有圆形区域那么幅度谱中也呈圆形分布图像傅立叶变换 图像中的颗粒状对应的幅度谱呈环状，但即使只有一颗颗粒，其幅度谱的模式还是这样。图像傅立叶变换 这些图像没有特定的结构，左上角到右下角有一条斜线，它可能是由帽子和头发之间的边线产生的 两个图像都存在一些小边界图像傅立叶变换 图像发生旋转时，幅度谱也相应的进行了旋转(,)(,),(,)(,)f x yf rF u vF cos,sin,cos,sinxryruv00(,)(,)f rF F图像的K-L变换 K-L变换也叫霍特林（Hotelling）变换，是一种基于图像统计特性的变换 K-L变换的协方差矩阵除对角线以外的元素都是零，消除了数据之间的相关性，从而在信息压缩方面起着重要作用。K-L变换也称分量分析（Primary Component Analysis,PCA）是图像特征提取一种最优正交线性变换，可以有效去掉一个随机向量中各元素间的相关性。K-L变换编码K-L变换编码1PCA(主分量分析主分量分析/K-L)变换变换均值：均值：偏差：偏差：协方差矩阵：协方差矩阵：PCA变换：变换：PCA反变换：反变换：变换后均值为变换后均值为0，方差为：，方差为：ASIPP基于PCA方法特征脸空间的构建 人脸识别就是将已检测到的待识别人脸与数据库中的已知人脸进行比较匹配，得出相关信息，来鉴别该人是谁。这一过程的核心是选择恰当的人脸表征方式与匹配策略，即选择合适的人脸模式的特征，根据所提取的特征进行匹配。人脸特征表述人脸特征表述 ASIPP基于PCA方法特征脸空间的构建 ORL标准人脸库由40人，每人10幅11292图像组成。这些图像是拍摄于不同时期的；人的脸部表情和脸部细节有着不同程度的变化，比如，笑或不笑，眼睛或睁或闭，戴或不戴眼镜；人脸姿态也有相当程度的变化，深度旋转和平面旋转可达20度；人脸的尺度也有多达10的变化。ORL人脸库人脸库(英国剑桥大学英国剑桥大学)ASIPPPCA介绍介绍 基于PCA构建特征脸空间是对图像进行K-L变换，以去除样本间的相关性，然后根据特征值的大小选择特征向量。这种方法首先将人脸图像映射为高维空间的向量，然后应用基于统计的离散K-L变换方法，构造一个各分量互不相关的特征空间，即特征脸空间，再将人脸图像在高维空间中的向量映射到特征脸空间，得到特征系数。基于PCA方法特征脸空间的构建 ASIPP特征值与特征图像特征值与特征图像 特征值ORL 20人 10幅 特征脸空间110201140 PCA构建特征脸空间K-L 变换的应用人脸识别图像的离散余弦变换 DCT矩阵的左上角代表低频分量，右下角代表高频分量 由DCT域图像我们能够了解图像主要包含低频成份DCT域图像域图像空间域图像空间域图像DCT变换编码DCT变换编码DCT变换编码DCT变换编码DCT变换编码DCT变换编码DCT变换编码DCT与与PCA的关系的关系其特征值为：其特征值为：其特征向量为：其特征向量为：其根为：其根为：小波变换发展小波变换发展 1822年Fourier变换,在频域的定位最准确，无任何时域定位能力。函数，时域定位完全准确，频域无任何定位能力 1946年Gabor变换，STFT，窗函数的大小和形状与时间和频率无关而保持固定不变。不构成正交基。1980年Harr提出规范正交基。1984年,Morlet提出了连续小波 1985年,Meyer,Grossmann,Daubecies提出离散的小波基 1986年,Meyer证明了不可能存在时域频域同时具有正则性的正交小波基，证明了小波的自正交性。1987年,Mallat统一了多分辨率分析和小波变换，给出了快速算法。1988年，Daubecies在NSF的小波专题研讨会进行了讲座。STFT STFT 与与 WaveletWavelet 应用：应用：将小波用于地震信号的分析与处理；将二进小波变换用于图像的边缘检测、图像压缩与重构；将连续小波变换用于涡流的研究；将小波变换用于噪声中的未知瞬态信号；将小波变换用于语音信号的分析、变换和综合;将正交小波变换用于算子及拟微分算子的化简；将小波变换的自适应性用于解微分方程；将小波变换用于电磁场领域的若干问题研究等，都取得了初步成果。波和小波（波和小波（Wavelet）2连续小波变换（连续小波变换（CWT）小波变换的定义小波变换的定义 设函数f(t)L2(R)，则小波变换的定义如下：其中，积分核为 的函数族。a0为尺度参数（伸缩参数）,b为定位参数（平移参数），该函数称为小波。若a1函数(t)具有伸展作用，若a1函数(t)具有收缩作用。伸缩参数a对(t)的影响如下图：,1()()a btbtaa,1(,)()()()()fa btbWa bf tt dtf tdtaa 随着参数a的减小，(t)的支撑区也随之变窄，反之亦然。(t)随伸缩参数a和平移参数b而变化如下图：大大a小小a图中小波函数为 。当a=2,b=15时，2,15(t)的波形从原点向右移至t=15，且波形展宽。当a=0.5，b=-10时，1/2,-10(t)的波形从原点向左移至t=-10,且波形收缩。2)(ttet4）几种小波（1）Haar小波 t t tH其它 012/112/101)(（2）Mexico Hat 小波 Mexico Hat 小波是Gauss函数的二阶导数：2)1(412232)(ttet)()1()(2|2xnnnnedtdt它是实值小波，一般形式为：（3）Morlet 小波 Morlet 小波是最常用的复值小波，它可由下式给出：22/412200)(ttjeeet小波变换双通道滤波器组H0H12a0(n)a1(n)222G0G1)(nx)(nx)(H248W0W1W2V2频域的剖分用小波变换进行图像分解用小波变换进行图像分解八带分解示意图八带分解示意图(a)(a)一次二维一次二维DWTDWT；(b)(b)两次二维两次二维DWTDWT；(c)Woman(c)Woman二级分解图二级分解图 A(近似值)H(垂直细节)V(垂直细节)D(垂直细节)(a)A2H1V1D1(b)H2V2D2(c)小波变换编码