第17讲——-线性分组码编码与译码

第第1717讲讲-线性分组码线性分组码编码与译码编码与译码0000010100111001011101110000001001100101101100100011011011011111消息消息码字码字码码 许用码字许用码字 禁用码字禁用码字 编码效率编码效率汉明重量汉明重量 汉明距离汉明距离 最小汉明距离最小汉明距离纠检错能力纠检错能力群群 子群子群 分元陪集分元陪集0001 101100000010011001011011消息消息码字码字基本概念基本概念0000001001100101101100100011011011011111000010100010011110100010101100101111111000010010111000011001001100111110100111010001101010100011100000111011101010111100分元陪集划分分元陪集划分0000010100111001011101110000001001100101101100100011011011011111消息消息码字码字码码 许用码字许用码字 禁用码字禁用码字 编码效率编码效率汉明重量汉明重量 汉明距离汉明距离 最小汉明距离最小汉明距离纠检错能力纠检错能力群群 子群子群 分元陪集分元陪集域域GF(2)上的矢量空间上的矢量空间 子空间子空间矢量张成的子空间矢量张成的子空间 基底基底 维数维数零化空间零化空间矩阵行空间矩阵行空间0001 101100000010011001011011消息消息码字码字GF(2)基本概念基本概念线性分组码线性分组码长度为长度为n，有，有2k个码字的码组，当且仅当这个码字的码组，当且仅当这2k个码字是个码字是GF(2)上上n维矢量空间的一个维矢量空间的一个k维子空间时，称为维子空间时，称为(n,k)线性分组码，简称线性分组码，简称(n,k)码。码。由于由于k维子空间是在模维子空间是在模2加法下运算的，构成了一个加法加法下运算的，构成了一个加法交换群，所以线性分组码也称为交换群，所以线性分组码也称为群码群码。码率码率R=k/n，就是传输效率。就是传输效率。最小汉明距离最小汉明距离dmin等于非零码字的最小重量。等于非零码字的最小重量。系统码系统码n-k kk n-k码字信息位与输入信息序列相同，并且与校验位分开码字信息位与输入信息序列相同，并且与校验位分开生成矩阵生成矩阵线性分组码是线性分组码是GF(2)上上n维空间中的一个维空间中的一个k维子空间，因此维子空间，因此它可以由它可以由k个线性无关个线性无关n维矢量维矢量 完全确定。由完全确定。由于这组矢量的所有线性组合给出了码于这组矢量的所有线性组合给出了码C中的任一个码字中的任一个码字，称，称生成码生成码C。C中任何一组基底所构成的矩阵中任何一组基底所构成的矩阵G称作码称作码C的的生成矩阵生成矩阵生成矩阵生成矩阵对于任何一个给定的信息序列对于任何一个给定的信息序列 ，可指定，可指定作为相应的码字。作为相应的码字。G矩阵的每一行都是一个码字矢量，分别对应信息位为矩阵的每一行都是一个码字矢量，分别对应信息位为(100),(0100)(0001)时的码字。时的码字。生成矩阵生成矩阵(n,k)分组码实际上就是这分组码实际上就是这k个线性无关的码字矢量张成个线性无关的码字矢量张成的的k维子空间，这维子空间，这k个矢量组成的矩阵就是生成矩阵。个矢量组成的矩阵就是生成矩阵。确定确定(n,k)码的生成矩阵的问题实际上就是确定码的生成矩阵的问题实际上就是确定n重矢重矢量空间中量空间中k维子空间的维子空间的k个线性无关的码字矢量的问题，个线性无关的码字矢量的问题，也就是寻找基底的问题。也就是寻找基底的问题。(n,k)码的码的n重矢量空间中可以有多个重矢量空间中可以有多个k维子空间，产生维子空间，产生不同的码组，即有不同的基底。不同的码组，即有不同的基底。(n,k)码的码的n-重矢量空间中的一个重矢量空间中的一个k维子空间的基底可以维子空间的基底可以有多个，因此可以有不同的生成矩阵有多个，因此可以有不同的生成矩阵G，但都产生相，但都产生相同的码组。同的码组。基底的线性组合等效于基底的线性组合等效于G的行初等变换，可以产生一组的行初等变换，可以产生一组新的基底。利用这一点，可使生成矩阵具有如下新的基底。利用这一点，可使生成矩阵具有如下“系统系统形式形式”，称之为典型生成矩阵。，称之为典型生成矩阵。典型生成矩阵典型生成矩阵即：即：G=Ik Q，Q为为kr矩阵，矩阵，Ik为为kk单位阵。单位阵。非系统码与系统码并无本质区别，它的生成矩阵可非系统码与系统码并无本质区别，它的生成矩阵可以通过行初等变换转变为系统形式，这个过程叫做以通过行初等变换转变为系统形式，这个过程叫做系统化。系统化并不会改变码集，其纠错能力完全系统化。系统化并不会改变码集，其纠错能力完全等价。等价。例例 题题设二元（设二元（5,3）码，其生成矩阵为）码，其生成矩阵为将其化为标准形式？将其化为标准形式？一致校验矩阵一致校验矩阵与任何一个与任何一个(n,k)码的码空间码的码空间C相对应，一定存在一个相对应，一定存在一个对偶空间对偶空间D，它的每个矢量都与，它的每个矢量都与C中的每个矢量正交，中的每个矢量正交，其维数为其维数为n-k。事实上，若找出生成空间事实上，若找出生成空间D的基底（的基底（n-k个）用这个）用这n-k个个矢量同样可以生成包含矢量同样可以生成包含 个码字的个码字的(n,n-k)线性分组线性分组码，我们称其码，我们称其(n,k)码的对偶码，生成矩阵为码的对偶码，生成矩阵为一致校验矩阵一致校验矩阵由对偶空间的定义知，有对任意的由对偶空间的定义知，有对任意的即即H可以检验一个可以检验一个n重是否为码字，称重是否为码字，称H为码为码C的的一致校验矩阵一致校验矩阵。典型一致校验矩阵典型一致校验矩阵系统码的一致校验矩阵为系统码的一致校验矩阵为即即H=P Ir,其中，其中，Ir为为rr单位阵，单位阵，P为为rk矩阵。矩阵。一致校验矩阵与生成矩一致校验矩阵与生成矩阵之间的关系阵之间的关系 由于生成矩阵每一行都是一个码字，因此应当满由于生成矩阵每一行都是一个码字，因此应当满足一致校验矩阵所规定的校验关系，即应当有：足一致校验矩阵所规定的校验关系，即应当有：GHT=0 或者或者HGT=0 因此因此H与与G互为正交矩阵，说明互为正交矩阵，说明G和和H的行空间互的行空间互为零化空间。为零化空间。一致校验矩阵与生成矩一致校验矩阵与生成矩阵之间的关系阵之间的关系对于系统码，上式可以写成对于系统码，上式可以写成Ik Q P Ir T=0 得得PT+Q=0所以所以PT=Q 或者或者 P=QT即即P矩阵与矩阵与Q矩阵互为转置矩阵。矩阵互为转置矩阵。对于系统码，已知校验矩阵对于系统码，已知校验矩阵H就可以确定典型生成矩就可以确定典型生成矩阵阵G，反之，已知生成矩阵也就可以确定校验矩阵。，反之，已知生成矩阵也就可以确定校验矩阵。例例 题题【例】设二元【例】设二元(7,4)码的生成矩阵为码的生成矩阵为求其一致校验矩阵？求其一致校验矩阵？【例】设二元【例】设二元(5,3)码，其生成矩阵为码，其生成矩阵为求其一致校验矩阵？求其一致校验矩阵？线性分组码编码线性分组码编码线性分组码的编码过程分为两步：线性分组码的编码过程分为两步：把信息序列按一定长度分成若干信息码组，每组由把信息序列按一定长度分成若干信息码组，每组由 k 位组成；位组成；编码器按照预定的编码器按照预定的线性规则线性规则，把信息码组变换成，把信息码组变换成 n 重重(nk)码字码字。信息码组长信息码组长 k 位，有位，有 2k 个不同的信息码组，则有个不同的信息码组，则有 2k 个个码字与它们一一对应。码字与它们一一对应。一致校验矩阵编码一致校验矩阵编码设设c=c0,c1,c2,c3,c4,c5,c6，其中，其中，c0,c1,c2,c3为信息为信息位，位，c4,c5,c6为校验位。为校验位。由由HCT=0可知校验方程为：可知校验方程为：c4=c0+c2+c3c5=c0+c1+c2c6=c1+c2+c3信息码元信息码元m=1101则编得的码字则编得的码字c=1101000 生成矩阵编码生成矩阵编码若信息码元若信息码元m=1101，则有，则有c=mG=1101000。译码准则译码准则设发送码字为设发送码字为c=(c0,c1,cn-1)，由于信道干扰产生差，由于信道干扰产生差错，反映到接收码字上可以用一个二元矢量错，反映到接收码字上可以用一个二元矢量e表示，表示，e=(e0,e1,en-1)，称为，称为错误图样错误图样，其中，其中，ei=1表明相应位表明相应位有错，有错，ei=0表明相应位无错。这时接收码字可以表示为表明相应位无错。这时接收码字可以表示为r=c+e=(c0+e0，c1+e1,cn-1+en-1)译码器就是从接收码字译码器就是从接收码字r得到发送码字的估计值，或者得到发送码字的估计值，或者说从接收码字中确定错误图样说从接收码字中确定错误图样e，然后由，然后由c=r-e得到发送得到发送码字的估计值。如果估计正确则译码正确，否则译码错码字的估计值。如果估计正确则译码正确，否则译码错误。误。如何得到发送码字的估计值，根据什么准则？如何得到发送码字的估计值，根据什么准则？译码准则译码准则最大后验概率译码最大后验概率译码最大似然译码最大似然译码最小距离译码最小距离译码对于给定的接收矢量，计算它与对于给定的接收矢量，计算它与M个可能的发个可能的发送码字之间的距离，从中选择能使距离达到最送码字之间的距离，从中选择能使距离达到最小的码字作为判决结果。小的码字作为判决结果。若信道是对称若信道是对称DMC信道，其转移概率为信道，其转移概率为1-p和和p/(q-1)，则，则 则对数似然函数为则对数似然函数为最大似然译码准则可简化为：最大似然译码准则可简化为：若对所有的若对所有的，有，有则判定则判定最小距离译码最小距离译码最小距离译码最小距离译码伴随式伴随式设码设码C的一致校验矩阵为的一致校验矩阵为H，接收矢量为，接收矢量为r，定义，定义称称s为接收矢量为接收矢量r的伴随式。的伴随式。由伴随式的定义可知由伴随式的定义可知s=rHT=(c+e)HT=cHT+eHT=eHT可以看出伴随式完全由可以看出伴随式完全由e决定，它充分反映了信道的决定，它充分反映了信道的 干扰情况。如果伴随式干扰情况。如果伴随式s0，接收码字一定有错误；，接收码字一定有错误；如果伴随式如果伴随式s=0，译码器，译码器认为认为接收码字无错误。接收码字无错误。译码步骤译码步骤由接收码字由接收码字r计算伴随式计算伴随式sT=HrT若若s=0，则译码器，则译码器认为认为接收码字没错，否则有错，并接收码字没错，否则有错，并由由s计算错误图样计算错误图样e由错误图样进行译码，估计发送的码字由错误图样进行译码，估计发送的码字c=r-e=r+e 其中最困难的是确定错误图样，即其中最困难的是确定错误图样，即错误定位错误定位。如何。如何进行错误定位？进行错误定位？译码思路译码思路1根据根据sT=HrT=HeT列出线性方程组（含有列出线性方程组（含有n-k个相互独个相互独立的方程），通过求解线性方程得到立的方程），通过求解线性方程得到e。上式有上式有n个未知数个未知数e0,e1,en-1，有有n-k个方程，因此有多个方程，因此有多解。（伴随式解。（伴随式s是一个是一个r=n-k维矢量，共有维矢量，共有 个，而错个，而错误图样误图样e是是n维矢量，共有维矢量，共有 个，因此，个，因此，s与与e不存在一一不存在一一对应关系。）最终根据译码准则选取其中一个，常常对应关系。）最终根据译码准则选取其中一个，常常选选取重量最轻的为错误图样取重量最轻的为错误图样e的估计值的估计值，从而得到发送码，从而得到发送码字的估计值，体现最小距离译码的思想。字的估计值，体现最小距离译码的思想。译码思路译码思路2(n,k)分组码的分组码的2k个码字，是个码字，是n维矢量空间维矢量空间Vn中的一个中的一个k维子空间，它在维子空间，它在GF(2)上是一个子群。利用分元陪集的上是一个子群。利用分元陪集的方法，可以利用该子空间的方法，可以利用该子空间的2k元素，生成元素，生成Vn中的所有中的所有2n个元素。个元素。陪集首陪集首c0c1c2c2k-1e1c1+e1c2+e1c2k-1+e1e2c1+e2c2+e2c2k-1+e2e2r-1c1+e2r-1c2+e2r-1c2k-1+e2r-1陪集首陪集首c0c1c2c2k-1e1c1+e1c2+e1c2k-1+e1e2c1+e2c2+e2c2k-1+e2e2r-1c1+e2r-1c2+e2r-1c2k-1+e2r-1标准阵列译码表标准阵列译码表译码按以下规则进行译码按以下规则进行：收到码字：收到码字R必然在这个表中，必然在这个表中，如果落在表中某一列，译码器就译成第一行的相应如果落在表中某一列，译码器就译成第一行的相应码字。码字。非常直观的译码方法，选择重量最轻的禁用码字作非常直观的译码方法，选择重量最轻的禁用码字作为陪集首，体现最小距离译码思想。为陪集首，体现最小距离译码思想。同一陪集中元素的伴随式都相同，并且，陪集首与伴同一陪集中元素的伴随式都相同，并且，陪集首与伴随式矢量有一一对应的关系。根据这种关系，可以将随式矢量有一一对应的关系。根据这种关系，可以将译码表简化。译码表简化。标准阵列译码标准阵列译码陪集首陪集首c0c1c2c2k-1e1c1+e1c2+e1c2k-1+e1e2c1+e2c2+e2c2k-1+e2e2r-1c1+e2r-1c2+e2r-1c2k-1+e2r-1标准阵列译码表标准阵列译码表伴随式伴随式s0s1s2s2r-1非常直观的译码方法，选择重量最轻的禁用码字作非常直观的译码方法，选择重量最轻的禁用码字作为陪集首，体现最小距离译码思想。为陪集首，体现最小距离译码思想。同一陪集中元素的伴随式都相同，并且，陪集首与伴同一陪集中元素的伴随式都相同，并且，陪集首与伴随式矢量有一一对应的关系。根据这种关系，可以将随式矢量有一一对应的关系。根据这种关系，可以将译码表简化。译码表简化。当当n-k=r较小时较小时(小于小于30)上述标准阵列译码方法简单实上述标准阵列译码方法简单实用。但用。但n进一步大时查表方法就不太实用了，需要找进一步大时查表方法就不太实用了，需要找到更简化的译码方法，或者是具有简单译码方法的编到更简化的译码方法，或者是具有简单译码方法的编码方法。码方法。标准阵列译码标准阵列译码例例 题题设一个设一个(5,2)线性分组码，其一致校验矩阵如下线性分组码，其一致校验矩阵如下H，(1)写出所有许用码字；写出所有许用码字；(2)求该码的最小汉明距离；求该码的最小汉明距离；(3)试构造该码的标准阵列译码表；试构造该码的标准阵列译码表；(4)写出陪集首与伴随式的对应关系写出陪集首与伴随式的对应关系(5)求求BSC下该码的译码错误概率；下该码的译码错误概率；(6)若接收码字若接收码字r=(01101)，计算其伴随式并译码。，计算其伴随式并译码。例例 题题(04考题考题)设二元设二元(7,4)线性分组码的生成矩阵为线性分组码的生成矩阵为 (1)试写出一致校验矩阵试写出一致校验矩阵H；(2)写出所有伴随式以及与其对应的陪集首；写出所有伴随式以及与其对应的陪集首；(3)若接收矢量若接收矢量1011000，试计算出与其对应的伴，试计算出与其对应的伴 随式随式s并按照最小距离译码准则进行译码；并按照最小距离译码准则进行译码；作作 业业设二元设二元(7,4)线性分组码的生成矩阵为线性分组码的生成矩阵为 (1)试写出一致校验矩阵试写出一致校验矩阵H；(2)写出所有伴随式以及与其对应的陪集首；写出所有伴随式以及与其对应的陪集首；(3)若接收矢量若接收矢量1011000，试计算出与其对应的伴，试计算出与其对应的伴 随式随式s并按照最小距离译码准则进行译码。并按照最小距离译码准则进行译码。本节小结本节小结（本节编码内容见课本本节编码内容见课本177-180页页 译码内容见课本译码内容见课本183-188页）页）线性分组码线性分组码线性分组码编码线性分组码编码定义、最小汉明距离定义、最小汉明距离生成矩阵编码、一致校验矩阵编码生成矩阵编码、一致校验矩阵编码伴随式伴随式标准阵列译码、伴随式译码标准阵列译码、伴随式译码生成矩阵、一致校验矩阵、两者关系生成矩阵、一致校验矩阵、两者关系线性分组码译码线性分组码译码