52-有扰离散信道的编码定理课件

2019年6月26,单击此处编辑母版标题样式,感谢你的观看,单击此处编辑母版文本样式,第二级,第三级,第四级,第五级,2019年6月26,1,编码调制的设计有两条基本途径 是什么,?,一条是代数途径,，即运用编,解码技术来设计特定种类的码，比如分组码、卷积码等。,第二条途径是采用概率方法,，在给定信道特性的条件下对编码信号的性能作统计分析，求出差错概率的上下限边界，其中最优码所能达到的差错概率的上界，称作,随机码界。,用这种方法不能得知最优码是如何具体编出来的，却能得知最优码可以好到什么程度，并进而推导出有扰离散信道的编码定理，对指导编码技术具有特别重要的理论价值。,5.2,有扰离散信道的编码定理,感谢你的观看,2019年6月261编码调制的设计有两条基本途径 是什么?5,2019年6月26,2,码空间,消息,k,长,(,n,k,),码字,n,长,q,k,种 分组编码器,q,n,种,k,维,k,重矢量,n,维,n,重矢量,通常,q,n,q,k,，分组编码的任务是要在,n,维,n,重矢量空间的,q,n,种可能组合中选择其中的,q,k,个构成一个,码空间,，其元素就是许用码的,码集,。,感谢你的观看,2019年6月262码空间,2019年6月26,3,分组编码的任务,选择一个,维,n,重子空间作为码空间。,确定由,k,维,k,重信息空间到,维,n,重码空间的映射方法。,码空间的不同,选择方法，以及信息组与码组的不同映射算法，就构成了不同的分组码。,感谢你的观看,2019年6月263分组编码的任务 选择一个维n重子空间作,2019年6月26,4,5.2.1,随机编码,(N,K),分组编码器,DMC,信道,图,5-2-1,分组编码与随机编码,感谢你的观看,2019年6月2645.2.1随机编码(N,K)DMC图5-,2019年6月26,5,在,(N,K),分组编码器中随机选定的码集有,q,NM,种,码集点数,M,=,q,K,占,N,维矢量空间总点数,q,N,的比例是,F,=,q,K,/q,N,=,q,-,(,N-K,),当,K,和,N,的差值拉大即冗余的空间点数增加时，平均而言码字的分布将变得稀疏，码字间的平均距离将变大，平均差错概率 将变小。,当,F,0,即,(,N-K,),时，能否让平均差错概率？,感谢你的观看,2019年6月265在(N,K)分组编码器中随机选定的码集有,2019年6月26,6,在,(N,K),分组编码器中随机选定的码集有,q,NM,种,第,m,个码集,(,记作,c,m,),被随机选中的概率是,设与这种选择相对应的条件差错概率是,P,e,(c,m,),全部码集的平均差错概率是,感谢你的观看,2019年6月266在(N,K)分组编码器中随机选定的码集有,2019年6月26,7,必定存在某些码集,某些码集,若,，就必然存在一批码集,即差错概率趋于零的好码一定存在,感谢你的观看,2019年6月267必定存在某些码集感谢你的观看,2019年6月26,8,Gallager,在,1965,年推导了 的上边界，并证明这个上边界是按指数规律收敛的。,感谢你的观看,2019年6月268Gallager在1965年推导了,2019年6月26,9,码率,：,R,=(ln,M,),/,N,M,是可能的信息组合数，,M,=,q,K,N,是每码字的码元数，,R,表示每码元携带的信息量，单位是每符号比特（,bit/symbol,）,5.2.2,信道编码定理,感谢你的观看,2019年6月2695.2.2信道编码定理感谢你的观看,2019年6月26,10,E,(,R,),为,可靠性函数,，也叫误差指数,E,(,R,),定义为,感谢你的观看,2019年6月2610E(R)为可靠性函数，也叫误差指数感谢,2019年6月26,11,0,1,图,5-2-2,0,1,C,R,R0,感谢你的观看,2019年6月261101图5-2-201CRR0感谢你的观,2019年6月26,12,感谢你的观看,2019年6月2612感谢你的观看,2019年6月26,13,R,在,0,R,0,区间时,E,(,R,),R,曲线是斜率为,-1,（,-45,）的直线，,E,(,R,),反,比于,R,；而当,R,=,C,时,E,(,R,)=0,即可靠性为零。,E,(,R,),C,R,0,R,0,-45,E,(,R,),和,R,的关系曲线,感谢你的观看,2019年6月2613R在0,R0区间时E(R)R曲线,2019年6月26,14,正定理,：只要传信率,R,小于信道容量,C,，总存在一种信道码（及解码器），可以以所要求的任意小的差错概率实现可靠的通信。,逆定理,：信道容量,C,是可靠通信系统传信率,R,的上边界，如果,R,C,，就不可能有任何一种编码能使差错概率任意小。,信道编码定理,感谢你的观看,2019年6月2614正定理：只要传信率R小于信道容量C，总,2019年6月26,15,5.3,差错控制与信道编译码的基本原理,差错和差错系统分类,差错符号,：由符号发生差错引起，也叫,信号差错,，信号差错概率用,误码元率,表示,差错比特,：由信息比特发生差错引起，也叫,信息差错,，信息差错概率用,误比特率,表示,对于,二进制,传输系统，符号差错等效于比特差错；,对于,多进制,系统，一个符号差错到底对应多少比特差错却难以确定。因为一个符号由多个比特组成。,感谢你的观看,2019年6月26155.3差错控制与信道编译码的基本原理,2019年6月26,16,差错图样（,error pattern,）,定量地描述信号的差错，收、发码之“差”：,差错图样,E,发码,C,收码,R,（模,M,）,例：,8,进制,(M=8),码元，,若发码,C=,（,0,2,5,4,7,5,2,）,收码变为,R=,（,0,1,5,4,7,5,4,）,差错图样,E,=,C,R,=,（,0,1,0,0,0,0,6,）（模,8,）,二进制码：,E=C,R,或,C=R,E,，差错图样中的“”既是符号差错也是比特差错，差错的个数叫汉明距离。,感谢你的观看,2019年6月2616差错图样（error pattern）,2019年6月26,17,差错图样类型,随机差错,：若差错图样上各码位的取值既与前后位置无关又与时间无关，即差错始终以相等的概率独立发生于各码字、各码元、各比特；,突发差错：,前后相关、成堆出现。突发差错总是以差错码元开头、以差错码元结尾，头尾之间并不是每个码元都错，而是码元差错概率超过了某个额定值。,感谢你的观看,2019年6月2617差错图样类型 随机差错：若差错图样上各,2019年6月26,18,纠错码分类,从功能角度,：检错码、纠错码,对信息序列的处理方法,：分组码、卷积码,码元与原始信息位的关系,：线性码、非线性码,差错类型,：纠随机差错码、纠突发差错码、介于中间的纠随机,/,突发差错码。,构码理论,：代数码、几何码、算术码、组合码等,感谢你的观看,2019年6月2618纠错码分类 从功能角度：检错码、纠错,2019年6月26,19,差错控制系统分类,前向纠错（,FEC,）,：发端信息经纠错编码后传送，收端通过纠错译码自动纠正传递过程中的差错,反馈重发（,ARQ,）：,收端通过检测接收码是否符合编码规律来判断，如判定码组有错，则通过反向信道通知发端重发该码,混合纠错（,HEC,）：,前向纠错和反馈重发的结合，发端发送的码兼有检错和纠错两种能力,感谢你的观看,2019年6月2619差错控制系统分类 前向纠错（FEC）：,2019年6月26,20,5.3.1,差错控制的途径,1,、途径一,从信道编码定理的公式出发，可知减小差错概率应增大码长,N,或增大可靠性函数,E(R),。,增大,E(R,）就要增大信道容量或减小码率,R,。,R,不变,，信道容量大者其可靠性函数,E,(,R,),也大；,C,不变,，码率减小时其可靠性函数,E,(,R,),增大,E,(,R,),R,0,R,1,R,2,C,1,C,2,增大,E,(,R,),的途径,感谢你的观看,2019年6月26205.3.1差错控制的途径1、途径一E(,2019年6月26,21,（,1,）增大信道容量,C,扩展带宽,比如开发新的宽带媒体，有线通信从明线（,150kHz,）、对称电缆（,600kHz,）、同轴电缆（,1GHz,）到光纤（,25THz,），无线由中波、短波、超短波到毫米波、微米波。又比如采取信道均衡措施，如加感时,/,频域的自适应均衡器。,加大功率,如提高发送功率、提高天线增益、将无方向性的漫射改为方向性强的波束或点波束、分集接收等。,降低噪声,如采用低噪声器件、滤波、屏蔽、接地、低温运行等。,在纠错编码技术发展之前，通信系统设计者传统上主要就是靠增大,C,来提高通信可靠性。,感谢你的观看,2019年6月2621（1）增大信道容量C 感谢你的观看,2019年6月26,22,（,2,）减小码率,R,对于二进制（,N,，,K,）分组码，码率,R=K/N,比特,/,符号；对于,q,进制（,N,，,K,）分组码，码率,比特,/,符号,.,q,、,N,不变而减小,K,即降低信息源速率，每秒少传一些信息。,q,、,K,不变而增大,N,即提高符号速率，占用更大带宽。,N,、,K,不变而减小,q,即减小信道的输入输出符号集，在发送功率固定时提高信号间的区分度，从而提高可靠性。,在一定通信容量下减小,R,等效于拉大,C,和,R,之差，因此说这是用增加信道容量的冗余度来换取可靠性。从,50,年代到,70,年代，主要的纠错编码方法都是以这种冗余度为基础的。,感谢你的观看,2019年6月2622（2）减小码率R 感谢你的观看,2019年6月26,23,（,3,）增大码长,N,如果要保持码率,R,不变，增加码长,N,的同时应增大信息位,K,，以保持,K/N,之比不变。,在,C,和,R,固定的情况下加大,N,并没有增加信道容量的冗余度，它是利用了随机编码的特点：随着,N,增大，矢量空间 以指数级增加，从统计角度而言码字间距离也将加大，从而可靠性提高。,另外码长,N,越大，其实际差错概率就越能符合统计规律。,增加码长,N,所带来的好处，付出的代价是码长越长，编码算法就越复杂，编码解码器也就越昂贵。,当前，通过增加码长,N,来提高可靠性已成为纠错编码技术的主要途径之一，它实际上是以设备的复杂性换取可靠性，从这个意义上讲，妨碍数字通信系统系能提高的真正限制因素是设备的复杂性。,感谢你的观看,2019年6月2623（3）增大码长N 感谢你的观看,2019年6月26,24,2,、从概念上分析纠错编码原理,从概念上分析纠错编码原理，可以把纠错能力的获取归为两条，一条是利用冗余度，另一条是噪声均化（随机化）。,（,1,）利用冗余度,根据一定的规律在待发送的信息码元中人为的加入一些冗余码元，这些冗余码元与信息码元之间以某种确定的规则相互关联（约束）。,在接收端按照既定的规则检验信息码元与监督码元之间的关系。如果传输过程出错，则信息码元与监督码元之间的关系将受到破坏，从而可以发现错误乃至纠正错误。,纠错码,为了传输这些冗余比特，必须要动用冗余的资源。这些资源可以是：,时间,比如一个比特重发几次，或一段消息重发几遍，或者根据收端的反馈重发受损信息组，如,ARQ,系统。,感谢你的观看,2019年6月26242、从概念上分析纠错编码原理感谢你的观,2019年6月26,25,频带,插入冗余比特后传输效率下降，若要保持有用信息的速率不变，最直接的方法就是增大符号传递速率，结果就占用了更大的带宽。比如采用二进制码（,1,比特,/,符号）,编成（,8,，,4,）分组码后使符号速率增大一倍，所占带宽也增大一倍。,功率,采用多进制符号，比如用一个八进制,ASK,符号代替一个四进制,ASK,符号来传输,2,比特信息，可腾出位置另传,1,比特冗余。但为了维持信号集各点之间的距离不变，八进制,ASK,符号的平均功率可定比四进制时要大，这就是动用冗余的资源来传输冗余比特。,设备复杂度,加大码长,N,