通信原理_第二讲_信息及其量度.ppt

单击此处编辑母版标题样式,单击此处编辑母版文本样式,第二级,第三级,第四级,第五级,*,通信原理 第二讲,通信基础教研室 潘若禹,办公室,3,号实验楼,135,电话,88166354,邮箱,panruoyu,1.3,信息及其量度,1.,信息定义,信息,information,消息,message,信息可以理解为消息中包含的有意义的内容,例如：今天晚上,23,点天已经黑了。,今天晚上,23,点学校要放电影。,今天晚上,23,点西安要地震。,今天晚上,23,点地球要灭亡了。,信息量依次增大,2.,信息量,I,定义：消息出现的概率 的函数,特性：,1),消息出现的概率越小，所包含的信息量越大；,(,反比的关系,),2),若某消息由若干个独立消息所组成，则该消息所包含的信息量是每个独立消息所含信息量之和。,（对数的性质）,对数的性质,:,结论：,由以上的分析可得信息量的公式,(1-1),单位：,单位为比特,(bit,简写为,b),单位为奈特,(nat,简写为,n),单位为笛特,(Det),或称为十进制单位,单位称为,r,进制单位,【,例,1,1】,已知二进制离散信源,(0,1),每一符号等概独立发送，求传送,0,和,1,的信息量。,解：由于每一波形出现的概率为 ，故传送,0,和,1,的信息量都为,【,例,1,2】,已知二进制离散信源,(0,1),若,0,和,1,出现的概率分别为,0.75,和,0.25,，求,0,和,1,的信息量。,解：,3.,离散独立等概消息的信息量,离散：消息集有,M,个可能的消息所组成,独立：各消息间相互统计独立,等概：各消息出现的概率相等,1),二进制,(M=2),结论：对于等概的二进制波形，其每个符号,(,码元,),所包含的信息量为,1bit,2)M,进制,(),结论：等概,M,进制的每个符号,(,码元,),所包含的信息量为,N bit,，是二进制的,N,倍。,4.,平均信息量,熵,H(X),定义：,平均信息量,等于,各个符号的信息量乘以各自出现的概率之和。,单位：,bit/,符号,设各符号出现的概率为,则平均信息量,(,每个符号所包含信息的平均值,),为,(1-2),重要结论：,信息源的,最大熵,出现于,信源中每个符号等概独立之时,。,此时最大熵为,bit/,符号,(1-3),总信息量,I,的两种计算方法：,1),若某符号集的熵为,H(X),则当该符号集发送,m,个符号时,(1-4),2),若消息中包含的符号不太多，可以用实际每个符号出现的次数来计算,【,例,1,3】,已知某四进制离散信源,(0,1,2,3),其中每一个符号出现的概率分别为 ，且相互独立，求信源发送,13201010100201300200100210300101020010030103210,消息时的信息量,。,解法一：,用熵的方法,bit/,符号,又 ，所以,bit,解法二：,用实际出现的次数来计算,本消息共,47,个符号，其中,0,出现,24,次，,1,出现,12,次，,2,出现,6,次，,3,出现,5,次。每个符号所包含的信息量为,所以总的信息量为,1.5,一般通信系统的性能指标,对一个一般的通信系统而言，,有效性,和,可靠性,是主要的衡量指标。,有效性：快慢问题,可靠性：好坏问题,1.5.1,模拟通信系统的性能指标,有效性指标,传输带宽,如传输一路模拟电话，采用单边带调制占有,4KHZ,的带宽，采用双边带调制占有,8KHZ,的带宽。,可靠性指标,输出信噪比,一般说接收端的输出信噪比越大，系统的可靠性越好。,1.5.2,数字通信系统的性能指标,(,重点,),有效性指标,传输速率,1),码元传输速率,R,B,:,单位时间内传输码元,(,符号,),的数目,单位：,波特,Baud B,若码元宽度为,T,b,则,(1-5),码元传输速率又称为码元速率 传码率 码率等,2),信息传输速率,R,b,：,单位时间内传送的信息量,单位：,比特,/,秒,bit/s,信息传输速率又称为传信率 比特率等,分析可知码元传输速率与信号的进制数无关，只与码元宽度有关。因为信息量与信号进制数有关，信息传输速率与进制数也有关系。,3),两者的关系,1.,二进制,(1-6),两者数值相等，单位不同,2.,多进制,M,为进制数,(1-7),3.,若码元速率保持不变，即,(1-8),(1-9),4.,若信息速率保持不变，即,(1-10),(1-11),5.,一般情况下：,(1-12),有效性指标,频带利用率,在系统需要的传输带宽不相同的情况下，仅仅比较传输速率是不公平的，因此需要采用频带利用率的指标。,定义：单位频带内码元,(,信息,),传输速率的大小,意义：把带宽与传输速率相联系，以便更好地考虑有效性。,【,例,1,4】,某信息源的符号集有,A,、,B,、,C,、,D,所组成，各符号间独立。,(1),若每个符号的时间宽度为 ，计算,1.,各符号等概出现时的码元速率和信息速率,2.,各符号出现概率分别为 ，时的码元速率和信息速率,解：,1.,2.,由于 不变，所以 仍为,500B,，而此时,(2),若每一个符号均以二进制脉冲编码，,A00,，,B01,，,C11,，,D10,，且每个脉冲宽度为,，重复,(1),题计算。,解：,此时每一符号均由两个二进制脉冲所组成，每个脉冲宽度 ，因而每个码元宽度,，与,(1),题相同，从而计算结果亦与,(1),题相同。,可靠性指标,差错率,1.,码元差错率,码元差错率 简称误码率，它是指,接收错误的码元数,在传送,总码元数,中所占的比例。更确切地说，误码率就是码元在传输系统中被传错的概率。,(1-13),2.,信息差错率,信息差错率 简称误信率，或误比特率，它是指,接收错误的信息量,在传送,信息总量,中所占的比例，或者说，它是码元的信息量在传输系统中被丢失的概率。,(1-14),注意：在二进制中,【,例,1,5】,某消息以二进制码方式传输，信息速率为,2Mbit/s:,(1),若在接收机输出端平均每小时出现,72bit,差错，求误比特率；,(2),若已知信道的误比特率,试求平均相隔多长时间就会出现,1bit,差错。,思路,本题是误比特率概念和计算问题,解,：,(1),每秒出现的差错数为：,(2),信息速率,误比特率为,每秒出现的差错个数,即平均每隔,100,秒出现,1bit,差错。,本章考点,1.,概念,本章有许多基本概念，可能作为填空、简答题。,2.,计算,信息量和熵的计算,码元速率、信息速率、误码率的计算,