信息理论与编码复习演示课件.ppt

单击此处编辑母版标题样式,单击此处编辑母版文本样式,第二级,第三级,第四级,第五级,*,*,单击此处编辑母版标题样式,单击此处编辑母版文本样式,第二级,第三级,第四级,第五级,*,*,复习,信息理论与编码,1,2,二、判断题,信息传输系统模型表明，噪声仅仅来源于信道（）,本体论层次信息表明，信息不依赖于人而存在（）,信道编码与译码是一对可逆变换（）,1976年，论文密码学的新方向的发表，标志着保密通信研究的开始（）,基因组序列信息的提取和分析是生物信息学的研究内容之一（）,3,三、选择题,1.下列表述中，属于从随机不确定性的角度来定义信息的是_,A信息是数据,B,.,信息是集合之间的变异度,C,.,信息是控制的指令,D,.,信息是收信者事先不知道的报道,2._是最高层次的信息,A认识论,B本体论,C价值论,D唯物论,3.下列不属于狭义信息论的是_,A信息的测度,B信源编码,C信道容量,D计算机翻译,4,4.下列不属于信息论的研究内容的是_,A信息的产生,B信道传输能力,C文字的统计特性,D抗干扰编码,5.下列关于信息论发展历史描述不正确的是_,A偶然性、熵函数引进物理学为信息论的产生提供了理论前提。,B1952年，香农发展了信道容量的迭代算法,C哈特莱用消息可能数目的对数来度量消息中所含,有的信息量，为香农创立信息论提供了思路。,D1959年，香农首先提出率失真函数和率失真信源编码定理，才发展成为信息率失真编码理论。,5,第2章 测验题,一、填空题,1.N阶平稳信源的N维分布函数与_无关。,2.在对信源进行观察之前，对认识主体来说，信源存在_不确定性，观察之后，信源还存在_不确定性。,3.联合符号 的不确定性，等于_的不确定性加上_的不确定性。,4.256个亮度值构成的信源，其熵值最大为_比特。,5.无条件熵_条件熵，条件多的熵_条件少的熵。,6,二、判断题,1.对于DMS，长度为3的符号串的平均不确定是单个符号平均不确定的3倍。（）,2.信源内部的关联性，会提高熵值。（）,3.马尔科夫信源符号的输出不仅与当前的信源状态有关，而且还与以前的状态有关。（）,4.信息含量效率越高，信源的冗余度也越高。（）,5.与离散熵相同，微分熵也是非负的。（）,7,8,9,10,二、判断题,1.信道容量 不仅与信道转移概率有关，也与信道的输入分布有关。（）,2.噪声熵为0的信道称为确定信道。（）,3.离散对称信道输入等概率分布时，输出未必也等概率分布。（）,4.一般DMC达到信道容量的充要条件为信源符号的偏互信息均等于信道容量。（）,5.信道是DMC的充要条件是序列符号对之间的转移概率等于各个时刻单个符号对转移概率之连乘。（）,11,12,13,14,二、判断题,1.对于一个码，若每个码字都与惟一的一个信源符号相对应，则该码为惟一可译码。（）,2.定长非奇异码肯定是惟一可译码。（）,3.非续长码中任一码字都不是其他码字的前缀。（）,4.非续长码必满足Kraft不等式。（）,5.一个码是唯一可译码的充要条件是满足Kraft不等式。（）,15,三、选择题,1.关于定长编码，以下说法不正确的是_,A.无失真定长编码要求可用的码字数不少于扩展信源的符号数,B无失真r进制定长码码长不得低于信源r进制符号熵,C信源序列的分组长度 增大可以提高编码效率,D引入失真不可能提高定长码的编码效率,2.关于变长编码，以下说法不正确的是_,A.无失真r进制变长码码长不得低于信源r进制符号熵,B变长编码时，随着信源序列长度 的增大，编码效率提高。,C变长码要求各个码字的长度互不相同,D变长码的编码效率高于定长码,3.下述编码中_不可能是一组Huffman码字,A0,10,1111,B0,10,110,111,C1,0,D01,00,10,11,16,4.关于无失真信源编码，以下说法不正确的是_。,A有效的信源编码可使输出码元概率均匀化,B霍夫曼编码过程中，可能造成码字组不惟一，但平均码长是相同的，因而编码效率是相同,C香农编码可以保证码字具有非续长性,D费诺编码按照“概率大码长小、概率小码长大”来决定码长,5.下列说法不正确的是_,A.算术编码的码长与该序列的累计分布有关,B.Huffman编码无法对只含2个符号的信源进行压缩,C.游程编码的效率取决于信源符号的重复率,D.算术编码可以对只含2个符号的信源序列进行压缩,E字典编码通过把信源符号序列映射为位置序号达到压缩编码的目的,17,18,19,20,21,22,23,24,25,