资源描述
单击此处编辑母版标题样式,单击此处编辑母版文本样式,第二级,第三级,第四级,第五级,*,信息论与编码复习,11/17/2025,第1页,考试题型,简答题(8分/题*5),计算题(10分/题*6),卷面成绩70%,平时成绩30分,第2页,第1章 概论,掌握通信系统基本模型;,掌握信息论研究内容。,第3页,第2章 信源熵,概念:,自信息量,平均互信息量,熵功率,信源冗余度,定理,离散信源最大熵定理,限平均功率连续信源最大熵定理,离散信源无失真定长编码定理,离散信源最正确变长编码定理,第4页,第二章续,计算:,某个事件发生后对外提供自信息量(比如作业:2.1,2.4(1),2.15(2),2.18(自信息量综合应用),某个单符号信源熵(比如作业:2.5(3)(4),2.17(1),序列信源熵(比如作业:2.15(3),对于一阶和二阶马尔可夫信源:,会计算到达稳态时状态概率分布(作业2.16(1)和极限熵(作业2.16(2),2.17(2)和p48 例2.2.4);,给定状态转移概率,会画状态转移图,反之亦要求。,第5页,第二章续,计算:,信源冗余度计算(作业2.17(3),依据给出离散信源,能够进行定长编码,求出码字。,掌握信源编码器性能指标(编码效率,)及其与码长(k)之间关系。,已知一个非高斯信源熵H,,能够求出高斯信源到达此熵所需功率,求出此高斯信源概率密度函数,第6页,第3章 信道容量,概念与定理:,掌握信道容量概念和用途,掌握什么是信道编码定理。,掌握限带连续信源信道容量,第7页,第3章 信道容量,计算:,对称离散无记忆信道容量求解和应用,如课后作业4.6,准对称信道容量求解和应用。,第8页,第3章 信道容量,计算:,均匀信道容量求解:已知一个信源有n个符号,传输正确概率为p,错误概率均匀分配给其余符号,求,该信道转移概率矩阵,求该信道信道容量,第9页,第3章 信道容量,掌握离散无记忆信道N次扩展信道容量求解,无噪信道容量:见作业3.14,应用连续信道信道容量公式进行解题,连续信道容量,所需信号功率,如作业3.19,使用公式,注意:,C就是信号传输速率,dB表示信噪比在代入时要进行转换,第10页,第3章 信道容量,计算,带宽无穷大时连续信道容量,带宽无穷大时,连续信号传输所需信号功率,如作业3.20:,注意:,噪声功率有时并不直接给出,而是给出噪声功率谱密度N,0,和带宽B,则N=N,0,B,第11页,第4章 信息率失真函数,概念和定理:,掌握保真度准则下信源编码定理,掌握信息率失真函数概念、是信源特征、有哪些应用,第12页,计算:,对于离散信源(如作业4.1(1):,D,max,R(D,max,),及到达D,max,时对应信道转移概率分布,第j*列,(1),(2),(3),第4章 信息率失真函数,第13页,计算:,对于离散信源(如作业4.1(2):,D,min,R(D,min,),及到达D,min,时对应信道转移概率分布,P(Y/X):失真矩阵每行最小元素对应位置转移概率才为1,其它为0,(1),(2),(3),第4章 信息率失真函数,第14页,计算:,对于离散信源(如作业4.1(3):,R(D)计算、R(D)与D关系图,只要求等概信源,对称失真R(D),见P120(4.2.50式),关系图见P109 图4.1.1(注意区分离散和连续信源),所取点纵坐标依据R(D)计算式求得,第4章 信息率失真函数,第15页,计算:,对于连续信源(例:课堂上讲两个例子),失真函数为均方失真时,给定连续信源D,max,和R(D)计算。,失真函数是绝对失真时,给定指数分布信源D,max,和R(D)计算。,第4章 信息率失真函数,第16页,第5章 信源编码,掌握最正确变长信源编码定理。,计算:,给定一个离散信源:,能进行二进制香农编码,二/三进制费诺编码,二/三哈夫曼编码,等长编码,平均码长、编码速率和编码效率。,第17页,第6章 信道编码,概念和定理:,信道编码作用,计算:,对于线性分组码,已知G,会求码字:例p176 6.2.2,已知G,会求G,S,和H,S,:例:p177 6.2.3,能够进行伴随式译码:例:步骤见p178,课件中有详细例子,第18页,计算:,对于循环码,已知(n,k)循环码,会求g(x),并依据g(x)求G,,例p191-192 6.3.3,p193 6.3.4,会求h(x)=(x,n,+1)/g(x),并依据h(x),例p193 6.3.4,会求系统循环码码字:由G经过初等行变换得G,s,再经过C=mG,S,得系统循环码码字,变换方法见p177 6.2.3,第6章 信道编码,第19页,计算:,对于循环码,已知(n,k)循环码,会使用伴随式进行校验,即依据接收向量r进行判断,方法1:s=rH,T,看s是否为0,非零则说明有差错,方法2:s(x)=r(x)mod g(x),看是否有余数,有则说明有差错,例p200(6.3.16式),能画出普通循环码数字编码电路图:例p196 图6.3.4,能够经过分析电路运行过程,得到生成循环码字。,见课件,第6章 信道编码,第20页,希望大家都取得理想的成绩,第21页,
展开阅读全文