信息论与编码(万方)复习市公开课特等奖市赛课微课一等奖课件.pptx

单击此处编辑母版标题样式,单击此处编辑母版文本样式,第二级,第三级,第四级,第五级,*,信息论与编码复习,11/17/2025,第1页,考试题型,简答题（8分/题*5）,计算题（10分/题*6）,卷面成绩70%,平时成绩30分,第2页,第1章 概论,掌握通信系统基本模型；,掌握信息论研究内容。,第3页,第2章 信源熵,概念：,自信息量,平均互信息量,熵功率,信源冗余度,定理,离散信源最大熵定理,限平均功率连续信源最大熵定理,离散信源无失真定长编码定理,离散信源最正确变长编码定理,第4页,第二章续,计算：,某个事件发生后对外提供自信息量（比如作业：2.1，2.4（1），2.15（2），2.18（自信息量综合应用）,某个单符号信源熵（比如作业：2.5（3）（4），2.17（1）,序列信源熵（比如作业：2.15（3）,对于一阶和二阶马尔可夫信源：,会计算到达稳态时状态概率分布（作业2.16（1）和极限熵（作业2.16（2），2.17（2）和p48 例2.2.4）；,给定状态转移概率，会画状态转移图，反之亦要求。,第5页,第二章续,计算：,信源冗余度计算（作业2.17（3）,依据给出离散信源，能够进行定长编码，求出码字。,掌握信源编码器性能指标（编码效率,）及其与码长（k）之间关系。,已知一个非高斯信源熵H，,能够求出高斯信源到达此熵所需功率,求出此高斯信源概率密度函数,第6页,第3章 信道容量,概念与定理：,掌握信道容量概念和用途,掌握什么是信道编码定理。,掌握限带连续信源信道容量,第7页,第3章 信道容量,计算：,对称离散无记忆信道容量求解和应用,如课后作业4.6,准对称信道容量求解和应用。,第8页,第3章 信道容量,计算：,均匀信道容量求解：已知一个信源有n个符号，传输正确概率为p，错误概率均匀分配给其余符号，求,该信道转移概率矩阵,求该信道信道容量,第9页,第3章 信道容量,掌握离散无记忆信道N次扩展信道容量求解,无噪信道容量：见作业3.14,应用连续信道信道容量公式进行解题,连续信道容量,所需信号功率,如作业3.19,使用公式,注意：,C就是信号传输速率,dB表示信噪比在代入时要进行转换,第10页,第3章 信道容量,计算,带宽无穷大时连续信道容量,带宽无穷大时，连续信号传输所需信号功率,如作业3.20：,注意：,噪声功率有时并不直接给出，而是给出噪声功率谱密度N,0,和带宽B,则N=N,0,B,第11页,第4章 信息率失真函数,概念和定理：,掌握保真度准则下信源编码定理,掌握信息率失真函数概念、是信源特征、有哪些应用,第12页,计算：,对于离散信源(如作业4.1(1)：,D,max,R(D,max,)，及到达D,max,时对应信道转移概率分布,第j*列,(1),(2),(3),第4章 信息率失真函数,第13页,计算：,对于离散信源(如作业4.1(2)：,Dmin,R(D,min,)，及到达D,min,时对应信道转移概率分布,P(Y/X):失真矩阵每行最小元素对应位置转移概率才为1，其它为0,(1),(2),(3),第4章 信息率失真函数,第14页,计算：,对于离散信源(如作业4.1(3)：,R(D)计算、R(D)与D关系图,只要求等概信源，对称失真R(D),见P120(4.2.50式),关系图见P109 图4.1.1（注意区分离散和连续信源），所取点纵坐标依据R(D)计算式求得,第4章 信息率失真函数,第15页,计算：,对于连续信源（例：课堂上讲两个例子）,失真函数为均方失真时，给定连续信源D,max,和R(D)计算。,失真函数是绝对失真时，给定指数分布信源D,max,和R(D)计算。,第4章 信息率失真函数,第16页,第5章 信源编码,掌握最正确变长信源编码定理。,计算：,给定一个离散信源：,能进行二进制香农编码,二/三进制费诺编码,二/三哈夫曼编码,等长编码,平均码长、编码速率和编码效率。,第17页,第6章 信道编码,概念和定理：,信道编码作用,计算：,对于线性分组码,已知G,会求码字：例p176 6.2.2,已知G，会求G,S,和H,S,:例：p177 6.2.3,能够进行伴随式译码:例：步骤见p178，课件中有详细例子,第18页,计算：,对于循环码，已知（n,k）循环码,会求g(x),并依据g(x)求G，,例p191-192 6.3.3,p193 6.3.4,会求h(x)=(x,n,+1)/g(x),并依据h(x),例p193 6.3.4,会求系统循环码码字:由G经过初等行变换得G,s,再经过C=mG,S,得系统循环码码字,变换方法见p177 6.2.3,第6章 信道编码,第19页,计算：,对于循环码，已知（n,k）循环码,会使用伴随式进行校验，即依据接收向量r进行判断,方法1：s=rH,T,看s是否为0，非零则说明有差错,方法2：s(x)=r(x)mod g(x)，看是否有余数，有则说明有差错,例p200(6.3.16式),能画出普通循环码数字编码电路图：例p196 图6.3.4,能够经过分析电路运行过程，得到生成循环码字。,见课件,第6章 信道编码,第20页,希望大家都取得理想的成绩,第21页,