计算07信息(A).doc

计算07，数学07信息论基础试题（A）
（河海大学理学院10-01-18）
姓名____________学号____________班级____________成绩_____
一． 填空题（每空2分，40%）
1.1948年，美国工程师和数学家____________发表了题为“通信的
数学理论”的长篇论文，从而创立了信息论。
2.信息的__________性是建立信息论的基础。
3.离散平稳无记忆信源X的N次扩展信源的熵等于离散信源X的熵的______。
4.对于n元m阶的Markov信源，其状态空间共有_____种不同的状态。
5.平均功率为P的Gauss信源X，其微分熵hc(X)=__________________
6.若一离散无记忆信源的信源熵H(X)=2.5,对信源进行等长的二进制编码，
则码的长度至少为______;
7.同时投掷两枚正常的骰子，各面呈现的概率都是1/6,则“3与5同时出现”
这一事件的自信息量是____________;
8.信道编码定理是一个理想编码的存在性定理，即：信道无失真传递信息的
条件是：______________;
9.信道矩阵代表的信道的信道容量C=__________;
10.（N,K）分组线性码的检验位有_________位；

11汉明失真函数d(ui,vj)=____________;
12.信息率失真函数，简称率失真函数，是试验信道中平均互信息量的___________;
13.按照不同的编码目的，编码可分为三类，分别是____________________________;
14.对于保密系统，完全保密系统所满足的条件是___________;
15.密码系统的保密性分为________保密性和__________保密性；
16.对称密码体制又称为______钥密码体制,其代表性的有________；非对称密码体制
又称为__________密码体制，其代表性的有___________;

二.计算题
1.一阶Markov信源的转移概率矩阵为
（1）求平稳状态的概率分布；（2）求信源的极限熵；
（3）求信源的冗余度； (8%)

2.已知信源(X,Y)的联合分布
(X,Y)
(0,0)
(0,1)
(1,0)
(1,1)
P
0
3/4
1/8
1/8
计算：H(X),H(X|Y),H(Y|X),H(XY),I(X;Y) (8%)

3.设离散无记忆信道的信道矩阵为
（1）求该信道的信道容量及达到信道容量是的输入分布；
（2）上述信道的二次扩展信道的信道矩阵及信道容量； （8%）

4.已知信源：U: u1 u2 u3 u4 u5 u6 u7 u8
P: 0.4 0.18 0.1 0.1 0.07 0.06 0.05 0.04
(1) 求该信源的二元Huffman编码；（2）求该信源的三元Huffman编码 （8%）

5.（6，3）线性分组码的生成矩阵为：
（1）写出所有的码字；（2）写出一致校验矩阵；
（3）求最小汉明距离；（4）此码能纠正几位错误？ (10%)

6.(1)对RSA密码，已给p=47,q=59,e=17,求d使得e·d=1(mod φ(n))
(2)设公钥(e,n)=(13,77),私钥(d,n)=(37,77)用RSA密码算法对明文m=2
进行加密，然后再解密还原成原文。 （8%）

三．证明题 （1）用定义和信息论不等式证明互信息量I(X;Y)≥0
(2) 证明一个信道是无损信道的充分必要条件是传递矩阵
的每一列有一个且只有一个非零元素。 （10%）