1、第一次作业────第二章
2.1 消息源以概率发送5种消息符号。若每个消息符号出现是独立的,求每个消息符号的信息量。
解:
2.3 一个离散信号源每毫秒发出4种符号中的一个,各相互独立符号出现的概率分别为。求该信号源的平均信息量与信息速率。
解:
2.6 已知非对称二进制信道,输入符号的概率为
=
信道转移概率矩阵
=
求:⑴ 输出符号集的平均信息量;
⑵ 条件熵与;
⑶ 平均互信息量。
解:
⑴ 根据输入符号概率和信道转移概率矩阵可求得输出符号Y的概率
因此
⑵
因此:
⑶
2.10 设连续随机变
2、量的峰值有限,。试证:
⑴ 若
则相对熵
取最大值;
⑵ 最大相对熵。
解:⑴ 隐含条件为
因此,
⑵ 把求证得到的代入有:
2.12 已知电话信道的带宽为3.4kHz。试求:
⑴ 接收端信噪比时的信道容量;
⑵ 若要求该信道能传4800b/s的数据,则接收端要求最小信噪比S/N为多少dB。
解:
⑴ 根据香农公式, 代入得:
⑵根据香农公式,代入得
因此要求的最小信噪比为2.2dB
2.14 黑白电视机图像每幅含有个像素,每个像素有16个等概出现的亮度
等级,要求每秒钟传送30帧图像,若信道输出S/N为30dB,计算传输该黑白电视图像所要求的信道的最小带宽。
解:每个像素的信息量为:
信息速率为:
因此,
所以根据香农公式得:
要求的最小带宽约为3.6 MHz。