第一次作业第二章2.1 消息源以概率发送5种消息符号。若每个消息符号出现是独立的,求每个消息符号的信息量。解:2.3 一个离散信号源每毫秒发出4种符号中的一个,各相互独立符号出现的概率分别为。求该信号源的平均信息量与信息速率。解:2.6 已知非对称二进制信道,输入符号的概率为=信道转移概率矩阵=求:输出符号集的平均信息量;条件熵与;平均互信息量。解: 根据输入符号概率和信道转移概率矩阵可求得输出符号Y的概率 因此 因此: 2.10 设连续随机变量的峰值有限,。试证: 若则相对熵取最大值; 最大相对熵。解: 隐含条件为 因此, 把求证得到的代入有:2.12 已知电话信道的带宽为3.4kHz。试求: 接收端信噪比时的信道容量; 若要求该信道能传4800b/s的数据,则接收端要求最小信噪比S/N为多少dB。解: 根据香农公式, 代入得:根据香农公式,代入得因此要求的最小信噪比为2.2dB2.14 黑白电视机图像每幅含有个像素,每个像素有16个等概出现的亮度等级,要求每秒钟传送30帧图像,若信道输出S/N为30dB,计算传输该黑白电视图像所要求的信道的最小带宽。解:每个像素的信息量为:信息速率为:因此,所以根据香农公式得:要求的最小带宽约为3.6 MHz。