信息论完整公式.doc

自信息量

条件自信息量:

联合自信息量：

信源熵：

条件熵:

疑义度：

噪声熵:

联合熵：

限平均功率最大熵定理：对于相关矩阵一定随机变量X,当它就是正态分布时具有最大熵。Ｈc（X） = 1/2 ln(）
连续单符号加性信道: 　　 　 　 　 　 多维无记忆加性连续信道: