1、单击此处编辑母版标题样式,*,单击此处编辑母版文本样式,第二级,第三级,第四级,第五级,Information Theory and Coding Theory,本资料仅供参考,不能作为科学依据。谢谢。本资料仅供参考,不能作为科学依据。本资料仅供参考,不能作为科学依据。谢谢。本资料仅供参考!,第9章 率失真函数,1/32,1,普通概念与定义,不等长编码平均长度不超出,H,L,(,U,)/log,D,+1/,L,能够无失真,等长编码H,L,(U)+,e,/logD失真不会超出给定值,传输信息允许失真,信息率能够下降,0.25,0.25,0.25,0.15,0.10,不等长编码,00,01,10,
2、110,111,等长编码,000,001,010,011,100,允许失真,00,01,10,11,11,2.25bit,3bit,2bit,2/32,2,信道失真,d(u,v)是U和V非负函数,U,V为离散变量,U,V,=,a,1,a,2,a,k,P(v|u),U,V,3/32,3,平均失真,4/32,4,率失真函数,P,D,是满足,全部,P,ji,集合,失真不超出,D,时传输所需最小互信息量,5/32,5,失真率函数,给定信息率,找最小失真编码方式,6/32,6,率失真函数基本性质,7/32,7,率失真函数定义域,不允许最小失真小于某一值,DD,min,D,max,是使R(D)=0D最小值
3、,令,P,D,是使,I,(,P,ji,),0全体转移概率集合,8/32,8,率失真函数定义域,I,(,P,ji,)=,0,充要条件是,U,和,V,统计独立,9/32,9,率失真函数定义域,例,Q,(0)=,Q,(1)=0.5,0,1,1,0,E,1,1,0.2,0.2,失真定义,V=0,1,D=0.5*0.2+0.5*0.2=0.2,V=E,D=0.5,D,max,=0.2,10/32,10,R(D)性质,R,(,D,)是下凸函数,使,到达最小,且,使,到达最小,且,11/32,11,R(D)性质,因为,I(P)为凸下函数,12/32,12,R(D)性质,R,(,D,)是D连续单调减函数,减函
4、数,单调减函数,13/32,13,R(D)性质,足够小,=0,14/32,14,R(D)性质,15/32,15,有失真时逆信源编码定理,当速率小于,R,(,D,)时,不论采取什么方式,平均失真必大于,D,.,设假若存在一个编码方式,当 时,信源输出,u,平均失真,16/32,16,有失真时逆信源编码定理,而由假设,17/32,17,DMS R,(,D,)计算,对全部,u,使,关于,P,(,v|u,),最小,18/32,18,拉格朗日函数,19/32,19,DMS R(D),计算,上式是在假设全部 大于0情况下求得,20/32,20,DMS R(D),计算,21/32,21,S几何含义,s,是点 处率失真函数斜率:,22/32,22,23/32,23,DMS 求R(D)步骤,j=1,2,3,J,解出,2.由,解出,1,3.由,解出,S,4.代入,24/32,24,DMS 求R(D)步骤,例,25/32,25,DMS 求R(D)步骤,26/32,26,连续信源,27/32,27,连续信源,28/32,28,定理9.3.3,29/32,29,例9.3.2,信源输出是平均值为零,方差为 独立高斯变量,30/32,30,例9.3.2,31/32,31,例9.3.2,32/32,32,