数字图像处理学：第5章 图像编码（第5-2讲）.ppt

单击此处编辑母版标题样式,单击此处编辑母版文本样式,第二级,第三级,第四级,第五级,*,数字图像处理学,第,5,章 图像编码,（第二讲）,5.4,统计编码,高效编码的主要方法是尽可能去除信源中的冗余成份，从而以最少的数码率传递最大的信息量。冗余度存在于像素间的相关性及像素值出现概率的不均等性之中。对于有记忆性信源来说首先要去除像素间的相关性，从而达到压缩数码率的目的。,对于无记忆性信源来说，像素间没有相关性，可以利用像素灰度值出现概率的不均等性，采用某种编码方法，也可以达到压缩数码率的目的。这种根据像素灰度值出现概率的分布特性而进行的压缩编码叫统计编码。,5.4.2,几种常用的统计编码法,5.4.,1,编码效率与冗余度,5.4.1,编码效率与冗余度,为了确定一个衡量编码方法优劣的准则，编码效率,冗余度,设某个无记忆信源共有,个消息，记作 。其中消息 各自出现的概率分别为 。可把这个信源用下式表示,(5,22),根据该信源的消息集合，在字母集中选取符号进行编码 。一般情况下取二元字母集,A,1,0,。通常，这一离散信源中的各个消息出现的概率并不相等。根据信息论中熵的定义，可计算出该信源的熵如下式,：,(5,23),式中,H,(,X,),代表熵，,P,i,代表第,i,个消息出现的概率。,例如，设一离散信源如下,由式,(5,23),可算出该信源的熵,比特,/,消息,设对应于每个消息的码字由,N,i,个符号组成。也就是说每个消息所对应的码字长度各为,N,i,。那么，每个消息的平均码长可用下式表示,(5,24),式中 代表平均码长，,为信源中包含的消息的个数，,P,i,为第,i,个消息出现的概率，,N,i,为第,i,个消息对应的码长。就平均而言，每个符号所含有的熵为,(5,25),编码符号是在字母集,A,中选取的。如果编码后形成一个新的等概率的无记忆信源，字母数为,n,，那么，它的最大熵应为,log,a,n,比特,/,符号，因此，这是极限值。,如果 ，则可认为编码效率已达到,100,，若 ，则可认为编码效率较低。,由上述概念，编码效率如下式表示：,式中 代表编码效率，,H,(,X),为信源的熵，为平均码长，,n,为字母集合中的字母数。,(5,26),如果以比特（,bit,）作单位，,log,a,的底为,2,，根据上述定义，则,显然，如果 ，就说明还有冗余度。因此，冗余度如下式表示,(5,27),统计编码要研究的问题就在于设法减小,，使,尽量趋近于,1,，趋近于,0,。显然 值有一个理论最低限，当,=1,时，的最低限就是,H,(,X,)/,log,2,n,。可以根据这一准则来衡量编码方法的优劣。下面举例加以说明。,例,:,一个信源,X,和一个字母集合,A,如下,平均码长,bit/,消息,可求得信源,X,的熵,所以,显然，编码后还有,bit,的冗余度，没有达到 的最低限如果取,此时,那么可以编成如下等长码,的冗余度,。,同样有,上例中的两种编码方法，其特点是码字长度均相等，这种码叫等长码。显然此例中的两种等长码均没有达到最低限。怎样才能使信源编码达到最低限呢？,再看下例的编码方法选 作为编码字符集。在这种编码中，不用等长码，而是采用下面的原则来编码，即,P,i,大的消息编短码，,P,i,小的消息编长码。,例,：,可计算出平均码长,其效率,冗余度,由此可见，这种编码法的码字平均长度达到了最低限。这说明用变长编码法可达到较高的效率。采用这种编码方法，信源中的消息与码字是一一对应的，因而译码时也是准确无误的。在编、译码过程中并不损失任何信息。它是一种信息保持编码法。,5.5.2,几种常用的统计编码法,变长编码是统计编码中最为主要的一种方法。变长编码的目标就是使平均码长达到低限，也就是使 最优，但是，这种最优必须在一定的限制下进行。,编码的基本限制就是码字要有单义性和非续长性。,单义性,代码是指任意一个有限长的码字序列只能被分割成一个一个的码字，而任何其他分割方法都会产生一些不属于码字集合中的码字。符合这个条件的代码就叫单义代码。,非续长,代码是指任意一个码字都不是其他码字的续长。换句话说，就是码字集合中的任意一个码字都不是由其中一个码字在后面添上一些码元构成的。很容易看出,非续长代码一定是单义的，但是，单义代码却不一定是非续长的,。,例如，在表,54,中，列出四种代码，,表,54,四种代码表,信 源,概 率,码,码,码,码,0,0,0,0,0,1,1 0,0 1,1,0 0,1 1 0,0 1 1,1 0,1 1,1 1 1,0 1 1 1,码,：,显然码,缺乏单义可译性。,码,：,也缺乏单义可译性，又是可续长的。,码,：,既具备单义可译性又是非续长的码，它是,可用的。,码,:具有单义可译性，但是却缺乏非续长性。,从上面的例子可知，使 最短的码只是在单义可译性和非续长性的约束下才有意义。至于变长码的存在定理以及 的最低限是否存在等问题，在信息论中都有详细的定理加以证明及讨论。,最为常用的变长编码方法是,霍夫曼（,Huffman,）码,仙农费诺（,Shannon-,Fano,）码。,5.5.3,霍夫曼码,霍夫曼码变长编码法能得到一组最优的变长码。设原始信源有,个消息，即,：,(5,28),可用下述步骤编出霍夫曼码：,第一步，把信源中的消息按出现的概率从大到小的顺序排列，,即,：,第二步，把最后两个出现概率最小的消息合并成一个消息，从而使信源的消息数减少一个，并同时再次将信源中的消息的概率从大到小排列一次，得,(5,29),第三步，重复上述步骤，直到信源最后为 形式为止。这里 有如下形式,(5,30),第四步，将被合并的消息分别赋以,1,和,0,或,0,和,1,。对最后,X,0,也对 和 对应地赋以,1,和,0,或,0,和,1,通过上述步骤就可以构成最优变长码（霍夫曼码）。下面举例说明具体构成方法。,例：求下述信源的霍夫曼码,由上述步骤，合并最小的两项做一个新的信源,这样可给 赋,0,，赋,1,，其中 。中消息的概率大小顺序正好符合从大到小的规律，故不必重排。再做新的信源,重排得,将 赋,0,，赋,1,。将 和 合并构成新的信源,重排得,将,赋,0,，,赋,1,。最后则,赋,1,。,编码图如图,5,17,所示。,赋,0,，,赋,1,。最后,赋,0,，,重排得,0.45,0.30,0.55,码字 消息 概率,0 1,1 0,1 1,0 0 0,0 0 1 0,0 0 1 1,0.25,0.25,0.20,0.15,0.10,0.05,0,1,0,1,0.25,0.25,0.20,0,1,0.30,0.25,0,1,0,1,图,517,信源,X,的,霍夫曼编码图,0.15,0.45,如,对合并的消息赋以,1,，,0,值，则会得到如表,56,所示的另外一组码。,表,5,5,信源,X,的霍夫曼编码表 表,5,6,信源,X,的另一组霍夫曼编码表,码 字,消 息,概 率,码 字,消 息,概 率,0 1,u,1,0.25,1 0,u,1,0.25,1 0,u,2,0.25,0 1,u,2,0.25,1 1,u,3,0.20,0 0,u,3,0.20,0 0 0,u,4,0.15,1 1 1,u,4,0.15,0 0 1 0,u,5,0.10,1 1 0 1,u,5,0.10,0 0 1 1,u,6,0.05,1 1 0 0,u,6,0.05,下面计算一下信源的熵，平均码长，效率及冗余度。,所以，对于信源,X,的霍夫曼码的编码效率为,98,，尚有,2,的冗余度。,5.5.4,仙农费诺码,另外一种常用的变长编码是仙农费诺码。这种码有时也可以得到最优编码性能。它的编码准则要符合非续长条件，在码字中,1,和,0,是独立的，而且是（或差不多是）等概率的。这样的准则一方面可保证无需用间隔来区分码字，同时又保证每传输位码就有,bit,的信息量。,仙农费诺码的编码程序可由下述几个步骤来完成：,第一步：设信源,有非递增的概率分布,(5,31),其中,。,把,X,分成两个子集合，得,(5,32),(5,34),成立或差不多成立。,并且保证,(533),第二步：给两个子集中的消息赋值，,赋,1,，,赋,0,，或给,赋,0,，,赋,1,。,第三步：重复第一步骤，将两个子集 ，再细分为,2,个子集，并且也同样使两个小子集里消息的概率之和相等或近似相等。,然后，重复第二步骤赋值。以这样的步骤重复下去，直到每个子集内只包含一个消息为止。对每个消息所赋过的值依次排列出来就可以构成仙农费诺码,下面举例说明仙农费诺码的具体构成方法,例：设有信源,其编码流程图如图,518,所示。编码表如表,57,所示。如果对各子集赋以另外一种值即,1,，,0,，那么，同样会得到另一种编码结果，其编码表如表,58,所示。,码字 消息 概率,00,01,100,101,1100,1101,1110,1111,图,518,仙农,-,费诺码编码流程图,1/8,1/8,1/16,1/16,1/16,1/16,0,1,0,1,0,1,0,1,0 1,0 1,0 1,表,5,7,仙农,-,费诺码编码表 表,5,8,另一种仙农,-,费诺码编码表,消 息,概 率,码 字,消 息,概 率,码 字,0 0,1 1,0 1,1 0,1 0 0,0 1 1,1 0 1,0 1 0,1 1 0 0,0 0 1 1,1 1 0 1,0 0 1 0,1 1 1 0,0 0 0 1,1 1 1 1,0 0 0 0,下面计算一下仙农费诺码的平均码长，效率及冗余度。信源的熵可计算于下：,比特,/,消息,平均码长,显然,效率已达到,100,。这一结果并不奇怪，对于仙农费诺码来说，如果满足下式,(5,35),且,(5,36),就会使编码效率达到,100,。式中的,P,(,u,i,),为消息,u,i,出现的概率，,N,i,是码字的长度。如果不满足上述条件就不会有,100,的效率。,例：设有一信源,编码流程及形成的码字如图,5,19,所示。可以计算出信源的熵为,编码 消息 概率,图,519,编码流程图,0,100,101,1100,1101,1110,11110,111110,111111,0.49,0.14,0.14,0.07,0.07,0.04,0.02,0.02,0.01,0,1,0,1,0 1,0,1,0,1,0 1,0 1,0 1,由此例可见，由于信源不满足式,(5,35),和,(5,36),的条件，编码效率不能达到,100,。然而从结果上看，它仍然是一种相当好的编码。,冗余度,效率,平均码长,在,ITU-T,建议的彩色图像编码标准中的编码表如表,513,所示。,表,53 AC,系数,Huffman,码表,游程,/,尺寸 亮度,AC,系数 色度,AC,系数,码长 码字 码长 码字,0/0,0/1,0/2,0/3,0/4,0/5,0/6,0/70/8,0/9,0/A,1/1,4,2,2,3,4,5,7,8,10,16,16,4,1010,00,01,100,1011,11010,1111000,11111000,1111110110,1111111110000010,1111111110000011,1100,2,2,3,4,5,5,6,7,9,10,12,4,00,01,100,1010,11000,11001,111000,1111000,111110100,1111110110,111111110100,1011,表,513,（续）,AC,系数,Huffman,码表,游程,/,尺寸,亮度,AC,系数,色度,AC,系数,码长 码字 码长 码字,1/2,1/3,1/5,1/6,1/7,1/8,1/9,1/A,2/1,2/2,2/3,5,7,9,11,16,16,16,16,16,5,8,10,11011,1111001,111110110,11111110110,1111111110000100,1111111110000101,1111111110000110,1111111110000111,1111111110000000,11100,11111001,1111110111,6,8,9,11,12,16,16,16,16,5,8,10,111001,11110110,111110101,11111110110,111111110101,1111111110001000,1111111110001001,1111111110001010,1111111110001011,11010,11110111,1111110111,码长 码字 码长 码字,游程,/,尺寸 亮度,AC,系数 色度,AC,系数,表,513,（续）,AC,系数,Huffman,码表,2/4,2/5,2/6,2/7,2/8,2/9,2/A,3/1,3/2,3/3,3/5,12,16,16,16,16,1,6,16,6,9,12,16,16,111111110100,1111111110001001,1111111110001010,1111111110001011,1111111110001100,1111111110001101,1111111110001110,111010,111110111,111111110101,1111111110001111,1111111110010000,12,15,16,16,16,16,16,5,8,10,12,16,111111110110,111111111000010,1111111110001100,1111111110001110,1111111110001110,1111111110001111,1111111110010000,11011,11111000,1111111000,111111110111,1111111110010001,表,513,（续）,AC,系数,Huffman,码表,游程,/,尺寸 亮度,AC,系数 色度,AC,系数,码长 码字 码长 码字,3/6,3/7,3/8,3/9,3/A,4/1,4/2,4/3,4/4,4/5,4/6,4/7,4/8,16,16,16,16,16,6,10,16,16,16,16,16,16,1111111110010001,1111111110010010,1111111110010011,1111111110010100,1111111110010101,111011,1111111000,1111111110010110,1111111110010111,1111111110011000,1111111110011001,1111111110011010,1111111110011011,16,16,16,16,16,6,9,16,16,16,16,16,16,1111111110010010,1111111110010011,1111111110010100,1111111110010101,1111111110010110,111010,111110110,1111111110010111,1111111110011000,1111111110011001,11111111100110101111111110011011,1111111110011100,表,513,（续）,AC,系数,Huffman,码表,游程,/,尺寸 亮度,AC,系数 色度,AC,系数,码长 码字 码长 码字,4/9,4/A,5/1,5/2,5/3,5/4,5/5,5/6,5/7,5/8,5/9,5/A,6/1,16,16,7,11,16,16,16,16,16,16,16,16,7,1111111110011100,1111111110011101,1111010,11111110111,1111111110011110,1111111110011111,1111111110100000,1111111110100001,1111111110100010,1111111110100011,1111111110100100,1111111110100101,1111011,16,16,6,10,16,16,16,16,16,16,16,16,7,1111111110011101,1111111110011110,111011,1111111001,1111111110011111,1111111110100000,1111111110100001,1111111110100010,1111111110100011,1111111110100100,1111111110100101,1111111110100110,1111001,表,513,（续）,AC,系数,Huffman,码表,游程,/,尺寸 亮度,AC,系数 色度,AC,系数,码长 码字 码长 码字,6/2 12 111111110110 11 11111110111,6/3 16 1111111110100110 16 1111111110100111,6/4 16 1111111110100111 16 1111111110101000,6/5 16 1111111110101000 16 1111111110101001,6/6 16 1111111110101001 16 1111111110101010,6/7 16 1111111110101010 16 1111111110101011,6/8 16 1111111110101011 16 1111111110101100,6/9 16 1111111110101100 16 1111111110101101,6/A 16 1111111110101101 16 1111111110101110,7/1 8 111110101 7 1111010,7/2 12 111111110111 11 11111111000,7/3 16 1111111110101110 16 1111111110101111,7/4 16 1111111110101111 16 1111111110110000,7/5 16 1111111110110000 16 1111111110110001,7/6 16 1111111110110001 16 1111111110110010,7/7 16 1111111110110010 16 1111111110110011,7/8 16 1111111110110011 16 1111111110110100,表,513,（续）,AC,系数,Huffman,码表,游程,/,尺寸 亮度,AC,系数 色度,AC,系数,码长 码字 码长 码字,7/9 16 1111111110110100 16 1111111110110101,7/A 16 1111111110110101 16 1111111110110110,8/1 9 111111000 8 11111001,8/2 15 111111111000000 16 1111111110110111,8/3 16 1111111110110110 16 1111111110111000,8/4 16 1111111110110111 16 1111111110111001,8/5 16 1111111110111000 16 1111111110111010,8/6 16 1111111110111001 16 1111111110111011,8/7 16 1111111110111010 16 1111111110111100,8/8 16 1111111110111011 16 1111111110111101,8/9 16 1111111110111100 16 1111111110111110,8/A 16 1111111110111101 16 1111111110111111,9/1 9 111111001 9 111110111,9/2 16 1111111110111110 16 1111111111000000,9/3 16 1111111110111111 16 1111111111000001,9/4 16 1111111111000000 16 1111111111000010,表,513,（续）,AC,系数,Huffman,码表,游程,/,尺寸 亮度,AC,系数 色度,AC,系数,码长 码字 码长 码字,9/5 16 1111111111000001 16 1111111111000011,9/6 16 1111111111000010 16 1111111111000100,9/7 16 1111111111000011 16 1111111111000101,9/8 16 1111111111000100 16 1111111111000110,9/9 16 1111111111000101 16 1111111111000111,9/A 16 1111111111000110 16 1111111111001000,A/1 9 111111010 9 111111000,A/2 16 1111111111000111 16 1111111111001001,A/3 16 1111111111001000 16 1111111111001010,A/4 16 1111111111001001 16 1111111111001011,A/5 16 1111111111001010 16 1111111111001100,A/6 16 1111111111001011 16 1111111111001101,A/7 16 1111111111001100 16 1111111111001110,A/8 16 1111111111001101 16 1111111111001111,A/9 16 1111111111001110 16 1111111111010000,A/A 16 1111111111001111 16 1111111111010001,表,513,（续）,AC,系数,Huffman,码表,游程,/,尺寸 亮度,AC,系数 色度,AC,系数,码长 码字 码长 码字,B/1 10 1111111001 9 111111001,B/2 16 1111111111010000 16 1111111111010010,B/3 16 1111111111010001 16 1111111111010011,B/4 16 1111111111010010 16 1111111111010100,B/5 16 1111111111010011 16 1111111111010101,B/6 16 1111111111010100 16 1111111111010110,B/7 16 1111111111010101 16 1111111111010111,B/8 16 1111111111010110 16 1111111111011000,B/9 16 1111111111010111 16 1111111111011001,B/A 16 1111111111011000 16 1111111111011010,C/1 10 1111111010 9 111111010,C/2 16 1111111111011001 16 1111111111011011,C/3 16 1111111111011010 16 1111111111011100,C/4 16 1111111111011011 16 1111111111011101,C/5 16 1111111111011100 16 1111111111011110,C/6 16 1111111111011101 16 1111111111011111,C/7 16 1111111111011110 16 1111111111100000,表,513,（续）,AC,系数,Huffman,码表,游程,/,尺寸 亮度,AC,系数 色度,AC,系数,码长 码字 码长 码字,C/8 16 1111111111011111 16 1111111111100001,C/9 16 1111111111100000 16 1111111111100010,C/A 16 1111111111100001 16 1111111111100011,D/1 11 11111111000 11 11111111001D/2 16 1111111111100010 16 1111111111100100,D/3 16 1111111111100011 16 1111111111100101,D/4 16 1111111111100100 16 1111111111100110,D/5 16 1111111111100101 16 1111111111100111,D/6 16 1111111111100110 16 1111111111101000,D/7 16 1111111111100111 16 1111111111101001,D/8 16 1111111111101000 16 1111111111101010,D/9 16 1111111111101001 16 1111111111101011,D/A 16 1111111111101010 16 1111111111101100,E/1 16 1111111111101011 14 11111111100000,E/2 16 1111111111101100 16 1111111111101101,E/3 16 1111111111101101 16 1111111111101110,E/4 16 1111111111101110 16 1111111111101111,E/5 16 1111111111101111 16 1111111111110000,表,513,（续）,AC,系数,Huffman,码表,游程,/,尺寸 亮度,AC,系数 色度,AC,系数,码长 码字 码长 码字,E/6 16 1111111111110000 16 11111111111110001,E/7 16 1111111111110001 16 1111111111110010,E/8 16 1111111111110010 16 1111111111110011,E/9 16 1111111111110011 6 1111111111110100,E/A 16 1111111111110100 16 1111111111110101,F/0 11 11111111001 10 1111111010,F/1 16 1111111111110101 15 111111111000011,F/2 16 1111111111110110 16 1111111111110100,F/3 16 1111111111110111 16 1111111111110111,F/4 16 1111111111111000 16 1111111111111000,F/5 16 1111111111111001 16 1111111111111001,F/6 16 1111111111111010 16 1111111111111010,F/7 16 1111111111111011 16 1111111111111011,F/8 16 1111111111111100 16 1111111111111100,F/9 16 1111111111111101 16 1111111111111101,F/A 16 1111111111111110 16 1111111111111110,特点：,1）、,Huffman,码和,Shannon,Fano,码不是唯一的；,2）、,Huffman,码和,Shannon,Fano,码缺乏构造性，即，不能用数学方法建立一一对应关系，只能通过查表的方法构成对应关系。如果消息数目很大，所需的存储器就大，设备就复杂。,3）、非等长码在传输、译码、存储都不方便。,5,.6,算术编码（,Arithmetic coding,）,算术编码的概念最早由,J.Rissaner,在,1976,年以后入先出的编码形式引入，,1979,年他和,G.G.Langdom,一起将其系统化。由于省去了乘法，因此，处理比较简单。,1981,年又将其推广用于二值图像编码。对于二元平稳马尔可夫信源，效率可高于,95%,。在国际编码标准中，,JPEG,，,JBIG,都有算术编码的应用。,与,Huffman,码不同，算术编码是一种非分组编码方法，或叫非块码。正因为算术编码不是分组编码。因此，其译码也是一个字符一个字符的译码。,算术编码的基本原理,设：有一,4,符号的信源，其分为 ，其概率如下表和下图所示。,符号,概率（十进制）,1/8,1/4,1/2,1/8,概率（二进制）,0,001,0,01,0,1,0,001,累积概率,0,0,001,0,011,0,111,图中符号出现的概率表示在概率区间之中，区间宽度表示概率值大小，图中子区间的边界值实际上是从下到上符号的累积概率，在算术编码中通常用二进制小数来表示概率。其中,的概率值在表中。,概率区间表示概率大小,累积概率,这里请注意二进制数的计算规律：,1,）逢二进一；,2,）二进制数的表示,3,）二进制数乘上,2,倍小数点向右移一位，二进制数除上,2,倍小数点向左移一位如：,在算术编码中，每个符号对应的概率区间都是半开区间，即：该区间包括下端点，而不包括上端点,。,如：,对应,0,，,0.001),对应,0.001,0.011),等,。,现在以符号序列,为例解释一下编码过程。,有如下几点，大家要注意：,1,）算术编码产生的码字实际上是一个二进制小数的指针，该指针指向所编码符号对应的概率空间；,2,）按照上述原则，序列的第一个符号是 我们就用第,3,个子区间的指针来代表这个符号；,3,）原理上讲，指针指向区间,0.011,0.111,内的任何部位都可以代表,a,3,；但为方便起见，通常规定指向区间的下端点。因此，得码字,0.011,。,指向下端点,因此，得到码字,0.011,。后续的符号编码将在前面编码指向的字区间内进行。,4,）后续符号的编码将在前面符号编码指向的子区间进行。,将,0.011,0.111,再按符号的概率值划分成,4,份，其概率关系一样。第二个符号仍然是,a,3,，指针指向,a,3,区间的下端，,0.1001,，也就是码字为,0.1001,，然后,a,3,所对应的子区间再被划分为,4,份，概率关系一样。,指向下端点,第三个符号为,a,2,，指针指向,a,2,区间的下端，即,0.10011,，余下以此类推。,指向下端点,指向下端点,上述递归过程，可将算术编码的基本原理,总结如下：,（,1,）初始状态,编码原点（指针所指之处）,C,0,=0,区间宽度为,A,0,=1.0,（,2,）新编码点,C,1,=,原编码点原区间,P,i,新区间,A,1,=,原区间,A,0,p,i,其中,p,i,为所编符号,a,i,对应的概率，,P,i,为 的累积概率。,因此，,a,3,a,3,a,2,a,4,的编码过程如下：,第一个符号：,a,3,原编码点,原区间宽度,符号累积概率,原区间宽度,符号概率,区间宽度,编码,第二个符号：,a,3,a,3,的累积概率,原编码点,区间宽度,区间宽度,原区间宽度,符号概率,编码,第三个符号：,a,2,a,2,的累积概率,编码,原编码点,区间宽度,区间宽度,原区间宽度,符号概率,第四个符号：,a,4,以上是编码过程。,编码,原编码点,区间宽度,a,4,的累积概率,区间宽度,原区间宽度,符号概率,解码过程是：,（收到的码字串,),(,已解符号子区间的下端点）,（字符概率),累积概率,在解码过程中，当收到码字串,0.1010011,时，由于这个码字串指向子区间,0.011,0.111,，因此，解出的第一个符号应为,a,3,，然后用相反的步骤，从码字串中减去已解符号子区间下端点的数值（累积概率），并将差值除以该子区间的宽度（概率值）则得到码字串，即：,由上图所示，该字串仍然落在,0.011,0.111,区间内，因此，解出的第二个字符为,a,3,收到码字串,a,3,累积概率,a,3,字符概率,第三个字符：,a,3,的累积概率,a,3,的子区间宽度,(,概率,),字符落在,0.001,0.011,之间,因此是,a,2,收到码字串,第四个字符,a,2,的区间下端点数值,a,2,的概率,收到码字串,字符落在,0.111,1.0,之间,因此是,a,4,以上就是解码过程,。,在算术编码中，值得注意的问题是进位问题。在,Huffman,码中没有这类问题。,如上述的例子，编完第,3,个符号之后得到的码字是,0.10011,，对第四个符号编码时前,3,位,0.100,就变成,0.101,。,(,a,2,0.10011,a,4,0.1010011),这就是相加过程中的进位引起的。,