平稳随机过程及其遍历性.ppt

单击此处编辑母版标题样式,单击此处编辑母版文本样式,第二级,第三级,第四级,第五级,*,1.3,平稳随机过程及其遍历性,平稳性：若一个函数 ，当 ，,的,特性不变,，就称 关于,函数是平稳的。,对确定函数来说：特性不变指函数值不变。,对随机过程来说：特性不变指统计特性不变，,且仅仅对时间变量,t,而言。,分类,严格平稳,宽平稳（广义平稳）,1,2,随机过程可分为平稳和非平稳两大类,严格地说,所有信号都是非平稳的,但是,平稳信号的分析要容易得多,而且在电子系统中,如果产生一个随机过程的主要物理条件在时间的进程中不改变,或变化极小,可以忽略,则此信号可以认为是平稳的,.,如接收机的噪声电压信号,刚开机时由于元器件上温度的变化,使得噪声电压在开始时有一段暂态过程,经过一段时间后,温度变化趋于稳定,这时的噪声电压信号可以认为是平稳的。,3,一 平稳随机过程,1,严平稳随机过程,(Strictly Stationary Process),(1),定义,如果随机过程的,任意,n,维分布,不随时间起点变化，即当时间平移时，其任意的,n,维概率密度不变，则称是,严（格）平稳的随机过程,或称为,狭义平稳随机过程,。,实际应用中，通过上式来判定过程的平稳性是很不容易的，因此在实际中往往不需要所有时间都平稳，只要,观测的有限时间,平稳就行了。,4,(2),特性,一阶平稳,(n=1),严平稳随机过程的一维概率密度函数与,时间无关,时，对于一维概率密度有：,5,随机过程,X(t),的,均值,，,均方值,和,方差,都是平稳的,都与时间,t,无关,6,二阶平稳,(n=2),严平稳随机过程的二维概率密度只与,t,1,t,2,的时间间隔有关，而与时间起点无关。,时，二维概率密度：,从概率密度函数的角度讲，高阶平稳一定低阶平稳,7,都与时间无关,随机过程,X(t),的,自相关函数,，,自协方差函数,都是平稳的。,若 ，则,8,9,(3),严平稳随机过程的判断,按照严平稳随机过程的定义，判断一个随机过程是否为严平稳，需要知道其,n,维概率密度，可是求,n,维概率密度是比较困难的。不过，如果有一个反例，就可以判断某随机过程不是严平稳的，具体方法有两个：,1),若,X(t),为严平稳，,k,为任意正整数，则,与时间,t,无关。,2),若,X(t),为严平稳，则对于任一时刻,t,0,，,X(,t,0,),具,有相同的统计特性。,10,实际中，要确定一个对一切,n,都成立的随机过 程概率密,度函数族是十分困难的，因而在工程中往往根据实际需要只,在相关理论范围内考虑平稳过程问题。,相关理论：只限于研究随机过程一阶和二阶矩的理论。,即研究随机过程的数学期望、相关函数以及功率谱密度等。,随机过程的一、二矩函数虽然不能像多维概率密度函数,那样全面的描述随机过程的统计特性，但它们在一定程度上,相当有效的描述了随机过程的重要特性。,（,1,）平稳随机过程表示噪声电压，,一、二矩函数可以,表示噪声的平均功率的直流、交流分量以及总功率的重要参,数。,（,2,）工程中常见的随机过程是高斯过程，只要知道数,学期望和相关函数，则多维概率密度函数就确定了。,11,2,宽,(,广义,),平稳随机过程,(Weakly Stationary Process),若随机过程,X(t),满足,则称,X(t),为宽平稳或广义平稳随机过程。,严平稳与宽平稳的关系：,严格平稳 广义平稳,一定,不一定,当随机过程满足高斯分布时，严平稳和宽平稳是等价的。,12,为什么要研究宽平稳随机过程,?,随机过程可分为平稳和非平稳两大类,严格地说,所有信号都是非平稳的,但是,在,自然界和实际应用中许多随机过程可以近似为平稳信号,。且平稳信号分析要容易得多，,理论成熟,，是随机信号分析的基础。,物理规律或统计结果与随机试验的时间起点无关在线性时不变系统中，输入宽平稳，输出也宽平稳。,13,例,随机相位信号,是否平稳,?,解,X(t),均值为,“,0,”,，自相关函数仅与时间间隔有关，故,X(t),是宽平稳的。,14,例,设随机过程,Z(t)=Xcost+Ysint,，,-,t,。其中,X,，,Y,为相互独立的随机变量，且分别以概率,2/3,、,1/3,取值,-1,和,2,。试讨论随机过程,Z(t),的平,稳性,。,15,解,16,Z(t)是广义平稳的。,17,Z(t),不是严格平稳的。,18,例,设随机过程,X(t)=At,，,A,为标准正态分布,的随机变量。试问,X(t),是否平稳？,19,解,所以,X(t),是非平稳的。,20,二 平稳随机过程自相关函数的性质,数学期望,和,相关函数,是随机过程的基本数字特征。,对于平稳随机过程而言，数学期望是常数，经中心化后为零，所以基本的数字特征实际上就是,相关函数,。,相关函数不仅仅展示随机过程各随机变量,(,状态,),间关联特性的信息，而且也为随机过程的功率谱密度以及从噪声中提取有用信息的工具。,要求：,(1),根据图形或表达式判断一个函数是否是广义平稳,过程的自相关函数；,(2),根据自相关函数分析随机过程其它数字特征。,21,性质,1,平均功率,性质,2,偶函数,证：,同理,22,性质,3,极值性,证：任何正函数的数字期望恒为非负值，即,对于平稳过程,X(t),，性质,1,可知,代入前式，可得,于是,同理,当 平稳过程的相关函数具有最大值。,物理意义：随机过程同一时刻随机过程自身的相关性最强。,23,性质,4,若平稳过程,X(t),满足条件,X(t)=X(t+T),，则称,它为周期平稳过程，其中,T,为随机过程周期。,周期平稳过程的自相关函数必是周期函数，,且与随机过程的周期相同。即：周期平稳过,程,X(t)=X(t+T),，,T,为周期，则相关函数满足,证：由自相关函数的定义和周期性条件，容易得到,性质,5,若平稳过程含有一个周期分量，则自相关函数,含有同一个周期分量。,自相关函数可用来检测信号是否含有周期分量。,24,例：设随机过程为,式中 为常数，为 上均匀分布的随机变量，为一般平稳过程，对于所有,t,而言，与 统计独立。,则易得出相关函数为,可见，相关函数也包含有与随机过程,X(t),的周期分量相同周期的周期分量。,25,性质,6,若平稳随机过程,X(t),不含有任何周期分量，,则满足,物理含义：当 增大时，与 之,间相关性会减弱，在,的极限情况下，两者相互独立。,26,性质,7,若平稳过程含有平均分量,(,均值,),，则相关函数也含有固定分量即,则,若,X(t),是非周期的，,自相关性函数确定方差,由协方差函数的定义，可得,由此,若,X(t),是非周期，则有,证：,且在,t,=0,时,可得,2,),(,X,X,m,R,=,27,平稳随机过程必须满足对所有 均成立。,性质,8,自相关函数的傅里叶变换是非负的，限制了自相关函数曲线图形不能有任意形状，要求相关函数是连续的（平顶，垂直边均是非连续）即：,不能出现平顶、垂直边或在幅度上的任何不连续。,28,平稳过程相关函数的典型曲线,),(,t,X,R,2,X,s,),0,(,X,R,2,X,m,t,0,29,30,平稳过程的相关系数和相关时间,对于平稳随机过程,X(t),的两个不同时刻t,和 的起伏值的关联程度，可以用自协方差,表示。但是，还与 和 的强度有关，若 或 很小，即使两者的相关程度较强，则 也不会太大，所以并不能准确表示关联程度的大小。为了消除起伏值强度对 的影响，需要对协方差函数作归一化处理，引入相关系数。,31,此值在,1,，,1,之间。表示不相关，表示完全相关。表示正相关，表明两个不同时刻起伏值（随机变量与均值之差）之间符号相同可能性大。,相关系数,也称为归一化协方差函数或标准协方差函数,表征随机过程在两个不同时刻的状态之间的统计关联程度,32,相关时间,对于一般的随机过程而言，随着时间间隔 增大相关程度减弱，因此相关系数也随着减弱，当间隔大到一定程度（假定为 ），相关系数很小可以认为起伏值不相关了，这个时间就称为,相关时间,。,33,1,通常把相关系数的绝对值小于,0.05,的时间间隔 ，记做相关时间,即,:,时的时间间隔 为相关时间。,2,有时我们用矩形（高为,底为 的矩形）面积等于 积分的一半来定义相关时间即,相关时间示意图,34,物理意义：,相关时间 越小，就意味着相关系数 随 增加而降落的越快，这表明随机过程随时间变化越剧烈。反之，越大，则表时随机过程随时间变化越慢。,相关时间越长，反映随机过程前后取值之间的依赖性越强，变化越缓慢，相关时间越小，反映随机过程前后取值之间的依赖性越弱，变化越缓慢,。,两个不同相关时间随机过程的样本函数0,50,100,-4,-2,0,2,4,0,50,100,-10,-5,0,5,10,35,例,：已知平稳随机过程,X(t),的自相关函数为,R,X,(t)=100e,-10|t|,+100cos10t+100,求,X(t),的均值、均方值和方差。,36,R,X,(t)=(100cos10t)+(100e,-10|t|,+100)=R,X1,(t)+R,X2,(t),R,X1,(t)=100cos10t,是,X(t),中周期分量的自相关函数，此分量的均值,m,x1,=0,R,X2,(t)=100e,-10|t|,+100,是,X(t),的非周期分量的自相关函数，由性质,6,可知，,所以有,解,：,37,例,：已知平稳随机过程,X(t),的自相关函数为,求,X(t),的均值和方差。,38,解,：由性质,6,可知,由性质,7,可知,39,例,：已知随机过程,X(t),与,Y(t),的协方差函数,比较两个过程的,起伏速度,40,解,:,由随机过程的协方差函数，得出,X(t),、,Y(t),的方差,由于,，故过程,X(t),比,Y(t),起伏,速度快。,由定义得出,X(t),、,Y(t),的相关系数,X(t),、,Y(t),的相关时间,41,三 遍历,(Ergodic),随机过程（各态历经性）,每当提及随机过程时，意味着要涉及大量的样本函数的集合。要得到随机过程的统计特性，需要观察大量的样本函数。数学期望、方差、相关函数等都是对大量样本函数在特定时刻的取值利用统计方法求平均而得到的数字特征。这种平均称为,统计平均,或,集合平均,。显然，取统计平均所需要的试验工作量很大，处理方法也很复杂。这就使人们自然想到，根据平稳随机过程统计特性与记时起点无关这个特点，能否找到更加简单的方法代替上述的方法。,辛钦证明：,在具备一定的条件下有平稳随机过程的任意一个样本函数取时间平均（观察时间足够长），从概率意义上趋近于该过程的统计平均值。,这样的随机过程，称具备各态历经性或遍历性。,42,随机过程各态历经性可以理解为：随机过程的各样本函数都同样的经历了随机过程的各种可能状态。因此从随机过程的任何一个样本函数都可以得到随机过程的全部统计信息，任何一个样本函数的特性都可以充分地代表整个随机过程的特性。,问题：随机过程 的各数字特征（,集合平均,），能,否用任一条样本函数的特征（,时间平均,）来代替。,43,1,遍历性随机过程的定义,如果一个随机过程,X(t),，,它的各种时间平均（时间足够长）依概率,1,收敛于相应的集合平均，则称,X(t),具有严格遍历性，并称它为严遍历过程。,严（狭义）遍历性的定义,宽（广义）遍历性的定义,设,X(t),是,一个平稳随机过程，如果其,均值,和,相关函数,都具有各态历经性或遍历性，则称,X(t),为宽遍历过程，或简称遍历过程。,在相关理论的范围内讨论历经过程，即讨论均值和自相关时间平均,44,均值,各态历经性,定义 为,随机过程,的,时间平均值。,如果它依概率,1,收敛于集合均值，即,则称平稳过程,X(t),的,均值具有遍历性。,与取哪条样本有关与,时间无关,是时间,t,的函数，与取哪条样本无关,45,均值各态历经,任何一条样本函数所包含的取值状态与随机过程（任意时刻）所有的状态相同，而且出现的频率与随机过程各状态的概率相同。,46,定义,随机过程的,时间自相关函数。,则称平稳随机过程,X(t),的,自相关函数具有遍历性。,自相关函数,各态历经性,如果它依概率,1,收敛于集合均值，即,当且仅当 时上式成立，则称,X(t),的均方值具有遍历性。,47,自相关函数各态历经,任何一条样本函数都同样的经历了随机过程的各种二阶可能状态。,48,各态历经过程与非各态历经过程示意图,49,2,遍历随机过程的实际应用,一般随机过程的时间平均是随机变量，但遍历过程的时间平均为确定量，因此可用任一样本函数的时间平均代替整个过程的统计平均，在实际工作中，时间,T,不可能无限长，只要足够长即可。,3,遍历随机过程和平稳随机过程的关系,遍历过程必须是平稳的，而平稳过程不一定是遍历的。,50,4,遍历随机过程的意义,在实际应用中，如果随机过程是平稳的，要从理论上证明过程的各态历经性并非易事。我们总是,凭经验假设它是各态历经的,。,任何一个样本函数的特性都可以充分代表随机过程的全部统计特性，简化研究过程和实际统计方法。,实际通信系统中，通常认为噪声和信号一般都是,平稳,和,各态历经,的。,51,5,遍历过程（各态历经性）的判别定理,均值遍历判别定理,平稳随机过程,X(t),的均值具有遍历性的充要条件：,平稳随机过程,X(t),的自相关函数具有遍历性充要条件：,自相关函数遍历判别定理,式中：,52,对于,正态,平稳,随机过程，若均值为零，自 相关函数 连续，则可以证明此过程具有遍历性的一个充分条件为：,注意：,判断一个平稳过程是否遍历，我们总是先假设其,是遍历的，然后看是否满足定义要求（即时间平,均以概率,1,等于统计平均）,一般不用两个判别定,理。,53,故,X(t),是宽（广义）平稳随机过程。,解,例,设,式中,a,，为常数，,是在 上均匀分布的随机变量。,试问：,X(t),是否平稳？是否遍历？,54,故平稳随机过程,X(t),也是宽（广义）遍历随机过程。,55,例,判断随机过程,X(t)=Y,的遍历性，其中,Y,是方,差不为零的随机变量。,解,明显可知,X(t),是平稳的，因为,结论：,一个随机变量一定不是各态历经的,并不是任何平稳过程都是各态历经的,但,X(t),不具有各态历经性，因为,56,例,随机过程,X(t),的均值和相关函数为,讨论,X(t),均值的遍历性。,解,X(t),是实平稳随机过程，由,均值遍历判别定理,可知,所以,X(t),具有均值各态历经性。,57,补充,：其它平稳的概念,(1),k,阶严平稳,for N,k,k=2,称为二阶严平稳,如果对,N=k,成立,那么对,Nk,也成立,.,(2),渐近严平稳,当,c,时,X(t+c),的任意,n,维分布与,c,无关,即,存在,且与,c,无关,.,58,(3),循环平稳,如果,X(t),的分布函数满足如下关系,其中,M,为整数,T,为常数,则称,X(t),为严格循环平稳,(,或严格周期平稳,),注意,:,严格循环平稳不一定严格平稳,(4),广义循环平稳,如果随机过程,X(t),的均值和自相关函数满足下列关系,称,X(t),为广义循环平稳,.,59,定理,1:,设,X(t),是严格循环平稳的,而随机变量,在区间,(0,T),上均匀分布,且,X(t),与统计独立,定义新的过程,则,X(t),是严格平稳随机过程,.,定理,2:,设,X(t),是广义循环平稳的,而随机变量,在区间,(0,T),上均匀分布,且,X(t),与统计独立,定义新的过程,则,X(t),是广义平稳随机过程,且,