矩阵论第一章 线性空间和线性映射.ppt

单击此处编辑母版标题样式,单击此处编辑母版文本样式,第二级,第三级,第四级,第五级,*,第一章,线性空间和线性映射,本章知识要点,线性空间,：维数、基、坐标、基变换、坐标变换；,线性空间的分解,：子空间、值域,(,像空间,),与核空间,(,零空间,),、秩与零度、子空间的交、和与直和；,线性变换及其矩阵表示,：定义、运算、值域与核空间、秩与零度、相似类、特征值与特征向量、不变子空间、,Jordan,标准形,;,欧氏空间和酉空间,：内积、度量矩阵、正交、标准正交基、正交分解与正交补、正交变换与正交矩阵、对称变换与对称矩阵、,Hermite,变换与,Hermite,矩阵、正规矩阵与可对角化、谱分解Hibert,空间：,平方可积空间和平方可和空间,。,集合,集合,元素、子集、集合相等、运算（交、并、补）,例：数域是一个集合含有加法,+,和乘法*,含有元素,0,，满足对任何元素,a,，有,a+0=a,；,含有,1,，满足对任何元素,a,，有,a*1=a,；,任何元素,a,存在负元素,b,，满足,a+b,=0,；,非零元素,a,存在逆元素,b,，满足,a*b=1,；,对加法和乘法封闭,常用数域有：有理数域、实数域、复数域,映射,映射：集合,S,到集合,S,的一个映射是指一个法则,(,规则,),f,:,S,S,，对,S,中任何元素,a,，都有,S,中的元素,a,与之对应，记为：,f(a,)a,或,a,a,。一般称,a,为,a,的像，,a,为,a,的原像。,变换：若,S=S,，则称映射为变换。,映射的相等：设有两个映射,f,:,S,S,和,g,:,S,S,，若对任何元素,a,S,都有,f,(a,)=,g,(a,),则称,f,与,g,相等。,映射的乘积,(,复合,),：若,f,:,S,1,S,2,和,g,:,S,2,S,3,，则映射的乘积,g,f,定义为：,g,f,(a,)=,g(f(a,),。,在不至混淆的情况下，简记,g,f,为,g,f,映射的例子,例子,1,：设集合,S,是数域,F,上所有阶方阵的集合，则,f(A,)=,det(A,),为,S,到,F,的映射,。,例,2,：设,S,为次数不超过,n,的多项式构成的集合，则求导运算：,(,f(t,)=,f(t,),为,S,到,S,的变换。,例,3,：,S,为平方可积函数构成的集合，则傅里叶变换：,为,S,到,S,上的一个变换。,线性空间的定义,定义：设,V,是一个非空的集合，,F,是一个数域，在集合,V,中定义两种代数运算,一种是加法运算，用,+,来表示，另一种是数乘运算,用,来表示,并且这两种运算满足下列,八,条运算律：,（,1,）加法交换律：,+,=,+,（,2,）加法结合律：,(,+,)+,=,+(,+,),（,3,）零元素：,在,V,中存在一个元素,0,，使得对于任意的,V,都有,+0=,（,4,）,对于,V,中的任意元素,都存在一个元素,使得,：,+,=0,线性空间的定义（续）,（,5,）数,1,：对,V,，有：,1,=,（,6,）对,k,l,F,V,有：,(,kl,),=,k,(,l,),（,7,）对,k,l,F,V,有：,(,k+l,),=,k,+,l,（,8,）对,k,F,V,有：,k,(,+,)=,k,+,k,称这样的集合,V,为数域,F,上的线性空间。,可以证明：零元素唯一，每个元素的负元素都是唯一的。,线性空间的例子,例,1,：全体实函数集合,R,R,构成实数域,R,上的线性空间。,例,2,：复数域,C,上的全体,mn,阶,矩阵构成的集合,C,mn,为,C,上的线性空间。,例,3,实数域,R,上全体次数小于或等于,n,的多项式集合,Rx,n,构成实数域,R,上的线性空间。,例,4,：全体正的实数,R,+,在下面的加法与数乘的定义下构成实数域上的线性空间：,对任意,k,R,a,b,R,+,例,5,：,R,表示实数域,R,上的全体无限序列组成的的集合。即,线性空间的例子（续）,则,R,为实数域,R,上的一个线性空间。,在,R,中定义加法与数乘：,例,6,在 中满足,Cauchy,条件的无限序列组成的,子集合也构成,R,上的线性空间。,Cauchy,条件是：,使得对于 都有,线性空间的例子（续）,例,7,在 中满足,Hilbert,条件的无限序列组成的,子集合构成,R,上的线性空间。,Hilbert,条件是：级数 收敛,线性空间的基本概念及其性质,基本概念：线性组合；线性表示；线性相关；线性无关；向量组的极大线性无关组；向量组的秩。,基本性质：,（,1,）含有零向量的向量组一定线性相关；,（,2,）整体无关则部分无关；部分相关则整体相关；,（,3,）如果含有向量多的向量组可以由含有向量少的向量组线性表出，那么含有向量多的向量组一定线性相关；,（,4,）向量组的秩是唯一的，但是其极大线性无关组并不唯一；,（,5,）如果向量组（,I,）可以由向量组（,II,）线性表出，那么向量组（,I,）的秩小于等于向量组（,II,）的秩；,（,6,）等价的向量组秩相同。,例,1,实数域,R,上的线性空间,R,R,中，函数组,是一组线性无关的函数，其中 为一组互不相同的实数。,例,2,实数域,R,上的线性空间,R,R,中，函数组,是一组线性无关的函数，其中 为一组互不相同的实数。,例,3,实数域,R,上的线性空间,R,R,中，函数组,也是线性无关的。,例,4,实数域 上的线性空间空间 中，函数组,与函数组,都是线性相关的函数组。,线性空间的基底与维数,定义：,设,V,为数域,F,上的一个线性空间。如果在,V,中存在,n,个线性无关的向量 ，使得,V,中的任意一个向量 都可以由 线性表出,:,则称 为,V,的一个基底；为向量 在基底 下的坐标。此时我们称,V,为一个,n,维线性空间，记为,dim,V,=n,。,例,1,实数域,R,上的线性空间,R,3,中向量组,与向量组,基底的例子,都是线性空间,R,3,的基底，,R,3,是,3,维线性空间。,例,2,实数域,R,上的线性空间 中的向量组,与向量组,都是 的基。是,4,维线性空间。,基底的例子（续）,例,3,实数域,R,上的不超过,n,次多项式的全体,P,n,中的向量组,与向量组,都是,P,n,的基底，,P,n,的维数为,n+1,。,注意：,通过上面的例子可以看出线性空间的基底并不唯一，但是维数是唯一确定的。由维数的定义,线性空间可以分为,有限维线性空间,和,无限维线性空间,。目前，我们主要讨论,有限维的线性空间,。,基底的例子（续）,例,4,在,4,维线性空间 中，向量组,与向量组,是其两组基，求向量 在这两组基下的,坐标。,解：设向量,A,在第一组基下的坐标为,于是可得,解得,同样可解出在第二组基下的坐标为,设 （,旧的,）与,新的,）,是,n,维线性空间,V,的两组基底，它们之间的关系为,基变换与坐标变换,将上式,矩阵化,可以得到下面的关系式：,称,n,阶方阵,是由旧的基底到新的基底的,过渡矩阵,(,可逆,),，那么上式可以写成,任取 ，设 在两组基下的坐标分别为,与 ，那么我们有,该式被称为,坐标变换公式,。,于是有：,与,向量组,例,1,在,4,维线性空间 中，向量组,为其,两组基，求从基 到基 的过渡矩,阵，并求向量 在这两组基下的坐标。,解,：容易计算出下面的矩阵表达式,向量,A,在第一组基下的坐标为,利用坐标变换公式可以求得,A,在第二组基下的坐标为,定义,设,V,为数域,F,上的一个,n,维线性空间，,W,为,V,的一个非空子集合，如果对于任意的,以及任意的 都有,那么我们称 为 的一个,子空间,。,例,1,对于任意一个有限维线性空间 ，它必有,两个,平凡的子空间,，即由单个零向量构成的子空间,以及线性空间 本身,.,线性空间的子空间,例,2,设 ，那么线性方程组 的,全部解为 维线性空间 的一个子空间，我们称其为,齐次线性方程组的解空间,。当齐次线性方程组,有无穷多解时，其解空间的基底即为其基础解系；解空间的维数即为基础解系所含向量的个数。,例,3,设 为 维线性空间 中的,一组向量，那么非空子集合,构成线性空间 的一个子空间，称此子空间为有限生成子空间，称 为该子空间的生成元。,的维数即为向量组,的秩，的最大无关组为基底。,例,4,实数域,R,上的线性空间 中全体,上三角,矩阵集合，全体,下三角,矩阵集合，全体,对称,矩阵集合，全体,反对称,矩阵集合分别都构成 的子空间，,子空间的交与和,两个子空间的交,:,两个子空间的和,:,子空间交与和的性质,若,V,1,和,V,2,都是,V,的子空间，则,V,1,V,2,和,V,1,+,V,2,也是,V,的子空间,V,1,V,2,=,V,2,V,1,，,V,1,+V,2,=V,2,+V,1,(,V,1,V,2,),V,3,=,V,1,(,V,2,V,3,),，,(V,1,+V,2,)+V,3,=V,1,+(V,2,+V,3,),dimV,1,+dimV,2,=dim(V,1,+V,2,)+dim(,V,1,V,2,),两个子空间的,直和,:,若,V,=,V,1,+,V,2,，且,V,1,V,2,=,，则称,V,为,V,1,与,V,2,的直和。,线性变换,定义：设,V,是数域,F,上的线性空间，,T,:,V,V,为,V,上的映射，则称,T,为线性空间,V,上的一个变换或算子。若变换满足：对,任意的,kl,F,和,V,，有,则称,T,为线性变换或线性算子。,线性变换的基本性质：,（,1,）,T,(0)=0,；,（,2,）,T,(-x)=-,T,(x,),；,（,3,）线性相关的向量组的象任然是线性相关的。,线性变换的例子,例,1,：,R,2,空间上的如下变换,为线性变换（该变换还是正交变换）。,例,2,：设,P,n,为次数不超过,n,的多项式构成的集合，则求导运算：,(,f(t,)=,f(t,),为,P,n,到,P,n,的线性变换。,例,3,：,V,为平方可积复函数构成的空间，则傅里叶变换：,为,V,上的线性变换。,线性变换的值域和核,V,上的线性变换,T,的值域和核定义如下：,R(T)=Tx,|,x,V,N(T)=x|,Tx,=0,x,V,定理：线性空间,V,的线性变换,T,的值域和核都是,V,的线性子空间，分别称为,T,的像空间和核空间。,定义：线性变换,T,的像空间维数,dimR(T,),称为,T,的秩，核空间维数,dim(N(T,),称为,T,的亏。,可以证明，若,V,维数为,n,，,T,的秩为,r,，则,T,的亏为,n-r,。,例：实数域,R,上的不超过,n,次多项式的全体,P,n,中为线性空间，求导运算的象空间为,P,n-1,，核空间为,R,。,线性变换的运算,零变换,T,0,：,T,0,x=0,变换的加法：定义,(T,1,+T,2,)x=T,1,x+T,2,x,负变换：定义,(-,T)x,=-(,Tx,),数乘：定义,(,kT)x,=,k(Tx,),定理：,V,上所有变换构成的集合在以上加法运算和数乘运算下构成线性空间。,单位变换,T,e,：,T,e,x=x,变换的乘法：定义,(T,1,T,2,)x=T,1,(T,2,x),逆变换：若,T,为一一对应，则可定义逆变换,T,-1,。,定理：,V,上所有线性变换构成的集合在以上加法和乘法运算下构成一个环，且是非交换环,(,环比数域条件弱,),。,线性变换的矩阵表示,以下讨论均假设线性空间为,F,上的有限维空间，并以上标表示维数，如,V,n,、,W,m,等。,设映射,T,为,V,n,上的线性变换，为空间的基底，则,可以用该基底线性表示，即,写成矩阵形式,对,V,n,中的任意元素,x,，设,x,和,Tx,的基底表示如下,于是有：,得到：,对,V,n,上的线性变换,T,，在基底 下可以用矩阵来表示：,定理：设,V,n,上的变换,T,在基底 下对应的矩阵为,A,，则,R(T)=,rank(A,),N(T)=,n-rank(A,),（由,AX=0,立即得到）,单位变换对应单位矩阵,零变换对应零矩阵,逆变换对应逆矩阵,设,V,n,上的线性变换,T,在两组基底 和 下对应的矩阵分别为,A,和,B,，两个基底之间的过度矩阵为,P,，即：,于是,即得,结论：相似矩阵表示相同的线性变换,矩阵的运算,零矩阵（对应零变换）,矩阵加法（对应线性变换的加法）,负矩阵（对应负线性变换）,数乘（对应线性变换的数乘）,定理：所有,n,m,阶矩阵的集合在以上加法运算和数乘运算下构成线性空间。,单位阵（对应单位变换）,矩阵的乘法（对应变换的乘法）,逆矩阵（对应逆变换）,定理：所有,n,阶方阵的集合在以上加法和乘法运算下构成一个环，且是非交换环,(,环比数域条件弱,),。,定义,设,T,是数域,F,上的线性空间,V,的一个线性变换，如果对于数域,F,中的某个元素,0,，存在一个非零向量,，使得,那么称,0,为,T,的一个,特征值,，而,称为,T,属于特征值,0,的一个,特征向量,。,取定,V,的一组基底 ，设,T,在这组基下的矩阵是,A,，向量,在这组基下的坐标是 ，那么我们有,线性变换的特征值与特征向量,即得,求解特征值与特征向量,选定线性空间的一个基底，求线性变换,T,在此基底下对应的矩阵,A,；,求解矩阵,A,的特征多项式 的所有根；,求出矩阵,A,的每一个特征值对应的特征向量；,以,A,的特征向量为坐标求出对应的特征向量。,例,1,设,V,是数域,F,上的,3,维,线性空间，,T,是,V,上的一个线性变换，,T,在,V,的一个基 下的矩阵是,求,T,的全部特征值与特征向量。,解,：求,T,的特征值等价于求对应矩阵的特征值和特征向量。,所以,A,的特征值是,3(,二重,),与,-6,。,对于特征值,3,解齐次线性方程组,得到一个基础解系：,从而,T,的属于,3,的极大线性无关特征向量组是,于是,T,属于,3,的全部特征向量是,这里,k,1,k,2,0,。,对于特征值,-6,，解齐次线性方程组,得到一个基础解系：,从而,T,的属于,-6,的极大线性无关特征向量组是,于是,T,的属于,-6,的全部特征向量,这里,k,为数域,F,中任意非零数。,特征值与特征向量的相关性质,特征子空间：线性变换,T,属于特征值,0,的特征向量生成的子空间，,记为 ，其中的非零向量为特征向量。,属于不同特征值的特征向量是线性无关的。,Tr(AB,)=,Tr(BA,),（方阵的对角线之和称为矩阵的迹）。,相似矩阵具有相同的迹、行列式和秩。,相似矩阵有相同的特征多项式和特征值。,矩阵,A,是其特征多项式的零点，即设 ，则,矩阵的相似标准形,n,阶矩阵,A,可以对角化的充分必要条件是,A,有,n,个线性无关的特征向量,；,实对称矩阵的特征值都为实数，且与对角矩阵相似；,任何复矩阵与一,Jordan,矩阵相似；,矩阵可对角化的判定,推论：矩阵,A,可以对角化的充分必要条件是,A,的特征值的代数重数等于几何重数。,注：特征值的代数重数是指该特征值作为特征多项式的根的重数。,几何重数是指特征子空间的维数。即对每个特征值,k,对应的特征子空间为,的解空间，其维数称为几何维数。,例,1,判断矩阵,是否可以对角化？,解,先求出,A,的特征值,于是,A,的特征值为,1,=1,，,2,=2,（代数重数,=2,）。,由于,1,=1,是单的特征值，它一定对应一个线性无关的特征向量。下面我们考虑,2,=2,于是,即特征子空间的维数为,1,，从而,不可以相似对角化,。,定义：,已知 和关于变量,x,的多项式,那么我们称,为,A,的,矩阵多项式,。,设,A,为一个,n,阶矩阵，,J,为其,Jordan,标准形，则,于是有,矩阵的多项式表示与矩阵的最小多项式,我们称上面的表达式为,矩阵,多项式,f,(,J,),的,Jordan,表示。其中,例,已知多项式,与矩阵,求,f,(,A,),。,解：,首先求出矩阵,A,的,Jordan,标准形,J,及其相似变换矩阵,P,那么有,定义：,已知 和关于变量,x,的多项式,如果,f,(,x,),满足 ，那么称该多项式为矩阵,A,的一个,零化多项式,。,定理：,已知 ，为其特征多项式,则有,我们称此定理为,Hamilton-,Cayley,定理,。,定义：,已知 ，在,A,的零化多项式中，次数最低且首项系数为,1,的零化多项式称为,A,的,最小多项式,，通常记为,最小多项式的性质：,已知 ，那么,（,1,）矩阵,A,的最小多项式是唯一的。,（,2,）矩阵的任何一个零化多项式均能被 整除。,（,3,）相似矩阵有相同的最小多项式。,如何求一个矩阵的最小多项式,?,首先我们考虑,Jordan,标准形矩阵的最小多项式。,例,1,：,已知一个,Jordan,块,求其最小多项式。,解：,注意到其特征多项式为,则由上面的定理可知其最小多项式 一定具有如下形状，其中 。但是当 时,因此有,.,例,2,：,已知对角块矩阵,而,分别为子块,的最小多项式，则 的最小多项式为,即为 的最小公倍数。,例,3,：,求下列矩阵的最小多项式,解：,（,1,）首先求出其,Jordan,标准形为,所以其最小多项式为 。,（,2,）此矩阵的,Jordan,标准形为,从而其最小多项式为 。,（,3,）该矩阵的,Jordan,标准形为,故其最小多项式为 。,（,4,）此矩阵本身就是一个,Jordan,标准形所以其最小多项式,Euclid,空间（欧氏空间）,线性空间内积的定义,：,设,V,是实数域,R,上的,n,维线性空间，对于,V,中的任意两个向量,、,按照某一确定法则对应着一个实数，这个实数称为与,与,的,内积,，记为,(,),，并且要求内积满足下列运算条件：,我们称带有这样内积的线性空间为,Euclid,空间,(,欧氏空间,),。,当且仅当,=0,时内积为零,例,1,在,R,n,中，对于,规定,容易验证,(,),是,R,n,上的一个内积，从而,R,n,成为一个欧氏空间。如果规定,容易验证,(,),2,也是,R,n,上的一个内积，这样,R,n,又成为另外一个欧氏空间。,例,2,在,mn,维线性空间,R,mn,中，规定,容易验证这是,R,mn,上的一个内积，这样,R,mn,对于这个内积成为一个欧氏空间。,例,3,在实连续函数构成的线性空间,C,a,b,中，规定,容易验证,(,f,g,),是,C,a,b,上的一个内积，这样,C,a,b,对于这个内积成为一个欧氏空间。,Euclid,空间的性质,有限维线性欧氏空间,设实数域上有限维线性空间,V,的基底为,，,设向量,x,与,y,在此基底下的表达式如下,则,x,与,y,的内积可以表示如下,取,即,A,为实对称矩阵，而且,(,x,x,)0,表明,A,为正定的。,性质,：（,1,）当且仅当 时,（,2,）,（,3,）,（,4,）,欧氏空间的度量,定义：,设,V,为线性欧氏空间，向量的长度或范数定义为,例,1,：在线性空间,R,mn,中，证明,证明：由于,Tr,(,AB,T,),为线性空间中的内积，由三角不等式得证。,例,2,：,设,C,a,b,表示闭区间,a,b,上的所有连续实函数组成的线性空间，证明对于任意的,f,(,x,),g,(,x,)C,a,b,，我们有,证明：由于 为线性空间,C,a,b,上的内积，由内积基本性质可得上式。,定义,：,设,V,为欧氏空间，两个非零向量 的,夹角,定义为,于是有,定理,：,定义,：在欧氏空间,V,中，如果 ，则称 与 正交。,定义,：长度为,1,的向量称为单位向量，对于任何一个非零的向量 ，向量 总是单位向量，称此过程为,单位化,。,定义,设 为一组不含有零向量的向量组，如果 内的任意两个向量彼此正交，则称其为,正交的向量组。,命题,正交向量组一定是线性无关向量组。,定义,如果一个正交向量组中任何一个向量都是单位向量，则称此向量组为,标准的正交向量组。,定义,：在,n,维内积空间中，由,n,个正交向量组成的基底称为正交基底；由,n,个标准的正交向量组成的基底称为标准正交基底。,注意,：标准正交基底不唯一。,标准正交基底,定理,：向量组 为正交向量组的充分必要条件是,向量组 为标准正交向量组的充分必要条件是,定理,：由一个线性无关的向量组出发可以构造一个正交向量组，甚至是一个标准正交向量组。,设 为,n,维内积空间,V,中的,r,个线性无关的向量，利用这,r,个向量构造一个标准正交向量组的步骤如下：,第一步：,容易验证 是一个正交向量组,.,Schmidt,正交化方法,第二步,单位化,显然 是一个标准的正交向量组。,例,1,运用正交化与单位化过程将向量组,化为标准正交向量组,。,解,：先正交化,再单位化,那么 即为所求的标准正交向量组。,以上正交化方法的结果与向量的次序有关。除此之外，还可以通过矩阵运算直接正交化。为此令：,则矩阵,B=AA,T,为正定实对称矩阵，因此存在正交矩阵,P,，使得,其解,空间的一个标准正交基底。,解,：先求出其一个基础解系,下面对 进行正交化与单位化：,例,2,求下面齐次线性方程组,即为其解空间的一个标准正交基底。,定义,：设,V,是一个,n,维欧氏空间,是,V,的一个线性变换，如果对任意的,V,都有,正交变换与正交矩阵,则称,是,V,的一个,正交变换,。,定理,：线性变换,是正交变换的充分必要条件是：任意的 都有,证明：必要性，设,是正交变换，则有,于是有充分性：取 立即可得,为,正交变换。,定义：,设,A,为一个,n,阶实矩阵，如果其满足,AA,T,=,A,T,A,=,I,则称,A,正交,矩阵,，一般记为,A,E,nn,。,例：,设 ，那么,正交矩阵的性质,定理,：,设,A,R,nn,，,A,是一个正交矩阵的充分必要条件为,A的,n,个列（或行）向量组是标准正交向量组。,定理,：设,V,是一个,n,维欧氏空间，,是,V,的一个线性变换，那么下列陈述等价：,（,1,）,是正交变换；,（,3,）,将,V,的标准正交基底变成标准正交基底；,（,4,）线性变换在标准正交基下的矩阵表示为正交矩阵。,定义,：设,V,是一个,n,维欧氏空间,是,V,的一个线性变换，如果对任意的 都有,对称变换与对称矩阵,则称,是,V,的一个,对称变换,。,定理,：线性变换,是实对称变换的充分必要条件是：,在标准正交基下对应的矩阵是实对称矩阵。,证明：设,在,标准正交基下对应的矩阵为,A,，向量,和,的坐标为列向量,X,1,和,X,2,，则 的坐标分别为,AX,1,和,AX,2,，于是有,酉空间,酉空间的定义,：,设,V,是复数域,C,上的,n,维线性空间，对于,V,中的任意两个向量,、,按照某一确定法则对应着一个复数，这个复数为,与,的,内积,，记为,(,),，并且要求内积满足下列运算条件：,我们称带有这样内积的线性空间为酉空间,。,当且仅当,=0,时内积为零,酉空间内积的性质,酉空间的类似理论,酉空间和欧氏空间都属于内积空间，因此有相似的性质和结论,标准正交基,酉变换（对应欧氏空间的正交变换）,Hermite,变换与,Hermite,矩阵（即共轭对称矩阵，对应欧氏空间的对称变换与实对称矩阵）,定义,：,设 ，若存在,，使得,则称A,酉相似,(,或,正交相似,),于,B,。,Schur,引理与正规矩阵,定理,(,Schur,引理,),：,任何一个,n,阶复矩阵（实矩阵）,A,酉相似（正交相似）于一个上,(,下,),三角矩阵。,证明,：,用数学归纳法。,A,的阶数为,1,时定理显然成立。现设,A,的阶数为,k-1,时定理成立，考虑,A,的阶数为,k,时的情况。取,k,阶矩阵,A,的一个特征值,1,，对应的单位特征向量为,1,，构造以,1,为第一列的,k,阶酉矩阵,因此,其中,A1,是,k-1,阶矩阵，根据归纳假设，存在,k-1,阶酉矩阵,W,满足,(,上三角矩阵,),因为 构成,C,k,的一个标准正交基，故,那么,令,U,=,U,1,U,2,，则,U,H,AU,为上三角矩阵，定理得证。,令,定义,:,设,AC,nn,，如果满足,那么称矩阵,A,为一个,正规矩阵,。,例,:,为实正规矩阵。,定理,:,设,AC,nn,，,A,是一个正规矩阵当且仅当,A,酉相似于对角矩阵。,证明,:,首先假设矩阵,A,是正规矩阵，对于,A,存在酉矩阵,U,，使得,由,AA,H,=A,H,A,可得：,b,12,=b,13,=b,n-1,n,=0,，即,A,与对角矩阵相似，必要性得证。充分性显然。,附：,Hilbert,空间,定义：,完备的内积空间称为,Hilbert,空间。其中完备性是指任何柯西序列都有极限。因此,n,维欧式空间是Hilbert,空间的特例。,平方可积空间,：定义在区间,a,b,上的连续函数，可以定义内积,(,f,g,),称满足,的函数,f,(,t,),为元素的线性空间为平方可积空间。记为,L,2,(a,b),。平方可积空间是,Hilbert,空间。,平方可积空间例,L,2,(0,2,),空间可以看做为周期函数构成的空间，其标准正交基为,sin(nt),cos(nt,),，任何一个函数在该基底下的坐标为其对应的傅里叶系数,。,L,2,(-,),空间为能量有限空间，其基底可以选择小波基,2,j/2,(2,j,t-k),作为基底。注意如果考虑复数值函数，则傅里叶变换为该空间上的一个线性变换，且是一一对应的即傅里叶变换是一个同构。,平方可和空间,对离散信号定义内积,称满足,的序列为元素的线性空间为平方可和空间，记为,l,2,(,Z),。,平方可和空间也是,Hilbert,空间，离散时间傅里叶变换。,为,l,2,(,Z),到,L,2,(0,2,),的线性映射。,L,2,空间,概率论中,，称,为基本事件,、,A,(,F,),为事件，,F,是事件的全体，,P(,A,),称为事件的概率，这样可定义概率空间,(,，,F,，,P),。,用,L,p,=,L,p,(,，,F,，,P)(,p,1),表示具有有限,p,阶矩的随机变量,=,(,),的空间，称为,Banach,空间，其中,E|,|,p,=,。,其中，起重要作用的是具有有限二阶矩的随机变量,的,Hilbert,空间,L,2,=,L,2,(,，,F,，,P),，,简称为,L,2,空间,L,2,空间（续）,L,2,空间中的任何两个随机变量,x,(,),和,y,(,),的内积定义为,(,x,y,)=,E(,x,H,y,),。,|,x,|,2,=,E(,x,H,x,),0.5,称为,随机向量,x,的范数。这样，最小,|,e,|,2,2,既可指,最小均方误差，也可指最小二乘误差,。,x,(,t,)=,E(,x,(,t,),),称为,随机向量,x,(,t,),的,均值向量。,R,x,(,t,t,+,)=,E(,x,(,t,),x,H,(,t,+,),)为,x,的自相关矩阵，,x,平稳时，,x,(,t,)=,x,和,R,x,(,t,t,+,)=,R,x,(,),。,x,(,t,)=,x,(,t,)-,x,(,t,),为,随机向量,x,的中心化向量。,C,x,(,t,t,+,)=,R,x,(,t,t,+,),为,x,的自协方差矩阵,。,L,2,空间（续）,L,2,空间中的任何两个随机变量,x,(,),和,y,(,),统计不相关，,若,C,xy,=,O,；,x,(,),和,y,(,),正交,，若,R,xy,=,O,。,随机向量的线性变换：若,y,(,)=,Ax,(,),，则,y,(,t,)=,A,x,(,t,),和,R,y,=,AR,x,A,H,高斯白噪声的统计特性：,x,(,t,)=,0,，,R,x,(,0,)=,2,I,L,2,空间的元素序列,x,n,收敛于极限,x,意味着,|,x,n,-,x,|,0,，即,E(,(,x,n,-,x,),H,(,x,n,-,x,),)0,。在,L,2,空间内,x,n,依,范数收敛于,x,称为均方收敛。,