1、单击此处编辑母版标题样式,单击此处编辑母版文本样式,第二级,第三级,第四级,第五级,#,例,1,常见几个线性空间上内积的定义:,欧氏空间(有限维实内积空间):,上连续函数的全体构成的空间 :,注:向量的长度 或,正交向量 :,实数域上所有,n,次多项式构成的线性空间 :,实数域上所有,n,阶方阵构成的线性空间 :,性质,1,(内积的性质),定理,1,(,Cauchy-Schwarz,不等式),设 是内积空间,是 中任意两个向量,则有:,当且仅当 线性相关时等号成立。,上,Cauchy-Schwarz,不等式的分量形式,:,上,Cauchy-Schwarz,不等式的积分形式,:,例,2,设 是
2、中的一组向量,证明这组,向量线性无关的充要条件是下列行列式(,Gram,),证明:设,2,、正交基与子空间的正交关系,定义,1,(正交组),内积空间中两两正交的一组非零向量,称之为正交组。,注:,任何一个正交组都是线性无关的,。,定义,2,(正交基),在,n,维欧氏空间中,由正交组构成的基,称之为正交基。,如果正交基中每个基向量的长度均为,1,,则称该组正交基为标准(或规范)正交基,通常记为,定理,1,(,正交基的构造,),任一,n,维欧氏空间 都存在正交基。,证明,(略)。,证明过程给出了正交基的一种构造方法:著名的,Schmidt,正交化方法(线性代数学过)。,定义,3,(正交矩阵),设
3、,如果 ,则称 为正交矩阵。,性质,1,不同标准正交基之间的过渡矩阵为正交矩阵。,设,n,维欧氏空间的两组标准正交基为,即,注:,正交矩阵的不同列对应元素乘积的和为零;类似地可以证明正交矩阵的不同行对应元素乘积的和为零。,正交矩阵,性质(略),定义,4,(正交子空间),设 是内积空间 的两个子空间,如果对,,均有 ,则称 与,是正交的子空间,并记为 。,性质,2,设内积空间 的两个子空间 与 是正交的,则 是直和。,两种方法说明:交集为零空间;,零元素表示唯一。,定义,5,(正交补空间),设 是内积空间 的两个子空间,且满足,,则称 是 的正交补空间,简称正交补,记为 。,性质,3,n,维欧氏
4、空间 的任一子空间 都有唯一的正交补。,证明,:,如果 ,则 是 唯一的正交补。,如果 ,在 中选取一组正交基,,并将其扩充为 的一组正交基,则 就是 的正交补。,唯一性:,证明,:,如果 ,则 是 唯一的正交补。,同理,例,3,已知 中:,,其中,求 。,利用,Schmidt,正交化方法将其化为正交基:,将 扩充为 的一组基:,解:,例,4,设 ,称 的子空间,为矩阵 的值域,求 。,注,:一般来说,称 为矩阵 的零空间。,3,、内积空间的同构,定义,1,(内积空间的同构),设 是两个内积空间,如果,和 之间存在一个一一对应关系 ,使得对任意的,满足,则称 和 是同构的。,注:,首先作为线性
5、空间是同构的,在此同构之下保持内积不变。,定理,1,所有,n,维欧氏空间都同构。,设 是,n,维欧氏空间,是其一组标准正交基,则有,定义,容易验证该映射为同构映射,且保持内积不变,从而,与 同构。,设 是另一,n,维欧氏空间,是其一组标准正交基,则有,定义,从而 与 同构。,4,、正交变换,定义,1,(正交变换),设 是内积空间 的线性变换,如果 对任意的 ,满足,则称线性变换 为 的一个正交变换。,定理,1,(正交变换的等价定义),设 是,n,维欧氏空间 的一个线性变换,则下列命题等价:,是正交变换。,保持向量长度不变,即对 ,均有 。,如果 是 的一组标准正交基,则,也是 的一组标准正交基
6、。,在 中任一标准正交基下的矩阵是正交矩阵。,证明思路:,是正交变换,取,是正交变换,由,2,中,性质,1,:不同标准正交基之间的过渡矩阵为正交矩阵,因此 为正交矩阵。,例,5,几个正交变换的例子:,的一个线性变换 ,对,则 是正交变换。,设 是内积空间 的一个线性变换,则,是正交变换 。,即:保持距离不变的线性变换是正交变换。,设 是内积空间 的一个变换,证明:如果 保持,向量的内积不变,即对 ,则,一定是线性变换,故是正交变换。,5,、点到子空间的距离与最小二乘法,定义,1,(距离),设 是欧氏空间,,称 为 与,的距离,记为 。,性质,1,(距离的性质),,当且仅当 时等号成立。,定义,
7、2,(点到子空间的距离),设 是欧氏空间 的一个子空间,,称,为 到 的距离。,问题,:,达到最小距离的 具有什么性质?,设,如果,定义,3,最小二乘法问题,提法,1,(矛盾方程组求解),设给定不相容(或矛盾)线性代数方程组,其中,寻求近似解 ,满足,故称之为最小二乘解,相应方法称为最小二乘法。,提法,2,(数据拟合问题),设给定一组数据 ,寻,求一个近似函数 (经验函数)来拟合该组,数据,使得,提法,1,的求法,记,问题 相当于:对于,给定的向量 ,寻求 使得 之间,的距离达到最小。,记,法(正规)方程组,解:,例,6,:,求下列方程组的,最小二乘解,一、复内积空间的定义,6,、复内积空间(
8、酉空间),定义,1,设,如果对 ,存在复数,(记为 )与之对应,且满足下列条件,,当且仅当 时等号成立。,则称复数 为向量 的内积,定义了内积的,复线性空间称为复内积空间,或称为酉空间。,例,7,常见几个线性空间上复内积的定义:,n,维酉空间(有限维复内积空间):,实数域上所有,n,次多项式构成的线性空间 :,实数域上所有,n,阶方阵构成的线性空间 :,性质,1,(复内积的性质),定理,1,(,Cauchy-Schwarz,不等式),设 是内积空间,是 中任意两个向量,则有:,当且仅当 线性相关时等号成立。,上,Cauchy-Schwarz,不等式的分量形式,:,关于复向量的长度、正交向量、正
9、交基、标准,正交基的概念完全类似实内积空间中的定义,这儿,不再一一概述。,定义,2,(酉变换),设 是酉空间 的线性变换,如果 对任意的 ,满足,则称线性变换 为 的酉变换。,二、酉变换,定义,3,(酉矩阵),设 ,如果 ,则称,为酉矩阵。,定理,2,(酉变换的等价定义),设 是,n,维酉空间 的一个线性变换,则下列命题等价:,是酉变换。,保持向量长度不变,即对 ,均有 。,如果 是 的一组标准正交基,则,也是 的一组标准正交基。,在 中任一标准正交基下的矩阵是酉矩阵。,定理,3,所有,n,维酉空间都是同构的。,7,、正规矩阵,定义,1,(正规矩阵),设 ,如果 ,则称 为正规,矩阵。,常见的
10、正规矩阵:,实对称矩阵:实反对称矩阵:,厄米特矩阵:反厄米特矩阵:,正交矩阵:酉矩阵:,不属于前述类型的正规矩阵:,引理,(酉矩阵的构造),设 是酉空间 的一个单位向量,则存在一个以 为第一个列向量的酉矩阵 。,证明:,取 ,且满足,上述关于变量 的方程组的解空间为,n-1,维,不妨假设,其线性无关组为 ,将其正交单位化后,得到 ,则 构成,的一组标准正交基,从而,证明:充分性直接利用定义验证易得。,定理,1,(正规矩阵的判定条件),设 为正规矩阵的充要条件是:存在酉矩阵 ,使得 酉相似于对角矩阵,即,必要性,:数学归纳法证明(对阶数,n,归纳),当,n=1,时,结论显然成立。,假设结论对,n
11、-1,阶矩阵,成立,下证对,n,阶矩阵也成立。,设 是 的一个特征值,是相应单位特征向量,,由引理知,存在以 为列向量的酉矩阵,其中 是,n-1,阶矩阵,下面易证 矩阵 和 均为正规矩阵。,因为 是,n-1,阶正规矩阵,由归纳假设结论,成立。,由归纳假设,存在,n-1,阶酉矩阵 ,满足,记 ,仍为酉矩阵,,是矩阵 的,n,个特征值。,推论,1,设 是,n,阶正规矩阵,特征值为,是厄米特矩阵 的特征值全为实数。,是反厄米特矩阵 的特征值为,0,或纯虚数。,是酉矩阵 的每个特征值 的模均为,1,。,推论,2,厄米特(,Hermite,)矩阵 任意两个,不同特征值对应的特征向量是正交的。,8,、厄米
12、特(,Hermite,)二次型,定义,1,(厄米特二次型),设 ,,为厄米特矩阵,则二次型,称之为厄米特二次型,的秩为二次型的秩。,例如:,注意,:,厄米特二次型与实二次型的区别。,二次型矩阵,厄米特二次型中不含交叉项时,称为二次型的,标准型,,即此时二次型矩阵为,对角形,矩阵。,定理,1,厄米特二次型 经满秩线性变换,后仍为厄米特二次型,且秩不变。,定义,2,(厄米特相合),设厄米特二次型 经满秩线性变换,化为 ,则称矩阵 与 是,厄米特相合。或者说,存在可逆矩阵 ,使得,,则称 与 厄米特相合。,注意,:实二次型时称为合同关系。,定理,2,每个厄米特二次型 都可用某个酉变换,,使其化为标准
13、型:,其中 是 的特征值。,例,8,化下列厄米特二次型为标准型:,解:,该厄米特二次型的矩阵为,下面先计算矩阵的特征值。,解:,该厄米特二次型的矩阵为,下面特征值相应的特征向量。,解方程组,解方程组,解方程组,将特征向量 利用,Schmite,方法正交化,处理(本题,3,个向量已经正交:不同特征值对应的特,征向量一定正交),然后再进行单位化。,将上述三个向量按照列排起来的矩阵就是酉矩阵,。,所求标准型为:,定义,3,(正(负)定二次型),如果对 ,厄米特二次型,恒为正(负)数,则称该二次型是正(负)定的,此时厄米特矩阵 称为正(负)定的;若 恒不为负(正)数,即 ,则称 为半正(负)定的,相应
14、的矩阵 称为半正(负)定的。,定理,3,厄米特二次型 为正定(或半正定)的充要条件是 的特征值全为正数(或全为非负数),。,证明:,充分性由,定理,2,易证,必要性(采用反证法),设存在特征值为非负,不妨假设,取非零向量,类似地可以证明半正定的情况。,定理,4,如果 为厄米特矩阵,则下列两个条件中的任何一个都是 为正定矩阵的充要条件:,存在满秩矩阵 ,使得 ;,存在满秩矩阵 ,使得 。,精品课件,!,精品课件,!,定理,5,厄米特二次型 为正定的充要条件是 的各阶顺序主子式大于零,。,定理,6,设 ,是两个厄米特二次型,且 正定,则存在满秩线性变换 ,使这两个二次型同时化为标准型:,利用,定理,4,证明。,