1、第五章第五章 解线性方程组迭代法解线性方程组迭代法5.1 引言5.2 基本迭代法5.3 迭代法收敛性5.4 分块迭代法第1页5.1 引言引言 本章介绍求解线性方程组 迭代求解方法,其中 ,。假设 非奇异,则方程组有唯一解 。本章介绍迭代法一些基本理论及Jacobi迭代法,Gauss-Seidel迭代法,超松弛迭代法等惯用迭代法。n迭代法例例:用迭代法求解线性方程组:记为:,其中:第2页5.1 引言引言已知其准确解为:。现将方程组改写成以下等价形式:n迭代法例例:用迭代法求解线性方程组:记为:,其中:第3页5.1 引言引言已知其准确解为:。现将方程组改写成以下等价形式:或写为 ,其中:第4页5.
2、1 引言引言由此建立迭代格式(公式):给定初始向量:,则可得:或写为 ,其中:第5页5.1 引言引言由此建立迭代格式(公式):给定初始向量:,则可得:当 时,有:,得近似解:,由此能够看出由迭代法产生向量序列 逐步迫近方程组准确解 。k1234x10.7780.9630.9930.999x20.8000.9640.9930.999x30.8670.9720.9950.999第6页5.1 引言引言例2:考虑方程组:,取初值 ,则有:可见不收敛。所以,我们得到:对于任何一个方程组 ,由迭代法产生向量序列 不一定收敛。当 时,有:,得近似解:,由此能够看出由迭代法产生向量序列 逐步迫近方程组准确解
3、。k1234x10.7780.9630.9930.999x20.8000.9640.9930.999x30.8670.9720.9950.999第7页5.1 引言引言例2:考虑方程组:,取初值 ,则有:可见不收敛。所以,我们得到:对于任何一个方程组 ,由迭代法产生向量序列 不一定收敛。为做深入研究,我们假设方程组 有唯一解 ,则 ,又设 为任意初始向量,按下列公式结构向量序列:其中表示迭代次数,我们给出以下定义:定义1:上述求解方法称为迭代法,假如 存在,则称迭代法收敛,不然称为迭代法发散。第8页5.1 引言引言为讨论收敛性,引进误差向量 ,从而可得:,递推得到:要研究 收敛性,就要研究 在满
4、足什么条件时有 ,实际就是为做深入研究,我们假设方程组 有唯一解 ,则 ,又设 为任意初始向量,按下列公式结构向量序列:其中表示迭代次数,我们给出以下定义:定义1:上述求解方法称为迭代法,假如 存在,则称迭代法收敛,不然称为迭代法发散。第9页5.1 引言引言为讨论收敛性,引进误差向量 ,从而可得:,递推得到:要研究 收敛性,就要研究 在满足什么条件时有 ,实际就是第10页5.2 基本迭代法基本迭代法 设有方程组 ,其中 为非奇异矩阵下面研究怎样建立解方程组 各种迭代法。将 分裂为 ,其中 为可选择非奇异矩阵,且使 轻易求解,普通选择为 某种近似称 为分裂矩阵。于是,求解 转化为求解 ,即求解:
5、这么,可结构迭代法:其中:称为迭代法迭代矩阵,选取 阵,就得到解 各种迭代法。第11页5.2 基本迭代法基本迭代法 设 ,并将 写为三部分:这么,可结构迭代法:其中:称为迭代法迭代矩阵,选取 阵,就得到解 各种迭代法。第12页5.2 基本迭代法基本迭代法 设 ,并将 写为三部分:nJacobi迭代法 由 ,选取 为 对角元素部分,即选取 ,可得Jacobi迭代公式:其中 称 为解 Jacobi迭代法迭代矩阵。第13页5.2 基本迭代法基本迭代法nJacobi迭代法分量表示 记由Jacobi迭代公式可得:,写成份量形式即为:于是,解 Jacobi迭代法计算公式为:nJacobi迭代法 由 ,选取
6、 为 对角元素部分,即选取 ,可得Jacobi迭代公式:其中 称 为解 Jacobi迭代法迭代矩阵。第14页5.2 基本迭代法基本迭代法nJacobi迭代法分量表示 记由Jacobi迭代公式可得:,写成份量形式即为:于是,解 Jacobi迭代法计算公式为:由此可知,Jacobi迭代法计算公式简单,每次迭代只需计算一次矩阵和向量乘法且计算过程中 不变。第15页5.2 基本迭代法基本迭代法nGauss-Seidel迭代法 我们再来分析前面例子,其实在求 时,我们已经求得了 ,然而我们此时并没有用到 来计算 ,这使我们想到,应该尽可能利用已经计算出来得新值,所以,可将上面迭代公式改为:由此可知,Ja
7、cobi迭代法计算公式简单,每次迭代只需计算一次矩阵和向量乘法且计算过程中 不变。第16页5.2 基本迭代法基本迭代法nGauss-Seidel迭代法 我们再来分析前面例子,其实在求 时,我们已经求得了 ,然而我们此时并没有用到 来计算 ,这使我们想到,应该尽可能利用已经计算出来得新值,所以,可将上面迭代公式改为:这就是所谓Gauss-Seidel迭代法,用分裂矩阵语言,这时选取分裂矩阵 为 下三角部分,即选取 ,于是由得到Gauss-Seidel迭代法:第17页5.2 基本迭代法基本迭代法其中 称 为解方程组 Gauss-Seidel迭代矩阵。至于Gauss-Seidel迭代法分量表示,我们
8、可由矩阵这就是所谓Gauss-Seidel迭代法,用分裂矩阵语言,这时选取分裂矩阵 为 下三角部分,即选取 ,于是由得到Gauss-Seidel迭代法:第18页5.2 基本迭代法基本迭代法其中 称 为解方程组 Gauss-Seidel迭代矩阵。至于Gauss-Seidel迭代法分量表示,我们可由矩阵表示得到:即:写成份量形式得到:第19页5.2 基本迭代法基本迭代法nJacobi迭代法和Gauss-Seidel迭代法异同:Jacobi迭代法公式简单,每次只需做矩阵和向量一次乘法,尤其适合于并行计算;不足之处是需要存放 和 两个存放空间。表示得到:即:写成份量形式得到:第20页5.2 基本迭代法
9、基本迭代法nJacobi迭代法和Gauss-Seidel迭代法异同:Jacobi迭代法公式简单,每次只需做矩阵和向量一次乘法,尤其适合于并行计算;不足之处是需要存放 和 两个存放空间。Gauss-Seidel方法只需要一个向量存放空间,一旦计算出 马上存入 位置,可节约一套存放单元这是对Jacobi方法改进,在一些情况下,它能起到加速收敛作用。但它是一个经典串行算法,每一步迭代中,必须依次计算解各个分量。第21页5.2 基本迭代法基本迭代法n解大型稀疏线性方程组逐次超松弛法 选取分裂矩阵 为带参数下三角矩阵其中 为可选择松弛因子,于是结构迭代法如下:其中:这就是解 逐次超松弛迭代法(SOR方法
10、)。其分量形式为:第22页5.2 基本迭代法基本迭代法n关于SOR方法几点注释:(1)显然,当 时,SOR方法就是Gauss-Seidel方法。(2)SOR方法每一次迭代主要运算量是计算一次矩阵 与向量乘法。(3)时称为超松弛方法,时称为低松弛方法。(4)计算机实现时可用 控制 迭代终止,或用 控制终止。(5)SOR方法能够看成是Gauss-Seidel方法一个修正。第23页5.3 迭代法收敛性迭代法收敛性 例:分别用Jacobi迭代法和Gauss-Seidel迭代法计算以下方程组,均取一样初值 ,观察其计算结果。解:对方程组1,其准确解 Jacobi迭代得:Gauss-Seidel迭代得:对
11、方程组2,其准确解 Jacobi迭代得:125次迭代可得精度为0.01解;Gauss-Seidel迭代得:9次迭代可得精度为0.01解;对方程组3,其准确解 Jacobi迭代得:Gauss-Seidel迭代得:第24页5.3 迭代法收敛性迭代法收敛性 设 ,其中 为非奇异矩阵,记 为方程准确解,等价方程组为:,于是:设有解方程组 一阶定常迭代法:我们希望研究问题是:迭代矩阵满足什么条件时,迭代法产生迭代序列 收敛到 。引进误差向量其递推公式为:由本章引言可知:我们要研究问题就是 满足什么条件时,有第25页5.3 迭代法收敛性迭代法收敛性 定义2:设有矩阵序列 及 ,假如 个数列极限存在且有则称
12、 收敛于 ,记为 。例:设有矩阵序列且设 ,考查其极限。解:显然,当 时,有 矩阵序列极限概念能够用矩阵算子范数来描述。定理1:,其中 为矩阵任意一个算子范数。第26页 5.3 迭代法收敛性迭代法收敛性 证实:显然有再利用矩阵范数等价性,可证定理对其它算子范数亦对。定理2:对任何向量 都有 定理3:设 ,则 充分必要条件是矩阵 谱半径 。证实:由矩阵 若当标准型,存在非奇异矩阵 使 其中若当块第27页5.3 迭代法收敛性迭代法收敛性且 ,显然有:,其中:于是 下面考查 情况,引进记号:显然有:,因为所以:第28页5.3 迭代法收敛性迭代法收敛性利用极限 得到所以 充要条件是 ,即定理4:(迭代
13、法基本定理)设有方程组 ,对于任意初始向量 ,一阶定常迭代法 收敛充要条件是迭代矩阵 谱半径 。第29页5.3 迭代法收敛性迭代法收敛性证:特征值 ,故 特征值 从而有:,所以 有唯一解 。定义 为误差向量,则有:故对任意 和 ,有:即:设对任意 和 ,都有:且于是有 ,即 ,所以对任意 有 故 ,从而由定理3,有 。定理4是一阶定常迭代法基本理论。第30页5.3 迭代法收敛性迭代法收敛性 推论:设 ,其中 为非奇异矩阵且 非奇异,则:(1)解方程组Jacobi迭代法收敛充要条件是其中 (2)解方程组Gauss-Seidel迭代法收敛充要条件是 ,其中 (3)解方程组SOR迭代法收敛充要条件是
14、其中第31页5.3 迭代法收敛性迭代法收敛性 迭代法基本定理在理论上有主要意义。在详细使用上,因为 ,所以,我们利用范数能够建立判别迭代法收敛充分条件。定理5:(迭代法收敛充分条件)设方程组 一阶定常迭代法为假如有 某种算子范数 ,则 (1)迭代法收敛,即对任取 有 且 (2)(3)(4)第32页5.3 迭代法收敛性迭代法收敛性证实:(1)由定理4,结论(1)是显然;(2)由 及 得:(a)(b)重复利用(b)即得(2);(3)注意到即得:(4)重复利用(a)即得(4)。第33页5.3 迭代法收敛性迭代法收敛性n关于解一些特殊方程组迭代法收敛性 定义3:(对角占优阵)设(1)假如 元素满足称
15、为严格对角占优阵(2)假如 元素满足且上式最少有一个不等式严格成立,称 为弱对角占优阵。第34页5.3 迭代法收敛性迭代法收敛性 定义4:(可约与不可约矩阵)设 ,假如存在置换阵 使其中 为 阶方阵,为 阶方阵 ,则称 为可约矩阵,不然,假如不存在这么置换阵 使得上式成立,则称 为不可约矩阵。第35页5.3 迭代法收敛性迭代法收敛性 定理6:(对角占优定理)假如 为严格对角占优矩阵或 为不可约弱对角占优矩阵,则 为非奇异矩阵。证实:我们只就严格对角占优证实定理。采取反证法。,则 有非零解,记为 则 ,由齐次方程组第 个方程得到 ,即与对角占优假设矛盾,故 。第36页5.3 迭代法收敛性迭代法收
16、敛性 定理7:设 ,假如:(1)为严格对角占优,则解 Jacobi迭代法,Gauss-Seidel迭代法均收敛。(2)为弱对角占优,且 为不可约矩阵,则解 Jacobi迭代法,Gauss-Seidel迭代法均收敛。证实:这里我们仅证(1)Gauss-Seidel迭代法。由假设可知:,Gauss-Seidel迭代矩阵为 ,所以因为 于是 特征值为 根,记第37页5.3 迭代法收敛性迭代法收敛性下面证实:当 时,即 特征值均满足 ,由基本定理,则有Gauss-Seidel迭代法收敛。实际上,当 时,由 A 为严格对角占优,有这说明,当 时,矩阵 为严格对角占优,再由对角占优定理有 。定理8:(SO
17、R方法收敛必要条件)设解方程组SOR迭代法收敛,则 。证实:由SOR迭代法收敛,则可得 ,设 特征值为 ,则 从而第38页5.3 迭代法收敛性迭代法收敛性n其次n从而 ,即 。n定理9:设 ,如果:n (1)为对称正定矩阵,n (2)n则解 SOR迭代法收敛。n证明:我们只需在上述假设下,证明 即可。n 事实上,设 为对应于 特征向量,即n亦即:n 为了找到 表达式,考虑数量积第39页5.3 迭代法收敛性迭代法收敛性则显然记:因为 ,所以 ,故所以从而第40页5.3 迭代法收敛性迭代法收敛性 当 时,有即 任一特征值满足 ,故SOR方法收敛(注意当 时,能够证实 )定理10:设 ,假如:(1)
18、为严格对角占优矩阵(或不可约弱对角占优矩阵)(2)则解 SOR迭代法收敛。(证实略)第41页5.3 迭代法收敛性迭代法收敛性n迭代法收敛速度 我们已经知道,假如 且 越小时,迭代法收敛越快,现考虑方程组及一阶定常迭代法且设迭代法收敛,记 ,则 。由基本定理有 ,且误差向量 满足 ,故 现设 为对称矩阵,则有第42页5.3 迭代法收敛性迭代法收敛性下面确定欲使初始误差缩小 所需迭代次数,即使取对数,得到所需最少迭代次数为:故所需迭代次数与 成反比,越小,越大,从而所需迭代次数越少,收敛越快 定义5:称 为迭代法渐进收敛速度,简称收敛速度。对于SOR迭代法来说,希望经过 选择使得收敛速度较快,但详
19、细计算时,并非都可实现。第43页5.3 迭代法收敛性迭代法收敛性nSOR迭代法算法 设 ,其中 为对称正定矩阵或为严格对角占优或为不可约弱对角占优,本算法用SOR迭代法求解 ,数组 存放 及 ,用 控制迭代终止,用 表示最大迭代次数。1.2.3.4.5.对于(1)(2)假如 ,则 (3)6.输出7.假如 ,则输出 停顿;8.假如 ,则转3;9.输出 及相关信息。第44页5.4 分块迭代法分块迭代法 前面讨论迭代法,从 计算过程,是逐个计算 分量 ,所以这种方法又被称为点迭代法。现在介绍分块迭代法,就是一组未知量同时被改进。设 ,其中 为大型稀疏矩阵且将 分块为三个部分 ,其中第45页5.4 分
20、块迭代法分块迭代法其中 为 非奇异矩阵,对 及 一样分块其中,在上述定义基础上,我们来讨论分块迭代法。(1)块Jacobi迭代法(BJ)选取分裂矩阵 为 对角块部分,即选取第46页5.4 分块迭代法分块迭代法于是,得到块Jacobi迭代法其中迭代矩阵 ,或由分块矩阵乘法,得到块Jacobi迭代法详细形式:其中:这说明,块Jacobi迭代法每迭代一步需要求解 个低阶方程组第47页5.4 分块迭代法分块迭代法(2)块SOR迭代法(BSOR)选取分裂矩阵 为带松弛因子 块下三角部分,即:得到块SOR迭代法其中迭代矩阵 由分块矩阵乘法得到块SOR迭代法详细形式:于是,可经过解一组低阶方程组来代替原来解
21、。第48页5.4 分块迭代法分块迭代法 定理:设 ,其中(1)假如 为对称正定矩阵;(2)则解 块SOR迭代法收敛。第49页5.5 向量和矩阵范数向量和矩阵范数 为研究线性方程组近似解误差预计和迭代法收敛性,我们需要对 中向量(或 中矩阵)引进一种度量大小概念,这就是所谓范数。定义1 设 (或 )将实数 或复数称为向量 数量积,将非负实数或 称为向量 欧氏范数。第50页5.5 向量和矩阵范数向量和矩阵范数定理:设 (或 ),则:1.,当且仅当 时成立;2.,为实数(或 ,为复数)3.,(或 )4.5.Cauchy-Schwarz不等式:6.三角不等式:这仅是我们度量向量大小一个方法,现在我们来
22、推广这个概念。第51页5.5 向量和矩阵范数向量和矩阵范数 定义2.(向量范数)假如向量 (或 )某个实值函数 满足条件:(1)(当且仅当 )(正定)(2)(或 )(3)则称 是 (或 )上一个向量范数(或模),由(3)可推出不等式n惯用范数有:(1)(2)(3)(4)例:向量 各种范数:第52页5.5 向量和矩阵范数向量和矩阵范数 定义3.设 为 中一个向量序列,记 ,假如 ,则称 收敛于向量 ,记为即向量序列收敛就是分量序列都收敛。定理:(范数连续性)设非负函数 为 上可推出不等式n惯用范数有:(1)(2)(3)(4)例:向量 各种范数:第53页5.5 向量和矩阵范数向量和矩阵范数 定义3
23、.设 为 中一个向量序列,记 ,假如 ,则称 收敛于向量 ,记为即向量序列收敛就是分量序列都收敛。定理:(范数连续性)设非负函数 为 上任一向量范数,则 是分量 连续函数。证实:设 ,其中 第 个分量为1,其余分量为0。第54页5.5 向量和矩阵范数向量和矩阵范数 定理:设 为 上任意两种范数,则存在常数 ,使得对于一切 ,有这就是所谓向量范数等价性。(证实略)定理:其中 为向量任意一个范数。(证实略)任一向量范数,则 是分量 连续函数。证实:设 ,其中 第 个分量为1,其余分量为0。第55页5.5 向量和矩阵范数向量和矩阵范数 定理:设 为 上任意两种范数,则存在常数 ,使得对于一切 ,有这
24、就是所谓向量范数等价性。(证实略)定理:其中 为向量任意一个范数。(证实略)n矩阵范数 现在把向量范数概念推广到矩阵上去,用 表示 矩阵集合,则称为 Frobenius范数。显然 满足正定性,齐次性及三角不等式。下面给出矩阵范数普通定义。第56页5.5 向量和矩阵范数向量和矩阵范数 定义:假如矩阵 某个非负实值函数 满足条件:(1)()(2)(3)(4)则称 是 上一个矩阵范数。现在把向量范数概念推广到矩阵上去,用 表示 矩阵集合,则称为 Frobenius范数。显然 满足正定性,齐次性及三角不等式。下面给出矩阵范数普通定义。第57页5.5 向量和矩阵范数向量和矩阵范数 定义:假如矩阵 某个非
25、负实值函数 满足条件:(1)()(2)(3)(4)则称 是 上一个矩阵范数。上面定义 就是 上一个矩阵范数。因为在大多数与预计相关问题中,矩阵和向量会同时参加讨论,所以希望引进一个矩阵范数,它和向量范数相联络且和向量范数相容,即 对任何向量 及 都成立,为此我们再引进一个矩阵范数。第58页5.5 向量和矩阵范数向量和矩阵范数 定义(算子范数)设 ,给出一个向量范数 (如 ),对应地定义一个矩阵非负函数能够验证 满足范数定义,所以 是 上矩阵一个范数,称为 算子范数。上面定义 就是 上一个矩阵范数。因为在大多数与预计相关问题中,矩阵和向量会同时参加讨论,所以希望引进一个矩阵范数,它和向量范数相联
26、络且和向量范数相容,即 对任何向量 及 都成立,为此我们再引进一个矩阵范数。第59页5.5 向量和矩阵范数向量和矩阵范数 定义(算子范数)设 ,给出一个向量范数 (如 ),对应地定义一个矩阵非负函数能够验证 满足范数定义,所以 是 上矩阵一个范数,称为 算子范数。定理:设 是 上一个向量范数,则 是 上矩阵范数,且满足相容条件:。证实:由定义,是显然,现只需验证范数定义中条件4。由 ,得到 当 时,有:第60页5.5 向量和矩阵范数向量和矩阵范数故:显然这种矩阵范数 依赖于向量范数 具体含义,也就是说,当给出一个详细范数 时,相 定理:设 是 上一个向量范数,则 是 上矩阵范数,且满足相容条件
27、:。证实:由定义,是显然,现只需验证范数定义中条件4。由 ,得到 当 时,有:第61页5.5 向量和矩阵范数向量和矩阵范数故:显然这种矩阵范数 依赖于向量范数 具体含义,也就是说,当给出一个详细范数 时,相应地就得到了一个矩阵范数 。定理:设 ,则 1.称为 行范数。2.称为 列范数。3.称为 2范数。第62页5.5 向量和矩阵范数向量和矩阵范数证实:1.设 ,对任一 ,有故应地就得到了一个矩阵范数 。定理:设 ,则 1.称为 行范数。2.称为 列范数。3.称为 2范数。第63页5.5 向量和矩阵范数向量和矩阵范数证实:1.设 ,对任一 ,有故有若取 ,其中则 ,且所以第64页5.5 向量和矩
28、阵范数向量和矩阵范数 2.设 ,对任一 ,有故有若取 ,其中则 ,且所以第65页5.5 向量和矩阵范数向量和矩阵范数 2.设 ,对任一 ,有故又若取 ,则 ,且所以第66页5.5 向量和矩阵范数向量和矩阵范数 3.由定义 ,且因为 对称,故 特征值 ,将其排列为:因为存在对应规范正交向量组 ,现设又若取 ,则 ,且所以第67页5.5 向量和矩阵范数向量和矩阵范数 3.由定义 ,且因为 对称,故 特征值 ,将其排列为:因为存在对应规范正交向量组 ,现设 ,则 可表示为 ,且有于是尤其地,取 ,则所以:第68页5.5 向量和矩阵范数向量和矩阵范数例:设矩阵 ,计算 各种算子范数。解:,由求得:故
29、。,则 可表示为 ,且有于是尤其地,取 ,则所以:第69页5.5 向量和矩阵范数向量和矩阵范数例:设矩阵 ,计算 各种算子范数。解:,由求得:故 。定理:上任意两种矩阵范数是等价,即若 ,为 上任意两种范数,则存在常数 ,使得:如:第70页5.5 向量和矩阵范数向量和矩阵范数 定义:设 为其特征值,则称 为矩阵 谱半径。方程组性态、条件数 设方程组有准确解:,对矩阵和右端项作微小改变 定理:上任意两种矩阵范数是等价,即若 ,为 上任意两种范数,则存在常数 ,使得:如:第71页5.5 向量和矩阵范数向量和矩阵范数 定义:设 为其特征值,则称 为矩阵 谱半径。方程组性态、条件数 设方程组有准确解:
30、,对矩阵和右端项作微小改变其解变为:可见:细微改变使得解面目全非,可谓“差之毫厘,失之千里”。为何?第72页5.5 向量和矩阵范数向量和矩阵范数 定义:假如方程组 中,矩阵 和右端项 改变 和 微小,引发解向量 改变 很大,则称 为关于解方程组和矩阵求逆病态矩阵,称相应方程组 为病态方程组。反之,称 为良态矩阵,为良态方程组。n确定矩阵病态标准 为确定矩阵 是否病态,我们需要一个标准,或者说是一个刻划矩阵和方程组“病态”程度标准。其解变为:可见:细微改变使得解面目全非,可谓“差之毫厘,失之千里”。为何?第73页5.5 向量和矩阵范数向量和矩阵范数 定义:假如方程组 中,矩阵 和右端项 改变 和
31、 微小,引发解向量 改变 很大,则称 为关于解方程组和矩阵求逆病态矩阵,称相应方程组 为病态方程组。反之,称 为良态矩阵,为良态方程组。n确定矩阵病态标准 为确定矩阵 是否病态,我们需要一个标准,或者说是一个刻划矩阵和方程组“病态”程度标准。先考虑 不变,变,设 ,扰动后方程为:,所以有,取范数,得到 ,因为:,即:,故:由此可见:是相对误差 倍增因子。第74页5.5 向量和矩阵范数向量和矩阵范数 刻划了矩阵 病态程度和 对 扰动敏感程度。对 扰动可作对应讨论。结果一样可得出是相对误差 倍增因子结论,所以我们定义:定义:设 存在,则称数 为矩阵 条件数,其中 是矩阵算子范数。先考虑 不变,变,
32、设 ,扰动后方程为:,所以有,取范数,得到 ,因为:,即:,故:由此可见:是相对误差 倍增因子。第75页5.5 向量和矩阵范数向量和矩阵范数 刻划了矩阵 病态程度和 对 扰动敏感程度。对 扰动可作对应讨论。结果一样可得出是相对误差 倍增因子结论,所以我们定义:定义:设 存在,则称数 为矩阵 条件数,其中 是矩阵算子范数。惯用条件数为:分别称为矩阵 条件数,条件数,条件数。当 时,当 对称正定时,第76页5.5 向量和矩阵范数向量和矩阵范数n条件数相关性质 设 存在,则由条件数定义,有以下性质:(1)(2)若 为正交阵,即 ,则 定义:设 存在,则称数 为矩阵 条件数,其中 是矩阵算子范数。惯用
33、条件数为:分别称为矩阵 条件数,条件数,条件数。当 时,当 对称正定时,第77页5.5 向量和矩阵范数向量和矩阵范数n条件数相关性质 设 存在,则由条件数定义,有以下性质:(1)(2)若 为正交阵,即 ,则证实:(1.1)(1.2)显然(由定义直接可得)(1.3)(2)因为 特征值与 特征值相同,故对应可证:第78页5.5 向量和矩阵范数向量和矩阵范数由前面分析,我们得到:这说明 越大,越大,可能病态,不过 多大时为病态?没有一个严格界限。我们还是看前面例子:证实:(1.1)(1.2)显然(由定义直接可得)(1.3)(2)因为 特征值与 特征值相同,故对应可证:第79页5.5 向量和矩阵范数向
34、量和矩阵范数由前面分析,我们得到:这说明 越大,越大,可能病态,不过 多大时为病态?没有一个严格界限。我们还是看前面例子:我们假设 有扰动 ,试计算 ,并说明 对 影响。解:易求得:,则有:说明:百万分之一,引发 百分子六百误差。严重病态第80页5.5 向量和矩阵范数向量和矩阵范数n处理矩阵病态策略 对于病态方程组,可采取高精度运算,以改进或减轻方程组病态程度。我们也能够作预处理,以改进条件数,即用 左乘 使得 。我们假设 有扰动 ,试计算 ,并说明 对 影响。解:易求得:,则有:说明:百万分之一,引发 百分子六百误差。严重病态第81页5.5 向量和矩阵范数向量和矩阵范数n处理矩阵病态策略 对
35、于病态方程组,可采取高精度运算,以改进或减轻方程组病态程度。我们也能够作预处理,以改进条件数,即用 左乘 使得 。第82页5.5 向量和矩阵范数向量和矩阵范数n条件数应用:方程组误差预计 理论上讲,直接法得到准确解,但因为计算机有舍入误差,所以是近似解。定理:设 ,为非奇异矩阵,为非零向量,和 都有扰动。若 扰动 非常小,使则有事前误差预计式证实:扰动后方程组为:将 代入,得:故:即第83页5.5 向量和矩阵范数向量和矩阵范数假定 足够小,使得 ,则结合 ,则有:证实:扰动后方程组为:将 代入,得:故:即第84页5.5 向量和矩阵范数向量和矩阵范数假定 足够小,使得 ,则结合 ,则有:证毕。推论1:若 ,则推论2:若 ,则第85页5.5 向量和矩阵范数向量和矩阵范数 定理:设 ,则近似解 事后误差估计式:证:先证右边,由 ,得:得:,故有:证毕。推论1:若 ,则推论2:若 ,则第86页5.5 向量和矩阵范数向量和矩阵范数 定理:设 ,则近似解 事后误差估计式:证:先证右边,由 ,得:得:,故有:再证左边,由 ,得到:又因为:故有:,所以:定理说明:当 时,方程组余量误差是 相对误差很好度量。第87页