曲线拟合的最小二乘法市公开课一等奖百校联赛优质课金奖名师赛课获奖课件.ppt

数 学 系,University of Science and Technology of China,DEPARTMENT OF MATHEMATICS,单击此处编辑母版标题样式,单击此处编辑母版文本样式,第二级,第三级,第四级,第五级,*,本资料仅供参考，不能作为科学依据。谢谢。本资料仅供参考，不能作为科学依据。本资料仅供参考，不能作为科学依据。谢谢。本资料仅供参考，不能作为科学依据。,第,3,章 曲线拟合最小二乘法,给出一组离散点，确定一个函数迫近原函数，插值是这么一个伎俩。在实际中，,数据不可防止会有误差,，插值函数会将这些误差也包含在内。,所以，我们需要一个新迫近原函数伎俩：,不要求过全部点（能够消除误差影响）；,尽可能表现数据趋势，靠近这些点。,1/23,有时候，问题本身不要求结构函数过全部点。如：,5,个风景点，要修一条公路,S,使得,S,为直线，且到全部风景点距离和最小。,先讲些预备知识,对如上,2,类问题，有一个共同数学提法：找函数空间上函数,g,，使得,g,到,f,距离最小。,2/23,向量范数,映射：,满足：,非负性,齐次性,三角不等式,称该映射为向量一个,范数,预备知识,我们定义两点,距离,为：,定义,3/23,常见范数有：,定理（,范数等价性,）：设,为任意两种范数，则,存在与,x,无关正常数,c,1,和,c,2,，使得,4/23,定义：函数,f,，,g,关于离散点列,离散内积,为：,惯用范数等价关系：,5/23,定义：函数,f,离散范数,为,提醒：该种内积，范数定义与向量,2,范数一致,我们还能够定义函数离散范数为：,6/23,f(x),为定义在区间,a,b,上函数，为区间上,n+1,个互不相同点，为给定某一函数类。求 上函数,g(x),满足,f(x),和,g(x),距离最小,假如这种距离取为,2,范数话，称为,最小二乘问题,曲线拟合最小二乘问题,定义,7/23,下面我们来看看最小二乘问题：,求 使得 最小,设,最小,则,即,关于系数,8/23,因为它关于系数,最小，所以有：,即,9/23,写成矩阵形式有：,法方程,由,线性无关性，知道该方程存在唯一解,10/23,第一步：函数空间基,，然后列出法方程,第一步：函数空间基,，然后列出法方程,例：,11/23,第一步：函数空间基,，然后列出法方程,12/23,由,，能够先做,13/23,求解一个矛盾方程组，计算是在均方误差,极小意义下解,也就是最小二乘问题。,我们有：,矛盾方程组恒有解，且,矛盾方程组求解,14/23,定义：,矩阵范数,矩阵范数，是由向量范数定义,矩阵范数和条件数,矩阵范数也是等价,15/23,对应于,3,种常见向量范数，有,3,种矩阵范数,列和最大值,行和最大值,矩阵范数一些性质：,16/23,定理：,若,为,特征值，则,证：,x,为,A,特征向量,#,证毕,定义：,谱半径,易知：,17/23,条件数和病态矩阵,定义：,条件数,表示某种范数,设,，,引入误差 后,，解引入误差,，则,18/23,注意到,因为：,19/23,条件数,很小,条件数表示了对,误差放大率,一样，类似有,20/23,注：,普通判断矩阵是否病态，并不计算,A,1,，而由经验得出。,行列式很大或很小（如一些行、列近似相关）；,元素间相差大数量级，且无规则；,主元消去过程中出现小主元；,特征值相差大数量级。,准确解,为,例,计算,cond,(,A,),2,。,A,1,=,21/23,解：,考查,A,特征根,39206,1,测试病态程度：,给一个扰动,，其相对误差为,此时,准确解,为,2.0102 200%,为对称矩阵,22/23,Homework,对数据点,预计以下两组基函数法方程条件数,23/23,