线性代数课件7-4向量到子空间的距离-最小二乘法市公开课一等奖百校联赛优质课金奖名师赛课获奖课件.ppt

单击此处编辑母版标题样式,单击此处编辑母版文本样式,第二级,第三级,第四级,第五级,*,本资料仅供参考，不能作为科学依据。谢谢。本资料仅供参考，不能作为科学依据。本资料仅供参考，不能作为科学依据。谢谢。本资料仅供参考，不能作为科学依据。,第四节 向量到子空间距离,最小二乘法,在欧氏空间中能够引入向量间距离概念。,定义 8 长度|,|称为向量和距离，记为,d,(,).,不难证实距离三条基本性质：,（1）,d,(,)=,d,(,)；,（2）,d,(,)0 当且仅当=时等号成立。,（3）,d,(,),d,(,)+,d,(,),1/9,在中学几何中学过一个点到一个平面（或一条直线）上全部点距离以垂线为最短，下面能够证实一个固定向量和一个子空间中各向量间距离也以“垂线最短”。,先设一个子空间,W,它是由向量,1,2,k,所生成，即,W=L,(,1,2,k,).说一个向量垂直于子空间,W,，就是指向量,垂直于,W,中任意一个向量。现给定,，设是,W,中向量，满足,垂直于,W,，则对,W,中任意向量,，有,|,2/9,证实,=（）+（）,因,W,是子空间，,W,，,W,，则,W,，故,垂直于 。,W,由勾股定理,|,2,+|,2,=|,2,故|,这个几何事实能够用来处理一些实际问题。,其中一个应用就是处理最小二乘法问题。,3/9,最小二乘法问题：线性方程组,可能无解，即任何一组数,x,1,x,2,x,s,都能使,不等于0。我们设法找,x,1,0,x,2,0,x,s,0,使（2）最小，称为方程组（1）最小二乘解。这种问题就叫最小二乘问题。,（1）,（2）,4/9,令,（3）,5/9,用距离概念，（2）就是|,y,B,|,2,。,由（3）,把A各列向量分别记为,1,2,s,，由它们生成子空间为,L,(,1,2,s,)，,y,就是其中向量。,6/9,于是，找,x,使（2）最小，就是在,L,(,1,2,s,)中找到一个向量,y,使得,B,到它距离比到该子空间中其它向量距离都短。,设,是所求向量，则,必须垂直于子空间,L,(,1,2,s,)，从而有,即,而,刚好排成矩阵,A,T,，于是有,7/9,或,这就是最小二乘解所满足代数方程，它是一个线性方程组。,例1 设有一组试验数据:(1,2),(2,3),(3,5),(4,7)。从数据点趋势看靠近直线，试验者希望使直线,y,=,a,+,bx,最好拟合数据点，求最正确拟合直线。,解 把数据代入,y,=,a,+,bx,得,记作,8/9,其最小二乘解为,其中,则最正确拟合直线为,y,=1.7,x,。,从而,9/9,