170 likes | 393 Views
5.4 内积空间中的最佳平方逼近. 设 X 为(实)线性空间,在 X 上定义了 内积 是指对 X 中每一对元素 x,y, 都有一实数,记为( x,y) 与之对应,且这个对应满足 : (1) (x,x)≥0, 当且仅当 x=0 时, ( x,x)=0; (2) ( x, y ) = ( y, x ), x, y ∈ X; (3) ( x, y ) = ( x, y ), x, y ∈ X ; ∈ R; (4)( x+y, z ) = ( x, z ) + ( y, z ), x, y, z ∈ X 则称 X 为内积空间。. 一、 内积空间.
E N D
5.4 内积空间中的最佳平方逼近 设X为(实)线性空间,在X上定义了内积是指对X中每一对元素x,y,都有一实数,记为(x,y)与之对应,且这个对应满足: (1)(x,x)≥0,当且仅当x=0时, (x,x)=0; (2)(x, y)=(y, x),x, y∈X; (3)(x, y)= ( x, y),x, y∈X; ∈R; (4)(x+y, z)=(x, z)+(y, z),x, y, z∈X 则称X为内积空间。 一、内积空间
两种重要的内积空间 n维欧氏空间Rn,内积就是两向量的数量积,即 • (x,y)=xTy=∑xi yi. 连续函数空间C[a,b],内积可以定义为积分的运算 • 或带权函数的积分运算,即 • (f(x),g(x))=∫f(x)g(x) dx, f(x),g(x)∈C[a,b] • 或(f(x),g(x))=∫(x)g(x)f(x)dx, f(x),g(x)∈C[a,b].其中(x) 称为权函数,
它满足: • ①在[a,b]的任何子区间上积分为正; • ② (x) ≥0,且使(x) =0的点至多有限个; • ③对f(x)=1,x,x2,…,积分∫f(x)(x) dx存在.
几个概念 (2)线性赋范空间中两元素x,y之间的距离为 (1)模(范数): 这种距离也称为2-范数意义下的距离 (3) 正交: 若(x, y)=0,则称x与y正交
因此Rn中两点x与y之间的距离即为 连续函数空间C[a,b]中f(x)与g(x)的距离即为 dis (f(x), g(x))=‖f(x)- g(x)‖2 = (∫(f(x)-g(x))2dx )1/2
二、 内积空间中的最佳平方逼近 • 设X为线性内积空间,0,1, …, n为X上n+1个线性无关元,记由{j}j=0n张成X的子空间为,即 • =span{0,1, …, n}. 对任意的g∈X,在X的子空间中,求对g的按2-范数意义下的最佳逼近元S*,即求S*∈,使不等式 dis(S*,g)=‖ S* -g‖2≤‖S-g‖2 (4) 对任意S∈成立. 定义 若满足(4)式的S* ∈ 存在,称S*为 对g∈X的最佳平方逼近元
1.最佳平方逼近元的存在性 定理5.4.1设X为线性内积空间,由线性无关组0,1, …, n张成的线性空间为X的子空间,任意g∈X,存在S*∈为对g的最佳平方逼近元. Remark:线性内积空间X的子空间的 线性无关组0,1, …, n的选取不同,在中求得对g∈X的最佳平方逼近元S*也不同,求解S*的难易程度也不同
2. 最佳平方逼近元的充要条件 • 定理5.4.2S*∈ =span{0,1, …, n}为对g∈X (线性内积空间)的最佳平方逼近元的充要条件是g- S*与一切j(j=0,1,…,n)正交.其中0,1, …, n为X的n+1个线性无关元 • 定理5.4.2中所说的g-s*与一切j正交,是指g-S*与一切j的内积等于零, 即 • (g-S*, j)=0, j=0,1,…,n. (5)
证 必要性. 用反证法. 设S*∈为对g∈X的最佳平方逼近元,但g-S*不与所有的k(k=0,1,2,…,n)正交. • 为方便起见,假定g-S*与i (0≤i≤n)不正交,即 • i=(g-S*, i) ≠0. 令 显然q(x)∈,且‖g-q(x)‖22 =(g-S*,g-S*)-i2/(i,i)<(g-S*,g-S*)=‖g-S*‖22 这说明S*不是对g的最佳平方逼近元,与假设条件矛盾,所以g- S*必须与一切k(k=0,1,2,…,n)正交.
充分性. 仍记s*= ∑cjj. • 对任意的s=∑djj ∈,有 • ‖g-s‖22=(g-s,g-s)=(g-s*+s*-s,g-s*+s*-s) • =(g-s*,g-s*)+2(g-s*, s*-s)+(s*-s, s*-s) • 而 (g-s*, s*-s)=∑(cj-dj)(g-s*,j)=0 (s*-s, s*-s)0. 所以 ‖g-s‖22 (g-s*,g-s*)= ‖g-s*‖22 进而有‖g-s*‖2≤‖g-s‖2 对任意s∈ 成立, 即s*为g的最佳平方逼近元
3.最佳平方逼近元的惟一性 定理5.4.3 线性内积空间X的子空间中若存在对g∈X的最佳平方逼近元,则惟一. • 证 用反证法. 设s1*为除s*外另一个任意的对g∈X的最佳平方逼近元. 由定理5.4.2可知 • 当p∈时, (g-s*,p)=0, (g-s1*,p)=0 而 • ‖s*-s1*‖22=(s*-s1*, s*-s1*) = (s*-g+g-s1*, s*-s1*) =(s*-g,s*-s1*)+ (g-s1*, s*-s1*) • 由于s*-s1* ∈ ,因此 • (s*-g,s*-s1*) =0,(g-s1*,s*-s1*)=0 • 由内积定义1中内积必须满足①的条件可知 s*-s1*≡0,即s*=s1*.
4.求解最佳平方逼近元 现假定线性内积空间X上的内积已定义,并且X的子空间的一组基底{0,1,…,n}也确定,对具体的被逼近元g∈X,求s*∈为对g的最佳平方逼近元. 由最佳平方逼近元充要条件的(5)式,若假定s*=∑cj*j,则可以得出 (g- ∑cj*j,i) = 0, i=0,1,…,n. 其中cj*,j=0,1,…,n为待定系数 此方程恒等变形为 (∑cj*j,i) =(i,g), i=0,1,…,n. 用矩阵式表示这个方程组为
此方程组称为法方程组。 若选取一组基底{0,1,…,n}满足 (i,j) =ij 则称为正交基,此时
三、几种情形的最佳平方逼近 • 1. C[a,b]中的最佳平方逼近 • 讨论最佳平方逼近,首先确定逼近类以及内积的定义. • 现设逼近类为Pn[a,b],内积用积分或带权的积分 • (f(x),g(x))=∫f(x)g(x) dx, (7) • 或 (f(x),g(x))=∫(x)f(x)g(x)dx, • f(x),g(x)∈C[a,b],(x)为权函数. • 若取Pn[a,b]中n+1个线性无关元为{1,x,…,xn}, • 则对任意的g(x)∈C[a,b],求Pn[a,b]中对g(x)的最佳平方逼近元pn(x),就必须通过求解法方程组(6)得到最佳平方逼近元.
求g(x)=x 在P1[0,1]中的最佳平方逼近元, 例 解法一 这是C[0,1]上的最佳平方逼近问题. 取0=1, 1=x,P1[0,1]=span{1,x},记p1(x)=a0+a1x, (0,0)=∫0.0dx=1,(0,1)=∫1.xdx=1/2 (1,1)=∫1.1dx=1/3 , 同样可求得(0,g)=2/3, (1,g)=2/5. 所以,关于a0,a1为未知数的法方程组为 解得a0=4/15,a1=4/5 即p1(x)=4/5x+4/15为 P1[0,1]中对g(x)= x的 最佳平方逼近元.
解法二 (2)利用Chebyshev多项式T0(t), T1(t)作为基底,计算 (1)作变换x=(1+t)/2,将[0,1]变换成[-1,1],则 q1(t)=c0T0(t)+c1T1(t), 正交基底 (3) q1(t)=2/3T0(t)+6/15T1(t)=2/3+6/15t 将t=2x-1代入q1(t),得 p1(x)= 2/3+6/15(2x-1)=4/5x+4/15
2.Rn中的最佳平方逼近 • Rn中的最佳平方逼近称为离散情形的最佳平方逼近,求离散情形最佳平方逼近的方法称为最小二乘法 • 下章讨论