540 likes | 761 Views
线 性 代 数 Linear Algebra 刘鹏. 复旦大学通信科学与工程系 光华楼东主楼 1109 Tel: 65100226 pliu@fudan.edu.cn. 布置习题 P 186: 20. 22. 24. 26. 28. 30*. 31*. 34*. 36*. 三、内积的坐标表示.
E N D
线 性 代 数Linear Algebra刘鹏 复旦大学通信科学与工程系 光华楼东主楼1109 Tel: 65100226 pliu@fudan.edu.cn
布置习题 P 186: 20. 22. 24. 26. 28. 30*. 31*. 34*. 36*.
三、内积的坐标表示 • 设 V 是一个 n 维欧氏空间,在 V 中任意取定 一个基 ε1, ε2 ,...,εn ,对 V 中任意两个向量 , 有 • , 的内积用矩阵可表示为 • 矩阵 A 称为基 ε1, ε2 ,...,εn 的 度量矩阵(metric matrix).
四、标准正交基 定义 4.11在欧氏空间 V 中,一组非零向量,如果它们两两正交(mutually orthogonal),就称它为正交向量组。 定理 4.6设α1,α2,…,αm (m≤n) 是 n 维欧氏空间V 中的正交向量组,则α1,α2,…,αm线性无关。
定义 4.12在 n 维欧氏空间 V 中,由 n 个两两正交的非零向量所构成的正交向量组称为正交基; • 由单位向量构成的正交基称为标准正交基。 定理 4.7任一 n 维欧氏空间(n≥1) 都必有正交基(orthogonal basis)。 • 构造正交基 — 施密特正交化过程
定义(投影)若 与 是n 维内积空间中的向量,则 到 的标量投影(scalar projection)为 则 到 的向量投影(vector projection)η为 • -η⊥
例:令矩阵 试求:A 的列空间的一组标准正交基; 解: 显然 A 的3个列向量线性无关,它们构成 R4 的3 维子空间的一组基,可以使用施密特正交化过程 • 正交化、标准化同时进行,令 • 令
令 • 向量组q1,q2 ,q3 就是 A 的列空间的一组标准正交基.
定理(QR分解)若 A 是一秩为 n 的 m×n 阶矩阵,则A 可以分解为乘积 QR, 其中 Q 为列正交的m×n 阶矩阵,R 为对角线元素均为正的 n×n 阶上三角阵。 • 例中的 QR 分解为
超定方程组的最小二乘解给定一个 m×n 阶方程组 AX=b,其中 m> n,这类方程组通常是不相容的。 • 只能期望找到一个近似解 X’,使得AX’ 尽可能接近b • 二者的残余误差 (residual)最小 • 即向量 b 和向量 AX’ 最接近,距离最小 • 使得这个距离最小化的X’ 称为方程组的最小二乘解. • 令 p= AX’ , p 就是 A 的列空间中最接近 b 的向量. • 如何寻找X’? 要用到子空间的直和、正交等概念 • 结论:AX=b 的最小二乘解是 X’=R-1 QT b
Matlab 验证 例:求方程组 的最小二乘解. 解: 设AX’= QR X’= b,则 R X’= QT b = y • 回代求解 RX’= y, 得
标准正交基上的坐标 • 若ε1, ε2 ,...,εn 是 n 维欧氏空间 V 中的一个 标准正交基,任一向量 ∈ V ,设 标量投影 • 用εi 与上式两边做内积,可得 • 利用标准正交基的度量矩阵,两个向量的内积变得 非常简单
例:已知欧氏空间R4的向量组: (1) 证明 1, 2, 3, 4是 R4 的一个标准正交基;(2) 若向量 = 3 1+2 2+4 3 -5 4,求|| ||和( ,). 解: (1)因为 • 所以 1, 2, 3, 4是 R4 的一个标准正交基. • (课本)先求 在标准正交基下的坐标,再点乘 的坐标.
定理 4.8:设 ε1, ε2 , ..., εn是 n 维欧氏空间 V 中的一个标准正交基,若: 其中 A=[ ai j ]n ×n,则向量组η1, η2 , ..., ηn是标准正交基的充要条件是 A为一个正交阵. 证明: 因为ε1, ε2 , ..., εn是标准正交基
从而 的充要条件是 • 于是,向量 ηi , ηj的内积为 XT Y的形式 • 即向量组 η1, η2 , ..., ηn是标准正交基的充要条件是 • 即 A 是一个正交阵. 证毕. • 也就是说,同一欧氏空间中,两组标准正交基间的过渡矩阵是正交阵。
§ 4.4 子空间的交、和、直和及正交 • 目的:了解子空间相互之间的关系与运算 一、子空间的交与和 定义 4.13设 W1,W2 是线性空间 V 的两个子空间, 则W1,W2 的交是 W1,W2 的和是
定理 4.9设 W1,W2 是线性空间 V 的子空间, 则W1∩W2 , W1+ W2都是V 的子空间. • W1+W2是V 中含W1∪W2的最小的子空间 证明:首先证明W1∩W2 是V 的子空间 定理 4.1:W是 V的子集,满足条件: (1)W 非空; (2) 如果α,β∈ W,则α+β∈ W; (3) 如果α∈ W, λ∈ P则 λα∈ W; • 因为 0∈W1,0∈W2 ,故 0∈ W1∩W2 ,W1∩W2非空;
设α,β∈W1∩W2,则α,β∈W1,α,β∈W2 • 因为Wi (i = 1,2) 是子空间,所以 k∈Fα+β∈W i,kα∈Wi ; • 于是α+β∈W1∩W2,kα∈W1∩W2,因此,W1∩W2是 V 的子空间. 再证明W1+ W2 是V 的子空间,记 W= W1+ W2 • 因为 0∈W1,0∈W2 ,故 0∈ W1+ W2 ,W非空;
设α,β∈W,则有 • 由于 W1, W2 是 V 的子空间: • k∈F,kαi∈Wi ;于是 • 根据定理 4.1, W1+ W2 是 V 的子空间. 证毕.
例:在线性空间 R3中,若 • 则它们都是R3的子空间,并且:
例: 设α1, α2 , ... ,αl与 β1 , β2 , ... ,βs是线性空间 V 中的两个向量组,则有 L(α1, α2 , ... ,αl) + L(β1 , β2 , ... ,βs) = L(α1, α2 , ... ,αl,β1 , β2 , ... ,βs) . 证明:设 • 对 W1+ W2中任一向量 η= α+β,其中α∈W1,β∈W 2,所以 α、β 都属于W 3,即
另一方面W 3中的任一向量 • 记 • 于是证明了 • L(α1, α2 , ... ,αl) + L(β1 , β2 , ... ,βs) = L(α1, α2 , ... ,αl,β1 , β2 , ... ,βs) .
性质设 W1,W2 ,W3是线性空间 V 的子空间, 则它们满足交换律与结合律: (1) 交换律: (2) 结合律:
定理4.10(维数公式)设 W1,W2 是线性空间 V 的子空间,dimW1+ dimW2 =dim(W1+ W2)+ dimW1∩W2. 例:在三维几何空间V3中,设W1是过原点O的一个平面,W2是过O的另一个平面,且它们相交于直线 L . • 则:W1,W2,L都是V3的子空间,并且W1∩W2=L • V3中每个向量α可以表示成W1中一个向量与W2中一个向量的和,所以W1+W2=V3 • 由于dimW1=dimW2=2,dimL=1,dimV3=3,因此有
定理4.10(维数公式)设 W1,W2 是线性空间 V 的子空间,dimW1+ dimW2 =dim(W1+ W2)+ dimW1∩W2. 证明:设W1,W2的维数分别是n1,n2,W1∩W2的维数是m. • 取W1∩W2的一个基 • 将它扩充成W1的一个基 • 同理可将它扩充成W2的一个基 • 因此
根据例2,我们有 • 作线性组合 • 令 • 由(4.2)第一行知, α∈W1;由第二行知α∈W 2;所以 α∈W1∩W2 ,可经向量组γ线性表示 • 由(4.2)
由于 是W2的一个基 • 由(4.2),有 是W1的一个基 • 由于
因此,要(4.1)成立,只能是 • 所以,向量组 线性无关. • 由定理4.4(2) —L(α1, α2 , ... ,αl) 的维数等于 向量组α1, α2 , ... ,αl 的秩. • 故W1+W2的维数是
即维数公式成立:设 W1,W2 是线性空间 V 的子空间,dimW1+ dimW2 =dim(W1+ W2)+ dimW1∩W2.
例:W1=L(α1,α2),W2=L(β1,β2),其中 α1=(1,2,1,0)T,α2=(1,1,1,1) T, β1=(2,1,0,1)T,β2=(1,1,3,7)T, 求W1与W2的和与交的基及维数. 解:因 W1+W2= L(α1,α2) + L(β1,β2) = L(α1,α2,β1,β2) • 所以,W1+W2 的维数是向量组α1,α2,β1,β2 的 极大线性无关组所含向量的个数; 将它们构成矩阵,做初等变换,得
这表明α1,α2,β1是W1+W2的一个基,故dim(W1+W2)=3.这表明α1,α2,β1是W1+W2的一个基,故dim(W1+W2)=3. • 同时也知道,β2可经α1,α2,β线性表示,其形式为 β2= -α1+4α2+3β1 • 故3β1-β2∈W1∩W2. • 因为 α1,α2线性无关,β1,β2线性无关. 由维数公式易得 dim(W1∩W2) = 2 + 2 – 3 = 1 • 故α1- 4α2=(5,-2,-3,-4) 是W1∩W2的一个基.
二、子空间的直和 • 目的:方便空间分解,解决向量表示方法的唯一性问题 定义 4.14设W1,W2 是线性空间V 的两个子空间,如果和W1+W2 中,每个向量 η的分解式是唯一的(或者说都能唯一地表示为) 那么称这个和是子空间W1,W2 的直和(direct sum),记作
定理 4.11设W1,W2 是线性空间V 的两个子空间,W1+W2 是直和的充要条件是等式 只有在 α1,α2 全为零向量时才成立. 证明: (1)充分性,设向量η∈W1+W2 • 若向量η有两个分解式 • 于是 • 其中 • 由定理条件
说明对于任意向量η∈W1+W2, 分解式是唯一的 • 因此 W1+W2 是直和. (2)必要性,由定义 4.14 — (和W1+W2 中,每个向量的分解式是唯一,称这个和是子空间W1,W2 的直和),必要性显然成立. • 判断是否为直和,只要检验零向量的分解式 是否唯一.
推论1设W1,W2 是线性空间V 的两个子空间,W1+W2 是直和的充要条件是等式 证明: (1)充分性,假设有等式 • 则 • 由假设知 • 零向量的表示方法是唯一的,所以W1+W2 是直和.
证明: (2)必要性,任取向量η∈W1∩W2,于是零向量可表示为 • 因为是直和,所以 • 因而证明
推论2设W1,W2 是线性空间V 的两个子空间,W1+W2 是直和的充要条件是:dimW1+ dimW2 =dim(W1+ W2) (4.4) 证明: 若W1+W2 是直和,则 • 由维数公式得 (4.4) 成立 • 反之,由(4.4)成立,可知 dimW1∩W2 =0 • 即可推出 dim(W1∩W2 )={0} • 所以 W1+W2 是直和.
推论3设W1,W2 是 n 维线性空间V 的两个子空间,如果:dimW1+ dimW2 > n则 W1,W2 必含有非零公共向量. 证明: 因为,由 • 又由于 • 即可推出 dim(W1∩W2 ) > 0 • 所以 W1,W2 必含有非零公共向量.
总结定理4.11及其3个推论 :设W1,W2 是线性空间V 的两个子空间,则下列陈述彼此等价: • 和W1+W2是直和; • 和W1+W2中零向量的表法唯一,即若α1+α2=θ,α1∈W1,α2∈W2,则α1=α2=θ; • W1∩W2=0; • dim(W1+W2)=dimW1+dimW2.
定义 4.15设W1,W2 是线性空间V 的两个子空间,如果 那么称子空间W1是W2 的补子空间. • 由定义,显然W1和W2互为补子空间.
定理 4.12设W1是 n 维线性空间V 的一个子空间,则一定存在W1 的补子空间W2,使得: 证明: 设 dimW1= s, 令 α1, α2 , ... ,αs 为W1的一个基,我们把它扩充为 V的一个基 • 取W2 =L(αs+1, αs+2 , ... ,αn) , 则有V =W1+W2 ,并且 W1∩W2= {0}. 故 • 于是证明了 W2 就是所求的W1的补子空间.
V 的每一个子空间都有补空间. • 但是,一个子空间的补空间未必唯一. • 例如,在V3中,设W是过原点O的一个平面, 则任意一条经过点O,但不在W上的直线 都是W的补空间. • 显然,补空间的概念与补集的概念是不同的,不要混淆.
子空间的交、和、直和的概念可推广到多个 子空间的情况: • 如果和空间每一个向量的分解式唯一: • 则称它为直和,记为:
二、子空间的正交 定义 4.16设W1,W2 是线性空间V 的两个子空间,如果对于任意的 α∈W1,β ∈W2 ,都有 那么称子空间W1与 W2 正交,记作 • 若 V 中向量η对 W1中任一向量α都满足 • 则称η与 W1正交,记为 η⊥ W1 .
因为只有零向量与自身正交,于是有 (1) 若 W1⊥ W2,则 W1∩W2= {0}. (2) 若 α∈W1,且α ⊥ W1,则 α= 0. 定理 4.13若子空间W1,W2 ,… , Ws 两两正交,则
证明: 在每个子空间Wi中取一个正交基 • 由于子空间两两正交,所以如下向量组也是 一个正交向量组 • 且 ∑Wi 中任一向量α可由此向量线性表示,故它可以作为 ∑Wi 的一个基,则
由于表示式唯一,故 定义 4.17设W1,W2 是线性空间V 的两个子空间,如果 W2⊥ W1,且W1 + W2= V, 那么称子空间W1是W2 的正交补. • 显然正交补是相互的.
例:设 W 是齐次线性方程组的解空间 则系数矩阵列向量的生成子空间 L(α1, α2 , ... ,αm) 是 W 的正交补. 证明: 设 X= [x1, x2, ..., xn]T是 W 中的任一解向量,显然 • 对任一向量α∈ L(α1, α2 , ... ,αm) ,有 • 即 W⊥L(α1, α2 , ... ,αm)
设 dimL(α1, α2 , ... ,αm) = r • 则 dim W = n-r • 且 dim W + dimL(α1, α2 , ... ,αm) = n = dim Rn • 即 W +L(α1, α2 , ... ,αm) = Rn • 由定义知 L(α1, α2 , ... ,αm) 是 W 的正交补.