160 likes | 318 Views
I will be back!. 林老舒啦. 線性代數基本定理. Row space = { b | b = A T x } = { b | b = R T x } = { b | b = [ I r M ] T x } Null space = { x | Ax = 0 } = { x | [ I M ] x = 0 } = { x | x = [ -M; I n-r ] y }. 有 r=rank(A) 個線性獨立的列向量 , 所以維度是 r. 有 n-r 個線性獨立的行向量 , 所以維度是 r. 懂了沒?. 線性代數基本定理.
E N D
I will be back! 林老舒啦
線性代數基本定理 • Row space = { b | b = ATx } = { b | b = RTx }= { b | b = [ Ir M ]T x } • Null space = { x | Ax = 0 } = { x | [ I M ] x = 0 }= { x | x = [ -M; In-r ] y } 有r=rank(A)個線性獨立的列向量, 所以維度是 r 有n-r個線性獨立的行向量, 所以維度是 r
懂了沒? 線性代數基本定理 • Null space = { x | Ax = 0 } • 把Rn中的一個n-r維度的空間經過A映射到0 • 所以剩下一個r維空間, 這個r維空間的基底經過A之後不會線性相依, Why? • Column space = { b | b = Ax } • 由上可知維度為r • 仿照之前方法可推得 left null space 維度是m-r
正交 • 兩向量, 如果它的內積是0, 我們就叫這兩個向量是正交的. (幾何意義是垂直) • 如果兩個向量空間裡的每個向量都正交 • 那這兩個向量空間就正交 正交了..
bT.x = (ATy).x = yT.A x = yT.0 = 0 線性代數基本定理之二 • Row space = { b | b = ATx } • Null space = { x | Ax = 0 }
A(ATA)-1AT才對 投影, 也就是以前高中教的正射影 • 一個向量的時候:b 投影到 a • a ( a.b / a.a ) • a ( aTb / aTa ) = ( aaT / aTa ) b • 如果a 不是一個向量, 而是一個向量空間呢? • A ( ATb / ATA)b 好像不能這樣寫
就不要把x解出來!@#$%....... 上次的問題 • Ax = b, 如果b不在A的Column space中就無解了, 這時候該怎麼辦?
投影的解 • Ax = b如果無解時我們會 • 找一個x使得Ax跟b最接近…(怎麼找?) 就是把b投影到A的column space再來解
A(ATA)-1AT才對 在哪兒呀? 尋尋覓覓找x • 就在公式裡呀!!
它的應用 • 俗稱最小平方法 • ||Ax – b||2的最小值會發生在 • ATA x = ATb時
向量在正交基底上的線性組合係數就是向量在基底上的內積向量在正交基底上的線性組合係數就是向量在基底上的內積 正交基底 • 就是, 身為基底, 而且都正交 • Orthnormal Basis • 基底, 正交, 而且長度為1 • 求線性組合時有好處 • x = a1 v1 + a2 v2 + a3 v3 + … + an vn • ak = xTvk
A的Q版瘦身記錄(Record) 我要瘦身! 我也要試!! 再試一次!! 我要試!! 下定決心自己瘦!! 相信自己!瘦身成功! 瘦了耶!!
QR的用處 • Ax = b, QRx = b, x = R-1QTb • Ax = b, 無解!! • ATAx = ATb • RTRx = RTQTb
電腦實作 • A 的 QR 分解 • [Q R] = qr(A); • [Q R P] = qr(A);
M-file part2 • 讓我們來認真地做一個m-file • lu.m • qr.m
應用部分 • 線性迴歸 • Lineapp.m