Singular Value Decomposition

1. Singular Value Decomposition Josip Bakic 0036380715 Zagreb, 26. 11. 2003.

2. Što je SVD? • Neke kvadratne matrice moguće je dijagonalizirati • A = PDP-1 • Olakšavanje računskih operacija na njoj, npr. potenciranje: • Ak = PDkP-1

3. Što je SVD? • Nije moguće sve matrice rastaviti na takav način, no moguće je izvesti sljedeće: • A = QDP-1 • Postupak kojim se dobiva ovakav rastav matrice naziva se Singular Value Decomposition

4. Singularne vrijednosti mxn matrice • Singularne vrijednosti općenite matrice A su kvadratni korijeni svojstvenih vrijednosti (eigenvalues) matrice ATA • Ako su svojstvene vrijednosti matrice ATA λ1,..., λn i vektori v1,..., vn odgovarajući svojstveni vektori, vrijedi: • ||Avi||2 = λi

5. Postupak dobivanja SVD-a • Neka je A jedna mxn matrica. • ATA je onda simetrična i kao takva se može ortogonalno dijagonalizirati => rješavanjem karakteristične jednadžbe matrice det(ATA - λI) = 0 dobivamo njene svojstvene vrijednosti (λ1,..., λn), a onda i odgovarajuće svojstvene vektore {v1,..., vn}

6. Postupak dobivanja SVD-a • Singularne vrijednosti matrice A su kvadratni korijeni svojstvenih vrijednosti matrice ATA σi = λi1/2 • Konstruiramo matricu Σ oblika =>

7. Postupak dobivanja SVD-a gdje je D dijagonalna matrica na čijoj dijagonali se nalaze prvih r singularnih vrijednosti matrice A koje su sve različite od nule (r je ujedno i red matrice A): σ1 ≥ ... ≥ σr > 0 Bilokoji prikaz matrice A u obliku: A = UΣVT naziva se SVD-om matrice A, pri čemu je nužno da matrice U i V budu ortogonalne.

8. Postupak dobivanja SVD-a • Za stupce matrice V uzimamo vektore {v1,...,vn} iz (I.), ali normirane. V = [ v1 v2 ... vn ] ove vektore nazivamo desnim singularnim vektorima matrice A • Za stupce matrice U uzimamo vektore {Av1,...,Avr}, također normirane: =>

9. Postupak dobivanja SVD-a i proširene do ortonormirane baze prostora Rm(Gramm-Schmidt). Ove vektore nazivamo lijevim singularnim vektorima matrice A. • Za ovako dobivene matrice vrijedi jednakost: A = UΣVT