270 likes | 492 Views
LMS algoritam. Studenti: Mate Čobrnić Vedran Brzić. Pregled tema: . Linearni adaptivni kombinator Izvedbena površina Metode minimizacije pogreške LMS algoritam Primjer u MATLAB-u Aktivna kontrola šuma. Linearni adaptivni kombinator. Temelj je za adaptivnu obradu signala
E N D
LMS algoritam Studenti: Mate Čobrnić Vedran Brzić
Pregled tema: • Linearni adaptivni kombinator • Izvedbena površina • Metode minimizacije pogreške • LMS algoritam • Primjer u MATLAB-u • Aktivna kontrola šuma
Linearni adaptivni kombinator • Temelj je za adaptivnu obradu signala w0, w1... wn su težinske funkcije x0, x1... xn su ulazni signali
Shema adaptivnog vremenskog filtra • ALC s jednim ulaznim signalom, realiziran pomoću elemenata za kašnjenje
U većini praktičnih slučajeva, prilagodljivi proces je usmjeren ka minimiziranju očekivane kvadratne pogreške
Definirajmo sada matrice R i P iz prethodnog izraza: R - ulazna korelacijska matrica P - kros korelacijski vektor
Izvedbena površina • Dobili smo da je MSE funkcija komponenti težinskog vektora W • Pokazat ćemo na primjeru sa dvije komponente težinskog vektora kako izgleda funkcija srednje kvadratne pogreške (MSE) • Dobivenu krivulju nazivamo "performance surface" odnosno izvedbena površina
Cilj nam je minimalizirati vrijednost MSE, odnosno moramo pronaći takvu kombinaciju težinskih vektora koji bi rezultirali s optimalnom vrijednosti MSE • Najčešće se u tu svrhu koriste gradijentne metode, kao npr. Newtonova metoda i metoda "steepest descent"
LMS algoritam • Algoritam za "spuštanje" po izvedbenoj površini • Poznat kao Least Mean Square algoritam • Koristi posebnu procjenu gradijenta koja vrijedi za adaptivni linearni kombinator • Važan zbog svoje jednostavnosti i lakoće proračunavanja
Pogrešku, odnosno razliku željenog i dobivenog signala smo već definirali • Pojednostavljenje u odnosu na druge metode se sastoji u pretpostavci da je ξ=E[εk²]= εk²
S navedenom procjenom gradijenta specificiramo "steepest-descent" algoritam za adaptaciju µ - konstanta koja regulira brzinu i stabilnost adaptacije, određuje i količinu šuma • Navedena relacija je rekurzivna
Konvergencija težinskog vektora • Iz vidimo da je težinski vektor Wk funkcija samo prošlih ulaznih vektora Xk-1, Xk-2 ..... X0. • Ako pretpostavimo da su oni vremenski nezavisni onda je i Wk nezavisan od Xk. • Wk bi trebao kako povećavamo broj koraka biti sve bliže optimalnoj vrijednosti
Dobijemo jednadžbu čije je rješenje komplicirano, problem rješavamo transformacijom baze
Prvo centriranje A zatim rotacija Sada se pozovemo na rekurzivnu relaciju za težinski vektor Wk i dobivamo:
je matrica svojstvenih vrijednosti ulazne korelacijske matrice R Možemo napisati nerekurzivnu funkciju: • Budući smo definirali V = W-W*, rješenje dobivamo ako vrijedi:
Dobivenu relaciju možemo zapisati u matričnom obliku • Iz čega slijedi uvjet konvergencije Gdje je λmax najveća vlastita vrijednost matrice R.
Šum kod procesa adaptacije • Estimacijom gradijenta unosimo šum u proces adaptacije • Uvodimo vektor šuma Nk • Kad dođemo do optimalnog rješenja ( , ), onda šum iznosi:
Šum rezultira varijacijama MSE oko ξmin Slika kontura izvedbene površine. Konture predstavljaju vrijednosti MSE projicirane na ravninu težinskog vektora. Prikazana su dva puta približavanja minimalnoj vrijednosti MSE.
Brzina procesa adaptacije • Može se pokazati da približavanje MSE prema minimalnoj vrijednosti ide po eksponencijali • Brzina konvergencije je definirana vremenskom konstantom
Navedena relacija je dobra aproksimacija vremenske konstante krivulje adaptacije, kada je dobra aproksimacija od • Brzina adaptacije ovisi o veličini μ vidimo da će uz manji μ, limes sporije konvergirati u 0 (trebat će veći broj iteracija)
Slika prikazuje krivulju odstupanja MSE od svoje minimalne vrijednosti u ovisnosti o broju iteracija.
Zaključak • LMS je u praksi dobar jer nema kvadriranja, usrednjavanja, a kod optimiranja težinskog vektora koristimo nerekurzivnufunkciju što ga čini elegantnim i jednostavnim • Bez usrednjavanja komponente gradijenta sadrže dosta velik šum, ali on se procesom adaptacije smanjuje te proces (adaptacije) glumi NP filtar
Proces adaptacije možemo kontrolirati pomoću veličine koraka μ • Možemo odrediti želimo li brz ili manje šumovit proces • Primjena LMS-a: određivanje karakteristika nepoznatih sustava, aktivna kontrola šuma, filtriranje signala, poništavanje jeke (telekomunikacije), automatsko upravljanje (regulatori), medicina...
Literatura • B.Widrow, S.D.Stearns: Adaptive signal processing • N.Elezović: Linearna algebra • MATLAB helpdesk • Internet