1 / 25

LMS algoritam

LMS algoritam. Studenti: Mate Čobrnić Vedran Brzić. Pregled tema: . Linearni adaptivni kombinator Izvedbena površina Metode minimizacije pogreške LMS algoritam Primjer u MATLAB-u Aktivna kontrola šuma. Linearni adaptivni kombinator. Temelj je za adaptivnu obradu signala

helia
Download Presentation

LMS algoritam

An Image/Link below is provided (as is) to download presentation Download Policy: Content on the Website is provided to you AS IS for your information and personal use and may not be sold / licensed / shared on other websites without getting consent from its author. Content is provided to you AS IS for your information and personal use only. Download presentation by click this link. While downloading, if for some reason you are not able to download a presentation, the publisher may have deleted the file from their server. During download, if you can't get a presentation, the file might be deleted by the publisher.

E N D

Presentation Transcript


  1. LMS algoritam Studenti: Mate Čobrnić Vedran Brzić

  2. Pregled tema: • Linearni adaptivni kombinator • Izvedbena površina • Metode minimizacije pogreške • LMS algoritam • Primjer u MATLAB-u • Aktivna kontrola šuma

  3. Linearni adaptivni kombinator • Temelj je za adaptivnu obradu signala w0, w1... wn su težinske funkcije x0, x1... xn su ulazni signali

  4. Shema adaptivnog vremenskog filtra • ALC s jednim ulaznim signalom, realiziran pomoću elemenata za kašnjenje

  5. U većini praktičnih slučajeva, prilagodljivi proces je usmjeren ka minimiziranju očekivane kvadratne pogreške

  6. Definirajmo sada matrice R i P iz prethodnog izraza: R - ulazna korelacijska matrica P - kros korelacijski vektor

  7. Izvedbena površina • Dobili smo da je MSE funkcija komponenti težinskog vektora W • Pokazat ćemo na primjeru sa dvije komponente težinskog vektora kako izgleda funkcija srednje kvadratne pogreške (MSE) • Dobivenu krivulju nazivamo "performance surface" odnosno izvedbena površina

  8. Cilj nam je minimalizirati vrijednost MSE, odnosno moramo pronaći takvu kombinaciju težinskih vektora koji bi rezultirali s optimalnom vrijednosti MSE • Najčešće se u tu svrhu koriste gradijentne metode, kao npr. Newtonova metoda i metoda "steepest descent"

  9. LMS algoritam • Algoritam za "spuštanje" po izvedbenoj površini • Poznat kao Least Mean Square algoritam • Koristi posebnu procjenu gradijenta koja vrijedi za adaptivni linearni kombinator • Važan zbog svoje jednostavnosti i lakoće proračunavanja

  10. Pogrešku, odnosno razliku željenog i dobivenog signala smo već definirali • Pojednostavljenje u odnosu na druge metode se sastoji u pretpostavci da je ξ=E[εk²]= εk²

  11. S navedenom procjenom gradijenta specificiramo "steepest-descent" algoritam za adaptaciju µ - konstanta koja regulira brzinu i stabilnost adaptacije, određuje i količinu šuma • Navedena relacija je rekurzivna

  12. Konvergencija težinskog vektora • Iz vidimo da je težinski vektor Wk funkcija samo prošlih ulaznih vektora Xk-1, Xk-2 ..... X0. • Ako pretpostavimo da su oni vremenski nezavisni onda je i Wk nezavisan od Xk. • Wk bi trebao kako povećavamo broj koraka biti sve bliže optimalnoj vrijednosti

  13. Dobijemo jednadžbu čije je rješenje komplicirano, problem rješavamo transformacijom baze

  14. Prvo centriranje A zatim rotacija Sada se pozovemo na rekurzivnu relaciju za težinski vektor Wk i dobivamo:

  15. je matrica svojstvenih vrijednosti ulazne korelacijske matrice R Možemo napisati nerekurzivnu funkciju: • Budući smo definirali V = W-W*, rješenje dobivamo ako vrijedi:

  16. Dobivenu relaciju možemo zapisati u matričnom obliku • Iz čega slijedi uvjet konvergencije Gdje je λmax najveća vlastita vrijednost matrice R.

  17. Šum kod procesa adaptacije • Estimacijom gradijenta unosimo šum u proces adaptacije • Uvodimo vektor šuma Nk • Kad dođemo do optimalnog rješenja ( , ), onda šum iznosi:

  18. Šum rezultira varijacijama MSE oko ξmin Slika kontura izvedbene površine. Konture predstavljaju vrijednosti MSE projicirane na ravninu težinskog vektora. Prikazana su dva puta približavanja minimalnoj vrijednosti MSE.

  19. Brzina procesa adaptacije • Može se pokazati da približavanje MSE prema minimalnoj vrijednosti ide po eksponencijali • Brzina konvergencije je definirana vremenskom konstantom

  20. Navedena relacija je dobra aproksimacija vremenske konstante krivulje adaptacije, kada je dobra aproksimacija od • Brzina adaptacije ovisi o veličini μ vidimo da će uz manji μ, limes sporije konvergirati u 0 (trebat će veći broj iteracija)

  21. Slika prikazuje krivulju odstupanja MSE od svoje minimalne vrijednosti u ovisnosti o broju iteracija.

  22. Zaključak • LMS je u praksi dobar jer nema kvadriranja, usrednjavanja, a kod optimiranja težinskog vektora koristimo nerekurzivnufunkciju što ga čini elegantnim i jednostavnim • Bez usrednjavanja komponente gradijenta sadrže dosta velik šum, ali on se procesom adaptacije smanjuje te proces (adaptacije) glumi NP filtar

  23. Proces adaptacije možemo kontrolirati pomoću veličine koraka μ • Možemo odrediti želimo li brz ili manje šumovit proces • Primjena LMS-a: određivanje karakteristika nepoznatih sustava, aktivna kontrola šuma, filtriranje signala, poništavanje jeke (telekomunikacije), automatsko upravljanje (regulatori), medicina...

  24. Literatura • B.Widrow, S.D.Stearns: Adaptive signal processing • N.Elezović: Linearna algebra • MATLAB helpdesk • Internet

More Related