Metody numeryczne SOWIG Wydział Inżynierii Środowiska III rok

1. Metody numeryczneSOWIGWydział Inżynierii ŚrodowiskaIII rok dr inż. Jerzy Kotowski Instytut Informatyki, Automatyki i Robotyki

2. Metody numeryczneAproksymacja dr inż. Jerzy Kotowski Instytut Informatyki, Automatyki i Robotyki

3. AproksymacjaDefinicje • Aproksymacja jest to zastępowanie jednych wielkości innymi, bliskimi w ściśle sprecyzowanym sensie. W skrócie: przybliżenie jednej wartości za pomocą innych. • Aproksymowaniem funkcji nazywamy przybliżanie jej za pomocą kombinacji liniowej tzw. funkcji bazowych. • Funkcja aproksymująca – przybliżenie zadanej funkcji nie musi przechodzić przez jakieś zadane punkty, tak jak to jest w interpolacji. • Dużą zaletą aproksymacji w stosunku do interpolacji jest to, że aby dobrze przybliżać, funkcja aproksymująca nie musi być wielomianem bardzo dużego stopnia. • Przybliżanie (aproksymacja) powoduje pojawienie się błędów, zwanych błędami aproksymacji. (Wikipedia) • Najczęściej aproksymacja jest to przybliżanie funkcji f(x) zwanej funkcją aproksymowaną inną funkcją Q(x) zwaną funkcją aproksymującą.

4. AproksymacjaDefinicje • Aproksymacja bardzo często występuje w dwóch przypadkach: • gdy funkcja aproksymowana jest przedstawiona w postaci tablicy wartości i poszukujemy dla niej odpowiedniej funkcji ciągłej lub • gdy funkcję o dosyć skomplikowanym zapisie analitycznym chcemy przedstawić w „prostszej” postaci. • Dokonując aproksymacji funkcji musimy rozwiązać dwa ważne problemy. A Dobór odpowiedniej funkcji aproksymującej Q(x). Najczęściej będzie to tzw. wielomian uogólniony będący kombinacją liniową funkcji bazowych qi(x), i=0,2,…,m. B Określenie dokładności dokonanej aproksymacji. Aproksymacja funkcji powoduje powstanie błędów i sposób ich oszacowania wpływa na wybór metody aproksymacji. • Istnieje wiele sposobów aproksymacji. Jednymi z najbardziej popularnych są aproksymacja średniokwadratowa i aproksymacja jednostajna oraz aproksymacja liniowa.

5. AproksymacjaPrzykład 1 - trywialny ρ(a,b) – odległość od punktu a do punktu b ρ(x,x’) → min x Idea: trzeba znaleźć x’ Rozwiązanie zależy od sposobu mierzenia odległości, czyli od doboru funkcji ρ x’ Najprościej: ρ– odległość w sensie Euklidesa d p Sformułowanie problemu: x’=λd– równanie prostej Q(λ) = ρ(x, λd) Q(λ) → min

6. AproksymacjaMetryki • Metryka == odległość == długość najkrótszej drogi • Własności metryki a,bA • ρ(a,b)= ρ(b,a) • ρ(a,b)=0  a=b • ρ(a,b)  ρ(a,c)+ ρ(c,b)nierówność trójkąta • Najgłupsza metryka: • a=b ρ(a,b)=0 • ab ρ(a,b)=1 • Założenie a,bRk • Ważne metryki: • Metryka taksówkowa • Metryka euklidesowa • Metryka maksimum

7. AproksymacjaMetryki Metryka taksówkowa – jeździmy po Nowym Jorku y2 y Ogólnie: x2 x x1 y1 Metryka == długość najkrótszej drogi

8. AproksymacjaMetryki Metryka euklidesowa - klasyka y2 y Ogólnie: x2 x Błąd średniokwadratowy: x1 y1

9. AproksymacjaMetryki Metryka maksimum - Czebyszewa y2 y Ogólnie: x2 x x1 y1

10. AproksymacjaMetryki • Wybór metryki zależy od natury problemu. • Bardzo często wypadałoby stosować metrykę maksimum. • Przykład: Prowadzimy samochód. Mamy trajektorię zadaną i trasę, którą my nakreśliliśmy na powierzchni planety. • Miarą jakości naszej jazdy jest największe odchylenie od zalecanego kursu -> metryka maksimum. Staramy się tak jechać aby wartość tej miary jakości była jak najmniejsza. • MINIMAX. • Niestety, metryka maksimum prowadzi do problemów bardzo trudnych obliczeniowo. • Dlatego, chcąc – nie chcąc, korzystamy często z metryki euklidesowej. • Czasami nie ma to sensu i może być tragiczne w skutkach. • Minimalizując błąd średniokwadratowy możemy znaleźć się w rowie. Średnio może być bardzo dobrze ale jeden wyskok, który nie zmieni bardzo średniej może być fatalny w skutkach.

11. AproksymacjaIdentyfikacja • Aproksymacja == Identyfikacja • Seria pomiarowa • Przykład:Zmierzyliśmy k razy długość stołu • Chcemy wypowiedzieć się na temat , tzn. rzeczywistej, obiektywnie istniejącej długości tego obiektu. • Błędy pomiaru: ei=xi-, i=1,2,…,k. • Wektor błędów pomiaru e=(e1, e2,…, ek)TRk. • Intuicja: chcemy tak dobrać , aby wektor e był jak najmniejszy (najkrótszy). • Czyli aby odległość od e do początku układu współrzędnych 0=(0,0,…,0)T była jak najmniejsza: e = ρ(e,0) min • Wektor e zależy od poszukiwanego : e=e()  Q()=e()min

12. … …  x15 x16 0 x1 x2 x3 x4 e15 AproksymacjaPrzykład z życia • Na pewnej uczelni wyższej grupa k osób (być może k=16) wysłuchała niesamowicie ciekawego referatu o obiektowo zorientowanych językach programowania na laboratorium z Metod Numerycznych. • Wszyscy chcą wiedzieć ile to wystąpienie było naprawdę warte. • Głosowanie dało dane pomiarowe na potrzeby identyfikacji. Na rysunku dane te zostały już posortowane. • Minimax (metryka maksimum): max |ei| min • opt=0.5(x1+x16). • Metryka euklidesowa:

13. I R U U=RI (xk,yk) (x1,y1) (x2,y2) AproksymacjaKolejny przykład z życia • W celu wyznaczenia oporności R rezystora dokonano k pomiarów prądu i napięcia w układzie jak na rysunku: • Wyniki pomiarów przedstawiono w tabeli a interpretację graficzną na wykresie • Do wyznaczenia najlepszej wartości R wykorzystano prawo fizyczne będące modelem związku pomiędzy U oraz I (prawo Ohma).

14. AproksymacjaIdentyfikacja parametryczna • Związek pomiędzy interesującymi nas zmiennymi znamy z teorii (fizyka, chemia, ekonomia, etc.): y=f(x,). • Identyfikacja obiektu polega na wyznaczeniu WEKTORA nieznanych parametrów  w oparciu o serię danych pomiarowych. • Seria pomiarowa ma długość k. • Wektor  ma n składowych. • W przykładzie z opornikiem n=1. • Idea rozumowania: gdyby nie było błędów pomiarów i gdyby prawo Ohma idealnie odzwierciedlało rzeczywistość to wtedy powinno istnieć takie  (tzn. R), że yi=xi, i=1,2,…,k. Prawdopodobnie tak nie będzie. Dlatego budujemy wektor błędów o składowych ei=yi-xi • Dobieramy parametr , tak aby wektor błędów e miał najmniejszą długość w metryce euklidesowej.

15. AproksymacjaRozwiązanie problemu Zawsze istnieje rozwiązanie!!

16. y x y=f(x,) AproksymacjaModel matematyczny obiektu • Model matematyczny obiektu na potrzeby identyfikacji • Związek pomiędzy wejściem i wyjściem obiektu • Czarna skrzynka • x – wejście • y – wyjście • xi – pomiary na wejściu obiektu • yi – pomiary na wyjściu obiektu • Terminy wejście i wyjście nie muszą mieć odniesienia praktycznego. • Często zdarza się, że fizyczne wejście obiektu z punktu widzenia modelu matematycznego na potrzeby identyfikacji jest wyjściem i odwrotnie.

17. AproksymacjaZapis wektorowy (A+B)T=AT+BT (AB)T=BTAT ATT=A (A+B)C=AC+BC aA=Aa

18. y Przestrzeń H Podprzestrzeń M AproksymacjaTwierdzenie Hahna-Banacha T w i e r d z e n i e (o rzucie ortogonalnym) Niech M będzie podprzestrzenią liniową domkniętą przestrzeni Hilberta  H. Wtedy każdy element  yH da się przedstawić w postaci y=x0+z, gdzie  x0M, z M, przy czym rozkład ten jest jednoznaczny. Element x0 nazywa się rzutem ortogonalnym elementu y na podprzestrzeń  M. z x0

19. y z Przestrzeń H Podprzestrzeń M x0 AproksymacjaAlgebra + Twierdzenie Hahna-Banacha

20. x1 x2 y y=f(x,) xn y x y=f(x,) AproksymacjaModel matematyczny – trochę ogólniej • Przypadek ogólniejszy – obiekt posiada n wejść • Model matematyczny obiektu: • Model obiektu jest liniową zależnością ze względu na x oraz  • Seria pomiarowa • X – macierz pomiarów na wEjściu • Y – macierz pomiarów na wYjściu • X=Xkn , Y=Yk

21. AproksymacjaZapis wektorowy - ogólnie

22. AproksymacjaFunkcja wielu zmiennych Funkcja Q() jest funkcją n zmiennych Wartości funkcji Q() są liczbami rzeczywistymi G – macierz Grama. Własność 1: Własność 2: Macierz Grama jest macierzą symetryczną i półdodatniokreśloną Szukamy minimum funkcji

23. AproksymacjaUkład równań liniowych Problem wyznaczenia najlepszej aproksymacji obiektu liniowego o n wejściach sprowadza się do rozwiązania układu n równań liniowych z n niewiadomymi. Układ ten ma zawsze rozwiązanie. Czasami rozwiązań jest nieskończenie wiele.

24. AproksymacjaTwierdzenie Hahna-Banacha ogólnie Podprzestrzeń M rozpięta na kolumnach macierzy X Wektor błędu aproksymacji Twierdzenie Hahna-Banacha To znaczy: Można to zapisać krócej: Albo:

25. y=a1x+a0 (xk,yk) (x1,y1) (x2,y2) x0 y y=a1x1+a0x0 x1 AproksymacjaPrzykład 2 Problem aproksymacji (identyfikacji) sprowadza się teraz do wyznaczenia DWÓCH nieznanych parametrów a1 i a0 y=a1x+a01 =1 =x

26. AproksymacjaPrzykład 2

27. AproksymacjaPrzykład 2 Rozwiązanie: 0 = -1.50000 1 = 1.70000

28. x0=1 x1=x y y=f(x,) xm=xm AproksymacjaWielomian n-tego stopnia Macierze X i Y n=m+1 Seria pomiarowa – jak zawsze Rozwiązanie Obiekt identyfikacji

29. AproksymacjaUogólniony wielomian n-tego stopnia Macierze X i Y n=m+1 Seria pomiarowa – jak zawsze Rozwiązanie Obiekt identyfikacji x0=q0(x) x0=1 x1=q1(x) x1=x y y=f(x,) xm=xm xm=qm(x)

30. AproksymacjaPrzykład 3 Parabola

31. AproksymacjaPrzykład 3 Parabola Porównanie dla n=2 Interpretacja geometryczna

32. AproksymacjaWnioski • Przedstawione postępowanie jest możliwe do przeprowadzenia jeżeli tylko model matematyczny identyfikowanego obiektu y=f(x,) jest liniową funkcją parametrów . • Taka funkcja nosi nazwę uogólnionego wielomianu. • Przykłady uogólnionych wielomianów: • Klasyczny wielomian: y=a2x2+a1x+a0 • Rozwiązania liniowych równań różniczkowych czyli wyrażenia typu: y=a1exsin(x)+a2excos(x)+a3 • Przykład zależności nieliniowej: y=exsin(x) • Ze względu na ważne zastosowania istnieje teoria, która pozwala na identyfikacją takich zależności. Trzeba w tym celu spełnić pewne dodatkowe wymagania (równe odstępy pomiędzy wartościami zmiennej niezależnej, etc.) • Istotne problemy do przeanalizowania: • jednoznaczność rozwiązania • Obiektywna ocena jakości aproksymacji

33. AproksymacjaRank conditions • A – macierz, rank A – rząd macierzy A. • Rząd macierzy jest równy liczbie jej liniowo niezależnych kolumn. • Twierdzenie 1: liczba liniowo niezależnych wierszy i liniowo niezależnych kolumn są takie same. • Wniosek 1: rank Anxm  min(n,m). • Wniosek 2: rank A = rank AT. • Twierdzenie 2: rank AB = min(rank A, rank B) • Układ równań Grama ma zawsze rozwiązanie • Układ równań Grama ma jednoznaczne rozwiązanie jeżeli |G|0 • |G|0  rank G = n. • rank G = rank XTX = min(rank X, rank XT) = rank X. • Wniosek: rank X = n. • rank Xkxn min(n,k). • Wniosek: X musi być macierzą o maksymalnym rzędzie (tzn. n). • Konieczny warunek jednoznaczności identyfikacji: n  k. • Własnymi słowami: liczba istotnych pomiarów nie może być za mała.

34. Obiekt rzeczywisty x e y + z - x z=f(x,) AproksymacjaWspółczynnik korelacji • Wartości wskaźnika Q nie wystarczają do ocenyjakości uzyskanego wyniku. • Istnieje sposób utworzeniaobiektywnej miary jakości. • Idea: traktujemy wyjściez obiektu rzeczywistego i z utworzonego modelu matematycznego jako realizacje dwóch zmiennych losowych Y() oraz Z(). • Dla dwóch zmiennych losowych Y() oraz Z() można wyznaczyć ichwspółczynnik korelacji rxy. • Własność: |rxy|  1. • Wyznaczamy estymator współczynnika korelacji w oparciu o ciąg yi oraz zi. • Definicja współczynnika korelacji: