Dwie metody rozwiazywania uklad w r wnan liniowych: Bezposrednie Iteracyjne

1. Dwie metody rozwiazywania uklad�w r�wnan liniowych: Bezposrednie Iteracyjne

2. Metody bezposrednie Transformuja uklad r�wnan na inny uklad r�wnan (prostszy do rozwiazania) Transformacjom podlegaja r�wnoczesnie lewa i prawa strona r�wnania:

3. Metody bezposrednie Operacje wykorzystywane w przeksztalceniach: Zamiana dw�ch r�wnan miejscami Mnozenie r�wnania przez niezerowa stala Mnozenie r�wnania przez niezerowa stala i odjecie wyniku od innego r�wnania

4. Metody bezposrednie

5. Uklady Lx=c, Uy=d Rozwiazanie ukladu Lx=c metoda podstawiania do przodu Analogicznie rozwiazanie ukladu Uy=d (kod podany przy omawianiu dekompozycji LU)

6. Metoda eliminacji Gaussa-Jordana Podstawowa operacja: Eq.(j) � tzw. r�wnanie (wiersz) piwotu

7. Przyklad � faza eliminacji Do roz

8. Przyklad � faza eliminacji

9. Przyklad � zapis macierzowy

10. Przyklad � faza podstawiania wstecz

11. Eliminacja Gaussa-Jordana - algorytm k wierszy przeksztalconych k-ty wiersz � wiersz piwotu transformowany i-ty wiersz

12. Eliminacja Gaussa-Jordana - algorytm Do wyeliminowania wyraz Aik Trzeba podzielic wiersz piwotu przez ?=Aik/Akk i odjac wynik od transformowanego wiersza:

13. Eliminacja Gaussa-Jordana - algorytm �Jadro� algorytmu: k - wiersz piwotu - musi przebiegac: k=1,2, ..., n-1 i - transformowany wiersz dla ustalonego wiersza piwotu k � musi przebiegac: i = k+1, k+2, ..., n j � kolumna w wierszu musi przebiegac: j = k, k+1, ..., n, takie przeksztalcenie jak na wierszu i - na wyrazie b(i) wektora reprezentujacego prawa strone ukladu r�wnan

14. Eliminacja Gaussa-Jordana - algorytm Kod zr�dlowy:

15. Eliminacja Gaussa-Jordana - optymalizacje Petla operacji na elementach wiersza i zastapiona jedna operacja wektorowa:

16. Eliminacja Gaussa-Jordana - optymalizacje Zastosowana uzupelniona reprezentacja macierzy A (A=[A b])

17. Eliminacja Gaussa-Jordana - optymalizacje Wyrazy pod gl�wna przekatna nie sa nam potrzebne (Lx=c), wiec nie jest konieczne aby je zerowac:

18. Eliminacja Gaussa-Jordana - optymalizacje

19. Eliminacja Gaussa-Jordana - optymalizacje Nie trzeba przeksztalcac wiersza, jesli na odpowiedniej pozycji juz jest zero:

20. Eliminacja Gaussa

21. Faza podstawiania wstecz � kod Rozwiazanie ostatniego r�wnania:

22. Faza podstawiania wstecz � kod Og�lna sytuacja: jestesmy na wysokosci r�wnania k, wszystkie r�wnania ponizej (k+1...n) zostaly juz rozwiazane, mamy wiec: xk+1 do xn sa juz znane, a wiec:

23. Faza podstawiania wstecz � kod

24. Algorytm Gaussa-Jordana - kod

25. Dekompozycja LU Potrzeba: uklady r�wnan rozwiazywane wielokrotnie, dla r�znych wektor�w danych bi (RHS � prawe strony r�wnan) Uzupelnienie macierzy A o wszystkie wektory bi:

26. Dekompozycja LU W fazie eliminacji Gaussa-Jordana przeksztalceniom podlegaja wszystkie wektory bi, Faza wstecznego podstawiania jest realizowana dla kazdego bi osobno Dekompozycja LU oferuje bardziej ekonomiczny i elastyczny schemat (nie trzeba znac z g�ry bi)

27. Dekompozycja LU Dekompozycja LU kwadratowej macierzy A:gdzie L � macierz tr�jkatna dolna, U � macierz tr�jkatna g�rna:

28. Dekompozycja LU Dekompozycja nie jest unikalna (nieskonczenie wiele mozliwych) Niekt�re ograniczenia daja metode z nazwa:

29. Dekompozycja LU Idea zastosowania: Najpierw rozwiazanie Ly=b (podstawianie wprz�d) Nastepnie rozwiazanie Ux=y (podstawianie wstecz) Gdy juz sa znane L, U, to dla kazdego wektora bi potrzebne sa dwa tanie procesy podstawiania

30. Dekompozycja Doolittle Dekompozycja ma scisly zwiazek z eliminacja Gaussa

31. Dekompozycja Doolittle Zastosowanie eliminacji Gaussa:

32. Dekompozycja Doolittle Macierz U uzyskiwana w trakcie eliminacji Gaussa-Jordana jest identyczna, jak w dekompozycji Doolittle Macierz L dekompozycji Doolittle sklada sie ze wsp�lczynnik�w uzywanych do eliminacji kolejnych r�wnan w metodzie Gaussa-Jordana Dekompozycje Doolittle mozna wiec zrealizowac poprzez eliminacje Gaussa-Jordana, w kt�rej mnozniki uzywane do eliminacji tworza macierz L

33. Dekompozycja Doolittle Mnozniki eliminacyjne mozna zapisywac w miejsce zer w przeksztalcanej macierzy A

34. Dekompozycja Doolittle

35. LU: rozwiazanie ukladu I

36. LU: rozwiazanie ukladu II

37. Dekompozycja Cholesky�ego Dekompozycja o postaci: Macierz A musi byc: Symetryczna Dodatnio okreslona Takie macierze pojawiaja sie w wielu zastosowaniach, jak chocby w metodzie najmniejszych kwadrat�w (p�zniej w tym semestrze)

38. Cholesky

39. Cholesky Macierz A jest symetryczna, wiec mozna sie zajmowac tylko czescia tr�jkatna dolna Szesc r�wnan

40. Cholesky

41. Og�lniej: Cholesky

42. Cholesky Dla pierwszej kolumny: Dowolna kolumna � niewiadoma jest Lij: Dla elementu diagonalnego (i=j):

43. Cholesky

44. Specjalne rodzaje macierzy Macierze rzadkie � wiekszosc element�w ma wartosc zero Macierze wstegowe � macierze rzadkie, w kt�rych elementy niezerowe sa polozone tylko na gl�wnej przekatnej i przekatnych przyleglych

45. Macierze rzadkie Macierz tr�jprzekatniowa � elementy tylko na gl�wnej przekatnej i dw�ch przekatnych przyleglych

46. Macierz tr�jprzekatniowa

47. Dekompozycja LU 3-diag

48. Dekompozycja LU 3-diag

49. Rozwiazanie po dekompozycji Faza Ly=b:

50. Rozwiazanie po dekompozycji Faza Ux=y:

51. Metody iteracyjne

52. Algorytm Gaussa-Seidela Algebraiczny zapis i-tego r�wnania Wylaczajac komponent xi:

53. Algorytm Gaussa-Seidela Rozwiazujac: Pomysl na schemat iteracyjny:

54. Algorytm Gaussa-Seidela Procedura startuje z pewnego wstepnie wybranego (np. losowo) oszacowania rozwiazania xo Zastosowanie wzoru:poprawia oszacowanie i tworzy jeden cykl algorytmu Procedura jest powtarzana dotad, az zmiana xp w stosunku do xp-1 w kolejnej iteracji p jest nieznaczna

55. Gauss-Seidel - relaksacja Wartosc xp w kolejnej iteracji jest suma wazona: ? jest wsp�lczynnikiem relaksacji: Gdy ?=1 � efektywnie brak relaksacji Gdy ? < 1 � interpolacja Gdy ? >= 1 - ekstrapolacja

56. Gauss-Seidel

57. Dobieranie wsp�lczynnika ? Zazwyczaj stosuje sie przepis:gdzie: jest przeregulowaniem w k-tej iteracji bez relaksacji, k powinno byc rzedu 10, a p >= 1

58. Gauss-Seidel z relaksacja Przeprowadzic k (np. k=10) iteracji bez relaksacji, czyli dla ? = 1, zarejestrowac ?x(k) Przeprowadzic dodatkowe p (p >= 1) iteracji bez relaksacji, zarejestrowac ?x(k+p) Z podanego wzoru wyznaczyc ?opt i reszte obliczen przeprowadzac z relaksacja ?opt

59. Piwot - motywacja Kolejnosc uzywania r�wnan moze miec decydujacy wplyw na rozwiazanie

60. Piwot - motywacja Przyklad. (rozwiazanie ? x1=x2=x3=1

61. Piwot - motywacja A gdyby to nie bylo zero, ale bardzo mala wartosc...

62. Piwot - motywacja Jesli nawet zla kolejnosc rozwiazywania nie prowadzi do takich krytycznych sytuacji, to akumulacja bled�w zaokraglania czyni czesto rozwiazanie calkowicie bezwartosciowym

63. Diagonalna dominacja Stosujac piwot, dazymy do uzyskania diagonalnej dominacji Macierz wykazuje d.d., jesli w kazdym wierszu wyraz na przekatnej jest wiekszy od sumy pozostalych wyraz�w (w sensie wartosci bezwzglednych):

64. Diagonalna dominacja Przyklad:

65. Skalowany piwot Jak poprzestawiac wiersze, zeby uzyskac d.d. (wtedy najmniej podatne na problemy rozwiazanie) Przydatne tez, aby wyraz na przekatnej mial nie tylko wartosc dominujaca w wierszu, ale i mozliwie jak najwieksza z wszystkich dostepnych w macierzy

66. Skalowany piwot Dodatkowy wektor kolumnowy wsp�lczynnik�w skalujacych: Wyznaczony przez:

67. Skalowany piwot Rozstrzygniecia posluguja sie relatywna wielkoscia wyraz�w: Eliminacja przy uzyciu wiersza k:

68. Skalowany piwot Wybierany jest wiersz p, w kt�rym Apk ma najwieksza wzgledna wielkosc: Po znalezieniu takiego wiersza, zamienia sie go miejscami z wierszem k (stosowna zamiana musi tez byc dokonana w wektorze wsp�lczynnik�w skalujacych s)

69. Skalowany piwot

70. Skalowany piwot Pomocnicza funkcja swapRows:

71. Dekompozycja Doolittle W piwocie zamieniamy miejscami wiersze, dbajac to, zeby zamiana dotyczyla takze wektora b (RHS) Przy dekompozycji LU szykujemy sie na �przyszle� wektory bj, ale ich wyrazy beda uporzadkowane wg pierwotnej kolejnosci Wyrazy wektor�w bj przed rozwiazaniem korzystajacym z LU nalezy poddac przestawieniu takiemu samemu, jak w czasie eliminacji Gaussa

72. Dekompozycja Doolittle W algorytmie Gaussa z piwotem potrzebny jest dodatkowy wektor permutacyjny p, wstepnie r�wny (1:n)� Zamiana wierszy miejscami dotyczy takze wektora p Po zakonczonym algorytmie G.-J. wektor p wskazuje kolejnosc wierszy Uporzadkowanie �przyszlych� wektor�w b ? w zapisie Matlab: b(p)