Elementy Rachunku Prawdopodobieństwa i Statystyki

1. Elementy Rachunku Prawdopodobieństwa i Statystyki • Wykład 2 • Obiektywność vs. subiektywność • Prawdopodobieństwo całkowite • Twierdzenie Bayes’a • Podsumowanie Tomasz Szumlak, WFiIS, 15/03/2013

2. Obiektywne czy subiektywne Interpretacja prawdopodobieństwa (patrz wykład 1) Obiektywne prawd. – podejście częstościowe: A, B, … - różne, możliwe wyniki doświadczenia - zakładamy, że możemy powtórzyć doświadczenie w sposób kontrolowany… - P(A), P(B), … możemy wówczas zdefiniować jako: - bardzo użyteczny sposób na szacowanie prawd. - np. opis rozpadu substancji promieniotwórczej - mechanika kwantowa

3. Obiektywne czy subiektywne Interpretacja prawdopodobieństwa (patrz wykład 1) b) Subiektywne prawd. A, B, … - różne hipotezy (niektóre prawdziwe, niektóre fałszywe) - w zasadzie oba podejścia zgodne z aksjomatami - prawd. subiektywne (zależne od obserwatora) może niepokoić - statystyka jest częścią matematyki, obliczanie prawd. zajścia zdarzenia A powinno być jednoznaczne - popatrzmy na prosty przypadek rzutu kostką do gry…

4. Obiektywne czy subiektywne Rzucamy symetryczną (uczciwą) kostką do gry jak wyznaczyć prawd. P(1) = ? Przy powyższych założeniach: P(1) = P(2) = … = P(6) = 1/6 Mówimy, że poszczególne prawd. P(i) są stałe, ale wynik każdego rzutu jest zmienną losowąZL (dokładna definicja ZL podczas wykładu nr 3) Jak możemy sprawdzić wartość P(i)? - eksperyment: rzucamy kostką N razy - przyjmiemy: jeżeli kostka jest sym.

5. Obiektywne czy subiektywne • Rzucamy symetryczną (uczciwą) kostką do gry • jak wyznaczyć prawd. P(1) = ? • Wynik jaki przyjęliśmy powyżej wydaje się rozsądny (logiczny…?) • Czy aby na pewno?? – Obiektywność prawd. jest UŁUDĄ! • formuła, którą otrzymaliśmy zakłada, że każde zdarzenie elementarne jest tak samo prawdopodobne • czyli: eksperyment składa się z ciągu identycznych prób • dlaczego zakładamy domyślnie, że prawd. nie może się zmienić? • … oraz, co można powiedzieć o symetrii kostki, gdy wykonamy 5, 20, 100 rzutów?

6. Obiektywne czy subiektywne • 100 prób – ‘pokaźna’ próbka • powyższa symulacja pokazuje duże wahania (fluktuacje) • czy kostka staje się bardziej uczciwa w funkcji liczby rzutów… ? • fluktuacje bardzo istotne dla opisu częstościowego, istnieje ogromna maszyneria dedykowana do radzenia sobie z tym (wnioskowanie statystyczne – więcej na kolejnych wykładach)

7. Obiektywne czy subiektywne Prawdopodobieństwo – miara naszej ‘wiary’ ZAWSZE zależy od dodatkowych informacji (backgroundinformation) W zasadzie, zawsze powinniśmy myśleć o P(X) w kategoriach prawd. warunkowego! To są dodatkowe informacje Zdarzenie X szacujemy W zależności od stanu swojej wiedzy, obserwatorzy A i B mogą wyznaczyć różne wartości P(X|I) – subiektywność Subiektywny  Arbitralny Jeżeli obaj posiadają taką samą wiedzę, powinni wyznaczyć takie same wartości prawdopodobieństwa W tym sensie, podejście subiektywne (będziemy je od tej pory nazywać Bayesowskim) jest bardziej naturalne

8. Prawdopodobieństwo warunkowe Rozumowanie dedukcyjne ‘Przyczyna’ Teoria, zwykle kompletna, nie zawierająca stwierdzeń fałszywych ‘Możliwe skutki’ Przewidywania wysnute na podstawie teorii Rozumowanie indukcyjne ‘Możliwe Przyczyny’ Konkurujące teorie/modele ‘Obserwacje’ Który z nich jest najbardziej wiarygodny…? (Bayes – c.d.n.) 8

9. Prawdopodobieństwo warunkowe • Zbadajmy następującą sekwencję stwierdzeń (analiza dedukcyjna): • Wszyscy studenci informatyki piją KolęPlus(1) • Student X jest na informatyce (2) • Student X pije KolęPlus(3) • Niech (1) będzie naszą ‘teorią’: zakładamy (1) prawdziwe • Jeżeli (2) jest prawdziwe: (3) jest prawdziwe • Jeżeli (3) nie jest prawdziwe to (2) też jest fałszywe • Powiemy, że (3) jest logiczną konsekwencją (1) i (2)

10. Prawdopodobieństwo warunkowe • Zbadajmy następującą sekwencję stwierdzeń (analiza indukcyjna): • Wszyscy studenci informatyki piją KolęPlus(1) • Student X jest na informatyce (2) • Student X pije KolęPlus(3) • Co możemy powiedzieć o (2) jeżeli (1) – ‘teoria’ - oraz (3) są prawdziwe • (1) nie mówi, że wszyscy studenci pijący KolęPlus są na informatyce • Możemy jednak stwierdzić: • - Jeżeli (3) jest prawdziwe to (2) jest bardziej prawdopodobne

11. Prawdopodobieństwo warunkowe • Wróćmy do rachunków… formalnie definiujemy prawd. warunkowe dla zdarzenia A (to prawd. próbujemy oszacować) pod warunkiem, że zaszło zdarzenie B (to znamy a priori, stało się na pewno, dodatkowa informacja); często nazywane czwartym aksjomatem prawd. • Np. rzucamy kostką do gry, A – # oczek < 3, B - # oczek parzysta • P(A)  P(A|B) – B jest dodatkową informacją! • P(# < 3|# parzysta) = P((# < 3)  (# parzyste))/P(# parzyste) = 1/3 • Wnioski: • A i B są niezależne • Nie mylić ze zdarzeniami rozłącznymi! • Gdy niezależne: (dodatkowa info. nie zmienia prawd. zajścia A)

12. Prawdopodobieństwo warunkowe i formuła Bayes’a Bezpośrednio z definicji prawd. warunkowego: oraz , więc: Twierdzenie Bayes’a (1702 – 1761) (jednocześnie stary i nowy temat)

13. Formuła Bayes’a Jeżeli możemy podzielić P.Z.E. na zdarzenia wzajemnie rozłączne: Wtedy zdarzenie B można wyrazić: Prawd. całkowite Tw. Bayes’a

14. Formuła Bayes’a • Rozważmy następujący przykład: • Badania wykazały, że prawd. zachorowania w populacji wynosi: • P(CH) = 0.001, P(NCH) = 0.999 (te znamy, nasza wiedza a priori) • Wyprodukowano testy wykrywające chorobę: • Wykrycie poprawne/nie poprawne chorej osoby: • P(+|CH) = 0.97, P(-|CH) = 0.03 • Wykrycie poprawne/nie poprawne zdrowej osoby: • P(+|NCH) = 0.02; P(-|NCH) = 0.98 • Idziemy do lekarza – diagnoza: test pozytywny, jak bardzo mamy się martwić…?