Náhodné veličiny, náhodné chyby

1. Náhodné veličiny, náhodné chyby Máme náhodnou veličinu X, jejíž vlastnosti zkoumáme. Můžeme ji popsat rozložením s určitými parametry - charakteristikami populace. Pokud tyto parametry neznáme, můžeme získat pouze jejich odhad na základě výpočtu nebo zjištění z výběrového souboru. Výběrový soubor získáme z populace náhodným statistickým výběrem při statistickém šetření. Každý odhad je zatížen jistou neurčitostí - náhodnou chybou. (Je zřejmé, že při každém novém výběru bude chyba jiná, protože budou vybrány jiné prvky z populace.)

2. Náhodné chyby a systematické chyby Při měření nebo stanovení charakteristik výběru jsou obvykle hodnoty zkresleny nejen náhodnými chybami, ale i dalšími chybami způsobenými nehomogenitou souboru, jednostrannými chybami měření apod. Tyto nežádoucí jevy nazýváme systematické chyby. Matematická statistika se snaží eliminovat systematické chyby, ale naopak počítá s náhodnými chybami -nejedná se vlastně o chyby, takže budeme spíše hovořit o náhodné složce, která může být ovlivněna: • biologickou variabilitou • nepřesností určení nebo měření veličiny • nepřesností modelu

3. Náhodné chyby a rozsah souboru Náhodu nechceme při statistickém šetření eliminovat, ale matematická statistika se ji snaží nějakým způsobem formalizovat, tj. vyjádřit pomocí matematického zápisu tak, abychom s ní mohli počítat. Pokud konstruujeme odhady charakteristik populace, můžeme náhodnou chybuzmenšit zvětšením výběru. Znamená to, že kvalita odhadu je dána • variabilitou náhodné veličiny • rozsahem výběru

4. Parametry populace a náhodný výběr Protože výběr z populace je náhodný, je i hodnota parametru vypočtená na základě výběru náhodná veličina. Můžeme tedy považovat i parametry populace (například výběrový průměr nebo výběrový rozptyl) za náhodnou veličinu s určitým rozložením. Mluvíme-li ve statistice o testování veličin, považujeme za testovaný objekt populacireprezentovanou výběrovým souborem (resp., více výběrovými soubory). TESTOVÁNÍVELIČINY je zkoumání nějakévlastnosti u této populace.

5. Úvod do statistického testování hypotéz • HYPOTÉZA je domněnka (tvrzení) o statistickém souboru • TESTOVÁNÍ HYPOTÉZ je způsob ověřování domněnek • o typu rozdělení statistického souboru • o parametrech rozdělení - charakteristikách souboru (μ, σ2, σ, λ) • o shodě dvou a více rozdělení • o shodě parametrů rozdělení • vždy proti sobě stojí dvě doměnky (tvrzení): • nulová hypotéza (domněnka, kterou testujeme) • alternativní hypotéza (domněnka, kterou přijímáme pokud zamítneme nulovou hypotézu)

6. Nulová a alternativní hypotéza • Nulová hypotéza je obvykle tvrzení, které po matematické stránce vyjadřuje „rovnost“, ekvivalenci, nulový rozdíl, nezávislost. Značíme H0 Jejím zamítnutím potvrzujeme platnost alternativní hypotézy, obvykle tvrzení, které chceme prokázat. Zamítnutí H0 má většinou vážnější důsledky. • Alternativní hypotézajeobvykle tvrzení, které se zdá na první pohled evidentní a chceme ho prokázat. Říká, že existuje rozdíl mezi výběrovými soubory, např. závislost na zkoumaných faktorech. Značíme HAnebo H1 Její zamítnutí nemá většinou tak vážné důsledky. Přesto se jedná „jen o dohodu“, že takto stanovíme, která hypotéza je nulová a která alternativní.

7. Nulová a alternativní hypotéza - příklady: • Tvrzení, které chceme obvykle prokázat mohou znít např.: • „Lék A má větší léčebný efekt než lék B.“ • „Chlapci dosahují lepších výsledků v plavání než dívky.„ • "Výsledky dotazníkového šetření závisí na věku respondentů.„ • Opačná tvrzení, která proto musíme zamítnout, zní: • „Léky A a B mají stejný léčebný efekt." • „Chlapci dosahují stejných výsledků v plavání jako dívky." • "Výsledky dotazníkového šetření nezávisí na věku respondentů.„

8. Nulová a alternativní hypotéza • Věcné hypotézy představují nulovou a alternativníhypotézu podle popsaných konvencí. Vždy se jedná o dvě tvrzení, která stojí proti sobě (druhé neguje první). • Za nulovou hypotézu budeme považovat domněnku (tvrzení), že mezi testovanými soubory neexistuje vztah (souvislost), že pozorované rozdíly jsou způsobeny jen náhodnými vlivy. • Mohli bychom testovat i jiné předpoklady, ale tento způsob přijetí nebo zamítnutí NULOVÉ HYPOTÉZY jakožto nositele „nulové změny, nulové závislosti“, je vžitý a srozumitelný.

9. Rozhodování ve statistických testech • Základem statistických testů je snaha o rozhodnutí, zda rozdíl testovaných hodnot můžeme vysvětlit pomocí náhody, nebo jej musíme považovat za systematický. • Rozhodování ve statistických testech má vždy charakter pravděpodobnostní – nikdy si nejsme svým rozhodnutím zcela jisti. • Zcela jednoznačně nemůže statistický test nikdy tvrdit, že dvě hodnoty jsou stejné, lze pouze říct, že rozdíl nelze prokázat.

10. Očekávané (hypotetické) rozdělení hodnot • Pokudzkoumáme dva nebo víc výběrových souborů, porovnáváme (testujeme) obvykle jejich charakteristiky, které vypočteme z naměřených (pozorovaných) hodnot. • Často porovnáváme pouze jeden výběrový soubor s očekávaným rozdělením četností a testujeme, zda se rozdělení hodnot výběrového souboru řídí tímto očekávaným (hypotetickým) rozdělením hodnot. • Nulovou hypotézou bychom nazvali tvrzení, že: - charakteristiky výběrových souborů se neliší - výběrový soubor se řídí očekávaným rozdělením hodnot.

11. Testování hypotéz • TESTEM HYPOTÉZYnazýváme postup, jímž na základě výsledků zjištěných z náhodného výběru ověřujeme, zda statistickou hypotézu lze pokládat za správnou či nikoli. • Rozložení hodnot nulové hypotézy se řídí očekávaným, hypotetickým rozdělením hodnot To znamená, že od námi předpokládaného teoretického rozdělení se zkoumané hodnoty odlišují jen díky náhodným vlivům - náhodě, kterou umíme statisticky zdůvodnit. • Platí-li H0 Pozorované hodnoty jsou velmi blízké očekávaným (hypotetickým) hodnotám • Platí-li HA Pozorované hodnoty se příliš liší od očekávaných - neumíme vysvětlit pouhou náhodou

12. Příklad pro schematické vysvětlení statistických testů • Budeme-li házet hrací kostkou, nebudeme očekávat jiná čísla než od 1 do 6. • Pokud se nám mezi hrací kostky připlete jiná kostka, která bude mít čísla 6, 7, 8, 9, 10, 11 a padne na ní 6, nepoznáme, že patří do jiného souboru. Když ale padne jiné číslo, uvidíme na první pohled, že tato hodnota nepatří mezi očekávané. • Statistické testy vyhodnotí statisticky výsledek našeho pokusu podobně: když se bude výsledek blížit očekávané hodnotě, nemůže zamítnout nulovou hypotézu. • Když se bude výrazně odlišovat, statistický test prohlásí nulovou hypotézu za neplatnou. • Pokud by bylo velmi nebezpečné přijmout nulovou hypotézu v příkladu s kostkou, pro jistotu bychom ji museli zamítnout ve všech případech, kdy padne šestka, bez ohledu na to, zda padla na kostce 1 – 6 nebo na kostce 6 – 11.

13. Chyba I. a II. druhu při testování hypotéz Při testování mohou nastat čtyři situace: H0 zamítneme, ačkoliv platí H0 přijmeme, ačkoliv neplatí H0 přijmeme a platí H0 zamítneme a neplatí

14. Hladina významnosti • Snahou je volit test tak, aby pravděpodobnost chyby I. i II. druhu byla minimální. • Bohužel jak si dále ukážeme, snížíme-li riziko chyby I. druhu, zvětší se riziko chyby II. druhu a naopak. • Rozhodujeme se na základě zvážení důsledků obou chyb - tam, kde je důsledek chyby menší, můžeme zvolit riziko větší. Příklad: Lékař vyšetřuje pacienta, který si myslí, že trpí určitou chorobou. Na základě vyšetření se rozhoduje, zda mu předepíše léky (přijímá hypotézu, že pacient je nemocný) nebo ne (přijímá hypotézu, že pacient je simulant). Musí zvážit rizika, která s sebou nese rozhodnutí, že nemocnou osobu považuje za zdravou.

15. Hladina významnosti • Obvykle mívá důsledek chyby I. druhu - hypotézu H0 zamítneme, ačkoliv platí - horší následky. Proto se snažíme chybu I. druhu minimalizovat a její pravděpodobnost volíme velmi malou 0,05 (5%) nebo dokonce jen 0,01 (1%). • Tato pravděpodobnost se nazývá hladina významnosti a značí se α. Je to riziko zamítnutí ověřované hypotézy. • Opačnou chybu – přijetí ověřované hypotézy, přestože neplatí, označujeme jako chybu II. druhu • Tuto pravděpodobnost značíme β. • Doplněk k pravděpodobnosti β, tj. přijetí alternativní hypotézy, když platí, se nazývá síla testu. Jinými slovy je to pravděpodobnost zamítnutí H0, když neplatí.

16. Příklad statistického testu Sledujeme výšku postavy skupiny basketbalistů ve věku 16-18 let. Chceme vědět, zda se jejich průměrná výška statisticky významně odlišuje od průměrné výšky běžné populace. Pro testování musíme: • přijmout určité předpoklady - rozložení výšky se řídí normálním rozdělením • stanovit nejmenší odchylku od hypotézy H0 , kterou bychom měli být schopní prokázat - hypotézu H1 • stanovit hladinu významnosti (přijatelnou chybu statistického testu) nulová hypotéza H0: průměrná výška sledované skupiny basketbalistů ve věku 16-18 let se neodlišuje statisticky významně od průměrné výšky běžné mužské populace Na následujícím obrázku je graficky znázorněno rozložení sledovaného souboru basketbalistů, frekvenční funkce hypotézy H0, H1, hladina významnosti α, chyba II. druhu β a síla testu

17. Skutečnost Testování hypotéz Výsledek testu Zkoumaný soubor s naměřenými daty H0testovaná hypotéza (to co ověřujeme) H1 alternativní hypotéza (to co chceme odlišit) αchyba I. druhu β chyba II. druhu 1-βsíla testu H1 H0 β α

18. Komentář k obrázku • růžová plocha pod modrou křivkou představuje kritické 1% hodnot, tj. 1%-ní pravděpodobnost chyby I. druhu - tuto pravděpodobnost (hladinu významnosti α) volíme • modrá plocha pod červenou křivkou představuje chybu II. druhu a je to pravděpodobnost, že sice platí alternativní hypotéza H1 , ale my nejsme schopni prokázat významnou odchylku od testované hodnoty a nemůžeme zamítnout H0. - zmenšit tuto pravděpodobnost, tj. chybu II. druhu aniž bychom zvětšili chybu I. druhu, můžeme jen zvětšením rozsahu výběru(viz následující obrázek) • zvětšíme tím sílu testu, jinými slovy – budeme schopní prokázat i menší odchylky od nulové hypotézy (viz příklad pro 10 a 20 měřených hodnot) (na následujícím obrázku představuje posunutí šedé čáry z místa původní do nové hladiny významnosti α – chyby 1. druhu).

19. Skutečnost H0testovaná hypotéza (to co ověřujeme) H1 alternativní hypotéza (to co chceme odlišit) Výsledek testu β α

21. Vyhodnocení výsledků t-testu z Excelové tabulky Jednostranný t-test porovnání statistiky a kritické hodnoty • absolutní hodnotu vypočtené statistiky t Stat = 2,26 porovnáme s kritickou hodnotou pro α = 0,01 pro 10 měření t Stat=2,26 < t krit(1)=2,60 proto H0 nemůžeme zamítnout pro 20 měření t Stat=2,98 > t krit(1)=2,45 proto H0 zamítáme nebo ke stejnému závěru dojdeme porovnáním pravděpodobnosti a hladiny významnosti α • vypočtenou hodnotu pravděpodobnosti P(T<=t) porovnáváme se zvolenou hladinou významnosti - pro 10 měření je P=0,020 > α=0,01 proto H0 nemůžeme zamítnout - pro 20 měření je P=0,003 < α=0,01 proto H0 zamítáme

22. Závislost výsledku testu na počtu měření • Při prvním testu jsme vyhodnotili výsledek z 10 měření a na zvolené hladině významnosti α = 0,01 nemohli zamítnout nulovou hypotézu, že průměrná výška sledované skupiny basketbalistů ve věku 16-18 let se statisticky významně neodlišuje od průměrné výšky běžné mužské populace. • H0 nemůžeme zamítnout ani u jednostranného testu, kdy nás zajímá pouze vyšší výška basketbalistů, ani u oboustranného testu, kdy hodnotíme odchylky na obě strany • Při druhém testu jsme vyhodnotili výsledek z 20 měření a na zvolené hladině významnosti α = 0,01 zamítáme nulovou hypotézu a přijímáme alternativní hypotézu, že průměrná výška sledované skupiny basketbalistů ve věku 16-18 let je statisticky významně vyšší než je průměrná výška běžné mužské populace.

23. Síla testu a interval spolehlivosti - viz příklad • Pokud budeme mít více měření, budou hustoty pravděpodobnosti nulové hypotézy H0 i alternativní hypotézy H1 užší - rozptyl se zmenšil z 15,8 na 12,2 pro běžnou mužskou populaci a z 37,2 na 32,5 pro basketbalisty. Střední hodnoty zůstávají přibližně stejné. • Mezní hodnota pro chybu I. druhu (šedá čára) se posune pro jednostranný test z 2,60 na 2,45 a pro oboustranný test z 2,95 na 2,74. • Velikost chyby II. druhu β(plocha pod červenou křivkou) klesne - test se stane silnějším. • Čím je rozsah výběrového souboru větší, tím je náš odhad testovaného parametru přesnější a tím je interval spolehlivosti užší. • Čím užší je interval spolehlivosti, tím větší je síla testu.

24. Postup konstrukce a provedení testu • Formulujeme hypotézu H0,kterou chceme ověřit a k ní alternativní hypotézu HA, • Zvolíme hladinu významnosti podle důsledků, které by mohla mít chyba I. druhu (obvykle 5%, přísnější test 1%) • Zvolíme rozsah výběru • Provedeme experiment a na základě hypotézy zvolíme testovou statistiku T (znamená to, že data převedeme transformací do vhodné statistické „normy“, např. výběrového rozdělení, abychom mohli test vyhodnotit) • Porovnáme testovou statistiku T s kritickou hodnotou TK příslušného výběrového rozdělení pro zvolenou hladinu významnosti. (TKnajdeme v tabulkách nebo pomocí statistického programu, např. ve funkcích Excelu).

25. Postup konstrukce a provedení testu - pokračování • Na základě porovnání rozhodneme o zamítnutí nebo přijetí nulové hypotézy. • Přijetí H0znamená, že odchylky naměřených hodnot od předpokládaného výběrového rozdělení lze vysvětlit pouhou náhodou (T < TK). • Zamítnutí H0znamená, že odchylky jsou větší, než umí statistika vysvětlit pouhou náhodou - jsou statisticky významné (T ≥ TK). Se zvoleným rizikem (hladina významnosti α) zamítáme H0 a přijímáme H1

26. Testování hypotéz HA H0 α=0,05 T < TK T >TK H0přijímáme H0zamítáme TKproα=0,05

27. Významnost statistického testu - shrnutí Test není statisticky významný – hypotézu nezamítáme Pozorované odchylky od hypotézy je možno vysvětlit pouhou náhodou Důvodem může být i to, že rozdíl je tak malý, že na jeho prokázání nestačí použitý rozsah souboru. Test je statisticky významný – hypotézu zamítáme Pozorované odchylky od hypotézy není možno vysvětlit pouhou náhodou Odchylka od hypotézy je tak velká, že při opakování šetření bychom s velkou pravděpodobností hypotézu opět zamítli. P - hodnota Pravděpodobnost chyby vypočtená z našich pozorovaných dat, se kterou bychom zamítli hypotézu H0. Při praktickém provedení testu slouží k porovnání s hladinou významnosti: platí, že H0 zamítáme, pokud p-hodnota ≤ α

28. VÝBĚROVÁ ROZDĚLENÍ jsou rozložení používaná ke konstrukci statistických testů • Mějme normální rozložení s parametry a • Protože Normální rozložení je tabelováno pouze pro hodnoty a , normováním transformujeme pozorované hodnoty na tzv. z-skóry a tyto transformované hodnoty pak mají normované normální rozdělení. • V praxi neznáme skutečné hodnoty a a musíme je nahradit jejich odhady. Tím se změní rozložení takto transformované veličiny.

29. VÝBĚROVÁ ROZDĚLENÍ • Proto byla pro tyto případy odvozena jiná rozdělení, která popisují rozdělení výběrových charakteristik (odhadů populačních parametrů). • Pro provádění statistických testů nám slouží tato VÝBĚROVÁ ROZLOŽENÍ jako vzor, se kterým srovnáváme vypočtené výsledky.

30. ROZDĚLENÍ Je rozdělení součtu n druhých mocnin normálně rozdělených veličin U: U (0,1) • Tvar rozložení je závislý na počtu sčítanců n, ale toto číslo musíme v případě, že pro výpočet použijeme odhad jednoho nebo více parametrů, zmenšit o příslušný počet odhadovaných parametrů. • Příklad: když pro výpočet výběrového ROZPTYLU použijeme odhad průměru, je počet stupňů volnosti (n – 1) místo n - (odhadovali jsme jeden parametr).

31. ROZDĚLENÍ Ve složitějších případech bývá počet odhadovaných parametrů větší a tím pádem počet stupňů volnosti menší. • Střední hodnota rozdělení je E(X) = n • Rozptyl rozdělení je VAR(X) = 2n Podrobněji se rozdělením zabývá téma „Neparametrické testy hypotéz“ (test dobré shody).

32. STUDENTOVO t - ROZDĚLENÍ Příklad: Studentovo t-rozdělení popisuje standardní normální rozdělení v případě, že neznáme směrodatnou odchylku a použijeme pouze její odhad. veličina U v čitateli má standardizované normální rozložení veličina ve jmenovateli má rozdělení o n-stupních volnosti Nejčastěji se používá k porovnání průměrů. Pro n > 40 můžeme Studentovo t-rozdělení nahradit Normálním rozdělením.

33. FISHEROVO F-ROZLOŽENÍ • Toto rozložení popisuje rozložení dvou různých veličin s rozdělením o n a m stupních volnosti. • Používá se především pro testování rozdílnosti rozptylů