440 likes | 784 Views
Katseandmete analüüs S tatistika – piiratud vastutusega esitus , matemaatikat minimaalselt. Loengud kaks nädalat – tekstid on, aga mõte ikka T kell 16.15 K kell 10.15 R kell 16.15 - T 15. oktoobril kontrolltöö! – hakka kohe õppima!
E N D
Katseandmete analüüs Statistika – piiratud vastutusega esitus, matemaatikat minimaalselt. Loengud kaks nädalat – tekstid on, aga mõte ikka T kell 16.15 K kell 10.15 Rkell 16.15 - T 15. oktoobril kontrolltöö! – hakka kohe õppima! • praktikumid (pooltes vaja käia), kodutöö: Marko Mägi: markomagi78@gmail.com - loengud uuesti algusega 5. novembril - 2 kodutööd, eksam, 5 EAP (10%, 15%, 15%, 60%) http://www.ut.ee/~tammarut/stat.htm toomas.tammaru@ut.ee
Miks statistikat just eriti bioloogias vaja on? …. purk väävelhapet on purk väävelhapet,
Miks statistikat just eriti bioloogias vaja on? …. purk väävelhapet on purk väävelhapet, …. hiir ei ole lihtsalt hiir, ta on “see” hiir.
Miks statistikat just eriti bioloogias vaja on? …. purk väävelhapet on purk väävelhapet, …. hiir ei ole lihtsalt hiir, ta on “see” hiir. • objektid pole täpselt ühesugused, individuaalne omapära • isendid, nende osad, populatsioonid. Väita tahame aga midagi objektide klassi kohta üldiselt. Statistika ongi selleks, et individuaalsuse müra tagant see üles leida, mida kogu hulga kohta väita võib. Mis teha? Kõiki kahjuks uurida ei saa, uurime valimit (sample) – mida suurem, seda parem. Üldkogum.
Valimi ja üldkogumi kirjeldamine Pidev muutuja vs diskreetne (kategooriline) muutuja, objekt ja vaatlus, vaatlused moodustavad jaotuse. Lihtsaim: kaheväärtuseline jaotus Pidev tunnus: histogramm, tihedusfunktsioon on abstraktsioon. - empiiriline vs teoreetiline jaotus. Normaaljaotus, • paljud tegurid mõjutavad; • tegelt täpselt pole olemas, kuid paljud asjad ligilähedaselt normaaljaotusega
Pideva jaotuse kirjeldamine. Mitmesugused jaotuse keskkohta iseloomustavad suurused: (Valimi)keskmine (üldkogumi keskväärtus) – aritmeetiline keskmine; Mediaan suuremaid ja väiksemaid väärtusi on võrdselt; Mood kõige enamatel. Sümmeetrilise jaotuse korral langevad ühte. Näide: sissetuleku jaotus.
Hajuvusstatistikud - mitmeid erinevaid, väitele “on hajuvam” võib anda mitmeid erinevaid matemaatilisi interpretatsioone. dispersioon (variance) valimi põhjal antud hinnang üldkogumi dispersioonile: suure puhul pole vahet; paha: dimensionaalsus pole sama; Miks hea: - aditiivsus, ehk saab komponentideks jagada (tabel).
Kala pikkus seisab koos pea, keha ja saba pikkusest. - väärtused annavad väärtuse kokku. - dispersioonid annavad dispersiooni kokku, - niipalju varieeruvusest selle, niipalju teise arvele.
Standardhälve (standard deviation, SD) on ruutjuur dispersioonist. • mitu korda varieeruvus suurem? - ± SD 68%, vabalt võib piirest väljas olla; Variatsioonikoefitsient (coefficient of variation, CV) Kvantiilid ehk fraktiilid jagavad jaotust teatud suurusega osadeks, 25% ja 75% kvantiilid - kvartiilid. Normaaljaotuse puhul SD-l kvantiili sisu, üldjuhul mitte. Väärtused ei sõltu süstemaatiliselt valimi suurusest.
Sarnased, kuid sisuliselt erinevad näitajad iseloomustavad meie teadmiste täpsust üldkogumi keskmisest. Standardviga(standard error, SE) ehk valimi keskväärtuse standardhälve arvutatakse SD/ruutjuur-n. Sõltub dispersioonist ja valimi suurusest. Usaldusintervall (confidence interval of the mean) on SE-ga analoogiline suurus - väljaspool seda intervalli oleks üldkogumi keskmise olemine imelik, 95% tavaliselt, ± SE 68% usaldusintervall
Pane tähele: SE ja usaldusintervallid iseloomustavad meie teadmist populatsiooni keskmisest, nad ei ole mõeldud kirjeldama hajuvust üldkogumis, valimi kasvades läheneb SE nullile.
Dispersioon valimis: Hinnang üldkogumi dispersioonile: kala pikkus, m Hinnang üldkogumi standardhälbele SD: ruutjuur dispersioonist. Variatsioonikoefitsient: standardhälve jagatud keskmisega. Standardviga SE: SD/ruutjuur-n.
Keskmine 2, hälbed: -1, 1, 0, 0 ruudud: 1, 1, 0, 0 ruutude summa: 2 dispersioon = ruutude summa/ vaatluste arvuga = 0,5 hinnang üldkogumi dispersioonile = 2/(4-1) = 0,66 standardhälve = 0,816 CV: 40,8%, SE=0.408
Hajuvusstatikute esitamine - ± märgi abil enamasti, - joonisel error bar’ide kujul, alati ära mainida, millega tegu. SE error barid pildi erinevustest ja olulisusest Ebasümmeetriliste puhul kvantiile Eriti kui: 0,2 0,1 0,1 0,1 0,9 0,8 saame 0.36±0.37, Kvantiilidega koos mediaan.
Box plot kui mitut korraga. Mis mis kirja! Tavalised tulpdiagrammid kui oluline on suhteline erinevus. Keerulisemad - asümmeetrilisus (skewness). Pikk saba paremale - positiivne. - järsakus (kurtosis) - terava tipuga positiivne.
Statistiline test - näeme seost või erinevust valimis; - kas võime väita, et see on olemas ka üldkogumis; - valimi põhjal üldkogumi kohta; - alati polegi valim? - valim reaalne või hüpoteetiline. Statistiline olulisus (significance) p mõõdab tõenäosust saada vaadeldav olukord juhul, kui üldkogumis seost ei ole - puhtjuhuslikult siis;
Statistiline olulisus väljendab tõenäosust saada (valimi võtmise käigus üldkogumist) vähemalt nii suure erinevusega või vähemalt nii tugeva seosega valim juhul, kui üldkogumis seda seost või erinevust tegelikult ei ole. Teeme (arvuti)mängu ja uurime! - mängime läbi olukorra, kus seost tegelt pole.
p-väärtus väljendab, kui tõenäone on saada nähtav olukord (seos või erinevus) juhuslikult, p-väärtus ei näita, kui tõenäone on, et seos on saadud juhuslikult.
Pane hästi tähele, et p ei mõõda seose tugevust! Statistiline olulisus sõltub: - seose tugevusest; - juhusliku varieeruvuse hulgast; - valimi suurusest. Pane veel tähele, et erinevuse puudumist üldkogumis ei saa tõestada, pigem ei tea, mispidi on. Looduses ei ole olulisi ja mitteolulisi seoseid, p ei iseloomusta mitte seost vaid meie teadmist temast!
Vabadusaste(degree of freedom, df) on statistiliste testide juures üldiselt ette tulev arusaamatu mõiste. süsteemi vabadusaste, kui mitme sõltumatu arvuga on süsteem täielikult kirjeldatav. Nii on kolmnurgal kolm vabadusastet. Andmestik on täielikult kirjeldatav, kui teame mudelit (mida siis sinna sobitame, näiteks regressioonsirget) ja teame iga vaatluse hälvet - kummalgi omad vabadusastmed; - neist sõltub, kas mudeli sobivus on juhuslik, seepst oluline.
Statistiliste testide tüüpe on väga palju, iga olukorra jaoks oma, statistika valdamine rakendustasemel tähendabki oskust õiget testi valida ja tulemusi õigesti interpreteerida. Testi valimisel – esimene asi: kas muutuja on pidev või diskreetne? Pidev - arvuliselt väljendatav pideval skaalal. Diskreetne = kategooriline, klassifitseeriv, klass-muutuja. Kõigepealt sõltuv pidev; sõltumatu diskreetne. t-test kaks rühma - kas enne meid olemas või ise tekitame
Arvutatakset-statistik, mis on seda suurem, - mida suurem on valimite keskmiste vahe; - mida suurem on valim; - mida väiksem on dispersioon valimites. t järgi p tabeli alusel, sest otse arvutada ei saa, vabadusastmed hälvete vabadusastmed df=n1+n2-2, mudeli omad alati 1 ja pole vaja esitada.
Esitame nii: “Küla- ja Metsajärve ahvenate pikkustes oli erinevus (t=2,17; df=34 ; p=0,025)” või ka “Toidutaimel ei olnud mõju röövikute kasvukiirusele (t=0,17; df=52 ; p=0,37)”
p = 0,045 “... 4,5% tõenäosus saada selline või suurem erinevus valimisse olukorras, kus üldkogumis seda tegelikult pole.” EI TOHI ÖELDA “... 4,5% on tõenäosus, et seos on saadud juhuslikult”. P > 0,05 …. tõlgendus?
Arvutame ühe näite: kus ... aga siin näites s2=0,667 df=n1+n2-2 t = 1/ (0,816p(1/4+1/4)) = = 1/(0,816*0.707) = 1,73 df= 6 p>0.1
t = 1,73 p = 0,13
enne oli t = 1,73 p = 0,13 t = 3,46 p = 0,013
t = 3,46 p = 0,013
enne oli t = 3,46 p = 0,013 t = 1,73 p = 0,13
t = 1,73 p = 0,13
enne oli t = 1,73 p = 0,13 t = 2,65 p = 0,019
Ühefaktoriline dispersioonanalüüs (analysis of variance, ANOVA) nagu t-test aga rühmi rohkem kui kaks. Miks mitte palju t-teste? - sest hulga võrdluste korral on tõenäone, et saame mõned testid juhuslikult oluliseks ja hindame erinevusi (mõju) üle.
+2 +2 +2 +1 +1 +1 0 0 0 - 2 - 2 - 2 Põhineb dispersiooni komponentideks lahutamisel - rühmade keskmiste dispersioon ja üksikvaatluste dispersioon ümber rühmade keskmiste (jääkhajuvus), kas rühmade keskmiste dispersioon on seletatav juhusega ehk siis üksikvaatluste dispersiooniga? Jääk:
Formaliseeritakse F-statistiku arvutamisega. F=MSmodel/MSerror MS=SS/df, mean square ehk keskruut. See SS on sum of squares ehk hälvete ruutude summa F põhjal leiame p, sealjuures df olulised siin juba kahed df-d: mudeli ja hälvete df-d mudeli omad: k-1; hälvete omad: n-k
+2 +2 +2 +2 +1 +1 +1 +1 0 0 0 0 - 2 - 2 - 2 - 2 4 3 -1 2 -1 1 -1 -1 SS model = SS(1, 2, 3, 4)*5 = 25 SS error = SS( +1,+2,-1,-2, 0, +1,+2,-1,-2, 0,+1,+2,-1,-2, 0, +1,+2,-1,-2, 0) = 40 MS model= SS model /3 = 8,33 MS error = SS error /16 = 2,5 F = 8,33/2,5 = 3,33; p = 0,046
Determinatsioonikordaja R2 =SSmodel/SStotal, mudel kirjeldab ehk seletab parasjagu niipalju muutlikkusest – accounts for …. % of variance; manipulatsiooni mõju iseloomustaja; Kirjutame: “toidutaime liigil oli mõju nukukaalule (F3,16 = 3,33, p=0,046)”, ka R2
R2 = 0 p = 1
R2 = 0,57 p = 0,022
R2 = 0,25 p = 0,27
R2 = 1 p = .... määramata
+2 +1 0 - 2 Natuke terminoloogiat: ühefaktoriline dispersioonanalüüs - ühe faktori järgi rühmad; ANOVA on tasakaaluline, kui kõikides rühmades on samapalju objekte; vaadeldud väärtus = ennustatud väärtus + jääk Kahe rühma puhul saab ka ikka teha
Aga ANOVA’l (ka t-testil) on eeldused: • rühmade sisesed jaotused normaalsed ja võrdse dispersiooniga rühma sees ja mitte kokku! Testida saab, aga ei pruugi olla kõige targem, analüüs robustne. Tee midagi, kui - ilmne jama - süstemaatiline jama. Teisendused, mitteparameetrilised meetodid, t-testi puhul ka erivariant ebavõrdsete dispersioonide jaoks
Muutujate teisendamine - sõltuv muutuja asendatakse mingi funktsiooniga temast, kui niisama pole normaaljaotust, siis teisendatult võib olla. Tavalisim: logaritmimine, kui pika sabaga paremale. Vaja midagi liita, kui nulle või negatiivseid. Liita ka siis kui “tugevust” vaja reguleerida. Muud: ruutjuur, ruutu tõstmine
Mitteparameetrilised meetodid • jaotusi ei saa sümmeetriliseks miski teisendusega, - siiski - võimsus väiksem; - vähem informatsiooni annab. • Mann-Whitney U-test (ehk Kruskal-Wallise testi - viimane nimi juhuks, kui võrreldavaid rühmi on rohkem kui kaks) • mediaanitest Või ka siis kui järjestustunnus.