732G71 Statistik B 8 hp

1. Linda Wänström och Elisabet Nikolic (Karl Wahlin) 732G71 Statistik B 8 hp

2. Mål och innehållhttp://www.ida.liu.se/~732G71/ind Mål: Tillägna sig metodik för att analysera samt tolka statistiska modeller för samband mellan variabler och statistiska modeller för tidsseriedata . Innehåll: Enkel och multipel linjär regressionsanalys Index Efterfrågeanalysmodeller Modeller för tidsseriedata Analys av data med hjälp av statistisk programvara

3. Kurslitteratur, examination och kontaktuppgifter Litteratur Bowerman, O’Connell, Koehler & Brooks (2005) 4th ed. Forecasting, timeseries, and regression Examination Salstentamen värd 5.5 hp den 2013-12-10 Projekt del 1: Index och efterfrågeanalys Projekt del 2: Tidsserieanalys Projektdelarna är tillsammans värda 2.5 hp och inlämning ska ske senast 2013-12-05 Närmare instruktion för projektarbetena läggs upp på kurshemsidan under veckan.

4. 732G71 Statistik B Enkel linjär regressionKapitel 3

5. Exempel

6. Spridningsdiagram

7. Att studera i ett spridningsdiagram Är sambandet linjärt?Undersök om punktsvärmen faller längs en tänkt rät linje. Lutar punktsvärmen?Om punktsvärmen lutar uppåt råder det ett positivt samband mellan variablerna: när den förklarande variabeln ökar så ökar också responsvariabeln. Om punktsvärmen lutar nedåt råder det omvända sambandet: när den förklarande variabeln ökar så minskar responsvariabeln. Hur starkt är sambandet?Titta på hur tätt observationerna ligger längs en tänkt rät linje. Om observationerna är mycket utspridda är sambandet svagt, medan sambandet kan betraktas som starkt om observationerna ligger nära tillsammans. Finns det några observationer som avviker kraftigt från övriga? Sådana observationer kallas outliers och kan (men behöver inte) bero på felmätningeller felinmatning.

8. Korrelationskoefficienten Matematiskt mått för graden av linjärt samband mellan två kvantitativa variabler. Korrelationskoefficienten antar värden mellan –1 och +1. Ju närmare –1 desto starkare negativt linjärt samband Ju närmare +1 desto starkare positivt linjärt samband Om korrelationskoefficienten är nära 0 finns inget linjärt samband

9. Tabell för tolkning av korrelationskoefficienten Vi tolkar absolutvärdet av korrelationskoefficienten (betecknas |r|) (med absolutvärdet menas att vi betraktar den observerade korrelationskoefficienten utan att ta hänsyn till dess tecken):

10. Enkel linjär regression Genom att rita in en rät linje i svärmen av observationer i spridningsdiagrammet, kan vi kvantifiera sambandet mellan de två variablerna och därmed få reda på hur mycket y-variabeln förändras när x-variabeln ökar en enhet. Det är viktigt att här tänka i termer av population och stickprov: vi har definierat en population, exempelvis alla anställda med en viss funktion vid ett stort företag och ur denna population har vi dragit ett OSU. Om vi drar ett nytt stickprov skulle vi få andra personer och därmed andra mätvärden. Denna slumpfaktor betyder att det finns två typer av modeller för att beskriva en regressionslinje: en teoretisk populationsmodell och en praktiskt använd stickprovsmodell.

11. Enkel linjär regressionPopulationsmodellen Den teoretiska regressionslinje vi skulle erhålla om vi hade tillgång till exakta mätningar för båda variablerna för samtliga enheter i populationen. Modellen uttrycks enligt där yi är observerade värden på responsvariabeln xiär observerade värden på förklaringsvariabeln β0är regressionslinjens intercept (dess skärning med y-axeln när x= 0) β1är regressionslinjens lutning εi är modellens feltermer. Vi återkommer till förklaring och analys av begreppet feltermer.

12. Enkel linjär regressionStickprovsmodellen Den modell vi använder när vi baserar modellen på ett stickprov: där yi är observerade värden på responsvariabeln xiär observerade värden på förklaringsvariabeln b0är regressionslinjens intercept (dess skärning med y-axeln när x = 0) b1är regressionslinjens lutning b0och b1kallas för stickprovsmodellens regressionsparametrar och är punktskattningar av populationsmodellens regressionsparametrar β0och β1

13. Skattning av stickprovsmodellens regressionsparametrar Värdena på b0 och b1 beräknas enligt Den metodik som används för att anpassa regressionslinjen till datamaterialet kallas minsta kvadratmetoden. Namnet kommer sig av att metodiken bygger på att minimera summan av det kvadrerade vertikala avståndet från varje punkt upp (eller ned) till regressionslinjen. Det finns andra skattningsmetoder, men minsta kvadratmetoden är den enklaste, mest intuitiva och också den vanligaste.

14. Spridningsdiagram med inritad regressionslinje b1 tolkas som hur mycket y-variabeln förändras när x-variabeln ökar med en enhet. b0 tolkas som vilken nivå y-variabeln ligger på när x = 0. b0 är bara tolkningsbar om x= 0 ingår i intervallet av insamlade x-värden (det så kallade observationsområdet).

15. Prognosticering En punktskattning av det förväntade värdet på y när x har värdet x*, vilket uttrycks fås enligt Generellt ska man akta sig för att göra prognoser för x-värden som ligger utanför observationsområdet (detta brukar kallas extrapolering), eftersom vi inte kan veta om trenden fortsätter att råda utanför det observerade intervallet eller om ett annat samband råder där. Istället lämpar sig regressionsmodellen bäst för att göra prognoser inom intervallet av observerade x‑värden (interpolering). Prognosticeringkräver försiktighet och eftertanke!

16. Förklaringsgrad Mått på hur stor andel av variationen i y‑variabeln som förklaras av den x‑variabel vi har med i modellen. Beräknas som korrelationskoefficienten i kvadrat: r2 Antar värden mellan 0 och 1, men uttrycks oftast i procent (0-100%).

17. Feltermer Om vi känner hela populationen för våra två variabler och anpassar populationsmodellen så är feltermernaεi de vertikala avvikelserna från varje observation till regressionslinjen. Men vi känner inte hela populationen och därför är också β0 och β1 okända. De skattas med punktskattningarna b0och b1 och eftersom dessa är slumpvariabler kommer de att anta olika värden varje gång vi drar ett nytt stickprov ur populationen. Detta innebär att feltermerna inte går att observera! Trots det innehåller feltermerna viktig information – hur ska vi få fram den?

18. Residualer Residualerna, ei, kan betraktas som skattningar av feltermernaεi, och beräknas Genom att studera residualerna kan vi undersöka hur välanpassad modellen är till data och detta kallas att göra en residualanalys. Eftersom residualerna är avvikelserna från respektive observation till regressionslinjen, vill vi att de ska vara så små som möjligt. Den enkla linjära regressionsmodellen baseras på antagandet att populationsmodellens feltermer(εi) har väntevärde 0, konstant varians, äroberoende samt är normalfördelade. Eftersom εiej är observerbara studerar vi iställer dessa egenskaper hos residualerna.

19. Residualanalys Den enkla linjära regressionsmodellen garanterar genom sin konstruktion att residualerna får medelvärde 0, därför uppfylls alltid detta krav. Att variansen är konstant undersöks normalt genom att göra ett spridningsdiagram med residualerna på y-axeln och modellens förklarande variabel på x-axeln. Diagrammet undersöks sedan med avseende på att residualerna är jämnt och slumpmässigt spridda kring noll Att residualerna är normalfördelade undersöks normalt genom att göra ett histogram över residualerna. Histogrammet undersöks sedan med avseende på om residualerna är normalfördelade. Att residualerna är oberoende går däremot i normalfallet inte att undersöka, men man kan och bör fundera över hur stickprovet har dragits: har en urvalsdesign använts som kan antas ge oberoende mellan observationerna och därmed mellan residualerna? Var också observant på förekomsten av outliers bland residualerna.

20. Spridningsdiagram av residualerna för exempeldata

21. Histogram av residualerna för exempeldata

22. Hypotesprövning av lutningsparametern Figuren åskådliggör sambandet mellan variablerna X och Y för en population. Antag att vi ur populationen slumpmässigt dragit de enheter som markeras med röda punkter. Baserat på det stickprovet skulle vi dra slutsatsen att det föreligger ett positivt samband mellan X och Y. Men betraktar vi hela populationen är det uppenbart att det inte föreligger något samband – lutningen på en regressionslinje anpassad till hela populationen skulle bli mycket nära noll! Regressionsparametrarna b0och b1är slumpvariabler. Av detta följer att när vi tolkar sambandet mellan responsvariabeln och förklaringsvariabeln med hjälp av lutningsparametern b1baseras denna tolkning på en slumpvariabel. För att hantera osäkerheten som detta medför genomför man ofta en hypotesprövning av om populationsmodellens lutningsparameter β1 är noll.

23. Hypotesprövning av lutningsparametern Regressionsmodellens standardavvikelse, ofta kallad residualspridningen Steg 1: Välj signifikansnivå och formulera hypoteser Steg 2: Bestäm testvariabeln där

24. Hypotesprövning av lutningsparametern Steg 3: Ska vi tro på H0 eller Ha? Om Ha: β1 < 0ligger det kritiska området till vänster om det kritiska värdet tn-2; α Om Ha: β1> 0ligger det kritiska området till höger om det kritiska värdet tn-2; 1-α Om Ha: β1≠ 0har vi kritiska områden både till vänster och höger om de kritiska värdena som är tn-2; α/2respektive tn-2; 1-α/2 Steg 4: Dra slutsats

25. Konfidensintervall för lutningsparametern

26. Intervall för prognosticering En punktskattning av y när x = x* beräknas enligt Det finns två typer av intervall för prognosticering: Konfidensintervall, om vi vill dra slutsatser om den sanna genomsnittsnivån µx* för enheter med x = x* Prognosintervall, om vi vill dra slutsatser om en enskild enhets nivå yx* när x = x*

27. Enkel linjär regression i datorn Regression Analysis: Försäljning versus Marknadsföring The regression equation is Försäljning = 146 + 15.7 Marknadsföring Predictor Coef SE Coef T P Constant 145.6 105.1 1.39 0.215 Marknadsföring 15.681 6.227 2.52 0.045 S = 140.461 R-Sq = 51.4% R-Sq(adj) = 43.3% Utskrift från Minitab 16

28. Multipel linjär regressionPopulationsmodellen där yi är observerade värden på responsvariabeln x1,iär observerade värden på den första förklaringsvariabeln xp,iär observerade värden på den p:te förklaringsvariabeln β0är regressionsmodellens intercept β1är regressionsparameter för den första förklaringsvariabeln βpär regressionsparameter för den p:te förklaringsvariabeln εi är modellens feltermer, som liksom för den enkla linjära regressionsmodellen ska ha väntevärde 0, konstant varians, vara oberoende och normalfördelade.

29. Multipel linjär regressionStickprovsmodellen Den modell vi använder när vi baserar modellen på ett stickprov: där b0är regressionsparameter för den första förklaringsvariabeln bp är regressionsparameter för den p:te förklaringsvariabeln Det lämpar sig inte att anpassa en multipel linjär regressionsmodell med handräkning. För det är formlerna alldeles för långa och omständliga, och vi är hänvisade till att använda datorn för att bestämma regressionsparametrarnas värden.