Lineárny regresný model

1. Lineárny regresný model Damodar Gujarati Econometrics by Example

3. Priregresenej a korelačnejanalýzepôjde • skúmanie príčinnej - kauzálnej závislosti,skúmanie vzťahovmedzi príčinou a účinkomkedy jeden resp viac javov (znakov, nezávisle prememnných veličín ) vyvoláva účinok - výsledný jav - závisle prememnnú veličinu Y = f (X1 X2…...Xk ,Bo , B1 ,….Bp )+e Nezávislé premenné veličiny - príčiny Neznáme parametre funkčného vzťahu Náhodné, Nešpecifikovanévplyvy Závislé premenná - účinok

4. Príklad zdanlivej korelácie Jedna z preslávených zdanlivých korelácií : ak sa dĺžka sukní skracuje kurzy akcií stúpajú . Odhliadnúc od toho, že to nie vždy platí, išlo by skutočneo zdanlivú, alebo nezmyselnú koreláciu

5. Damodar Gujarati Econometrics by Example

6. Opakomštatistickejzávislosti je funkčnázávislosť Y = f(X1 X2…...Xk ,Bo , B1 ,…., Bp) kedy je závisle prememnná veličinajednoznačne určená funkčným vzťahom, príklady z fyziky, chémie - takýto druh vzťahov nie je predmetom štatistického skúmania

7. Regresná analýza • regresná úloha (RÚ) jej podstatou je a) nájsť funkčný vzťah podľa ktorého sa mení závislé premenná so zmenou nezávisle premenných - nájsť vhodnú regresnú funkciu. b) Súčasne je potrebné odhadnúť parametre regresnej funkcie.

8. Lineárny regresný model • Všeobecná forma viacnásobného regresného modelu: • Yi = B1 + B2X2i + B3X3i + … + BkXki + ui • Skrátená forma: • Yi =BX + ui • Yvysvetlovaná premenná (regressand), Xje vektor vysvetlujúcich premenných (regressorov), and uje náhodná chyba (reziduá). Damodar Gujarati Econometrics by Example

9. Regresné koeficienty • B1je lokujúca konštanta - vyjadruje očakávanú úroveň závislé premennej pri nulovej hodnote nezávisle premennej • B2ažBksú regresné koeficienty (smernice) • Každý regresný koeficient meria (parciálnu) mieru zmeny v priemernej hodnote Y pri jednotkovej zmene v hodnote vysvetlujúcej premennej, ceteris paribus. Damodar Gujarati Econometrics by Example

10. Typy údajov • Časové rady • Súbor pozorovaní ktoré nadobúda premenná v rôznych časových obdobiach ako napríklad denné (napr. ceny akcií), Týždenné(napr. ponuka peňazí), mesačné (napr. miera nezamestnanosti), kvartálnečiže štvrťročné (napr. HDP), ročné (napr.štátny rozpočet), päťročné (napr. sčítanie výrobcov), alebo desaťročné (napr. sčítanie obyvateľov). Damodar Gujarati Econometrics by Example

11. Typy údajov • Prierezové údaje • Údaje o jednej alebo viacerých premenných získané v jednom bode v čase. • Príkladom sú napríklad sčítanie obyvateľov vykonávané štatistickým úradom, rôzne prieskumy preferencií, či namerané teploty v danom čase na rôznych miestach. Damodar Gujarati Econometrics by Example

12. Typy údajov • Panelové, longitudálne alebo mikropanelové údaje • Kombinujú prvky oboch predchádzajúcich, tak časových radov ako aj prierezových údajov • Rovnaké prierezové jednotky sú sledované v čase Damodar Gujarati Econometrics by Example

13. Metóda najmenších štvorcov • Metóda najmenších štvorcov (MNŠ) neminimalizuje sumu odchýlok,ale minimalizuje sumu štvorcov odchýlok: • Pre získanie regresných koeficientov sú parciálne derivácie podla jednotlivých regresných koeficientov dané do rovnosti s nulou. Damodar Gujarati Econometrics by Example

14. Klasický lineárny regresný model • Predpoklady klasického lineárneho regresného modelu (CLRM): • A-1: Model je lineárny v parametroch. • A-2: Vysvetľujúce premenné sú nestochastické a konštantné v opakovaných výberoch. • A-3: Pre dané X, stredná hodnota reziduí je 0, aleboE(ui |X) = 0. Damodar Gujarati Econometrics by Example

15. Klasický lineárny regresný model • Predpoklady klasického lineárneho regresného modelu: • A-4: Homoskedastický, alebo konštantný rozptyl ui, zapísané ako var(ui|X) = σ2. • A-5: Žiadna autokorelácia rezíduí, alebo cov(ui,uj|X) = 0, i ≠ j. • A-6: Žiadna multikolinearita, teda žiadna perfektná lineárna závislosť medzi vysvetľujúcimi premennými. • A-7: Žiadne chyby špecifikácie. Damodar Gujarati Econometrics by Example

16. GAUSS-MARKOV TEORÉM • Na základe predpokladov A-1 až A-7, dáva MNŠ najlepšie lineárne nevychýlené odhady ak: • (1) Estimátory sú lineárnou funkciou závisle premennej Y. • (2) Estimátory sú nevychýlené; pri opakovanom použití metódy dosahujú odhady svoje skutočné hodnoty. • (3) V kategórii lineárnych odhadov, estimátory majú estimátory získané metódou najmenších štvorcov minimálny rozptyl; teda sú efektívnymi alebo aj „najlepšími“ odhadmi. Damodar Gujarati Econometrics by Example

17. Testovanie hypotéz: t TEST • Testujeme nasledujúce hypotézy: • H0: Bk = 0 • H1: Bk ≠ 0 • vypočítame testovaciu štatistiku podľa nasledujúceho vzorca a použijeme tabuľky studentovho rozdelenia aby sme získali t kritické sn-kstupňami voľnosti pre danú hladinu významnosti (aleboα, rovné 10%, 5%, alebo 1%): • Pokiaľ je táto hodnota vačšia akotkritické, zamietneme H0. Damodar Gujarati Econometrics by Example

18. Testovanie hypotéz: t TEST • Alternatívnou metódou je určiť, či sa v intervale spolahlivosti nachádza 0: • Pokiaľ nula leží v intervale spoľahlivosti nemôžeme zamietnuť H0. • p-valueoznačuje presnú hladinu významnosti, alebo najnižšiu hladinu významnosti na ktorej môžeme zamietnuť H0. Damodar Gujarati Econometrics by Example

19. Koeficient determinácie, R2 • Koeficient determinácie je všeobecnou mierou presnosti modelu. • Percentuálny podiel celkovej variability závislej premennej ktorá je vysvetlená nezávislými premennými. • Nadobúda hodnoty medzi 0 a 1 <0% , 100%>. • Nech: • Potom: Damodar Gujarati Econometrics by Example

20. Index korelácie a index determinácieV základnom súbore Iyx odhadom z výberových údajov jeiyxest Iyx = iyx . Princíp spočíva v rozklade variabilityzávisle premennne Y Variabilita nevysvetlená regresnou funkciou - reziduálna variabilita Variabilita závisle premennej vysvetlená regresnou funkciou Celková variabilita závisle premennej

21. Index korelácieiyx Index determinácie iyx2 v %

22. Testovanie hypotéz: F TEST • Testovanie nasledujúcich hypotéz je ekvivalentné testovaniu hypotéz že sú všetky regresné koeficienty rovné 0: • H0: R2 = 0 • H1: R2 ≠ 0 • Vypočítame nasledujúcí vzťah a použijeme tabuľky F rozdelenia pre získanie kritickej F hodnoty s k-1stupňami voľnosti v čitateli an-kstupňami voľnosti v menovateli pre danú hladinu významnosti: • Pokiaľ je vypočítaná hodnota vyššia ako F kritické zamietame, H0. Damodar Gujarati Econometrics by Example

24. Funkčné formy regresných modelov Damodar Gujarati Econometrics by Example

25. LOG-LINEÁRNY, LOG-LOG, ALEBO MODEL S KONŠTANTNOU ELASTICITOU • Cobb-Douglasova produkčná funkcia: • môže byť transformovaná na lineárny tvar po zlogarigmovaní oboch strán: • Regresné koeficienty môžu byť interpretované ako elasticity. • Ak (B2+ B3) = 1, konštantné výnosy z rozsahu. • Ak (B2+ B3) > 1, rastúce výnosy z rozsahu. • Ak (B2+ B3) < 1, klesajúce výnosy z rozsahu. Damodar Gujarati Econometrics by Example

26. LOG-LIN alebo rastový model • Miera rastu reálneho GDP: • môže byť transformovaný na lineárny po zlogaritmovaní oboch strán: • Pokiaľ B1 = ln RGDP1960 a B2 = ln (l+r), môžeme to prepísať nasledovne: • ln RGDPt = B1 +B2t • B2je semi-elasticita, alebo aj okamžitá miera rastu. • Zložená miera rastu (r) je rovná (eB2 – 1). Damodar Gujarati Econometrics by Example

27. LIN-LOG MODEL • Lin-log má všeobecnú formu: • Všimnite si že B2je absolútnou zmenou vYzodpovedajúcou percentuálnej (alebo relatívnej)zmene v X • Ak X vzrastie o 100%, predikovanéYvzrastie o B2jednotiek • Používané pri odhade Engelovej výdajovej funkcie: “Celkové výdavky vynaložené na potraviny rastú aritmetickou mierou zatial čo celkové výdavky rastú geometrickou mierou.” Damodar Gujarati Econometrics by Example

28. Reciproký regresný model (hyperbola) • Všeobecná forma modelu: • Všimnite si že: • AkXvzrastie nekonečne, člendosiahne nulu a Y dosiahne limitnú teda asymptotickú hodnotu B1. • Sklon sa vypočíta: • Platí teda, akB2je pozitívne, sklon je negatívny, a pokiaľB2je negatívne, sklon je pozitívny. Damodar Gujarati Econometrics by Example

29. POLYNOMICKÉ REGRESNÉ MODELY • Nasledujúci príklad modelu predikujúceho HDP je príklad kvadratickej funkcie, alebo vo všeobecnosti, polynóm druhého stupňa vysvetlujúcej premennej čas: • Sklon je nelineárny: Damodar Gujarati Econometrics by Example

30. Zhrnutie funkčných foriem Damodar Gujarati Econometrics by Example

31. Štandardizované premenné • Problému s premennými meranými v rozdielnych jednotkách môžeme predísť ich vyjadrením v štandardizovanom tvare: • kdeSY a SXsú výberové štandardné odchýlky a sú výberové priemeryY a X • Stredná hodnota štandardizovanej premennej je vždy nulová a jej štandardná odchýlka je vždy 1. Damodar Gujarati Econometrics by Example

32. Miery kvality modelu • R2: Meria podiel variability závisle premennej ktorá je vysvetlená nezávisle premennými, resp. modelom. • KorigovanýR2: označuje sa ako , zohľadňuje počet vysvetľujúcich premenných v modeli: • Akaikeho informačné kritérium(AIC): Tvrdšie penalizuje pridanie ďalších premenných do modelu: • Zvyčajne je vybratý model s najnižšou hodnotou AIC. • Schwarzove informačné kritérium (SIC): Alternatívak AIC kritériu vyjadrená ako: • Penalizačný faktor je prísnejší ako pri AIC. Damodar Gujarati Econometrics by Example