710 likes | 1.69k Views
BASİT REGRESYON VE KORELASYON ANALİZİ. Regresyon, iki yada daha çok değişken arasındaki ortalama ilişkinin matematiksel bir fonksiyonla incelenmesidir. Değişkenler arasındaki ilişkinin derecesi ve yönü ise korelasyon analizi ile açıklanır.
E N D
BASİT REGRESYON VE KORELASYON ANALİZİ • Regresyon, iki yada daha çok değişken arasındaki ortalama ilişkinin matematiksel bir fonksiyonla incelenmesidir. Değişkenler arasındaki ilişkinin derecesi ve yönü ise korelasyon analizi ile açıklanır. • Değişkenler arasındaki ilişkilere bazı örnekler vermek gerekirse; • İnsanların boyları ile kiloları • Futbol takımlarının çalışma süreleri ve maç skorları toplamları • Öğrencilerin çalışma miktarları ve sınav notları • Bir malın fiyatı ve talep miktarı • Bir ürünün verimi ve verilen gübre miktarı, vb.
Değişkenler arasındaki ilişkiler aşağıdaki gibi sınıflandırılabilir: • Belirleyici (deterministik) ilişkiler • Yarı belirleyici ilişkiler • Deneysel (ampirik, stokastik) ilişkiler Kesin (Deterministik) Model Değişkenler arasında kesin bir ilişki olduğunu varsayan modeller, kesin (deterministik) modeller olarak adlandırılmaktadır. Örneğin arz miktarı y'nin, fiyat düzeyi x'in tam bir buçuk katı olduğuna inanıyorsak: y=1.5x Bu denklem, x ve y değişkenleri arasındaki kesin bir ilişkiyi temsil etmektedir.Bu tahmindehata payı yoktur.
Eğer arz miktarında,önemli fakat ele alınmayan değişkenlerin veya tesadüfi olguların yol açtığı açıklanmayan değişimlerin olacağına inanıyorsak,kesin model yerine tesadüfi hataya yer veren modelden yararlanmamız gerekir.Olasılıklı model hem kesin öğeyi hem de tesadüfi hata öğesini içerir. Örneğin eğer arz miktarı y'nin, fiyat düzeyi x ile: y = 1.5x + Tesadüfi Hata şeklinde bir ilişkisi olduğunu düşünüyorsak, x ile y arasında olasılıklı bir ilişki olduğunu anlarız. Görüldüğü gibi, olasılıklı modelin kesin öğesi 1.5x’tir. Stokastik (Olasılıklı) Model
Kesin (Deterministik) veStokastikOlasılıklı Model... Bu kez grafikten yararlanalım: Kesin Model: y=1.5x Olasılıklı Model: y=1.5x + Tesadüfi hata
Yarı belirleyici ve deneysel ilişkilerin (stokastik) incelenmesi regresyon analizinin kapsamına girmektedir. • Regresyon analizinde değişkenler iki grup altında incelenir: • Bağımsız değişkenler (açıklayıcı değişkenler) • Bağımlı değişkenler Bağımlı değişken: Modelin ifade ettiği olay tarafından belirlenirken, Bağımsız değişken: Modelin ifade edilen olaydan bağımsız olan verileridir.
Örneğin kişilerin gelirlerinin değişmesi, harcama miktarlarının da değişmesine neden olur. Bu durumda gelir bağımsız değişken, harcama miktarı ise bağımlı değişkendir. Regresyon analizinde genellikle bağımsız değişkenler (X) , bağımlı değişkenler (Y) ile gösterilirler.
Basit doğrusal regresyondaki basit kelimesi iki değişken arasındaki ilişkiyi açıklamak için kullanılır. Doğrusal kelimesi, kurulan modelin parametreleri açısından doğrusal bir model olmasındandır. İki değişken arasındaki en basit ilişki, bir doğru ile açıklanabilen ilişkidir. Y Genel olarak bir doğrunun matematik gösterimi: Y=0+ 1X şeklindedir. Burada 1 , eğimdir ve X’teki 1 birimlik değişmenin Y’de yaptığı değişikliği gösterir. X 0 ise X’in değeri 0 olduğunda Y’nin almış olduğu değerdir ve Y ekseninin kesme noktası olarak isimlendirilir.
Değişkenler arasındaki ilişki Doğrusal olmayan ilişki Doğrusal ilişki
Regresyon Parametrelerinin Tahmininde Kullanılan Metod EKK Metodu Orjin kaydırma Çözüm Yöntemi Determinantlarla Çözüm Yolu Normal Denklemlerle Klasik Çözüm Yolu
EN KÜÇÜK KARELER (EKK) YÖNTEMİ İLE BİR DOĞRUNUN UYUMU 1. NORMAL DENKLEMLER Gözlemleri en iyi açıklayan doğrunun belirlenmesi için çeşitli yöntemler ileri sürülebilir. Fakat günümüzde en çok kullanılan yöntem “En Küçük Kareler” adı verilen yöntemdir. Bu yöntem gözlemlerin belirlenen doğrudan uzaklıklarının (hata terimlerinin) karelerinin toplamının en küçük yapılmasına dayanır. modelinde hata terimi: olarak yazılabilir. Bu ifadenin karesi alınıp tüm gözlemler için toplanırsa: ifadesi elde edilir. EKK yöntemine göre bu ifadeyi minimize eden b0 ve b1 değerleri 0 ve 1’in tahmincileri olur.
İfadesini minimize eden parametre tahmincilerinin değerlerini bulabilmek için eşitliğin 0 ve 1’e göre türevleri alınıp 0’a eşitlenir. 0’a göre türev alınırsa; 1’e göre türev alınırsa; Her iki denklemi de 0’a eşitlersek;
Parantezleri açarsak; Bu denklemlere doğrunun NORMAL DENKLEMLERİ denir. Normal denklemler alt alta yazılıp birlikte çözüldüklerinde b0 ve b1 tahmincileri bulunur. şeklindeki formüller yardımıyla da tahminciler bulunabilir.
3.ORJİN KAYDIRMA YÖNTEMİ Orjini kaydırsakta kaydırmasakta doğrunun eğimi değişmeyeceğinden istersek modele tekrar b0’ ı ekleyebiliriz. Olarak gösterirsek olacağından alınarak Olur. Burada hata karelerini minimum yapmak için aşağıdaki yol izlenir. yerine konulursa veya Bulunur.
Bir fabrikada taşıma işleri için kullanılan tırların yaşı ile bakım harcamaları arasındaki ilişkiyi ele alalım. Verilerin grafiği çizildiğinde tam olarak düz bir doğrunun üzerinde olmadıkları, fakat tırlar eskidikçe bakım harcamalarının da arttığı görülmektedir. Burada bağımsız değişken yaş, bağımlı değişken ise bakım harcamalarıdır, çünkü yaş değiştikçe bakım harcamaları değişiklik göstermektedir. Pratiklik olması açısından yaş ve bakım harcaması arasındaki ilişkinin bir doğru şeklinde olduğunu varsayarsak, bu modelin matematik gösterimi: Bakım harcaması Hata terimi yaş
e hata terimi, tır için yapılan harcamanın, ilişkiyi açıklayan doğrudan ne kadar saptığını gösterir. Tırların yaşı ile yapılan bakım harcamaları arasındaki gerçek ilişkiyi belirleyen model henüz belirlenmiş değildir. Bunun için modelde bulunan parametrelerin (0 ve 1) bilinmesi gerekir. 0 ve 1 birer parametre olduklarından, gerçek değerlerinin bulunması için taşıma işinde kullanılan tüm tırların (populasyonun) bakım harcamaları ve yaşlarının bilinmesi gerekmektedir. Bu da çoğu zaman imkansız olduğundan elimizdeki örneği kullanarak parametreleri tahminleriz veya başka bir ifade şekliyle grafikteki noktalara en iyi uyan bir doğruyu buluruz.
Böylece veri noktalarımızdan geçen en iyi doğru denklemi: Gerçek Y’nin tahmincisi Traktör örneğimiz için gereken hesaplamaları yapıp normal denklemleri oluşturalım: 72725 = 12b0+42b1 311525= 42b0 +188b1 35*(72725 = 12b0+42b1) 311525= 42b0 +188b1 254537.5 =42b0 +147b1 311525 = 42b0 +188b1 - -56988 = -41b1 b1=1390
72725 =12b0 +42b1 72725 =12b0 +42*1390 b0 = 1195 Tahmincileri elde etmek için normal denklemler yerine formüller kullanılırsa da aynı sonuçlar elde edilir. Doğrunun denklemi: Hesaplanan bu denklem kullanılarak yaşını bildiğimiz bir tır için yapılacak ortalama bakım masrafını tahmin edebiliriz. Örneğin x=4 yaşındaki bir tır için bakım masrafları: olarak bulunur.
Örnek: Firmanın 1993-1999 yılları arasındaki yıllık satışları aşağıda verildiği gibidir. Bu verilere dayanarak regresyon (yalın regresyon) denkleminin tahminlenmesi istenmektedir.(satışlar 1000 br olarak) Paremetrelerin E.K.K.tahminlerini elde etmek için Y = - 4.2 +10.7 x şeklinde regresyon denklemi elde edilir.
Determinant metodu ile parametre tahminlerinin hesaplaması ise ; orjin kaydırma ile parametre tahmini ise; Yıllar Y x xY x2 Y2 1993 15 -3 -45 9 225 1994 18 -2 -36 4 324 1995 25 -1 -25 1 625 1996 30 0 0 0 900 1997 40 1 40 1 1600 1998 60 2 120 4 3600 1999 82 3 246 9 6724 270 300 28 13998 Y = 38.5 + 10.7 x
Y=38.5+10.7x modeli de yapılacak aynı tahminler de aynı sonucu verecektir. Modeli için • 2001 yılı satışları ne olacaktır? • Y=38.5+10.7(5)=92 br. a) 2001 yılı satışları ne olacaktır? Y2001=-4.2+10.7(9)=92.1 b) Hangi yıl 100 birim satar? b) Hangi yıl 100 birim satar? 100=38.5+10.7 x x=5.7 (2001 yılı 8 inci ayı ortaları) 100 = -4.2 + 10.7 x x = 9.7 2001 yılı 8 inci ayın ortalarında
REGRESYON DENKLEMİNİN İNCELENMESİ Regresyon denklemini incelerken genellikle bizi en çok ilgilendiren soru incelediğimiz iki değişken arasında gerçekten bir ilişki olup olmadığı sorusudur. Bu soru aslında basit doğrusal regresyonda 1’in değerinin 0 olup olmadığının araştırılmasıdır. Bu araştırmayı yaparken istatistiksel testle kullanmak gerektiğinden hata terimi ve parametre tahmincilerinin dağılışları hakkında bazı varsayımlarda bulunmak gerekir. Hata terimi e’ler, ortalaması 0 ve varyansı olan birbirinden bağımsız normal dağılışlar gösterirler. E(e)=0 Var(e)= s2 - Tahminin Standart Hatası ve Varyansı Tahminin standart hatası s, noktaların regresyon doğrusu etrafındaki dağılımlarının ortalama bir ölçüsünü verir.
Tahminlenen Regresyonun Duyarlılığı Regresyon doğrusu Gözlem değeri (Y) Y ortalama doğrusu Yi tahmin değeri Regresyon denklemi tahminlendikten sonra bu denklemin ilişkiyi ne derece açıkladığı ve bu denklem kullanılarak yapılacak tahminlerin ne derece hassas olacağının araştırılması gerekir. Bunun için gözlenen değerler ile tahmini değerleri arasındaki farkı yazıp y’lerin ortalamasını buna ekleyip çıkarırsak aşağıdaki ifadeyi elde ederiz. Bu ifadenin grafiksel karşılığı şekilde görülmektedir. e
Gözlem değeri (Y) Regresyon doğrusu Y ortalama doğrusu Yi tahmin değeri Daha sonra her iki tarafın kareleri alınıp tüm gözlemler için toplanırsa; İfade tekrar düzenlenirse: Ortalama etrafındaki kareler toplamı (genel KT) Regresyon kareler toplamı Regresyondan sapmalar (hata) kareler toplamı
Gözlem değeri (Y) Regresyon doğrusu Y ortalama doğrusu Yi tahmin değeri Eğer gözlenen değerlerin hepsi tahmin edilen doğru üzerinde olsaydı, hata kareler toplamı “0” olacak ve uyumun çok iyi olduğu söylenebilecektir. Bu bilgiyi kullanarak, regresyon doğrusunun ne derece iyi tahminlenmiş olduğunu regresyon kareler toplamının ortalama etrafındaki kareler toplamına oranına bakarak söyleyebiliriz. Bu orana BELİRLEME KATSAYISI adı verilir ve R2 ile gösterilir. R2’nin 1’e yaklaşan değerleri bize uyumun iyi olduğunu belirtir. (0<R2<1) Şekilden de görüldüğü gibi, regresyon kareler toplamının büyümesi, gözlem değerinin tahminlenmiş regresyon doğrusuna yaklaşması anlamına gelmektedir ve bu da belirleme katsayısını arttırır.
Hesaplama kolaylığı açısından kareler toplamları formülleri aşağıdaki şekilde de kullanılabilir: Genel kareler toplamı (GKT) Regresyon kareler toplamı (RKT) Hata kareler toplamı (HKT)
Korelasyon Katsayısı Korelasyon katsayısı, regresyon modeli ile bulunan tahmini Y değerlerinin, gerçek değerlere uygunluğunu ölçmede kullanılır. Korelasyon katsayısı -1 ile 1 arasında değişir. Katsayının -1 çıkması, iki değişken arasında ters yönlü tam bir ilişkinin olduğunu, 1 çıkması ise doğru yönlü tam bir ilişkinin olduğunu ifade eder. Katsayının -1’e doğru yaklaşması, değişkenler arasında ters yönlü kuvvetli bir ilişkiyi gösterirken, 1’e yaklaşması değişkenler arasında doğru yönlü kuvvetli bir ilişkiyi ifade eder. Korelasyon katsayısının işareti, regresyon doğru veya eğrisine ait eğim katsayısının işaretidir. Korelasyon katsayısının karesi, belirleme katsayısını determinasyon katsayısını) verir.
Sınırlı sayıda veri üzerinden hesaplanan korelasyon katsayısı bir istatistiktir ve r ile gösterilir.Bu istatistiğin anakütle parametresi olarak karşılığı ’dur. Korelasyon katsayısı için genel formül; yada Bu formülde;
Bütün bu değerler n katsayısı ile çarpılırsa sonuç değişmez ve korelasyon katsayısı; Hesaplanan korelasyon katsayısının gerçekten önemli olup olmadığını anlamak için belirli bir önem seviyesinde test etmek gerekir. Doğrusal korelasyon katsayısının önemli olup olmadığını test ederken test hipotezleri,
v=n-2 sd. ve değerlerine göre t kritik değerleri tespit edilir. Test istatistiği; korelasyon katsayısının standart hatasıdır.
Test istatistiği, mutlak olarak kritik değerden büyük çıktığında X ile Y değişkenleri arasında önemli bir ilişki olduğunu söyleyebiliriz. Bununla birlikte bu değişkenlerin arasında mantıki bir ilişkinin bulunması şarttır. Bazen hiç alakası olmayan değişkenler arasında da yüksek bir korelasyon çıkabilmektedir.Bu tip korelasyonlara sahte korelasyon denir. ÖRNEK Bir süper market yöneticisi tesadüfi olarak seçilen bir saatlik sürelerde kasaya gelen müşteri sayısını ve ödedikleri toplam para miktarını aşağıdaki gibi kaydetmiştir. Müşteri Sayısı 25 20 50 35 40 Ödenen Para 12.5 10.4 25.3 20.2 24.1 (10000 TL)
Müşteri sayısını bağımsız (X), kasalara ödenen para miktarını bağımlı değişken olarak kabul ederek, doğrusal korelasyon katsayısı; formülü ile kolayca hesaplanabilir. Toplam
Korelasyon katsayısının önemli olup olmadığı %5 önem düzeyinde test edilirse, test hipotezleri şeklinde kurulur. v=n-2=5-2=3 sd. ve önem seviyesine göre kritik değerler ‘dir.
Test istatistiği, kritik t değerinden büyük olduğu için %5 önem seviyesinde H0 hipotezi red edilerek hesaplanan doğrusal korelasyon katsayısının önemli olduğuna karar verilir.
Katsayıların Standart Hataları E(b0)=0 E(b1)=1 Katsayıların Güven Aralıkları
Parametrelerin teker teker anlamlılığı testi: Sabit terim 0’ın testi için hipotezler: H0 :0=0 test istatistiği: H1 :00 Eğim katsayısı 1‘in testi için hipotezler: H0 :1=0 test istatistiği: H1 :10 t istatistiği değerleri genelde paket programlar tarafından hesaplanıp verilmektedir. Hesaplanan test istatistikleri (n-2) serbestlik dereceli t dağılışı değeri ile kontrol edilir.
Regresyon doğrusunun tüm parametrelerinin istatistiksel açıdan anlamlı olup olmadığını test etmek için önce Varyans Analizi Tablosu aşağıdaki şekilde oluşturulur: Daha sonra sabit terim dışındaki parametrelerin 0’dan farklı olup olmadığı hipotezi test edilir. H0 : 0=1=0 H1 : 0=10 Test İstatistiği: Serbestlik derecesi: 1, (n-2)
TAHMİNİN VARYANSI VE GÜVEN ARALIĞININ BULUNMASI Regresyon denkleminin elde edilmesinin en önemli amaçlarından biri bağımsız değişkenin herhangi bir değeri için Y’nin alacağı değerin tahminlenmesidir. şeklinde hesaplanan bu tahminin, varyansı ve o noktadaki gerçek değer için güven aralıklarının bulunması istenir. Bu tahminin varyansı: Hatanın varyansı yada Xk noktasında Y’nin alacağı ortalama değer için güven % (1- )’lık güven aralığı:
Örnek:1996-2005 yıllarındaki Türkiye’nin turizm gelirleri ile Türkiye’ye gelen turist sayısı tabloda verilmiştir.
Turizm Gelirleri ile Yabancı Ziyaretçi Sayısı verileri arasındaki dağılma diyagram
Doğrusal tüketim fonksiyonunun normal denklemler yoluyla tahmini: Tablo 2: Verilerin normal denklemler ile çözüm için düzenlenmesi
Doğrusal tüketim fonksiyonunun normal denklemler yoluyla tahmini: Y = b0.n + b1.X YX = b0.X + b1. X2 84.96 = b0.10 + b1. 123.4 1153.13= b0.123.4 + b1. 1686.4 b0=0.597 b1=0.640 Yabancı ziyaretçi sayısı arttıkça turizm geliri artmaktadır.
Doğrusal gelir fonksiyonunun ortalamadan farklara göre tahmini
Katsayıların standart hata ve varyansları: (0.367) (0.028) (1.626) (2.306)
Katsayıların güven aralıkları 0.597 2.306. (0.367) 0.640 2.306 . (0.028) 0.640 0.0645 0.597 0.8463 0.5755 b1 0.7045 0.2493 b0 1.4433 Katsayıların anlamlılıklarını testi = 1.626 H0 : b0= 0 H1 : b0 0 thes =1.626 < t0.05/2 , 8= 2.306 H0 Kabul b0 istatistiki olarak anlamsız
H0 : b1= 0 H1 : b1 0 t0.05/2 , 8 = 2.306 thes =22.85 > t0.05/2, 8= 2.306 H0 Red b1istatistiki olarak anlamlı
(0.367) (0.028) (1.626) (2.306) Genel kareler toplamı (GKT) Regresyon kareler toplamı (RKT) Hata kareler toplamı (HKT) X2=1686.4501 X=123.416 Y=84.966 Y2 =789.8721