1 / 42

HIỆN TƯỢNG ĐA CỘNG TUYẾN (MULTICOLLINEARITY)

HIỆN TƯỢNG ĐA CỘNG TUYẾN (MULTICOLLINEARITY). CHƯƠNG 6. ĐA CỘNG TUYẾN. Hiểu bản chất và hậu quả của đa cộng tuyến Biết cách phát hiện đa cộng tuyến và biện pháp khắc phục. MỤC TIÊU. NỘI DUNG. Bản chất, nguyên nhân của đa cộng tuyến. 1. Ước lượng các tham số. 2. 3. Hậu quả. 4.

ethan-bentley
Download Presentation

HIỆN TƯỢNG ĐA CỘNG TUYẾN (MULTICOLLINEARITY)

An Image/Link below is provided (as is) to download presentation Download Policy: Content on the Website is provided to you AS IS for your information and personal use and may not be sold / licensed / shared on other websites without getting consent from its author. Content is provided to you AS IS for your information and personal use only. Download presentation by click this link. While downloading, if for some reason you are not able to download a presentation, the publisher may have deleted the file from their server. During download, if you can't get a presentation, the file might be deleted by the publisher.

E N D

Presentation Transcript

  1. HIỆN TƯỢNG ĐA CỘNG TUYẾN(MULTICOLLINEARITY) CHƯƠNG 6

  2. ĐA CỘNG TUYẾN • Hiểubảnchấtvàhậuquảcủađacộngtuyến • Biếtcáchpháthiệnđacộngtuyếnvàbiệnphápkhắcphục MỤC TIÊU

  3. NỘI DUNG Bản chất, nguyên nhân của đa cộng tuyến 1 Ước lượng các tham số 2 3 Hậu quả 4 Phát hiện đa cộng tuyến Khắc phục đa cộng tuyến 5

  4. Nguồn: Ramu Ramanathan

  5. 6.1 Bản chất của đa cộng tuyến Khi lập mô hình hồi quy bội Có sự phụ thuộc tuyến tính cao giữa các biến giải thích gọi là đa cộng tuyến. a. Đa cộng tuyến hoàn hảo Tồn tại 2, 3,… k không đồng thời bằng 0 sao cho 2X2 + 3X3 + …+ kXk = 0 Nói cách khác là xảy ra trường hợp một biến giải thích nào đó được biểu diễn dưới dạng một tổ hợp tuyến tính của các biến còn lại.

  6. 6.1 Bản chất của đa cộng tuyến b. Đa cộng tuyến không hoàn hảo 2X2 + 3X3 + …+ kXk + vi= 0 Với vi là sai số ngẫu nhiên thì ta có hiện tượng đa cộng tuyến không hoàn hảo giữa các biến giải thích. Nói cách khác là một biến giải thích nào đó có tương quan với một số biến giải thích khác.

  7. 6.1 Bản chất của đa cộng tuyến VD X3i = 5X2i, vìvậycócộngtuyếnhoànhảogiữa X2và X3 ; r23 = 1 X2và X3* khôngcócộngtuyếnhoànhảo, nhưnghaibiếnnàycótươngquanchặtchẽ.

  8. 6.1 Bản chất của đa cộng tuyến Hình6.1 Biểu đồ Venn mô tả hiện tượng đa cộng tuyến

  9. 6.1 Bản chất của đa cộng tuyến Hình6.1 Biểu đồ Venn mô tả hiện tượng đa cộng tuyến

  10. 6.1 Nguyênnhâncủa đa cộng tuyến Một số nguyên nhân gây ra hiện tượng đa cộng tuyến - Khi chọn các biến độc lập mối quan có quan hệ nhân quả hay có tương quan cao vì đồng phụ thuộc vào một điều kiện khác. - Khi số quan sát nhỏ hơn số biến độc lập. - Cách thu thập mẫu: mẫu không đặc trưng cho tổng thể - Chọn biến Xi có độ biến thiên nhỏ.

  11. 6.2 Ước lượng khi có đa cộng tuyến • Trường hợp có đa cộng tuyến hoàn hảo Xét mô hình hồi qui 3 biến dưới dạng sau: Yi = 2 X2i + 3 X3i + ei giả sửX3i = X2i, mô hình được biến đổi thành: Yi = (2+ 3)X2i + ei = 0 X2i + ei Phương pháp OLS • Khôngthểtìmđượclờigiảiduynhấtcho

  12. 6.2 Ước lượng khi có đa cộng tuyến • Cáchệsốướclượngkhôngxácđịnh • Phương sai và sai số chuẩn của 2 và 3 là vô hạn

  13. 6.2 Ước lượng các tham số khi có đa cộng tuyến • Các hệ số ước lượng không xác định: chúng ta không tách rời tác động của từng biến Xi lên Ydo không thể giả định X2 thay đổi trong khi X3 không đổi.

  14. 6.2 Ước lượng các tham số khi có đa cộng tuyến 2. Trường hợp có đa cộng tuyến không hoàn hảo • Đa cộng tuyến hoàn hảo thường không xảy ra trong thực tế. • Xét mô hình hồi qui 3 biến dưới dạng sau: yi = 2 x2i + 3 x3i + ei Giả định x3i =  x2i + vi Với  0 và vi là sai số ngẫu nhiên. • Trong trường hợp này, các hệ số hồi qui 2 và 3 có thể ước lượng được:

  15. 6.2 Ước lượng các tham số khi có đa cộng tuyến Ta có thể ước lượng được các này nhưng s.e. sẽ rất lớn.

  16. 6.3 Hậu quả của đa cộng tuyến Nếu có cộng tuyến gần hoàn hảo: • Các ước lượng vẫn BLUE, nhưng: 1. Phương sai và hiệp phương sai của các ước lượng OLS lớn. r23 là hệ số tương quan giữa X2 và X3. Khi r23  1, các giá trị trên  

  17. 6.3 Hậu quả của đa cộng tuyến Nếu có cộng tuyến gần hoàn hảo: 2. Khoảng tin cậy rộng hơn. • Khoảng tin cậy của 2 và3 (với độ tin cậy 1 –) là: 2 =  t /2 se ( ); 3 =  t /2 se ( ); trong đó: se ( ) = se ( ) =

  18. 6.3 Hậu quả của đa cộng tuyến Nếu có cộng tuyến gần hoàn hảo: • Tỉ số t "không có ý nghĩa". Khi kiểm định giả thuyết H0: 2 = 0, chúng ta sử dụng tỷ số t. và so sánh giá trị ước lượng của t với giá trị tra bảng (tới hạn) của t. Trong trường hợp cộng tuyến cao thì sai số chuẩn sẽ rất lớn và do đó làm cho giá trị t sẽ nhỏ đi, kết quả là sẽ làm tăng chấp nhận giả thuyết H0.

  19. 6.3 Hậu quả của đa cộng tuyến Nếu có cộng tuyến gần hoàn hảo: 4. R2 cao nhưng tỉ số t ít có ý nghĩa. • Đa cộng tuyến cao: • - một hoặc một số tham số tương quan (hệ số góc riêng) không có ý nghĩa về mặt thống kê • - R2 trong những trường hợp này lại rất cao (trên 0,9). • - kiểm định F thì có thể bác bỏ giả thuyết cho rằng 2 = 3 = …= k = 0.

  20. 6.3 Hậu quả của đa cộng tuyến Nếu có cộng tuyến gần hoàn hảo: 5. Các ước lượng OLS và sai số chuẩn của chúng trở nên rất nhạy với những thay đổi nhỏ trong dữ liệu. 6. Dấu của các ước lượng của các hệ số hồi qui có thể sai 7. Thêm vào hay bớt đi các biến cộng tuyến với các biến khác, mô hình sẽ thay đổi về dấu hoặc thay đổi về độ lớn của các ước lượng.

  21. Ví dụ: Bảng 2 do nhập sai số liệu nên xảy ra đa cộng tuyến

  22. Đa cộng tuyến là một hiện tượng theo mẫu, nghĩa là cho dù các biến độc lập Xi không tương quan tuyến tính trong tổng thể nhưng chúng có thể tương quan tuyến tính trong một mẫu cụ thể nào đó. Do đó cỡ mẫu lớn thì hiện tượng đa cộng tuyến ít nghiêm trọng hơn cỡ mẫu nhỏ

  23. 6.4 Cách phát hiện đa cộng tuyến 1. Hệ số R2 lớn nhưng tỷ số t nhỏ 2. Tương quan cặp giữa các biến giải thích cao 3. Sử dụng mô hình hồi qui phụ 4. Sử dụng yếu tố phóng đại phương sai (VIF)

  24. 6.4 Cách phát hiện đa cộng tuyến • R2lớnnhưngtỷsố t nhỏ • Nếu R2cao, chẳnghạn, >0,8 và F test bácbỏgiảthuyết2 = 3 = … = k = 0, nhưng t test chotừng ilạichấpnhận H0. • 2. Tươngquancặpgiữacácbiếngiảithíchcao • Trongđó X, Z là 2 biếngiảithíchtrongmôhình

  25. 6.4 Cách phát hiện đa cộng tuyến 3. Sử dụng mô hình hồi quy phụ Hồi qui một biến giải thích X nào đó theo các biến còn lại. Tính R2 và F cho mỗi mô hình theo công thức: Lập giả thiết H0: R2 = 0 ~ H0: không có đa cộng tuyến Nếu F > F(m-1,n-m): bác bỏ H0 => có đa cộng tuyến Nếu F < F(m-1,n-m): chấp nhận H0 => không có đa cộng tuyến

  26. 6.4 Cách phát hiện đa cộng tuyến VD: Cho doanhsốbán (Y), chi phíchàohàng (X2) và chi phíquảngcáo (X3) trongnăm 2001 ở 12 khuvựcbánhàngcủa 1 côngty. Cóhiệntượngđacộngtuyếnkhông? Hồiquybiến chi phíchàohàngvới chi phíquảngcáo, tacókếtquả X2 =42,012 + 0,387 *X3 R2 = 0,22922 F= 2,9738 Vớimức ý nghĩaα=5%, trabảng F0.05 (1,10)= 4,96. Ta thấyF < F0.05 (1,10) nênchấpnhận Ho hay khôngcóđacộngtuyến.

  27. 6.4 Cách phát hiện đa cộng tuyến 4. Sử dụng nhân tử phóng đại phương sai (VIF) Đối với hàm hồi quy 2 biến giải thích, VIF được định nghĩa như sau: Đối với trường hợp tổng quát, có (k-1) biến giải thích thì: R2j: là giá trị R2 trong hàm hồi quy của Xj theo (k-1) biến giải thích còn lại. Thông thường khi VIF > 10, thì biến này được coi là có cộng tuyến cao

  28. 6.5 Cách khắc phục 1. Dùng thông tin tiên nghiệm Ví dụ khi hồi quy mô hình sản xuất Cobb-Douglas Ln(Yi)=b1 + b2ln(Ki)+ b3ln(Li) + ui Có thể gặp hiện tượng đa cộng tuyến do K và L cùng tăng theo quy mô sản xuất. Nếu ta biết là hiệu suất không đổi theo quy mô tức là b2+b3=1. Ln(Yi)=b1 + b2ln(Ki)+ (1-b2)ln(Li) + ui Ln(Yi) – Ln(Li) = b1 + b2[ln(Ki) - ln(Li)] + ui Ln(Yi /Li ) = b1 + b2ln(Ki /Li) + ui => mất đa cộng tuyến (vì đây là mô hình hồi quy đơn).

  29. 6.5 Cách khắc phục 1. Dùng thông tin tiên nghiệm Ví dụ Yi=b1 + b2X2i+ b3X3i + ui Biết b3=0.1b2 Biến đổi Yi=b1 + b2X2i+ 0.1b2X3i + ui Yi=b1 + b2Xi+ ui Với Xi=X2i+ 0.1X3i

  30. 6.5 Cách khắc phục 2. Loại trừ một biến giải thích ra khỏi mô hình B1: Xem cặp biến giải thích nào có quan hệ chặt chẽ. Giả sử X2, X3…Xk là các biến độc lập, Y là biến phụ thuộc và X2, X3 có tương quan chặt chẽ với nhau. B2: Tính R2 đối với các hàm hồi quy: có mặt cả 2 biến; không có mặt một trong 2 biến B3: Loại biến mà giá trị R2 tính được khi không có mặt biến đó là lớn hơn.

  31. 6.5 Cách khắc phục 3. Bổ sung thêm dữ liệu hoặc chọn mẫu mới

  32. 6.5 Cách khắc phục 4. Dùngsaiphâncấp 1 Vídụtừhàmhồi qui:yt = 1 + 1x1t + 2x2t + ut tasuyra yt-1 = 1 + 1x1,t-1 + 2x2,t-1 + ut-1 Trừhaivếchonhau, tađược: yt–yt– 1 = 1(x1,t– x1,t – 1) + 2(x2,t– x2,t – 1) + (ut– ut – 1) Hay: yt = 1 x1,t + 2 x2,t + et, Mặcdù, x1và x2cóquanhệtuyếntính, nhưngkhôngcónghĩasaiphâncủachúngcũngnhưvậy.

  33. 6.5 Cách khắc phục 5. Đổibiến Vídụ :yt = 1 + 1x1t + 2x2t + ut Với Y: tiêudùng X1: GDP X2: dânsố Vì GDP vàdânsốtheothờigiancóxuhướngtăngnêncóthểcộngtuyến. Biệnpháp: chiacácbiếnchodânsố

  34. Vídụ 1 • Khảosát chi tiêutiêudùng, thunhậpvàsựgiàucó, tacóbảngsốliệusau. • Gọi Y: chi tiêutiêudùng (USD) X2: thunhập (USD) X3: sựgiàucó (USD) • Yêucầu: • Ước lượng mô hình hồi quy Y= β1 + β2. X2 + β3.X3 +U • Mô hình có xảy ra đa cộng tuyến không? Vì sao? • Nếu xảy ra đa cộng tuyến, hãy tìm cách khắc phục.

  35. Nguồn: Ramu Ramanathan

  36. Ướclượngmô hình hồi quy Y= β1 + β2. X2 + β3.X3 +U • Nhậnxét ban đầu: Theo lýthuyếtkinhtếthì chi tiêuchotiêudùng (Y) cóxuhướngtăngtheothunhập (X2) vàsựgiàucó (X3) nêndấucủacáchệsốhồiquyriênglàdương. • KếtquảhồiquytrênEviewsnhưsau:

More Related