АВТОКОРРЕЛЯЦИЯ

1. АВТОКОРРЕЛЯЦИЯ y y = a + bx x Третье условие теоремы Гаусса-Маркова – независимость случайных возмущений друг от друга. На диаграмме видно, что это условие нарушено. За положительными отклонениями следуют положительные. То же для отрицательных. Это пример положительной автокорреляции.

2. АВТОКОРЕЛЛЯЦИЯ y y = a + bx x Пример отрицательной автокорреляции. За положительными чаще всего слуедуют отрицательные значения и наоборот. 3

3. АВТОКОРЕЛЛЯЦИЯ Авторегрессия 1-го порядка: AR(1) Наиболее распространена автокорреляция 1-го порядка обычно обозначаемая AR(1). Здесь utопределяется значениями той же самой величины с добавлением нового элемента случайности εt( инновации) 4

4. АВТОКОРЕЛЛЯЦИЯ Авторегрессия 1-го порядка: AR(1) Авторегрессия 5-го порядка: AR(5) Авторкорреляция скользящих средних 3-го порядка: MA(5) Примеры более сложных авторегрессионных корреляций. 6

5. АВТОКОРЕЛЛЯЦИЯ Рассмотрим на качественном уровне примеры автокорреляции типа AR(1). Имитационное моделирование автокорреляции: et – распределена по стандартному нормальному закону с 0 средним и дисперсией 1, rменяется. 9

6. АВТОКОРЕЛЛЯЦИЯ r= 0, т.е автокорреляция отсутствует. Процесс -нормальная случайная величина. 11

7. АВТОКОРЕЛЛЯЦИЯ 12

8. АВТОКОРЕЛЛЯЦИЯ 13

9. АВТОКОРЕЛЛЯЦИЯ Приr= 0.3, начинает проявляться небольшая положительная автокорреляция. 14

10. АВТОКОРЕЛЛЯЦИЯ 15

11. АВТОКОРЕЛЛЯЦИЯ 16

12. АВТОКОРЕЛЛЯЦИЯ Сr= 0.6, очевидно, что u подвержена положительной автокорреляции. Положительные значения чаще следуют за положительными, а отрицательные за отрицательными. 17

13. АВТОКОРЕЛЛЯЦИЯ 18

14. АВТОКОРЕЛЛЯЦИЯ 19

15. АВТОКОРЕЛЛЯЦИЯ Сr= 0.9 последовательность значений с одним знаком становится длинной, а тенденция возврата к 0 слабой. 20

16. АВТОКОРЕЛЛЯЦИЯ При большихr процесс становится нестационарным, приближаясь к случайному блужданию. 21

17. АВТОКОРЕЛЛЯЦИЯ Рассмотрим примеры отрицательной автокорреляции для тех же значений et. 22

18. АВТОКОРЕЛЛЯЦИЯ 23

19. АВТОКОРЕЛЛЯЦИЯ Сr= 0.6 можно видеть что положительные значения имеют тенденцию следовать за отрицательными и наоборот. Отрицательная автокорреляция становится очевидной. 24

20. АВТОКОРЕЛЛЯЦИЯ 25

21. АВТОКОРЕЛЛЯЦИЯ ============================================================= Dependent Variable: LGFOOD Method: Least Squares Sample: 1959 1994 Included observations: 36 ============================================================= Variable Coefficient Std. Error t-Statistic Prob. ============================================================= C 2.658875 0.278220 9.556745 0.0000 LGDPI 0.605607 0.010432 58.05072 0.0000 LGPRFOOD -0.302282 0.068086 -4.439712 0.0001 ============================================================= R-squared 0.992619 Mean dependent var 6.112169 Adjusted R-squared 0.992172 S.D. dependent var 0.193428 S.E. of regression 0.017114 Akaike info criter -5.218197 Sum squared resid 0.009665 Schwarz criterion -5.086238 Log likelihood 96.92755 F-statistic 2219.014 Durbin-Watson stat 0.613491 Prob(F-statistic) 0.000000 ============================================================= Рассмотрим остатки логарифмической зависимости расходов на продовольствие в зависимости от дохода и относительной цены в пакете EViews. 26

22. АВТОКОРЕЛЛЯЦИЯ На графике видно, что случайные возмущения подвержены положительной автокорреляции. Сравнивая с примерами имитационного моделирования можно предполагать, что коэффициент корреляции rне ниже 0.6. 27

23. ТЕСТ ДАРБИНА-УОТСОНА ДЛЯ AR(1) АВТОКОРРЕЛЯЦИИ Стандартный тест на автокорреляцию типа AR(1) основан на d статистике Дарбина-Уотсона. Сравнивается среднеквадратичная разность соседних значений с дисперсией остатков. 1

24. ТЕСТ ДАРБИНА-УОТСОНА ДЛЯ AR(1) АВТОКОРРЕЛЯЦИИ Для больших выборок Нет автокорреляции Положительная автокорреляция Отрицательная автокорреляция При отсутствии автокорреляции rблизко к0, а d близко к 2. Для положительной автокорреляции rблизко к1, а d близко к 0. Соответственно для отрицательной автокорреляции rблизко к-1, а d близко к 4.

25. ТЕСТ ДАРБИНА-УОТСОНА ДЛЯ AR(1) АВТОКОРРЕЛЯЦИИ Положительная автокорреляция Нет автокорреляции Отрицательная автокорреляция 0 2 4 Рисунок иллюстрирует поведениеd графически. Поскольку d имеет вероятностное распределение то необходимо оценить доверительный интервал значимости оценки. 6

26. ТЕСТ ДАРБИНА-УОТСОНА ДЛЯ AR(1) АВТОКОРРЕЛЯЦИИ Нет автокорреляции Положительная автокорреляция Отрицательная автокорреляция положительная автокорреляция нет автокорреляции отрицательная автокорреляция 0 dL dcrit dU 2 dcrit 4 Нулевая гипотезаH0: r = 0 (нет автокорреляции).Если dлежит в доверительном интервале2±dcrто гипотеза не отвергается с заданной вероятностью.К сожалениюdcrзависит от конкретных данных выборки, но Дарбин и Уотсон дали значения для оценки интервалов, в которых лежат критические значения, dUиdL, не зависящие от данных. Интервалы расположены симметрично относительно 2. 10

27. ТЕСТ ДАРБИНА-УОТСОНА ДЛЯ AR(1) АВТОКОРРЕЛЯЦИИ Нет автокорреляции Положительная автокорреляция Отрицательная автокорреляция положительная автокорреляция нет автокорреляции отрицательная автокорреляция 0 dL dcrit dU 2 dcrit 4 Если d меньше dL, то то нулевая гипотеза отвергается, автокорреляция положительная. 10

28. ТЕСТ ДАРБИНА-УОТСОНА ДЛЯ AR(1) АВТОКОРРЕЛЯЦИИ Нет автокорреляции Положительная автокорреляция Отрицательная автокорреляция положительная автокорреляция нет автокорреляции отрицательная автокорреляция 0 dL dcrit dU 2 dcrit 4 Если d больше dU, то нулевая гипотеза неотвергается, но необходимо проверить модель на отрицательную автокорреляцию. Если d лежит в интервале [dL,dU], то тест не дает определенной оценки. 10

29. ТЕСТ ДАРБИНА-УОТСОНА ДЛЯ AR(1) АВТОКОРРЕЛЯЦИИ Нет автокорреляции Положительная автокорреляция Отрицательная автокорреляция положительная автокорреляция нет автокорреляции отрицательная автокорреляция d=0,63 0 dL dcrit dU 2 dcrit 4 2.41 2.65 1.59 1.35 На рисунке приведены значения dLиdU для для модели с 2-мя объясняющими переменными построенной по 35 наблюдениям при 5% пороге значимости. При d=0,63, как в данном примере, 0,63 < 1,35, то нулевая гипотеза отвергается с 95% вероятностью, автокорреляция остатков положительна. 10

30. ТЕСТ ДАРБИНА-УОТСОНА ДЛЯ AR(1) АВТОКОРРЕЛЯЦИИ Нет автокорреляции Положительная автокорреляция Отрицательная автокорреляция положительная автокорреляция нет автокорреляции отрицательная автокорреляция d=0,63 0 dL dcrit dU 2 dcrit 4 2.41 2.65 1.59 1.35 При d=1,42, большим 1,35 и меньшим 1,59, тест не дает определенной оценки. 10

31. ТЕСТ ДАРБИНА-УОТСОНА ДЛЯ AR(1) АВТОКОРРЕЛЯЦИИ Нет автокорреляции Положительная автокорреляция Отрицательная автокорреляция положительная автокорреляция нет автокорреляции отрицательная автокорреляция d=0,63 0 dL dcrit dU 2 dcrit 4 2.41 2.65 1.59 1.35 Если 1.59 < d < 2.41, нулевая гипотеза не отвергается и можно утверждать, что автокорреляция остатков отсутствует. 10

32. ТЕСТ ДАРБИНА-УОТСОНА ДЛЯ AR(1) АВТОКОРРЕЛЯЦИИ Нет автокорреляции Положительная автокорреляция Отрицательная автокорреляция положительная автокорреляция нет автокорреляции отрицательная автокорреляция d=0,63 0 dL dcrit dU 2 dcrit 4 2.41 2.65 1.59 1.35 Если 2.41 < d < 2.65, тест не дает однозначной оценки. 10

33. ТЕСТ ДАРБИНА-УОТСОНА ДЛЯ AR(1) АВТОКОРРЕЛЯЦИИ Нет автокорреляции Положительная автокорреляция Отрицательная автокорреляция положительная автокорреляция нет автокорреляции отрицательная автокорреляция d=0,63 0 dL dcrit dU 2 dcrit 4 2.41 2.65 1.59 1.35 Если 2.65 < d < 4, нулевая гипотеза отвергается и можно утверждать, что имеется отрицательнаяавтокорреляция остатков. 10

34. ТЕСТ ДАРБИНА-УОТСОНА ДЛЯ AR(1) АВТОКОРРЕЛЯЦИИ Нет автокорреляции Положительная автокорреляция Отрицательная автокорреляция положительная автокорреляция нет автокорреляции отрицательная автокорреляция d=0,63 0 dL dcrit dU 2 dcrit 4 2.62 2.85 1.38 1.15 Интервалы оценки гипотез при 1% пороге значимости. 10

35. ТЕСТ ДАРБИНА-УОТСОНА ДЛЯ AR(1) АВТОКОРРЕЛЯЦИИ Диаграмма зависимости для логарифмической регрессии трат на продовольствие показывает сильную положительную автокорреляцию. 22

36. ТЕСТ ДАРБИНА-УОТСОНА ДЛЯ AR(1) АВТОКОРРЕЛЯЦИИ ============================================================= Dependent Variable: LGFOOD Method: Least Squares Sample: 1959 1994 Included observations: 36 ============================================================= Variable Coefficient Std. Error t-Statistic Prob. ============================================================= C 2.658875 0.278220 9.556745 0.0000 LGDPI 0.605607 0.010432 58.05072 0.0000 LGPRFOOD -0.302282 0.068086 -4.439712 0.0001 ============================================================= R-squared 0.992619 Mean dependent var 6.112169 Adjusted R-squared 0.992172 S.D. dependent var 0.193428 S.E. of regression 0.017114 Akaike info criter -5.218197 Sum squared resid 0.009665 Schwarz criterion -5.086238 Log likelihood 96.92755 F-statistic 2219.014 Durbin-Watson stat 0.613491 Prob(F-statistic) 0.000000 ============================================================= Значение dстатистики очень низкое, нижеdLдля 1% теста значимости (1.15), поэтому можно отвергнуть нулевую гипотезу об отстутствии автокорреляции. 23

37. УСТРАНЕНИЕ AR(1) АВТОКОРРЕЛЯЦИИ Автокорреляция AR(1) может быть устранена в лаговых моделях.Для этого нужно множить уравнение для yt-1на ρ и вычесть из yt. Случайный член et, (инновация) не является автокоррелированным. Проблема автокорреляции устранена. Есть только одна проблема: нелинейность лаговой модели относительно xt-2. В силу этого обычный МНК не применим из за конфликта параметров (0,5*0,8 ≠ 0,6). Проблема может быть решена численными методами подбора параметров. 4

38. УСТРАНЕНИЕ AR(1) АВТОКОРРЕЛЯЦИИ Аналогично устраняется влияние автокорреляции в множественной регрессионной модели. Вновь получаем нелинейную лаговую модель свободную от автокорреляции. 11

39. УСТРАНЕНИЕ AR(1) АВТОКОРРЕЛЯЦИИ ============================================================= Dependent Variable: LGHOUS Method: Least Squares Sample(adjusted): 1960 1994 LGHOUS=C(1)*(1-C(2))+C(2)*LGHOUS(-1)+C(3)*LGDPI-C(2)*C(3) *LGDPI(-1)+C(4)*LGPRHOUS-C(2)*C(4)*LGPRHOUS(-1) ============================================================= Coefficient Std. Error t-Statistic Prob. ============================================================= C(1) 6.131576 0.727244 8.431247 0.0000 C(2) 0.972488 0.004167 233.3565 0.0000 C(3) 0.275879 0.078318 3.522532 0.0013 C(4) -0.303387 0.085802 -3.535896 0.0013 ============================================================= R-squared 0.999695 Mean dependent var 6.017555 Adjusted R-squared 0.999665 S.D. dependent var 0.362063 S.E. of regression 0.006622 Akaike info criter -7.089483 Sum squared resid 0.001360 Schwarz criterion -6.911729 Log likelihood 128.0660 F-statistic 33865.14 Durbin-Watson stat 1.423030 Prob(F-statistic) 0.000000 ============================================================= Пример расчета нелинейной лаговой регрессионной модели зависимости спроса на жилье в зависимости от дохода и цен на жилье для AR(1) процесса автокорреляции, используя пакет EViews. 14

40. ИТЕРАТИВНАЯ ПРОЦЕДУРА КОКРАНА - ОРКАТТА Метод решения состоит в оценке и последовательном уточнении коэффициента корреляции. Модель может быть преобразована к (*) нелинейной свободной от автокорреляции модели. Если автокорреляция AR(1)типа, тоCORR(et,et-1) ≈ CORR(ut,ut-1). Используя это ρ, можно вычислить коэффициенты α и β для модели (*) и вновь провести оценку ρ. 4

41. ИТЕРАТИВНАЯ ПРОЦЕДУРА КОКРАНА - ОРКАТТА 1. Построить регрессию ytот xt используя МНК 2. Вычислитьet = yt - a - bxtи найти с помощью регрессииetотet-1оценку r. 3. Вычислитьytиxtи найти регрессию ytотxtпо которой определить оценки дляaиb. Повторить с шага 2 до выполнения сходимости. ~ ~ ~ ~ Сходимость алгоритма достигается когда оценка коэффициента корреляции будет изменяться на величину меньшую заданной точности.