Автокорреляция Лекция 7 ВАВТ 2010 Эконометрика 1

Автокорреляция Лекция 7 ВАВТ 2010 Эконометрика 1 / 30

Автокорреляция 1. Природа автокорреляции 2. Последствия автокорреляции 3. Диагностика автокорреляции (тесты) 4. Методы решения проблемы автокорреляции ВАВТ 2010 Эконометрика 2 / 30

Классические условия регрессионного анализа (условия Гаусса-Маркова) I. Регрессионная модель линейна по параметрам (коэффициентам) и корректно специфицирована. II. Все объясняющие переменные являются детерминированными, но достаточно вариабельными. III. Случайные возмущения имеют нулевое среднее. IV. Случайные возмущения имеют постоянную дисперсию. V. Случайные возмущения не коррелируют друг с другом. VI. Ни одна из объясняющих переменных не является строгой линейной функцией других объясняющих переменных. VII. Случайные возмущения распределены нормально (необязательное, но часто используемое условие). ВАВТ 2010 Эконометрика 3 / 30

Формальное выражение НЕнарушенного условия V. Наблюдаемые значения случайных возмущений НЕ коррелируют друг с другом (ковариационная матрица случайных возмущений является диагональной) Модель без автокорреляции ВАВТ 2010 Эконометрика 4 / 30

Модель с автокорреляцией – частный случай модели Обобщенного МНК Модель обобщенного МНК в общем виде – с неизвестной произвольной матрицей не имеет решения. Чтобы решить, нужно задать структуру этой матрицы, т. е. предположить, КАК именно зависит случайное возмущение от предшествующих значений возмущений? ВАВТ 2010 Эконометрика 6 / 30

Пример данных с положительной автокорреляцией Y X Заметьте, положительные отклонения чаще следуют за положительными, а отрицательные – за отрицательными. ВАВТ 2010 Эконометрика 10 / 30

Пример данных с отрицательной автокорреляцией Y X А здесь, напротив, отклонения чаще чередуются: за положительными следуют отрицательные, а за отрицательными – положительные. ВАВТ 2010 Эконометрика 11 / 30

Последствия автокорреляции случайных возмущений 1. Истинная автокорреляция не приводит к смещению оценок коэффициентов регрессии. 2. Положительная автокорреляция приводит к увеличению дисперсии (т. е. ошибок) оценок коэффициентов. 3. Автокорреляция вызывает занижение оценок стандартных ошибок коэффициентов регрессии. ВАВТ 2010 Эконометрика 12 / 30

Последствия автокорреляции случайных возмущений– 2 1. Иначе говоря, оценки коэффициентов регрессии классическим методом наименьших квадратов в случае автокорреляции возмущений также являются несмещенными и состоятельными. 2. Таким образом, для определения прогнозных значений зависимой переменной Y обычный МНК применим и для модели с автокорреляцией возмущений. 3. Однако результаты, связанные с анализом точности и надежности модели, оценкой значимости и построением доверительных интервалов ее коэффициентов, оказываются непригодными. 4. В этом случае оценки коэффициентов не будут эффективными (дисперсия не минимальна), и при небольших выборках можно подучить оценки, существенно отличающиеся от истинных значений. ВАВТ 2010 Эконометрика 13 / 30

Модель с автокорреляцией простейшего вида Пусть имеется уравнение регрессии Предположим, что соседние случайные возмущения связаны соотношением Здесь – это случайные возмущения в моменты t и t – 1, – коэффициент авторегрессии, а – независимые в совокупности случайные величины, имеющие одинаковое нормальное распределение с и причем статистически не зависит от ВАВТ 2010 для s < t. Эконометрика 15 / 30

Обнаружение автокорреляции случайных возмущений Предварительная работа 1. Подумать, нет ли очевидных ошибок в спецификации (функции) модели? 2. Можно ли содержательно предполагать какой-то порядок автокорреляции возмущений? Сезонность? Цикличность? 3. Рассмотреть графики зависимости объясняющей переменной Y от номера наблюдения. 4. Рассмотреть графики зависимости остатков от предыдущих остатков et-1. ВАВТ 2010 Эконометрика et 18 / 30

Обнаружение автокорреляции случайных возмущений Тесты на автокорреляцию 1. Тест Дарбина –Уотсона (Durbin – Watson test) 2. Тест Бреуша-Годфри (Breusch – Godfree test) 3. Тест Люинга–Бокса (Luing – Box test) ВАВТ 2010 Эконометрика 19 / 30

Обнаружение автокорреляции. Тест Дарбина-Уотсона 1. Статистика Дарбина-Уотсона предназначена для обнаружения автокорреляции первого порядка. Она основана на изучении остатков уравнения регрессии. 2. Статистика Дарбина-Уотсона не предназначена для обнаружение других видов автокорреляции (второго порядка, сезонной автокорреляции) и не обнаруживает ее. 3. В модели регрессии должен присутствовать постоянный член. Для регрессии без постоянного члена применение статистики Дарбина- Уотсона некорректно. 4. Лаговая зависимая переменная не используется в качестве независимой. ВАВТ 2010 Эконометрика 20 / 30

Статистика Дарбина – Уотсона Расчет статистики Дарбина–Уотсона где ВАВТ 2010 остатки уравнения регрессии. Эконометрика 21 / 30

Статистика Дарбина – Уотсона Расчет статистики Дарбина–Уотсона где ВАВТ 2010 остатки уравнения регрессии. Эконометрика 22 / 30

Связь статистики Дарбина – Уотсона с коэффициентом автокорреляции Легко показать что где выборочный коэффициент автокорреляции первого порядка (т. е. коэффициент корреляции между соседними наблюдениями). При отсутствии автокорреляции первого порядка выборочный коэффициент r 1 будет не сильно отличаться от нуля, а значение статистики DW будет близко к 2. Если DW близко к нулю – положительная автокорреляция, если к 4 – отрицательная. ВАВТ 2010 Эконометрика 23 / 30

Тест Дарбина–Уотсона 1. Провести обычную регрессию и получить остатки 2. Приписать рядом столбец этих же остатков, но со сдвигом в 1 (опустив его на 1 позицию) и вычислить разности 3. Вычислить квадраты разностей этих остатков (с лагом 1) и сумму этих квадратов. 4. Вычислить статистику DW (отношение полученной суммы к сумме квадратов остатков, т. е. к ESS!) 5. По таблице Дарбина–Уотсона определить два граничных числа d. L и d. U и использовать особое ПРАВИЛО для проверки гипотезы об отсутствии автокорреляции; при этом возможны четыре ответа: автокоррелляции нет, есть положительная автокорреляция, есть отрицательная автокорреляция и ответ неопределен. ВАВТ 2010 Эконометрика 24 / 30

Правило проверки гипотезы об отсутствии автокорреляции в тесте Дарбина–Уотсона Для каждого n (число наблюдений), k (число регрессоров) и (уровень значимости) по таблице распределения Дарбина–Уотсона определяются два «критических» граничных числа d. L и d. U такие, что если наблюдаемое значение статистики DW: 0 < DW < d. L положительная автокорреляция, d. L < DW < d. U ответ неопределен, d. U < DW < 4 – d. U нет автокорреляции (Ho принимается), 4 – d. U < DW < 4 – d. L ответ неопределен, 4 – d. L < DW < 4 отрицательная автокорреляция, ВАВТ 2010 Эконометрика 25 / 30

Правило проверки гипотезы об отсутствии автокорреляции в тесте Дарбина–Уотсона– 2 positive autocorrelation 0 d. L no autocorrelation d. U 2 4 – d. L negative autocorrelation 4 – d. U 4 нет автокорреляции высокая положительная автокорреляция высокая отрицательная автокорреляция Серым цветом показана зона неопределенности. ВАВТ 2010 Эконометрика 26 / 30 11

Тест Бреуша – Годфри Идея теста Бреуша – Годфри: если есть корреляция между соседними наблюдениями, то в уравнении коэффициент ρ окажется значимым. 1. Провести обычную регрессию и получить остатки (на множестве исходных независимых переменных). 2. Приписать к столбцу этих остатков этот же столбец, сдвинутый вниз на 1 позицию. Выделить их общую часть длиной n – 1. 3. Построить вторую регрессию столбца остатков в качестве Y от сдвинутого столбца остатков 4. Для проверки гипотезы гомоскедастичности использовать значимость коэффициента ρ, полученного во второй регрессии : если он значим, то гипотеза об отсутствии автокорреляции отвергается. ВАВТ 2010 Эконометрика 27 / 30

Преимущества теста на автокорреляцию Бреуша–Годфри • Тест Бреуша–Годфри в отличие от теста Дарбина– Уотсона является статистическим критерием и не содержит никакой зоны неопределенности. • Тест Бреуша–Годфри легко обобщается для проверки гипотезы автокорреляции более высокого порядка, чем первый – достаточно в число регрессоров второй регрессии включить остатки с лагом 2, 3 и т. д. ВАВТ 2010 Эконометрика 28 / 30

Что делать при обнаружении автокорреляции 1. Использовать обобщенный метод наименьших квадратов (OLS). Преобразовать модель с автокорреляцией к классическому виду. 2. Применить одну из итерационных процедур (Кохрейна–Оркатта и др. ) 3. Переопределить переменные (например, перейти к логарифмам). 4. Пересмотреть спецификацию модели. При ложной автокорреляции попытаться перейти к нелинейной регрессии. ВАВТ 2010 Эконометрика 29 / 30

Преодоление автокорреляции-1 Итак, имеем модель И соседние случайные возмущения связаны соотношением 1. Случай. Коэффициент авторегрессии ρ известен. Рассмотрим исходное уравнение для предыдущего наблюдения Умножим его на ρ и вычтем из первого ВАВТ 2010 Эконометрика 31 / 30

Преодоление автокорреляции-2 1. Случай. Коэффициент авторегрессии ρ известен (продолжение) Получив это уравнение, введем обозначения Тогда можно записать При этом мы воспользовались ВАВТ 2010 Эконометрика 33 / 30

Устранение автокорреляции и обобщенный МНК Для новой модели случайный член δt по предположению удовлетворяет условиям классической модели Можно сказать, что выполненные преобразования модели с автокорреляцией случайных возмущений в классическую есть реализация доступного обобщенного МНК. ВАВТ 2010 Эконометрика 34 / 30

Преодоление автокорреляции-3 Пусть исходная модель регрессии та же и соседние случайные возмущения связаны соотношением но теперь 2. Случай. Коэффициент авторегрессии ρ НЕизвестен. Выполняется одна из итеративных процедур (Кохрейна–Оркатта, Хилдрета–Лу, Дарбина и другие). На каждом шаге строится своя регрессия, а полученные оценки коэффициентов модели и автокорреляции используются на следующем шаге. ВАВТ 2010 Эконометрика 35 / 30

Процедура Кохрейна–Оркатта (Cochrane–Orcutt) 1. Провести обычную регрессию и получить остатки (начало похоже на тест Бреуша–Годфри). 2. Построить вторую регрессию столбца остатков от сдвинутого столбца остатков 3. В качестве приближенного значения коэффициента ρ использовать оценку из второй регрессии. 4. Выполнить преобразование модели с автокорреляцией в классическую при помощью этой оценки. 5. Провести новую регрессию и получить новые оценки B. 6. Вычислить новые остатки. 7. Все повторять сначала до тех пор, пока оценки не перестанут изменяться. ВАВТ 2010 Эконометрика 36 / 30