Лекция 9 Гетероскедастичность Гетероскедастичность Y Y

Скачать презентацию Лекция 9 Гетероскедастичность Гетероскедастичность Y Y

Lecture 9.pptx

Количество слайдов: 65

Лекция 9 Гетероскедастичность

Гетероскедастичность Y + Y = b 1 b 2 X b 1 X 2 X 3 X 4 X 5 X Одно из условий теоремы Гаусса – Маркова состоит в том, что возмущения u имеют нулевое математическое ожидание и одинаковую дисперсию. 2

Гетероскедастичность Y + Y = b 1 b 2 X b 1 X 2 X 3 X 4 X 5 X Было сделано также дополнительное предположение о нормальном законе распределения возмущений. 3

Гетероскедастичность Y + Y = b 1 b 2 X b 1 X 2 X 3 X 4 X 5 X Свойство одинаковой дисперсии возмущений называется гомоскедастичностью. 4

Гетероскедастичность Y + Y = b 1 b 2 X b 1 X 2 X 3 X 4 X 5 X Если дисперсии возмущений различны, то это явление называется гетероскедастичностью. При этом распределение u для каждого наблюдения имеет нормальное распределение и нулевое ожидание 6

Гетероскедастичность Y + Y = b 1 b 2 X b 1 X 2 X 3 X 4 X 5 X Наличие гетероскедастичности можно заподозрить, если отклонение наблюдений от линии выборочной регрессии (остатки) достаточно сильно различаются. 7

Гетероскедастичность Y + Y = b 1 b 2 X b 1 X 2 X 3 X 4 X 5 X Однако ответ на вопрос, имеет ли место гетероскедастичность, можно получить только с помощью тестов. 8

Последствия гетероскедастичности Если предположение об одинаковых дисперсиях возмущений не выполняется, то • стандартные ошибки коэффициентов регрессии вычисляются по неверным формулам • t – тесты для проверки гипотез о конкретных значениях коэффициентов не дают правильных результатов • Оценки МНК коэффициентов регрессии больше не являются BEST, теряется эффективность оценок. Можно найти другие, отличные от МНК и более эффективные оценки 9

Пример Данные для 30 стран в 1997. 10

Пример Взглянув на этот рисунок, можно сделать предположение, что с ростом ВВП дисперсия возмущений увеличивается. 11

Пример South Korea Mexico Сравним Южную Корею и Мексику с приблизительно одинаковым уровнем ВВП. 12

Пример Singapore Greece Другая пара для сравнения – Сингапур и Греция, также с почти одинаковым уровнем ВВП. Очевидно, что для первой пары с большим ВВП и разница больше. Можно предположить наличие гетероскедастичности. 13

Y + Y = b 1 b 2 X b 1 X 2 X 3 X 4 X 5 X Гетероскедастичность – различие дисперсий возмущений для различных наблюдений. Ясно, что видов гетероскедастичности может быть сколь угодно много. 1

Тест Голдфелда – Квандта Y + Y = b 1 b 2 X b 1 X 2 X 3 X 4 X 5 X Однако одним из самых распространенных видов гетероскедастичности является пропорциональность стандартного отклонения возмущений одной из объясняющих переменных. 2

Тест Голдфелда – Квандта Y + Y = b 1 b 2 X b 1 X 2 X 3 X 4 X 5 X Этот тип гетероскедастичности иллюстрируется на приведенной диаграмме. Дисперсия возмущений пропорциональна переменной Х. 3

Тест Голдфелда-Квандта Данный тест предназначен для того, чтобы проверить гипотезу об отсутствии гетероскедастичности случайных возмущений в схеме Гаусса-Маркова 1. Случай уравнения парной регрессии Имеем спецификацию модели в виде: Yt=a 0 + a 1 xt+ut Имеем выборку в объеме n наблюдений за переменными Yt и xt для оценки параметров этой модели Задача: проверить гипотезу об отсутствии гетероскедастичности в полученной модели 16

Тест Голдфелда-Квандта В основе теста лежат два предположения: 1. Случайные возмущения подчиняются нормальному закону распределения 2. Стандартные ошибки случайных возмущений σ(ut) пропорциональны значениям регрессора xt. 17

Тест Голдфелда – Квандта Основная и альтернативная гипотезы в тесте Голфелда – Квандта (и во всех остальных тестах, в которых проверяется, имеет ли место гетероскедастичность) формулируются следующим образом: H 0: гомоскедастичность H 1: гетероскедастичность Однако сам тест зависит от того, какой вид гетероскедастичности мы предполагаем в альтернативной гипотезе. 4

Тест Голдфелда – Квандта H 0 : H 1 : 4

Тест Голдфелда – Квандта Для проведения теста Голдфелда – Квандта все наблюдения делятся на 3 части. Если выборка небольшая, то выделяют приблизительно 3/8 части всех наблюдений для первой и третьей части и приблизительно 1/4 в середине. 5

Пример проведения теста Голдфелда – Квандта Для 28 стран оценивается зависимость выпуска продукции обрабатывающей промышленности от ВВП. Выделено 11 стран с маленьким ВВП, 6 со средним и 11 с большим. 6

Пример проведения теста Голдфелда – Квандта Отдельно оцениваются регрессии для 11 стран с маленьким ВВП и для 11 стран с большим ВВП. 7

Пример проведения теста Голдфелда – Квандта RSS 1 = 157, 000 RSS 2 = 13, 518, 000 Для каждой регрессии находятся суммы квадратов остатков RSS 1 и RSS 2. 8

Пример проведения теста Голдфелда – Квандта RSS 1 = 157, 000 RSS 2 = 13, 518, 000 Если имеет место гомоскедастичность, RSS 1 и RSS 2 не должны сильно различаться (если число наблюдений в оцениваемых регрессиях совпадает). 9

Пример проведения теста Голдфелда – Квандта RSS 1 = 157, 000 RSS 2 = 13, 518, 000 Однако в рассматриваемом примере RSS 2 значительно превышает RSS 1. 10

Тестовая статистика в тесте Голдфелда - Квандта RSS 1 = 157, 000 RSS 2 = 13, 518, 000 Тестовая статистика F рассчитывается по приведенной выше формуле. В числителе – оценка дисперсии возмущений по последним n 2 наблюдениям, а в знаменателе - оценка дисперсии возмущений по первым n 1 наблюдениям. K – число параметров в модели. 11

Тестовая статистика в тесте Голдфелда - Квандта RSS 1 = 157, 000 RSS 2 = 13, 518, 000 Тестовая F – статистика превышает критическое значение даже при уровне значимости 0. 1%. Нулевая гипотеза о гомоскедастичности отвергается. 12

Алгоритм применения теста Голдфелда. Квандта Шаг 1. Имеющаяся выборка из n наблюдений сортируется по возрастанию значений регрессора х Шаг 2. Полученная в результате сортировки выборка делится на три примерно равные части Шаг 3. Для первой и третьей частей выборки строятся модели парной регрессии, т. е. для них вычисляются оценки параметров a 0 и a 1 В результате получаются две модели парной регрессии (для каждой части общей выборки): Y 1=ã 01 + ã 11 x +u 1 (9. 1) Y 3=ã 03 + ã 13 x +u 3 (9. 2) Исходя из принятых допущений, считается, что, если ошибки случайных возмущений в «первой» и «третьей» частях выборки будут равны, то условие гомоскедостичности выполняется 28

Алгоритм применения теста Голдфелда-Квандта Шаг 4. Для уравнений (9. 1) и (9. 2) вычисляются значения ESS 1 и ESS 3. Где ESS=Σ(ui 2)=Σ(yi-ã 0 -ã 1 xi)2 Шаг 5. Проверяется гипотеза о равенстве σu 1 и σu 3 5. 1. Формируется случайная переменная GQ в виде: В схеме Гаусса-Маркова переменная GQ имеет закон распределения Фишера. 29

Алгоритм применения теста Голдфелда-Квандта 5. 2. Вычисленное значение GQ сравнивается с критическим значением Fкр(Pдов, n 1, n 3): Если GQ ≤ Fкр(Pдов, n 1, n 3) и 1/GQ ≤ Fкр(Pдов, n 1, n 3), то гипотеза о гомоскедастичности случайных возмущений принимается Случай уравнения множественной регрессии. Yt=a 0+a 1 x 1 t+a 2 x 2 t+a 3 x 3 t+ut Сортировка проводится по величине р=|x 1|+|x 2|+|x 3| Если интерес представляет конкретный регрессор, который приводит к гетероскедастичности, алгоритм повторяется для каждого регрессора в отдельности В результате обнаруживается регрессор вызывающий гетероскедастичность 30

Алгоритм применения теста Голдфелда. Квандта Государственные расходы на образование в различных странах Страна Расходы ВВП Страна Люксембург 0, 34 5, 67 Швейцария Уругвай 0, 22 10, 1 С. Аравия Сингапур 0, 32 11, 3 Ирландия 1, 23 Израиль Расходы ВВП 5, 31 101, 7 6, 4 116 Бельгия 7, 15 119, 5 18, 9 Швеция 11, 22 124, 2 1, 81 20, 9 Австралия 8, 66 141 Венгрия 1, 02 22, 2 Аргентина 5, 56 1, 27 23, 8 Нидерланды 13, 41 169, 4 Португалия 1, 07 24, 7 Мексика 5, 46 186, 3 Гонконг 0, 67 27, 6 Испания 4, 79 1, 25 27, 6 Бразилия 8, 92 0, 75 40, 2 Канада 18, 9 261, 4 Финляндия 2, 8 51, 6 Италия 15, 95 395, 5 Норвегия 4, 9 57, 7 Англия 29, 9 3, 5 63 Франция 33, 59 655, 3 Дания 4, 45 66, 3 ФРГ 38, 62 815 Турция 1, 6 67 Япония 61, 61 1040 Австрия 4, 26 76, 9 США 181, 3 2586 -8, 187 0, 0123 0, 3276 0, 0027 2, 4453 0, 5309 0, 518 0, 9854 6, 2309 11, 318 10 674, 45 10 3, 0371 2, 6835 26185 388, 24 535 Югославия 0, 0711 249, 7 Греция 0, 0821 211, 8 Чили 0, 0414 153, 9 Н. Зеландия Применение ф-ии «ЛИНЕЙН» Fкр=3. 0 Модель гетероскедастична Модель: (по всей выборке) Y=-2. 32 + 0. 067 X (9. 3)31

Тест Глейзера Дисперсия возмущений не обязательно пропорциональна какомулибо фактору, может быть и другой вид зависимости, для определения которой используется тест Глейзера. 2

Тест Глейзера H 0 : H 1 : 3

Формальное описание теста Глейзера • Оценивается регрессия по всем наблюдениям. • Сохраняются остатки регрессии ei. • Оцениваются регрессии • Если коэффициент β значим хотя бы в одной из трех регрессий (значимость коэффициента проверяется как обычно с помощью t – статистики), то имеет место гетероскедастичность (соответствующего вида). 4

Тест Уайта Содержательный смысл теста Уайта состоит в следующем: если в модели дисперсия возмущений каким-то, возможно, достаточно сложным образом зависит от регрессоров, то это должно каким-то образом отражаться в остатках обычной регрессии исходной модели. 1

Тест Уайта H 0: гомоскедастичность H 1: гетероскедастичность Вид гетероскедастичности не конкретизируется. 2

Формальное описание теста Уайта • Оценивается регрессия по всем наблюдениям. • Сохраняются остатки регрессии ei. • Оцениваются регрессия квадратов остатков на все регрессоры, их квадраты, попарные произведения и константу. • В последней оцененной регрессии находим коэффициент множественной детерминации R 2 • Вычисляем тестовую статистику по формуле n. R 2. Тестовая статистика имеет распределение «хи – квадрат» с k-1 степенями свободы, где k – число оцениваемых коэффициентов. • Сравниваем полученное значение тестовой статистики с критическим при выбранном уровне значимости. Если значение тестовой статистики превышает критическое, то нулевая гипотеза о гомоскедастичности отвергается. 3

Тест Уайта Привлекательной чертой теста Уайта является его универсальность. Однако этот тест не является конструктивным. Если гетероскедастичность выявлена, то тест Уайта не дает указания на функциональную форму гетероскедастичности. Единственным способом коррекции является применение стандартных ошибок в форме Уайта. 4

Пример применения теста Уайта. reg MANU GDP Source | SS df MS -------+---------------Model | 1. 1600 e+11 1 1. 1600 e+11 Residual | 1. 4312 e+10 26 550462775 -------+---------------Total | 1. 3031 e+11 27 4. 8264 e+09 Number of obs F( 1, 26) Prob > F R-squared Adj R-squared Root MSE = = = 28 210. 73 0. 0000 0. 8902 0. 8859 23462 ---------------------------------------MANU | Coef. Std. Err. t P>|t| [95% Conf. Interval] -------+--------------------------------GDP |. 193693. 0133428 14. 52 0. 000. 1662665. 2211195 _cons | 603. 9453 5699. 677 0. 11 0. 916 -11111. 91 12319. 8 ---------------------------------------. predict EMANU, resid. gen EMANUSQ = EMANU*EMANU Оценена регрессия выпуска от ВВП для 28 стран. Остатки регрессии сохранены. 5

Проведение теста Уайта. gen GDPSQ = GDP*GDP. reg EMANUSQ GDPSQ Source | SS df MS -------+---------------Model | 1. 3183 e+19 2 6. 5913 e+18 Residual | 4. 9179 e+19 25 1. 9671 e+18 -------+---------------Total | 6. 2361 e+19 27 2. 3097 e+18 Number of obs F( 2, 25) Prob > F R-squared Adj R-squared Root MSE = 28 = 3. 35 = 0. 0514 = 0. 2114 = 0. 1483 = 1. 4 e+09 ---------------------------------------EMANUSQ | Coef. Std. Err. t P>|t| [95% Conf. Interval] -------+--------------------------------GDP | 6271. 896 2758. 253 2. 27 0. 032 591. 1687 11952. 62 GDPSQ | -. 0041155. 0022626 -1. 82 0. 081 -. 0087754. 0005444 _cons | -4. 21 e+08 4. 51 e+08 -0. 93 0. 359 -1. 35 e+09 5. 08 e+08 --------------------------------------- В качестве зависимой переменной выбраны квадраты остатков, а в качестве независимых переменных – GDP и GDP в квадрате (т. к. переменная одна, то попарных произведений нет). В регрессию включена также константа. 6

Проведение теста Уайта. gen GDPSQ = GDP*GDP. reg EMANUSQ GDPSQ Source | SS df MS -------+---------------Model | 1. 3183 e+19 2 6. 5913 e+18 Residual | 4. 9179 e+19 25 1. 9671 e+18 -------+---------------Total | 6. 2361 e+19 27 2. 3097 e+18 Number of obs F( 2, 25) Prob > F R-squared Adj R-squared Root MSE = 28 = 3. 35 = 0. 0514 = 0. 2114 = 0. 1483 = 1. 4 e+09 ---------------------------------------EMANUSQ | Coef. Std. Err. t P>|t| [95% Conf. Interval] -------+--------------------------------GDP | 6271. 896 2758. 253 2. 27 0. 032 591. 1687 11952. 62 GDPSQ | -. 0041155. 0022626 -1. 82 0. 081 -. 0087754. 0005444 _cons | -4. 21 e+08 4. 51 e+08 -0. 93 0. 359 -1. 35 e+09 5. 08 e+08 --------------------------------------- R 2 равен 0. 2114 и n равно 28. Тестовая статистика равна 5. 92. Критическое значение статистики «хи –квадрат» с двумя степенями свободы равно 5. 99 при 5 % уровне значимости. Полученное значение тестовой статистики не превышает критическое, следовательно, нулевая гипотеза о гомоскедастичности не отвергается. 8

Случай уравнения множественной регрессии Имеем: 1. Спецификацию модели: Yt=a 0+a 1 x 1 t+a 2 x 2 t+a 3 x 3 t+ut 2. Выборку наблюдений за переменными {Y, x 1, x 2, x 3} 3. Модель по этим данным гетероскедастична 4. Известны значения σ(ut) в каждом наблюдении Задача: преобразовать модель так, чтобы случайные возмущения были гомоскедастичны 43

Метод исправления гетероскедастичности Способ 1. Делится каждое уравнение наблюдений на свое σ(ut) и получается: (9. 4) Тогда дисперсия случайного возмущения в каждом уравнении наблюдений есть: Модель (9. 4) в каждом уравнении наблюдения имеет одинаковые дисперсии случайного возмущения равные 1 Недостаток способа – оценить σ(ut) не возможно! 44

Метод исправления гетероскедастичности Способ 2. Предполагаем, что σ(ut)=λxkt, где xkt регрессор «вызывающий» гетероскедастичность Пусть для примера это регрессор x 2 t Уравнение (9. 3) делится на значение этого регрессора. (9. 5) Дисперсия случайного возмущения при этом есть: Уравнения модели (9. 5) имеют постоянную дисперсию случайного возмущения равную λ 2

Метод исправления гетероскедастичности Если регрессоров, приводящих к гетероскедастичности, несколько, то делается предположение: Обе части модели (9. 3) делятся на величину Σ│xj│ Тогда дисперсия случайного возмущения полученной модели есть: 46

Метод исправления гетероскедастичности Относительные расходы на образование в различных странах Страна Y/ВВП 1/ВВП Страна Y/ВВП Применение ф-ии «ЛИНЕЙН» 1/ВВП Люксембург 0, 060 0, 1764 Швейцария 0, 052 0, 0098 0, 0297 0, 0438 -2, 628 0, 0585 Уругвай 0, 022 0, 0987 С. Аравия 0, 055 0, 0086 0, 1453 0, 0105 2, 5862 0, 0098 Сингапур 0, 028 0, 0882 Бельгия 0, 060 0, 0084 0, 0042 0, 021 0, 0936 0, 0179 Ирландия 0, 065 0, 0530 Швеция 0, 090 0, 0081 0, 0417 10 1, 0329 10 Израиль 0, 086 0, 0478 Австралия 0, 061 0, 0071 2 E-05 0, 0044 0, 0003 0, 0032 Венгрия 0, 046 0, 0451 Аргентина 0, 036 0, 0065 Н. Зеландия 0, 053 0, 0420 Нидерланды 0, 079 0, 0059 Португалия 0, 043 0, 0405 Мексика 0, 029 0, 0054 Гонконг 0, 024 0, 0363 Испания 0, 023 0, 0047 Чили 0, 045 0, 0363 Бразилия 0, 036 0, 0040 Греция 0, 019 0, 0249 Канада 0, 072 0, 0038 Финляндия 0, 054 0, 0194 Италия 0, 040 0, 0025 Норвегия 0, 085 0, 0173 Англия 0, 056 0, 0019 Югославия 0, 056 0, 0159 Франция 0, 051 0, 0015 Дания 0, 067 0, 0151 ФРГ 0, 047 0, 0012 Турция 0, 024 0, 0149 Япония 0, 059 0, 0010 Австрия 0, 055 0, 0130 США 0, 070 0, 0004 Fкр=3. 0 Модель: Y=-0. 066 + 0. 053 X (9. 6) 47

Метод исправления гетероскедастичности Диаграмма рассеяния и графики моделей с гетероскедастичными и гомоскедастичными случайными возмущениями. Первоначально 9. 3 (9. 6) 48

Метод исправления гетероскедастичности 2. Случай уравнения множественной регрессии Продолжим рассмотрение предыдущего примера, но в качестве дополнительного регрессора примем х2 – численность населения Здесь: Y – расходы на образование x 1 - размер ВВП x 2 - численность населения 49

Метод исправления гетероскедастичности Числен Расходы ность на ВВП населе образов (X 1) ния ание (Y) (X 2) № Страна Р № 1 Люксембург 0, 34 5, 67 2 3 4 Уругвай Сингапур Ирландия 0, 22 0, 32 1, 23 5 Израилб 6 Страна 0, 36 6, 03 18 Турция 10, 13 11, 34 18, 88 2, 29 2, 39 3, 44 12, 42 13, 73 22, 32 19 20 21 Сауд. Аравия Бельгия Швеция 1, 81 20, 94 3, 87 24, 81 22 Новая Зеландия 1, 27 23, 83 3, 10 26, 93 7 8 Гонконг Венгрия 0, 67 1, 02 27, 56 22, 16 5, 07 10, 71 9 10 11 Португалия Чили Греция 1, 07 1, 25 0, 75 24, 67 27, 57 40, 15 12 Финляндия 2, 80 13 14 15 Норвегия Дания Австрия 16 17 Расходы на образов ание (Y) ВВП (X 1) Численно сть населени я (X 2) Р 1, 60 66, 97 44, 92 111, 89 6, 40 7, 15 11, 22 115, 97 119, 49 124, 15 8, 37 9, 86 8, 31 124, 34 129, 35 132, 46 Австралия 8, 66 140, 98 14, 62 155, 60 23 Аргентина 5, 56 153, 85 27, 06 180, 91 32, 63 32, 87 24 25 Нидерланды Испания 13, 41 4, 79 169, 38 211, 78 14, 14 37, 43 183, 52 249, 21 9, 93 11, 10 9, 60 34, 60 38, 67 49, 75 26 27 28 Мексика Канада Бразилия 5, 46 18, 90 8, 92 186, 33 261, 41 249, 72 67, 40 23, 94 123, 03 253, 73 285, 35 372, 75 51, 62 4, 78 56, 40 29 Италия 15, 95 395, 52 57, 04 452, 56 4, 90 4, 45 4, 26 57, 71 66, 32 76, 88 4, 09 5, 12 7, 51 61, 80 71, 44 84, 39 30 31 32 Великобритания Франция ФРГ 29, 90 33, 59 38, 62 534, 97 655, 29 815, 00 55, 95 53, 71 61, 56 590, 92 709, 00 876, 56 Югославия 3, 50 22, 34 85, 37 33 Япония 61, 61 1040, 45 116, 78 1157, 23 Швейцария 5, 31 63, 03 101, 6 5 6, 37 108, 02 34 США 181, 30 2586, 40 227, 64 2814, 04 Исходные данные для построения модели 50

Пример зависимости производства на душу населения от ВВП на душу населения (диаграмма рассеивания). 11

Пример RSS 1 = 5, 378, 000 RSS 2 = 17, 362, 000 Упорядочив страны по возрастанию ВВП на душу населения, разбивает их на три группы, средние наблюдения выкидывает, а для первой и последней группы наблюдений оцениваем регрессии и находим RSS. 12

Пример RSS 1 = 5, 378, 000 RSS 2 = 17, 362, 000 Проводим тест Голфелда - Квандта. Поскольку тестовая статистика больше критической при 5% уровне значимости, нулевая гипотеза о гомоскедастичности отвергается. 13

Пример Альтернативная гипотеза в тесте Голфелда – Квандта предполагает пропорциональность стандартного отклонения возмущений объясняющей переменной (в данном примере X = GDP). 14

Пример Напомним, что для получения эффективных оценок требуется преобразовать переменные, разделив их на ту переменную, которой пропорционально стандартное отклонение возмущений. 15

Пример Диаграмма рассеяния в преобразованных переменных. 16

Пример RSS 1 = 0. 065 RSS 2 = 0. 070 Снова проводим тест Голдфелда - Квандта. 17

Пример RSS 1 = 0. 065 RSS 2 = 0. 070 На этот раз гипотеза о гомоскедастичности не отвергается. С помощью преобразования гетероскедастичность была устранена. 18

Второй способ борьбы с гетероскедастичностью Существует другой способ борьбы с гетероскедастичностью, связанный с выбором другой функциональной формы модели, а именно, линейной в логарифмах. 19

Логарифмическое преобразование данных Диаграмма рассеяния для переменных в логарифмическом масштабе. 20

Линейная в логарифмах модель RSS 1 = 2. 140 RSS 2 = 1. 037 Проведем снова тест Голдфелда – Квандта для линейной в логарифмах модели. . 21

HETEROSCEDASTICITY: WEIGHTED AND LOGARITHMIC REGRESSIONS RSS 1 = 2. 140 RSS 2 = 1. 037 Нулевая гипотеза о гомоскедастичности не отвергается. 22

Логарифмический масштаб South Korea Mexico Singapore Greece В логарифмическом масштабе разнице между Южной Кореей и Мексикой не так сильно отличается от разницы для Сингапура и Греции, как при линейном масштабе. 23

Линейный масштаб South Korea Singapore Mexico Greece 24

Различные спецификации По одним и тем же данным оценено несколько моделей. 25