2. Линейная модель МР ppxxxfxxx. YM

Скачать презентацию 2. Линейная модель МР   ppxxxfxxx. YM Скачать презентацию 2. Линейная модель МР ppxxxfxxx. YM

ep_praktika1_mr.pptx

  • Размер: 1.1 Мб
  • Автор:
  • Количество слайдов: 61

Описание презентации 2. Линейная модель МР ppxxxfxxx. YM по слайдам

2. Линейная модель МР  2. Линейная модель МР

 ppxxxfxxx. YM , . . . , , ), . . . , ppxxxfxxx. YM , . . . , , ), . . . , , (2121 ppxxxy. . . 221101) Модель множественной регресии (МР) 2) переменнаяфиктивнаяx 1 00 p xxxfy, . . . , , 21 3)

 npnn pp xxx xxx  21 22221 11211 111 X]', . . . npnn pp xxx xxx 21 22221 11211 111 X]’, . . . , , , [210 p ]’, . . . , , [ 21 n XY ]’, . . . , , [ 21 n yyy. Y Матричная запись

exbxbxbbypp. . . 22110 pp xbxbxbby. . . 22110 1) Выборочная модель МР 2)exbxbxbbypp. . . 22110 pp xbxbxbby. . . 22110 1) Выборочная модель МР 2)

]', . . . , , , [ 210 p bbbb. B ]', .]’, . . . , , , [ 210 p bbbb. B ]’, . . . , , [ 21 n eee. E EXBYМатричная запись XBY

  Рекомендация: Целесообразно : объем выборки должен быть в 6 -7 раз больше Рекомендация: Целесообразно : объем выборки должен быть в 6 -7 раз больше числа независимых переменных. )1(3 pn 1 pn Число степеней свободы :

Классическая нормальная линейная модель МР при выполнении требований 1. Независимые переменные  – величиныКлассическая нормальная линейная модель МР при выполнении требований 1. Независимые переменные – величины неслучайные, возмущения — есть СВ. 2. МО возмущений равны 0. 3. Дисперсия возмущений постоянна (условие гомоскедастичности).

Классическая нормальная линейная модель МР при выполнении следующих требований 4. Отсутствие автокорреляции в возмущенияхКлассическая нормальная линейная модель МР при выполнении следующих требований 4. Отсутствие автокорреляции в возмущениях и их некоррелированность со всеми НП. 5. Возмущения распределены по нормальному закону. 6. Отсутствие мультиколлинеарности (между НП отсутствует сильная линейная связь).

Для классической нормальной линейной модели МР МНК-оценки параметров модели имеют наименьшую дисперсию в классеДля классической нормальной линейной модели МР МНК-оценки параметров модели имеют наименьшую дисперсию в классе линейных несмещенных оценок

2. Оценка параметров линейной  модели МР 2. Оценка параметров линейной модели МР

Метод наименьших квадратов Оценки параметров ЛММР согласно МНК будем искать из условия: Условиями минимумаМетод наименьших квадратов Оценки параметров ЛММР согласно МНК будем искать из условия: Условиями минимума функции являются равенство нулю первых производных по коэффициентам УМР. min 2 221102 ppi i xbxbxbby e. Q

 YXA YXXXB ' '' 1 1  1) 2 ) Матричный метод np. YXA YXXXB ‘ » 1 1 1) 2 ) Матричный метод np. Rank 1)(X 3 ) XXA’

jиi. DD ji любыхдля)()(1) Гомоскедастичность Гетероскедастичность jиi. DD ji любыхдля)()( 2) jиi. DD ji любыхдля)()(1) Гомоскедастичность Гетероскедастичность jиi. DD ji любыхдля)()( 2)

Понятие автокорреляции Понятие автокорреляции

Обобщенный метод наименьших квадратов Теорема.  Если в схеме Гаусса-Маркова не выполняется предпосылка оОбобщенный метод наименьших квадратов Теорема. Если в схеме Гаусса-Маркова не выполняется предпосылка о гомоскедастичности и некорелированности случайных возмущений, то наилучшей линейной процедурой оценки параметров модели является: YPXXPXb 111 TT Р — матрица ковариаций случайных возмущений (положительно определенная матрица)

Взвешенный метод наименьших квадрато в Теорема.  Если в схеме Гаусса-Маркова не выполняется предпосылкаВзвешенный метод наименьших квадрато в Теорема. Если в схеме Гаусса-Маркова не выполняется предпосылка о гомоскедастичности случайных возмущений, то наилучшей линейной процедурой оценки параметров модели является: YPXXPXb 111 TT e e e n 22212. . . 00. . . 0 PР — матрица ковариаций случайных возмущений :

Взвешенный метод наименьших квадратов Взвешенный метод наименьших квадратов

Мультиколлинеарность (МТК) – это явление высокой взаимной коррелированности НП. Два вида МТК: 1) совершеннаяМультиколлинеарность (МТК) – это явление высокой взаимной коррелированности НП. Два вида МТК: 1) совершенная (строгая, полная) 2) несовершенная (частичная) 1 rankp. XПолная МТК при наличии функциональных связей между НП. Это нарушение требования к рангу матрицы : 2)1) 0 det ‘ XX YXXXB»

Последствия МТК:  Оценки коэффициентов УМР ненадежны и неустойчивы (увеличиваются стандартные ошибки оценок иПоследствия МТК: Оценки коэффициентов УМР ненадежны и неустойчивы (увеличиваются стандартные ошибки оценок и уменьшаются t-статистики МНК-оценок) МНК-оценки коэффициентов неустойчивы (чувствительны к изменениям данных и размерности выборки) Возможность получения неверного знака у коэффициентов регрессии

Последствия МТК:  Оценки коэффициентов УМР становятся очень чувствительными к ошибкам спец.  ОсложнениеПоследствия МТК: Оценки коэффициентов УМР становятся очень чувствительными к ошибкам спец. Осложнение процесса определения наиболее существенных факторов Затрудняет экономическую интерпретацию коэффициентов УМР (выделение характеристик влияния факторов на ЗП в чистом виде) ОДНАКО : Оценки коэффициентов остаются несмещенными Оценки коэффициентов немультикол. факторов не ухудшаются

Причины возникновения МТК:  НП характеризуют одну и туже сторону экон. процесса Использование вПричины возникновения МТК: НП характеризуют одну и туже сторону экон. процесса Использование в модели НП, суммарное значение которых есть постоянная величина НП, являющиеся элементами друга НП могут иметь общий временный тренд, относительно которой они совершают малые колебания Наблюдается фиктивная (ложная) линейная связь.

Методы устранения мультиколлинеарности  Переход к смещенным методам оценивания «Ридж – регрессия» ( «гребневаяМетоды устранения мультиколлинеарности Переход к смещенным методам оценивания «Ридж – регрессия» ( «гребневая регрессия» ) YXIXXB» 1 1 p 4. 01.

Регрессия на главных компонентах Регрессия на главных компонентах

Тема № 1. Линейные эконометрические модели 4. Оценивание параметров ЭМ с учетом ограничений Тема № 1. Линейные эконометрические модели 4. Оценивание параметров ЭМ с учетом ограничений

Ограничения 0 ib 1) 2) r. RB 3) 32 bb 22 432 bbb Ограничения 0 ib 1) 2) r. RB 3) 32 bb 22 432 bbb 2 0 r 2110 0110 R

Целевая функция 1) при ограничениях  n j jb e i 1 2 min.Целевая функция 1) при ограничениях n j jb e i 1 2 min. XB)(YXB)'(Y 2) , max 3 minii bbbr. RB 3)minib Rbr. RXXR RXXbb 11 1 T T

Тема № 1. Линейные эконометрические модели 5. Проверка качества линейных моделей МР (самостоятельная проработка)Тема № 1. Линейные эконометрические модели 5. Проверка качества линейных моделей МР (самостоятельная проработка)

Проверка статических гипотез Виды статистических гипотез: 1) Нулевые (основные); 2) альтернативные (конкурирующие). Альтернативная гипотезаПроверка статических гипотез Виды статистических гипотез: 1) Нулевые (основные); 2) альтернативные (конкурирующие). Альтернативная гипотеза H 1 — гипотеза, которая противоречит нулевой. Нулевая гипотеза H 0 — проверяемая гипотеза

Проверка статических гипотез Ошибка первого рода – отвергается нулевая гипотеза, когда она верна. ОбозначаютПроверка статических гипотез Ошибка первого рода – отвергается нулевая гипотеза, когда она верна. Обозначают и наз. уровнем значимости (размером критерия) Ошибка второго рода –принимается нулевая гипотеза, когда верна альтернативная гипотеза. Обозначают и вероятность 1 — не совершить ошибку второго рода наз. мощностью критерия

Проверки статистических гипотез Случайная величина К, построенная по результатам наблюдений для проверки нулевой гипотезы,Проверки статистических гипотез Случайная величина К, построенная по результатам наблюдений для проверки нулевой гипотезы, наз. статистическим критерием. Основа схемы построения статистического критерия – разделение выборочного пространства на две области: 1) область отклонения нулевой гипотезы (критическая обл. ) 2) область принятия нулевой гипотезы

t. Tнабл|| )H/k(f 0 Критическая область крk 1 крk 2 Область принятия гипотезы Ht. Tнабл|| )H/k(f 0 Критическая область крk 1 крk 2 Область принятия гипотезы H 0 Статистическая проверка гипотез

Проверка статических гипотез Статистический критерий  определяется заданием: 1) статистической гипотезы Н 0; 2)Проверка статических гипотез Статистический критерий определяется заданием: 1) статистической гипотезы Н 0; 2) уровня значимости ; 3) статистики критерия; 4) критической области. Критерий наз. наиболее мощным, если из всех критериев с заданным уровнем значимости он обладает наибольшей мощностью

1. Нахождением критических точек,  соответствующих заданным уровням значимости . 2. Нахождением уровня значимости1. Нахождением критических точек, соответствующих заданным уровням значимости . 2. Нахождением уровня значимости P ( значимой вероятности ) , соответствующего наблюдаемому значению статистического критерия. Если значимость P меньше заданного стандартного уровня значимости , то нулевая гипотеза отвергается в пользу альтернативной. Два способа проверки гипотез:

2. Задается уровень значимости 1. Формулировка нулевой и альтернативной гипотез 3. Определение объема выборки2. Задается уровень значимости 1. Формулировка нулевой и альтернативной гипотез 3. Определение объема выборки n. Общая схема проверки гипотез 4. Выбор статистического критерия для проверки нулевой гипотезы. 6. Вычисление наблюдаемого значения статистического критерия. 5. Определение критической области и области принятия гипотезы. 7. Принятие статистического решения. Проверка гипотез при двусторонней КО тесно связано с интервальным оцениванием.

1. Нахождением критических точек,  соответствующих заданным уровням значимости . 2. Нахождением уровня значимости1. Нахождением критических точек, соответствующих заданным уровням значимости . 2. Нахождением уровня значимости P ( значимой вероятности ) , соответствующего наблюдаемому значению статистического критерия. Если значимость P меньше заданного стандартного уровня значимости , то нулевая гипотеза отвергается в пользу альтернативной. Два способа проверки гипотез:

 222 iiiiyyyyyy Общая Сум. КО (TSS) Факторная Сум. КО (ESS) Остаточная Сум. КО 222 iiiiyyyyyy Общая Сум. КО (TSS) Факторная Сум. КО (ESS) Остаточная Сум. КО (RSS) 1 ndfpdf 1 pndf. Качество подгонки данных моделью

1, 012 TTS RSS TSS ESS RКоэффициент множественной детерминации Коэффициенты R 2  в1, 012 TTS RSS TSS ESS RКоэффициент множественной детерминации Коэффициенты R 2 в разных моделях с разным числом наблюдений (и переменных) несравнимы

 1 1/ 1/ 1 2 n. TSS pn. RSS R 22221 11 R 1 1/ 1/ 1 2 n. TSS pn. RSS R 22221 11 R pn p R pn n RR 1) 2) Скорректированный коэффициент множественной детерминации Скорректированные коэффициенты в разных моделях с разным числом наблюдений (и переменных) ограниченно сравнимы

1, 0 2 RR 1) 2) Множественный коэффициент корреляции }, 1, max{pir. R iyx1, 0 2 RR 1) 2) Множественный коэффициент корреляции }, 1, max{pir. R iyx

Проверка значимости коэффициентов Проверка значимости коэффициентов

Проверка статических гипотез Статистический критерий  определяется заданием: 1) статистической гипотезы Н 0; 2)Проверка статических гипотез Статистический критерий определяется заданием: 1) статистической гипотезы Н 0; 2) уровня значимости ; 3) статистики критерия; 4) критической области.

t. Tнабл|| )H/k(f 0 Критическая область крk 1 крk 2 Область принятия гипотезы Ht. Tнабл|| )H/k(f 0 Критическая область крk 1 крk 2 Область принятия гипотезы H 0 Статистическая проверка гипотез

Проверка статических гипотез Ошибка первого рода – отвергается нулевая гипотеза, когда она верна. ОбозначаютПроверка статических гипотез Ошибка первого рода – отвергается нулевая гипотеза, когда она верна. Обозначают и наз. уровнем значимости (размером критерия) Ошибка второго рода –принимается нулевая гипотеза, когда верна альтернативная гипотеза. Обозначают и вероятность 1 — не совершить ошибку второго рода наз. мощностью критерия

Проверка значимости коэффициент b 0 Проверка значимости коэффициент b

0: ; 0: 10 jj. HH 1) 3) pj m b t j j0: ; 0: 10 jj. HH 1) 3) pj m b t j j b, 0, 2) jjebz. Sm j 1/ 2 pnyy. Sxe матрицыэлементыыедиагональнjjz 1 , 0, )'( XXZ pjiijz

1; таблpntt jb- параметр значим 1) 2) 3) Проверка значимости  коэф. УМР Общий1; таблpntt jb- параметр значим 1) 2) 3) Проверка значимости коэф. УМР Общий случай jjjjb. H: ; : 10 pj m b t j j b jj b, 0,

2 tkptkpt Вычисление критической точки РС 2  1 2 tkptkpt Вычисление критической точки РС

jjbjjbj bb 1) Доверительный интервал 2) Предельная ошибка jjbb mpnt 1; табл jjbjjbj bb 1) Доверительный интервал 2) Предельная ошибка jjbb mpnt 1; табл

1; 2 таблpntt jb- прин.  H 11) 2) 3) Односторонние проверка значимости коэф.1; 2 таблpntt jb- прин. H 11) 2) 3) Односторонние проверка значимости коэф. УМР jjjj b. H: ; : 10 pj m b t j j b jj b, 0,

- правосторонняя 1) 2) 3) Односторонние гипотезыjjjj b. Hb. H: ; : 10 -— правосторонняя 1) 2) 3) Односторонние гипотезыjjjj b. Hb. H: ; : 10 — левосторонняя Если имеется информация о знаках коэф. Знак «+» 0: ; 0: 10 jj b. H Знак «-» 0: ; 0: 10 jj b. H

. . 0 : остфакт DDH. . 1 : остфакт DDH )1; (~21. .. . 0 : остфакт DDH. . 1 : остфакт DDH )1; (~21. . pnp. F D D F ост факт Оценка значимости УМР p ESS Dфакт. 1. pn RSS D ост1) 2) значимамодельpnp. FFтабл 1; ; 3)

kntt набл ; табл - прин.  H 11) 2) 4) Тестирование одного линейногоkntt набл ; табл — прин. H 11) 2) 4) Тестирование одного линейного ограничения Общий случай rxxr br 1 )( TT e T набл S q t 1. . . 21 k βr T kk rrr. . . 2211 q. H TT βrβr: 1:

p pn R R F 1 122 0: 2 0 RH 0: 2 1p pn R R F 1 122 0: 2 0 RH 0: 2 1 RH 1; ; pnp. FF табл — модель значима 1) 2) 3) Анализ значимости коэффициента множественной детерминации

 кр. FВычисление критической точки РФ для правосторонней критической области 1; ; pnp. FF кр. FВычисление критической точки РФ для правосторонней критической области 1; ; pnp. FF таблкр

Меры точности РМ: 1.  Средняя квадратическая ошибка остаточной компоненты на 1 степень свободыМеры точности РМ: 1. Средняя квадратическая ошибка остаточной компоненты на 1 степень свободы (стандартная ошибка регрессии RMSE) Определение точности РМ 1/ 2 pnyy. SRMSE xe Основная величина для измерения качества модели (чем она меньше, тем лучше) Значения RMSE в однотипных моделях с разным числом наблюдений и (или) переменных сравнимы

100 1. i i относ y e n E 75. относ. E- хороший подбор100 1. i i относ y e n E %75. относ. E- хороший подбор РМ 2. Средняя относительная ошибка аппроксимации Определение точности РМ

Типичные ошибки в использовании показателей качества ПР Типичные ошибки в использовании показателей качества ПР

Конец лекции  Конец лекции