Скачать презентацию НЕЛИНЕЙНЫЕ МОДЕЛИ Линейные модели по переменным и параметрам Скачать презентацию НЕЛИНЕЙНЫЕ МОДЕЛИ Линейные модели по переменным и параметрам

e02bfa871bfde2cfd8e1b4c49ae73d74.ppt

  • Количество слайдов: 66

НЕЛИНЕЙНЫЕ МОДЕЛИ Линейные модели по переменным и параметрам: Линейные модели и по переменным и НЕЛИНЕЙНЫЕ МОДЕЛИ Линейные модели по переменным и параметрам: Линейные модели и по переменным и по параметрам. Способы сведения нелинейных моделей к линейным. 1

НЕЛИНЕЙНЫЕ МОДЕЛИ Модели линейные по переменным и параметрам: Модели линейные по параметрам и нелинейные НЕЛИНЕЙНЫЕ МОДЕЛИ Модели линейные по переменным и параметрам: Модели линейные по параметрам и нелинейные по переменным: Модели нелинейные по переменным. Замена переменных приводит к модели линейной и по параметрам и по переменным. 2

ЛИНЕАРИЗАЦИЯ МОДЕЛЕЙ Модели линейные по переменным и параметрам : Модели линейные по параметрам и ЛИНЕАРИЗАЦИЯ МОДЕЛЕЙ Модели линейные по переменным и параметрам : Модели линейные по параметрам и нелинейные по переменным : Модели нелинейные по параметрам: Некоторые модели нелинейные по параметрам могут быть линеаризованы. 3

ЛИНЕАРИЗАЦИЯ МОДЕЛЕЙ хозяйство 1 2 3 4 5 6 7 8 9 10 бананы ЛИНЕАРИЗАЦИЯ МОДЕЛЕЙ хозяйство 1 2 3 4 5 6 7 8 9 10 бананы (фунт) Y 1. 71 6. 88 8. 25 9. 52 9. 81 11. 43 11. 09 10. 87 12. 15 10. 94 доход ($10, 000) X 1 2 3 4 5 6 7 8 9 10 Пример: зависимость потребления бананов от дохода для 10 хозяйств. 4

ЛИНЕАРИЗАЦИЯ МОДЕЛЕЙ Y X Точечная диаграмма. 5 ЛИНЕАРИЗАЦИЯ МОДЕЛЕЙ Y X Точечная диаграмма. 5

ЛИНЕАРИЗАЦИЯ МОДЕЛЕЙ. reg Y X Source | SS df MS -----+---------------Model | 58. 8774834 ЛИНЕАРИЗАЦИЯ МОДЕЛЕЙ. reg Y X Source | SS df MS -----+---------------Model | 58. 8774834 1 58. 8774834 Residual | 27. 003764 8 3. 3754705 -----+---------------Total | 85. 8812475 9 9. 54236083 Number of obs F( 1, 8) Prob > F R-squared Adj R-squared Root MSE = = = 10 17. 44 0. 0031 0. 6856 0. 6463 1. 8372 ---------------------------------------Y | Coef. Std. Err. t P>|t| [95% Conf. Interval] -----+----------------------------------X |. 8447878. 2022741 4. 176 0. 003. 378343 1. 311233 _cons | 4. 618667 1. 255078 3. 680 0. 006 1. 724453 7. 512881 --------------------------------------- Y=4, 6+0, 84*X Построение регрессионной модели. Коэффициент при X значим, коэффициент детерминации R 2 высок. Хорошая ли это модель? 6

ЛИНЕАРИЗАЦИЯ МОДЕЛЕЙ Y X Поведение отклонений от линии регрессии не похожа на случайную величину, ЛИНЕАРИЗАЦИЯ МОДЕЛЕЙ Y X Поведение отклонений от линии регрессии не похожа на случайную величину, что свидетельствует о некорректности модели. 7

ЛИНЕАРИЗАЦИЯ МОДЕЛЕЙ Измененная модель: Обратно пропорциональная модель. Y увеличивается вместе с X если b ЛИНЕАРИЗАЦИЯ МОДЕЛЕЙ Измененная модель: Обратно пропорциональная модель. Y увеличивается вместе с X если b 2 < 0. Функция имеет верхним пределом b 1. Невозможно питаться одними бананами. Модель линеаризуется заменой переменных 8

ЛИНЕАРИЗАЦИЯ МОДЕЛЕЙ хозяйства 1 2 3 4 5 6 7 8 9 10 бананы ЛИНЕАРИЗАЦИЯ МОДЕЛЕЙ хозяйства 1 2 3 4 5 6 7 8 9 10 бананы (фунтов) Y 1. 71 6. 88 8. 25 9. 52 9. 81 11. 43 11. 09 10. 87 12. 15 10. 94 доход ($10, 000) X 1 2 3 4 5 6 7 8 9 10 Z 1. 00 0. 50 0. 33 0. 25 0. 20 0. 17 0. 14 0. 13 0. 11 0. 10 . 9

ЛИНЕАРИЗАЦИЯ МОДЕЛЕЙ Y Z Зависимость Y от Z. 10 ЛИНЕАРИЗАЦИЯ МОДЕЛЕЙ Y Z Зависимость Y от Z. 10

ЛИНЕАРИЗАЦИЯ МОДЕЛЕЙ. g Z=1/X. reg Y Z Source | SS df MS -----+---------------Model | ЛИНЕАРИЗАЦИЯ МОДЕЛЕЙ. g Z=1/X. reg Y Z Source | SS df MS -----+---------------Model | 83. 5451508 1 83. 5451508 Residual | 2. 33609666 8. 292012083 -----+---------------Total | 85. 8812475 9 9. 54236083 Number of obs F( 1, 8) Prob > F R-squared Adj R-squared Root MSE = = = 10 286. 10 0. 0000 0. 9728 0. 9694. 54038 ---------------------------------------Y | Coef. Std. Err. t P>|t| [95% Conf. Interval] -----+----------------------------------Z | -10. 98865. 6496573 -16. 915 0. 000 -12. 48677 -9. 490543 _cons | 12. 48354. 2557512 48. 811 0. 000 11. 89378 13. 07331 --------------------------------------- Вычисление регрессионных коэффициентов регрессионной модели. Высокая объяснительная способность модели. 11

ЛИНЕАРИЗАЦИЯ МОДЕЛЕЙ Y Z График зависимости Y от Z. 12 ЛИНЕАРИЗАЦИЯ МОДЕЛЕЙ Y Z График зависимости Y от Z. 12

НЕЛИНЕЙНЫЕ МОДЕЛИ Y X График зависимости Y от Z показывает лучшую зависимость и большую НЕЛИНЕЙНЫЕ МОДЕЛИ Y X График зависимости Y от Z показывает лучшую зависимость и большую случайность отклонений. 13

ЭЛАСТИЧНОСТЬ И ЛОГАРИФМИЧЕСКИЕ МОДЕЛИ Эластичность. Y по X есть пропорциональное изменение Y относительно пропорционального ЭЛАСТИЧНОСТЬ И ЛОГАРИФМИЧЕСКИЕ МОДЕЛИ Эластичность. Y по X есть пропорциональное изменение Y относительно пропорционального изменения X: A Y O X Эластичность в любой точке – это отношение тангенса угла наклона касательной к тангенсу угла наклона радиус вектора. Значение эластичности для данного рисунка 14 < 1.

ЭЛАСТИЧНОСТЬ И ЛОГАРИФМИЧЕСКИЕ МОДЕЛИ A Y O X Пример функции с эластичность > 1. ЭЛАСТИЧНОСТЬ И ЛОГАРИФМИЧЕСКИЕ МОДЕЛИ A Y O X Пример функции с эластичность > 1. 15

ЭЛАСТИЧНОСТЬ И ЛОГАРИФМИЧЕСКИЕ МОДЕЛИ Y A O Xx Эластичность для прямой непостоянна. 16 ЭЛАСТИЧНОСТЬ И ЛОГАРИФМИЧЕСКИЕ МОДЕЛИ Y A O Xx Эластичность для прямой непостоянна. 16

ЭЛАСТИЧНОСТЬ И ЛОГАРИФМИЧЕСКИЕ МОДЕЛИ Функция с одинаковой эластичностью для всех X. . 17 ЭЛАСТИЧНОСТЬ И ЛОГАРИФМИЧЕСКИЕ МОДЕЛИ Функция с одинаковой эластичностью для всех X. . 17

ЭЛАСТИЧНОСТЬ И ЛОГАРИФМИЧЕСКИЕ МОДЕЛИ Y X Пример функции с эластичностью 0. 25. 18 ЭЛАСТИЧНОСТЬ И ЛОГАРИФМИЧЕСКИЕ МОДЕЛИ Y X Пример функции с эластичностью 0. 25. 18

ЭЛАСТИЧНОСТЬ И ЛОГАРИФМИЧЕСКИЕ МОДЕЛИ Y X 19 ЭЛАСТИЧНОСТЬ И ЛОГАРИФМИЧЕСКИЕ МОДЕЛИ Y X 19

ЭЛАСТИЧНОСТЬ И ЛОГАРИФМИЧЕСКИЕ МОДЕЛИ Y X b 2 = 1, прямая линия. Линейная модель ЭЛАСТИЧНОСТЬ И ЛОГАРИФМИЧЕСКИЕ МОДЕЛИ Y X b 2 = 1, прямая линия. Линейная модель может быть частным случаем модели с постоянной эластичностью 20

ЭЛАСТИЧНОСТЬ И ЛОГАРИФМИЧЕСКИЕ МОДЕЛИ Y X. 21 ЭЛАСТИЧНОСТЬ И ЛОГАРИФМИЧЕСКИЕ МОДЕЛИ Y X. 21

ЭЛАСТИЧНОСТЬ И ЛОГАРИФМИЧЕСКИЕ МОДЕЛИ Линеаризация модели. 22 ЭЛАСТИЧНОСТЬ И ЛОГАРИФМИЧЕСКИЕ МОДЕЛИ Линеаризация модели. 22

ЭЛАСТИЧНОСТЬ И ЛОГАРИФМИЧЕСКИЕ МОДЕЛИ FDHO EXP Точечная диаграмма зависимости FDHO, трат на еду дома, ЭЛАСТИЧНОСТЬ И ЛОГАРИФМИЧЕСКИЕ МОДЕЛИ FDHO EXP Точечная диаграмма зависимости FDHO, трат на еду дома, от EXP, общего годового дохода. (в $, 1995 г. для 869 хозяйств США). 23

ЭЛАСТИЧНОСТЬ И ЛОГАРИФМИЧЕСКИЕ МОДЕЛИ. reg FDHO EXP Source | SS df MS -----+---------------Model | ЭЛАСТИЧНОСТЬ И ЛОГАРИФМИЧЕСКИЕ МОДЕЛИ. reg FDHO EXP Source | SS df MS -----+---------------Model | 915843574 1 915843574 Residual | 2. 0815 e+09 867 2400831. 16 -----+---------------Total | 2. 9974 e+09 868 3453184. 55 Number of obs F( 1, 867) Prob > F R-squared Adj R-squared Root MSE = = = 869 381. 47 0. 0000 0. 3055 0. 3047 1549. 5 ---------------------------------------FDHO | Coef. Std. Err. t P>|t| [95% Conf. Interval] -----+----------------------------------EXP |. 0528427. 0027055 19. 531 0. 000. 0475325. 0581529 _cons | 1916. 143 96. 54591 19. 847 0. 000 1726. 652 2105. 634 --------------------------------------- FDHO=1916, 1+0, 05*EXP Построение регрессии FDHO от EXP. На еду тратится около 5% годового дохода. Константа смысла не имеет. 24

ЭЛАСТИЧНОСТЬ И ЛОГАРИФМИЧЕСКИЕ МОДЕЛИ FDHO EXP Регрессионная линия. 25 ЭЛАСТИЧНОСТЬ И ЛОГАРИФМИЧЕСКИЕ МОДЕЛИ FDHO EXP Регрессионная линия. 25

ЭЛАСТИЧНОСТЬ И ЛОГАРИФМИЧЕСКИЕ МОДЕЛИ LGFDHO LGEXP Подбор логарифмической модели. Точечная диаграмма логарифма FDHO в ЭЛАСТИЧНОСТЬ И ЛОГАРИФМИЧЕСКИЕ МОДЕЛИ LGFDHO LGEXP Подбор логарифмической модели. Точечная диаграмма логарифма FDHO в зависимости от логарифма EXP. 26

ЭЛАСТИЧНОСТЬ И ЛОГАРИФМИЧЕСКИЕ МОДЕЛИ. g LGFDHO = ln(FDHO). g LGEXP = ln(EXP). reg LGFDHO ЭЛАСТИЧНОСТЬ И ЛОГАРИФМИЧЕСКИЕ МОДЕЛИ. g LGFDHO = ln(FDHO). g LGEXP = ln(EXP). reg LGFDHO LGEXP Source | SS df MS -----+---------------Model | 84. 4161692 1 84. 4161692 Residual | 184. 579612 866. 213140429 -----+---------------Total | 268. 995781 867. 310260416 Number of obs F( 1, 866) Prob > F R-squared Adj R-squared Root MSE = = = 868 396. 06 0. 0000 0. 3138 0. 3130. 46167 ---------------------------------------LGFDHO | Coef. Std. Err. t P>|t| [95% Conf. Interval] -----+----------------------------------LGEXP |. 4800417. 0241212 19. 901 0. 000. 4326988. 5273846 _cons | 3. 166271. 244297 12. 961 0. 000 2. 686787 3. 645754 --------------------------------------- Регресссионная логарифмическая модель LGFDHO от LGEXP. 27

ЭЛАСТИЧНОСТЬ И ЛОГАРИФМИЧЕСКИЕ МОДЕЛИ. g LGFDHO = ln(FDHO). g LGEXP = ln(EXP). reg LGFDHO ЭЛАСТИЧНОСТЬ И ЛОГАРИФМИЧЕСКИЕ МОДЕЛИ. g LGFDHO = ln(FDHO). g LGEXP = ln(EXP). reg LGFDHO LGEXP Source | SS df MS -----+---------------Model | 84. 4161692 1 84. 4161692 Residual | 184. 579612 866. 213140429 -----+---------------Total | 268. 995781 867. 310260416 Number of obs F( 1, 866) Prob > F R-squared Adj R-squared Root MSE = = = 868 396. 06 0. 0000 0. 3138 0. 3130. 46167 ---------------------------------------LGFDHO | Coef. Std. Err. t P>|t| [95% Conf. Interval] -----+----------------------------------LGEXP |. 4800417. 0241212 19. 901 0. 000. 4326988. 5273846 _cons | 3. 166271. 244297 12. 961 0. 000 2. 686787 3. 645754 --------------------------------------- Коэффициент эластичности 0. 48. Является ли он правдоподобным? Поскольку еда – предмет первой необходимости, то коэффициент эластичности функции спроса должен быть меньше 1. Расходы на еду растут медленнее, чем рост дохода. ( e 3. 17 = 23. 8) 28

ЭЛАСТИЧНОСТЬ И ЛОГАРИФМИЧЕСКИЕ МОДЕЛИ LGFDHO LGEXP Точечная диаграмма и логарифмическая модель. 29 ЭЛАСТИЧНОСТЬ И ЛОГАРИФМИЧЕСКИЕ МОДЕЛИ LGFDHO LGEXP Точечная диаграмма и логарифмическая модель. 29

ЭЛАСТИЧНОСТЬ И ЛОГАРИФМИЧЕСКИЕ МОДЕЛИ FDHO EXP Сравнение линейной и логарифмической модели. В середине близки, ЭЛАСТИЧНОСТЬ И ЛОГАРИФМИЧЕСКИЕ МОДЕЛИ FDHO EXP Сравнение линейной и логарифмической модели. В середине близки, а по краям сильное расхождение. В нуле значение равно нулю, что соответствует здравому смыслу. Для больших доходов доля, расходуемая на продовольствие должна падать. 30

ПОЛУЛОГАРИФМИЧЕСКИЕ МОДЕЛИ Относительное изменение Y в расчете на единицу абсолютного изменения X равны b ПОЛУЛОГАРИФМИЧЕСКИЕ МОДЕЛИ Относительное изменение Y в расчете на единицу абсолютного изменения X равны b 2. 31

ПОЛУЛОГАРИФМИЧЕСКИЕ МОДЕЛИ Оценка зависимости ПЛАТЫ (Earnings) от продолжительности обучения (S). 32 ПОЛУЛОГАРИФМИЧЕСКИЕ МОДЕЛИ Оценка зависимости ПЛАТЫ (Earnings) от продолжительности обучения (S). 32

ПОЛУЛОГАРИФМИЧЕСКИЕ МОДЕЛИ Интерпретация b 2. . Если b 2 мало (<0, 1), то EARNINGS ПОЛУЛОГАРИФМИЧЕСКИЕ МОДЕЛИ Интерпретация b 2. . Если b 2 мало (<0, 1), то EARNINGS (1 + b 2). Это позволяет интерпретировать b 2 как процент повышения платы при увеличении аргумента на 1. Если b 2 велико, то интерпретация более сложна. 33

ПОЛУЛОГАРИФМИЧЕСКИЕ МОДЕЛИ b 1 - это значение Y при X =0 34 ПОЛУЛОГАРИФМИЧЕСКИЕ МОДЕЛИ b 1 - это значение Y при X =0 34

ПОЛУЛОГАРИФМИЧЕСКИЕ МОДЕЛИ Линеаризация модели. 35 ПОЛУЛОГАРИФМИЧЕСКИЕ МОДЕЛИ Линеаризация модели. 35

ПОЛУЛОГАРИФМИЧЕСКИЕ МОДЕЛИ. reg LGEARN S Source | SS df MS -----+---------------Model | 21. 681253 ПОЛУЛОГАРИФМИЧЕСКИЕ МОДЕЛИ. reg LGEARN S Source | SS df MS -----+---------------Model | 21. 681253 1 21. 681253 Residual | 132. 12064 568. 23260676 -----+---------------Total | 153. 801893 569. 270302096 Number of obs F( 1, 568) Prob > F R-squared Adj R-squared Root MSE = = = 570 93. 21 0. 0000 0. 1410 0. 1395. 48229 ---------------------------------------LGEARN | Coef. Std. Err. t P>|t| [95% Conf. Interval] -----+----------------------------------S |. 0792256. 0082061 9. 655 0. 000. 0631077. 0953435 _cons | 1. 358919. 1127785 12. 049 0. 000 1. 137406 1. 580433 --------------------------------------- LNEARN = 1, 36+0, 079*S EARN = e 1, 36 e 0, 079*S Регрессионная полулогарифмическая модель. 36

ПОЛУЛОГАРИФМИЧЕСКИЕ МОДЕЛИ Приблизительная оценка. β 2 = 0. 079, то есть каждый год обучения ПОЛУЛОГАРИФМИЧЕСКИЕ МОДЕЛИ Приблизительная оценка. β 2 = 0. 079, то есть каждый год обучения приблизительно ведет к увеличению зарплаты на 7. 9%. Более точная оценка дает значение e 0, 079 = 1, 082, то есть увеличение на 8. 2%. 37

ПОЛУЛОГАРИФМИЧЕСКИЕ МОДЕЛИ. reg LGEARN S Source | SS df MS -----+---------------Model | 21. 681253 ПОЛУЛОГАРИФМИЧЕСКИЕ МОДЕЛИ. reg LGEARN S Source | SS df MS -----+---------------Model | 21. 681253 1 21. 681253 Residual | 132. 12064 568. 23260676 -----+---------------Total | 153. 801893 569. 270302096 Number of obs F( 1, 568) Prob > F R-squared Adj R-squared Root MSE = = = 570 93. 21 0. 0000 0. 1410 0. 1395. 48229 ---------------------------------------LGEARN | Coef. Std. Err. t P>|t| [95% Conf. Interval] -----+----------------------------------S |. 0792256. 0082061 9. 655 0. 000. 0631077. 0953435 _cons | 1. 358919. 1127785 12. 049 0. 000 1. 137406 1. 580433 --------------------------------------- log b 1=1, 36. Отсюда b 1 = e 1. 36= 3. 90. Буквально, человек без образования получает 3, 9$ в час. Но такая интерпретация не вполне правомочна, поскольку это значение 38 находится за пределами интервала значений выборки.

ПОЛУЛОГАРИФМИЧЕСКИЕ МОДЕЛИ Точечная диаграмма значений и полулогарифмическая модель. 39 ПОЛУЛОГАРИФМИЧЕСКИЕ МОДЕЛИ Точечная диаграмма значений и полулогарифмическая модель. 39

ПОЛУЛОГАРИФМИЧЕСКИЕ МОДЕЛИ Сравнение полулогарифмической модели с линейной моделью. Полулогарифмическая модель предпочтительнее, так как более ПОЛУЛОГАРИФМИЧЕСКИЕ МОДЕЛИ Сравнение полулогарифмической модели с линейной моделью. Полулогарифмическая модель предпочтительнее, так как более точно предсказывает плату для высоких и низких уровней обучения. Нет отрицательных значений константы. 40

ВОЗМУЩЕНИЕ В НЕЛИНЕЙНЫХ МОДЕЛЯХ При линеаризации не учитывался случайный член. В ряде нелинейных моделей ВОЗМУЩЕНИЕ В НЕЛИНЕЙНЫХ МОДЕЛЯХ При линеаризации не учитывался случайный член. В ряде нелинейных моделей случайный член аддитивен. То же возмущение будет и для преобразованного уравнения. 41

ВОЗМУЩЕНИЕ В НЕЛИНЕЙНЫХ МОДЕЛЯХ С логарифмическими моделями дело обстоит сложнее. В них после линеаризации ВОЗМУЩЕНИЕ В НЕЛИНЕЙНЫХ МОДЕЛЯХ С логарифмическими моделями дело обстоит сложнее. В них после линеаризации добавляется мультипликативный член v = eu. Положительные значения u приводят к 42 увеличению значения Y, отрицательные – к уменьшению.

ВОЗМУЩЕНИЕ В НЕЛИНЕЙНЫХ МОДЕЛЯХ f(v) v Кроме условий Гаусса-Маркова, необходимо, чтобы величина u была ВОЗМУЩЕНИЕ В НЕЛИНЕЙНЫХ МОДЕЛЯХ f(v) v Кроме условий Гаусса-Маркова, необходимо, чтобы величина u была нормально распределена. Иначе невозможно использовать t и F тесты. Нормальное распределение показывает, что случайное возмущение – это сумма многих малых неучтенных возмущений. 43

ВОЗМУЩЕНИЕ В НЕЛИНЕЙНЫХ МОДЕЛЯХ f(v) v Нормальное возмущение u будет в том случае, если ВОЗМУЩЕНИЕ В НЕЛИНЕЙНЫХ МОДЕЛЯХ f(v) v Нормальное возмущение u будет в том случае, если v имеет логнормальное распределение, плотность которого приведена на графике. Его среднее равно v =1, тогда u = 0. 44

ВОЗМУЩЕНИЕ В НЕЛИНЕЙНЫХ МОДЕЛЯХ f(v) v Такое же мультипликативное распределение характерно и для полулогарифмических ВОЗМУЩЕНИЕ В НЕЛИНЕЙНЫХ МОДЕЛЯХ f(v) v Такое же мультипликативное распределение характерно и для полулогарифмических моделей. 45

ВОЗМУЩЕНИЕ В НЕЛИНЕЙНЫХ МОДЕЛЯХ Точечная диаграмма для регрессионной модели зависимости выплат от обучения. Можно ВОЗМУЩЕНИЕ В НЕЛИНЕЙНЫХ МОДЕЛЯХ Точечная диаграмма для регрессионной модели зависимости выплат от обучения. Можно видеть несколько точек существенно отклоняющихся от регрессионной 46 прямой.

ВОЗМУЩЕНИЕ В НЕЛИНЕЙНЫХ МОДЕЛЯХ Такая же диаграмма для полулогарифмической модели демонстрирует отсутствие резкого отклонения ВОЗМУЩЕНИЕ В НЕЛИНЕЙНЫХ МОДЕЛЯХ Такая же диаграмма для полулогарифмической модели демонстрирует отсутствие резкого отклонения от модели. 47

ВОЗМУЩЕНИЕ В НЕЛИНЕЙНЫХ МОДЕЛЯХ Сравнение нормированных гистограмм распределений случайных остатков для линейной и полулогарифмической ВОЗМУЩЕНИЕ В НЕЛИНЕЙНЫХ МОДЕЛЯХ Сравнение нормированных гистограмм распределений случайных остатков для линейной и полулогарифмической моделей. Нормировка – приведение стандартных 48 отклонений к 1 для сравнения. Для обеих моделей распределение близко к нормальному, но для полулогарифмической модели оно более симметрично.

НЕЛИНЕЙНАЯ РЕГРЕССИЯ: ЧИСЛЕННЫЕ МЕТОДЫ Y X Численные методы поиска регрессионных коэффициентов для нелинеаризуемых задач НЕЛИНЕЙНАЯ РЕГРЕССИЯ: ЧИСЛЕННЫЕ МЕТОДЫ Y X Численные методы поиска регрессионных коэффициентов для нелинеаризуемых задач на примере модели потребления бананов. Метод нелинейной оптимизации. 49

НЕЛИНЕЙНАЯ РЕГРЕССИЯ: ЧИСЛЕННЫЕ МЕТОДЫ Y X Предположим нам известно, что b 1 = 12. НЕЛИНЕЙНАЯ РЕГРЕССИЯ: ЧИСЛЕННЫЕ МЕТОДЫ Y X Предположим нам известно, что b 1 = 12. Поиск b 2 на основе критерия минимизации суммы квадратов остатков. Предположим, что b 2 = 6. 50

НЕЛИНЕЙНАЯ РЕГРЕССИЯ: ЧИСЛЕННЫЕ МЕТОДЫ Y X Строим модели и ищем сумму квадратов остатков. 51 НЕЛИНЕЙНАЯ РЕГРЕССИЯ: ЧИСЛЕННЫЕ МЕТОДЫ Y X Строим модели и ищем сумму квадратов остатков. 51

НЕЛИНЕЙНАЯ РЕГРЕССИЯ: ЧИСЛЕННЫЕ МЕТОДЫ Y X Строим модели и ищем сумму квадратов остатков. 52 НЕЛИНЕЙНАЯ РЕГРЕССИЯ: ЧИСЛЕННЫЕ МЕТОДЫ Y X Строим модели и ищем сумму квадратов остатков. 52

НЕЛИНЕЙНАЯ РЕГРЕССИЯ: ЧИСЛЕННЫЕ МЕТОДЫ b 2 = -6 X Y 1 2 3 4 НЕЛИНЕЙНАЯ РЕГРЕССИЯ: ЧИСЛЕННЫЕ МЕТОДЫ b 2 = -6 X Y 1 2 3 4 5 6 7 8 9 10 1. 93 7. 13 8. 78 9. 69 10. 09 10. 42 10. 62 10. 71 10. 79 11. 13 ^ Y 6. 00 9. 00 10. 50 10. 80 11. 00 11. 14 11. 25 11. 33 11. 40 b 2 = -7 e e 2 -4. 30 -2. 12 -1. 75 -0. 98 -0. 99 0. 43 -0. 06 -0. 38 0. 82 -0. 47 18. 45 4. 49 3. 06 0. 97 0. 98 0. 18 0. 00 0. 14 0. 67 0. 22 Total 29. 17 RSS=29, 17. 53

НЕЛИНЕЙНАЯ РЕГРЕССИЯ: ЧИСЛЕННЫЕ МЕТОДЫ Y X Повторим процедуру, модифицировав значение коэффициента на -7. 54 НЕЛИНЕЙНАЯ РЕГРЕССИЯ: ЧИСЛЕННЫЕ МЕТОДЫ Y X Повторим процедуру, модифицировав значение коэффициента на -7. 54

НЕЛИНЕЙНАЯ РЕГРЕССИЯ: ЧИСЛЕННЫЕ МЕТОДЫ Y X На графике видно, что это приближение лучше. 55 НЕЛИНЕЙНАЯ РЕГРЕССИЯ: ЧИСЛЕННЫЕ МЕТОДЫ Y X На графике видно, что это приближение лучше. 55

НЕЛИНЕЙНАЯ РЕГРЕССИЯ: ЧИСЛЕННЫЕ МЕТОДЫ b 2 = -6 X Y 1 2 3 4 НЕЛИНЕЙНАЯ РЕГРЕССИЯ: ЧИСЛЕННЫЕ МЕТОДЫ b 2 = -6 X Y 1 2 3 4 5 6 7 8 9 10 1. 93 7. 13 8. 78 9. 69 10. 09 10. 42 10. 62 10. 71 10. 79 11. 13 ^ Y 6. 00 9. 00 10. 50 10. 80 11. 00 11. 14 11. 25 11. 33 11. 40 b 2 = -7 e e 2 ^ Y e -4. 30 -2. 12 -1. 75 -0. 98 -0. 99 0. 43 -0. 06 -0. 38 0. 82 -0. 47 18. 45 4. 49 3. 06 0. 97 0. 98 0. 18 0. 00 0. 14 0. 67 0. 22 5. 00 8. 50 9. 67 10. 25 10. 60 10. 83 11. 00 11. 13 11. 22 11. 30 -3. 30 -1. 62 -1. 42 -0. 73 -0. 79 0. 60 0. 09 -0. 26 0. 93 -0. 37 Total 29. 17 e 2 10. 86 2. 62 2. 00 0. 54 0. 62 0. 35 0. 01 0. 07 0. 87 0. 13 18. 08 Вычисленное значение RSS свидетельствует о том же. 56

НЕЛИНЕЙНАЯ РЕГРЕССИЯ: ЧИСЛЕННЫЕ МЕТОДЫ b 2 RSS -6 -7 -8 -9 -10 -11 29. НЕЛИНЕЙНАЯ РЕГРЕССИЯ: ЧИСЛЕННЫЕ МЕТОДЫ b 2 RSS -6 -7 -8 -9 -10 -11 29. 17 18. 08 10. 08 5. 19 3. 39 4. 70 Повторяя процедуру далее можно увидеть, что оптимальное решение лежит между -10 и -11. 57

НЕЛИНЕЙНАЯ РЕГРЕССИЯ: ЧИСЛЕННЫЕ МЕТОДЫ b 2 RSS -11 -10. 9 -10. 8 -10. 7 НЕЛИНЕЙНАЯ РЕГРЕССИЯ: ЧИСЛЕННЫЕ МЕТОДЫ b 2 RSS -11 -10. 9 -10. 8 -10. 7 -10. 6 -10. 5 -10. 4 -10. 3 -10. 2 -10. 1 -10. 0 4. 70 4. 43 4. 19 3. 98 3. 80 3. 66 3. 54 3. 46 3. 41 3. 38 3. 39 Уменьшая интервал и шаг можно получить новое приближение на интервале -10. 0 и -10. 1. С точностью до 0, 01 получаем приближение 10, 08. Повторяя эту же процедуру по 58 двум параметрам можно получить решение с заданной точностью.

ТЕСТЫ КОКСА-БОКСА Проблема сравнения качества альтернативных регрессионных моделей. Когда альтернативные регрессионные модели имеют одинаковые ТЕСТЫ КОКСА-БОКСА Проблема сравнения качества альтернативных регрессионных моделей. Когда альтернативные регрессионные модели имеют одинаковые переменные, то лучшая выбирается по критерию максимума R 2. Что делать, когда переменные различны, как например в линейной и логарифмической моделях. 59

ТЕСТЫ КОКСА-БОКСА Среднее арифметическое логарифма Y сводится к среднему геометрическому Y. Среднее в одной ТЕСТЫ КОКСА-БОКСА Среднее арифметическое логарифма Y сводится к среднему геометрическому Y. Среднее в одной модели связано со средним в другой. Усреднение позволяет сравнивать модели между собой по остаткам. 60

ТЕСТЫ КОКСА-БОКСА Нормировка значений зависимых переменных в полулогарифмической модели по методу Зарембки. 61 ТЕСТЫ КОКСА-БОКСА Нормировка значений зависимых переменных в полулогарифмической модели по методу Зарембки. 61

ТЕСТЫ КОКСА-БОКСА Сравнение нормированных моделей Y* and loge. Y по среднеквадратичным отклонениям (RSS). Логарифм ТЕСТЫ КОКСА-БОКСА Сравнение нормированных моделей Y* and loge. Y по среднеквадратичным отклонениям (RSS). Логарифм отношения остатков имеет χ2 -распределение. Если χ>χ2 – критическое при заданном пороге вероятности , то модель с меньшим RSS 62 будет лучше.

ТЕСТЫ КОКСА-БОКСА . sum LGEARN Variable | Obs Mean Std. Dev. Min Max -----+--------------------------LGEARN ТЕСТЫ КОКСА-БОКСА . sum LGEARN Variable | Obs Mean Std. Dev. Min Max -----+--------------------------LGEARN | 570 2. 430133. 5199059 1. 163151 4. 417514 EARNSTAR=EARNINGS/exp(2. 430133) LGEARNST=ln(EARNSTAR) Найдем среднее для LGEARN и обозначим LGEARNST=ln( EARNSTAR). 63

ТЕСТЫ КОКСА-БОКСА. reg EARNSTAR S Source | SS df MS -----+---------------Model | 30. 8184248 ТЕСТЫ КОКСА-БОКСА. reg EARNSTAR S Source | SS df MS -----+---------------Model | 30. 8184248 1 30. 8184248 Residual | 266. 69807 568. 469538855 -----+---------------Total | 297. 516494 569. 522876089 Number of obs F( 1, 568) Prob > F R-squared Adj R-squared Root MSE = = = 570 65. 64 0. 0000 0. 1036 0. 1020. 68523 ---------------------------------------EARNSTAR | Coef. Std. Err. t P>|t| [95% Conf. Interval] -----+----------------------------------S |. 0944558. 0116589 8. 102 0. 000. 0715559. 1173557 _cons | -. 1224433. 1602326 -0. 764 0. 445 -. 437164. 1922774 --------------------------------------- Найдем регрессионную зависимость нормированного значения EARNSTAR от S и определим RSS. 64

ТЕСТЫ КОКСА-БОКСА. reg LGEARNST S Source | SS df MS -----+---------------Model | 21. 6812545 ТЕСТЫ КОКСА-БОКСА. reg LGEARNST S Source | SS df MS -----+---------------Model | 21. 6812545 1 21. 6812545 Residual | 132. 120642 568. 232606764 -----+---------------Total | 153. 801897 569. 270302103 Number of obs F( 1, 568) Prob > F R-squared Adj R-squared Root MSE = = = 570 93. 21 0. 0000 0. 1410 0. 1395. 48229 ---------------------------------------LGEARNST | Coef. Std. Err. t P>|t| [95% Conf. Interval] -----+----------------------------------S |. 0792256. 0082061 9. 655 0. 000. 0631077. 0953435 _cons | -1. 071214. 1127785 -9. 498 0. 000 -1. 292727 -. 8496999 --------------------------------------- То же сделаем для нормированной переменной LGEARNST. 65

ТЕСТЫ КОКСА-БОКСА Значение статистики 200. 2. Оно существенно выше c 2 с 1 степенью ТЕСТЫ КОКСА-БОКСА Значение статистики 200. 2. Оно существенно выше c 2 с 1 степенью свободы на 0. 1% уровне, исходя из чего можно утверждать о значимости предпочтения 66 полулогарифмической модели линейной.