Скачать презентацию Теория вероятностей и математическая статистика Тема 9 Оценка Скачать презентацию Теория вероятностей и математическая статистика Тема 9 Оценка

L 12 T 9 .pptx

  • Количество слайдов: 27

Теория вероятностей и математическая статистика Тема 9. Оценка моментов и параметров распределения Теория вероятностей и математическая статистика Тема 9. Оценка моментов и параметров распределения

Лекция 12 Оценка моментов и параметров распределения • Виды оценок и их характеристики • Лекция 12 Оценка моментов и параметров распределения • Виды оценок и их характеристики • Точечные оценки моментов случайной величины Тема 9. Оценка моментов и параметров распределения

Литература [1]. С. 143 -160 [2]. С. 21, 22, 25, 54 -75 [1]. В. Литература [1]. С. 143 -160 [2]. С. 21, 22, 25, 54 -75 [1]. В. А. Фигурин, В. В. Оболонкин, Теория вероятностей и математическая статистика; ООО "Новое знание": Минск, 2000. [2]. В. С. Зарубин, А. П. Крищенко, Математическая статистика; Издательство МГТУ им. Н. Э. Баумана: М. , 2001. Тема 9. Оценка моментов и параметров распределения

Виды оценок и их характеристики Задачи математической статистики (МС)– «обратные» к задачам теории вероятностей Виды оценок и их характеристики Задачи математической статистики (МС)– «обратные» к задачам теории вероятностей (ТВ) ТВ: вероятностная модель событий задана, необходимо рассчитать вероятности событий. МС: вероятностная модель не задана, в результате эксперимента известны реализации каких-либо случайных событий, необходимо подобрать вероятностную модель. Тема 9. Оценка моментов и параметров распределения

Виды оценок и их характеристики Два источника информации: • выборка генеральной совокупности; • априорная Виды оценок и их характеристики Два источника информации: • выборка генеральной совокупности; • априорная информация (отражается в исходной статистической модели) Априорная информация: генеральная совокупность X имеет нормальный закон распределения: , где µ и σ – неизвестные параметры. Тема 9. Оценка моментов и параметров распределения

Виды оценок и их характеристики Часто встречающиеся в приложениях задачи МС: • Оценка неизвестных Виды оценок и их характеристики Часто встречающиеся в приложениях задачи МС: • Оценка неизвестных параметров • Проверка статистических гипотез • Установление формы и степени связи между случайными величинами Тема 9. Оценка моментов и параметров распределения

Оценка неизвестных параметров Генеральная совокупность X имеет нормальный закон распределения: где µ и σ Оценка неизвестных параметров Генеральная совокупность X имеет нормальный закон распределения: где µ и σ – неизвестные параметры. ρ - Семейство (класс) распределений случайной величины Выборочное пространство, на котором задан класс распределений ρ назовем статистической моделью*. Статистическая модель полностью определена функцией распределения F(x) генеральной совокупности. В дальнейшем статистическую модель будем обозначать {F(x)}. _____ * Определение в «узком смысле» . Действительно только в рамках курса. Тема 9. Оценка моментов и параметров распределения

Оценка неизвестных параметров Если функция распределения (плотность распределения) задана с точностью до неизвестного вектора Оценка неизвестных параметров Если функция распределения (плотность распределения) задана с точностью до неизвестного вектора параметров с множеством возможных значений Ө, т. е. € Ө, то статистическую модель называют параметрической моделью. Параметрическую модель обозначают {F(x; ); € Ө}. Множество Ө множеством. называют параметрическим Тема 9. Оценка моментов и параметров распределения

Оценка неизвестных параметров: постановка задачи Постановка задачи Задача оценки параметров возникает, если функция распределения Оценка неизвестных параметров: постановка задачи Постановка задачи Задача оценки параметров возникает, если функция распределения генеральной совокупности известна с точностью до параметра . Тема 9. Оценка моментов и параметров распределения

Оценка неизвестных параметров: постановка задачи В этом случае полагают, что закон распределения генеральной совокупности Оценка неизвестных параметров: постановка задачи В этом случае полагают, что закон распределения генеральной совокупности имеет вид Вид функции распределения задан. Вектор параметров неизвестен. Требуется найти оценку для или некоторой функции от него (математического ожидания, дисперсии) по случайной выборке из генеральной совокупности X. Тема 9. Оценка моментов и параметров распределения

Точечная оценка Постановка задачи Необходимо найти такую статистику , выборочное значение которой для рассматриваемой Точечная оценка Постановка задачи Необходимо найти такую статистику , выборочное значение которой для рассматриваемой реализации случайной выборки можно было бы считать приближенным значением параметра . Тема 9. Оценка моментов и параметров распределения

Точечная оценка Статистику , выборочное значение которой для любой реализации принимают за приближенное значение Точечная оценка Статистику , выборочное значение которой для любой реализации принимают за приближенное значение параметра , называют точечной оценкой, а выборочное значение - значением точечной оценки. Тема 9. Оценка моментов и параметров распределения

Интервальная оценка параметров Рассматриваем случайную выборку объема n с функцией распределения . - неизвестный Интервальная оценка параметров Рассматриваем случайную выборку объема n с функцией распределения . - неизвестный параметр. θ Для построен интервал θ . Причем, и - функции (статистики) случайной выборки , такие что выполняется равенство доверительный интервал, коэффициент доверия, Тема 9. Оценка моментов и параметров распределения

Методы оценки параметров распределения 2 вида оценок в математической статистике: • точечные • интервальные Методы оценки параметров распределения 2 вида оценок в математической статистике: • точечные • интервальные Задача оценки возникает, если функция распределения генеральной совокупности известна с точностью до некоторого параметра Тема 9. Оценка моментов и параметров распределения

Точечные оценки. Свойства оценок Рассмотрим нахождение точечной статистики. Рассмотрим случайную выборку генеральной совокупности . Точечные оценки. Свойства оценок Рассмотрим нахождение точечной статистики. Рассмотрим случайную выборку генеральной совокупности . Закон распределения известен F(x; θ). Параметр θ неизвестен. Для простоты предположим, что θ скаляр. Т. е. рассматриваем параметрическую модель Необходимо построить статистику , которую можно принять в качестве точечной оценки параметра θ. Для оценки параметров можно предложить различне статистики. Например, для оценки μ=M(X) можно предложить слудующие статистики: Какими свойствами должна обладать статистика , чтобы она являлась в некотором смысле «наилучшей оценкой» параметра θ . Тема 9. Оценка моментов и параметров распределения

Свойства оценок: Состоятельная оценка. Статистика является состоятельной, если при увеличении объема n выборки она Свойства оценок: Состоятельная оценка. Статистика является состоятельной, если при увеличении объема n выборки она сходится по вероятности к параметру θ. . Возможна другая запись: , где ε>0. Можно показать: Тема 9. Оценка моментов и параметров распределения

Свойства оценок: Несмещенная оценка =1. Статистика является несмещенной, если ее математическое ожидание совпадает с Свойства оценок: Несмещенная оценка =1. Статистика является несмещенной, если ее математическое ожидание совпадает с θ для любого n. Если это уловие не выполняется, то оценка называется смещенной с параметром смещения: . Оценка является ассимптотически несмещенной, если при n→∞ она сходится по вероятности к своему математическому ожиданию для любого ε>0. Тема 9. Оценка моментов и параметров распределения

. Свойства оценок: Эффективная оценка. Пусть имеются две несмещенные оценки и (*) Следуют предпочесть . Свойства оценок: Эффективная оценка. Пусть имеются две несмещенные оценки и (*) Следуют предпочесть Если в некотором классе несмещенных оценок параметра имеется такая , что неравенство (*) выполняется для всех , то говоят, что является эффективной в данном классе оценок. То есть дисперсия эффективной оценки параметра в некотором классе является минимальной среди дисперсий всех оценок. Эффективную оценку назвают так же несмещенная оценка с минимальной дисперсией или оптимальная оценка. Тема 9. Оценка моментов и параметров распределения

. Свойства оценок: Эффективная оценка. Неравенство Рао-Крамера. Пусть - несмещенная оценка параметра θ. Тогда . Свойства оценок: Эффективная оценка. Неравенство Рао-Крамера. Пусть - несмещенная оценка параметра θ. Тогда имеет место неравенство I(θ)- количествоа информации по Фишеру в одном наблюдении, p(t; θ) - плотность распредления генеральной совокупности. Неравенство Рао-Крамера определяет нижнюю границу дисперсий несмещенных оценок параметра θ. Величину называют показателем эффективности по Рао-Крамеру. Из неравенства Рао-Крамера следует, что 0

. Свойства оценок: Эффективная оценка. Несмещенную оценку параметра θ называют эффективной по Рао- Крамеру, . Свойства оценок: Эффективная оценка. Несмещенную оценку параметра θ называют эффективной по Рао- Крамеру, если показатель эффективности e(θ)=1. Критерий эффективности Равенство имеет место тогда и только тогда, когда Достаточные статистики Оценка является достаточной статистикой, если вся полученная из выборки информация относительно параметра содержится в оценке. Если известна достаточная статистика, то никакая другая статистика, вычисленная по той же выборке, не может дать дополнительную информацию о параметре. Тема 9. Оценка моментов и параметров распределения

Точечные оценки моментов. Оценка математического ожидания генеральной совокупности X с конечной дисперсией является несмещенной, Точечные оценки моментов. Оценка математического ожидания генеральной совокупности X с конечной дисперсией является несмещенной, состоятельной и эффективной в классе всех линейных оценок, т. е. оценок вида Элементы Xi, i=1, n случайной выборки являются независимыми случайными величинами и распредлены так же, как и генеральная совокупность X. Cледовательно, MXi=MX=μ , DXi=DX=σ2, i=1, n. Несмещенность оценки. Учитывая свойства математического ожидания, получаем Ч. т. д. Тема 9. Оценка моментов и параметров распределения

Точечные оценки моментов. Оценка математического ожидания Состоятельность оценки. Поскольку последовательность X 1, . . Точечные оценки моментов. Оценка математического ожидания Состоятельность оценки. Поскольку последовательность X 1, . . . , Xn состоит из незвисимых одинаково распределенных величин с конечной дисперсией, то в сило закона больших чисел в форме Чебышева для любого ε То есть оценка сходится по вероятности к оцениваемому параметру, т. е. оценка состоятельна. Ч. т. д. Тема 9. Оценка моментов и параметров распределения

Точечные оценки моментов. Оценка математического ожидания Эффективность оценки. Докажем что Достигаем своего минимального значения Точечные оценки моментов. Оценка математического ожидания Эффективность оценки. Докажем что Достигаем своего минимального значения при αi=1/n, т. е. - эффективная оценка. Составим функцию Лагранжа c множителем Лагранжа λ Отыщем условный минимум функции , Необходимые условия существования условного экстремума Решив систему, получаем λ = -2/n, αi=1/n, i=1, n. То есть при этих значениях аргуметна функция g (α 1, . . . αn) имеет условный минимум. Ч. т. д. Тема 9. Оценка моментов и параметров распределения

Точечные оценки моментов. Оценка дисперсии , где Выборочная дисперсия - случайная выборка из генеральной Точечные оценки моментов. Оценка дисперсии , где Выборочная дисперсия - случайная выборка из генеральной совокупности X с конечной дисперсией σ2 – смещенная состоятельная оценка дисперсии. Смещенность оценки. С учетом свойств математического ожидания Ч. т. д. Тема 9. Оценка моментов и параметров распределения

Точечные оценки моментов. Оценка дисперсии Состоятельность оценки. Доказательство приводим для генеральной совокупности, имеющей моменты Точечные оценки моментов. Оценка дисперсии Состоятельность оценки. Доказательство приводим для генеральной совокупности, имеющей моменты до четвертого порядка включительно и нулевое математическое ожидание. В соответствии со втрорым неравенством Чебышева Поскольку , то Тема 9. Оценка моментов и параметров распределения

. Точечные оценки моментов. Оценка дисперсии Следовательно, Аналогично можно показать: В итоге: Так как . Точечные оценки моментов. Оценка дисперсии Следовательно, Аналогично можно показать: В итоге: Так как , то Отсюда с учетом второго неравенства Чебышева следует состоятельность оченки для дисперсией σ2 генеральной совокупности X. То есть в качестве статистических оценок математического ожидания и дисперсии берут выборочное среднее и выборочную дисперсию. Вообще можно доказать, что выборочные начальные и центральные моменты являются состоятельными оценками соответствующих моментов генеральной совокупности, если только они существуют. Оценки являются смещенными за исключением . Тема 9. Оценка моментов и параметров распределения

Точечные оценки моментов. Оценка дисперсии Замечание. Статистика является несмещенной и состоятельной оценкой дисперсии генеральной Точечные оценки моментов. Оценка дисперсии Замечание. Статистика является несмещенной и состоятельной оценкой дисперсии генеральной совокупности. Тема 9. Оценка моментов и параметров распределения