Теория вероятностей и математическая статистика Тема 10 Оценка

Теория вероятностей и математическая статистика Тема 10. Оценка параметров общей линейной модели измерений

Лекция 15 Оценка параметров общей линейной модели измерений • Характеристика общей линейной модели. • Оценка амплитуды сигнала при наличии шума методом максимального правдоподобия. • Совместная оценка амплитуд нескольких сигналов. • Задачи, связанные с оценкой амплитуд. • Аппроксимация экспериментальных данных по методу наименьших квадратов. Тема 10. Оценка параметров общей линейной модели измерений

Литература [1]. С. 169 -180 [2] C. 144 – 170, 204 -211 (метод наименьших квадратов) [3] С. 351 - 370 (метод наименьших квадратов) [4] С. 282 - 289 (метод наименьших квадратов) [1]. [2] [3] [4] В. А. Фигурин, В. В. Оболонкин, Теория вероятностей и математическая статистика; ООО "Новое знание": Минск, 2000. Худсон, Д. , Статистика для физиков. 1970, М. : Мир. 297. Вентцель, Е. С. , Теория вероятностей. 2001, М. : Высшая школа. 575. Горяинов, В. Б. , et al. , Математическая статистика, ed. В. С. Зарубин and А. П. Крищенко. 2001, М. : Издательство МГТУ им. Н. Э. Баумана. 424. Тема 10. Оценка параметров общей линейной модели измерений

Характеристика общей линейной модели , Общая линейная модель задается этими четырмя уравнениями M[Xi]= a 1 f 1 i+ a 2 f 2 i+. . . + akfki. xi= a 1 f 1 i+ a 2 f 2 i+. . . + akfki +ε i M[ε i]=0 D[ε i]=σ2 Необходимо по измеренным величинам xi найти ak и σ2. В самом простом случае задача имеет вид: найти (измерить) величину A, если i-тое измерение имеет вид: xi= A + ε i = af+ ε i Можно считать f – эталоном (мерой измерения), а – коэффициент. Тема 10. Оценка параметров общей линейной модели измерений

Оценка амплитуды сигнала при наличии шума , методом максимальнрого правдоподобия Линейная модель используется для оценки амплитуды сигнала при наличии шума методом максимального правдоподобия. Пусть реализация ξ(t) на интервале наблюдения (0, T) представляетс сумму полезного сигнала заданной формы и нормального шума с дисперсией σ2. ξ(t)=s(t, a)+ ε(t)= as 0(t)+ ε(t) a – амплитуда сигнала, s 0(t) – его форма. Необходимо оценить амплитуду сигнала по реализации. Пусть xi – система значений, полученных в результате n отсчетов ξ(t) в моменты времени ti. Считаем измерения не коррелированы, шум нормальный. Оценим параметр методом максимального правдоподобия. Тема 10. Оценка параметров общей линейной модели измерений

Оценка амплитуды сигнала при наличии шума , методом максимальнрого правдоподобия Оценим параметр методом максимального правдоподобия. Функция правдоподобия и уравнение правдоподобия Отсюда Оценка является несмещенной. Можно показать, что оценка является эффективной. Дисперсия Тема 10. Оценка параметров общей линейной модели измерений

Оценка амплитуды сигнала при наличии шума , методом максимальнрого правдоподобия Можно найти также интервальную оценку а. Закон распределения нормальный, так как оценка представляет собой комбинацию взаимнонезависимых случайных величин X, распределенных по нормальному закону. Если дисперсия шума неизвестна, ее можно найти решив систему уравнений правдоподобия Можно показать, что после устранения смещения Тема 10. Оценка параметров общей линейной модели измерений

Совместная оценка амплитуд нескольких , сигналов Пусть нужно оценить амплитуды нескольких сигналов известных форм. В сигнале присутствует так же нормальный шум. ξ(t)= ajs 0 j(t)+ ε(t), j=1, k Функция правдоподобия Уравнения правдоподобия . . . Тема 10. Оценка параметров общей линейной модели измерений

Совместная оценка амплитуд нескольких , сигналов Линейная система уравнений, которая может быть представлена в матричном виде SA=H Решение системы уравнений правдоподобия A=S-1 H Оценка J-той амплитуды Δ – определитель S, Δj – получается при замене j-того столбца на H. Тема 10. Оценка параметров общей линейной модели измерений

Совместная оценка амплитуд нескольких , сигналов Для амплитуд двух сигналов Можно показать, что оценки несмещенные и эффективные. При неизвестной дисперсии ее несмещенная оценка находится Задачи, связанные с оценкой амплитуд Мы рассматривали функции, зависящие от времени. В общем случае, это могут быть функции, зависящие от координат, от частоты, от длины волны. Например, при регистрации спектров, функция зависит от пространственной характеристики, которой ставят в соответствие длины волн. Спектрометр записывает линии при наличии шумов. Задача может быть сформулирована следующим образом: оценить амплитуду спектральной линии, зная форму линии, вызванной излучением определенного количества частиц, если регистрация происходит в тех же условиях. Таким же образом можно рассматривать спектр гамма-источника. Тема 10. Оценка параметров общей линейной модели измерений

Аппроксимация экспериментальных данным методом наименьших квадратов , В рамках общей линейной модели оценки параметров чаще всего находят так называемым методом наименьших квадратов (МНК). В данном случае не требуется знание закона распределения ошибок. Оценим параметр предыдущей задачи по МНК. Пусть реализация ξ(t) на интервале наблюдения (0, T) представляет сумму полезного сигнала заданной формы и шума. ξ(t)=s(t, a)+ ε(t)= as 0(t)+ ε(t) a – амплитуда сигнала, s 0(t) – его форма. Необходимо оценить амплитуду сигнала по реализации. Пусть xi – система значений, полученных в результате n отсчетов ξ(t) в моменты времени ti. Тема 10. Оценка параметров общей линейной модели измерений

Аппроксимация экспериментальных данным методом наименьших квадратов , Для оценки параметра минимизируем следующую функцию Т. е. надо найти такое а, чтобы сумма квадратов отклонений выборочных значений от истинных значений была минимальна. Для нахождения минимума вычисляем производную и приравниваем ее к 0 Это уравнение совпадает с уравнениями правдоподобия. Оценки нескольких параметров находятся из уравнений, которые были получены при рассмотрении метода максимального правдоподобия при оценки нескольких параметров. Тема 10. Оценка параметров общей линейной модели измерений

Аппроксимация экспериментальных данным методом наименьших квадратов , Свойства оценок МНК, применительно к линейной модели xi= a 1 f 1 i+ a 2 f 2 i+. . . + akfki +ε i 1. Оценки являются несмещенными. 2. Оценки являются эффективными, они имеют минимальную дисперсию. 3. Оценка дисперсии ошибок. Тема 10. Оценка параметров общей линейной модели измерений

Аппроксимация экспериментальных данным методом наименьших квадратов , Наиболее важное применение метода наименьших квадратов для нахождения параметров линейной модели связано с задачей аппроксимации экспериментальной зависимости. Пусть задана детерменированная функция y= a 0 f 0(x)+ a 1 f 1(x)+. . . + amfm(x) Значения параметров неизвестны, по измеренным значениям y в точках x нужно найти значения параметров. Искомая функция может иметь вид многочлена y=a 0+a 1 x+a 2 x 2+. . . +amxm В качестве примера рассмотрим линейную функцию y=a 0+a 1 x Получены экспериментальные точки, необходимо найти аналитическую формулу, характеризующую процесс. Тема 10. Оценка параметров общей линейной модели измерений

Аппроксимация экспериментальных данным методом наименьших квадратов , Необходимо минимизировать Дифференцируем по параметрам и приравниваем к 0 и, решая следующую систему, получаем выражения для коэффициентов. Тема 10. Оценка параметров общей линейной модели измерений