Статистическая обработка экспериментальных данных Лекция 2 -3
ЛИТЕРАТУРА
Значащие цифры и правила их округления Значащими цифрами называют все достоверно известные цифры плюс первая из недостоверных. Нуль в числах может быть значим и незначим: n n Нули, стоящие в начале числа, всегда незначимы и служат лишь для указания места запятой в десятичной дроби. Например, число 0, 01 содержит только одну значащую цифру. Нули, стоящие между цифрами, всегда значимы. Например, в числе 0, 508 три значащие цифры.
n Ш Ш Ш Нули в конце числа могут быть значимы и незначимы: Нули, стоящие после запятой в десятичной дроби, считаются значимы. Например, в числе 200, 0 четыре значащие цифры. Нули в конце целого числа могут означать значащую цифру, а могут просто указывать порядок величины. Например, в числе 200 значащих цифр может быть: одна (цифра 2), две (цифры 2 и 0), три (цифры 2, 0 и 0). Чтобы избежать неопределенности необходимо представить данное число в нормальном виде, т. е. в виде произведения числа, содержащего только значащие цифры, на 10 n. Например, если в числе 200 одна значащая цифра, то ее следует записать как 2 • 102, если две значащие цифры – 2, 0 • 102, если три – 2, 00 • 102. Здесь мы будем считать нули в конце числа значащими, а порядок числа указывать, используя написание в нормальном виде.
Правила округления значащих цифр n n n Если за первой недостоверной цифрой следует цифра меньше 5, округляемую цифру оставляют без изменения (4, 7252 4, 725); а если больше 5, округление проводят в сторону ближайшего большего числа (4, 7257 4, 726). Если за первой недостоверной цифрой стоит цифра 5, за которой больше нет никаких цифр, то округление проводится до ближайшего четного числа (4, 7255 4, 726 или 4, 7265 4, 726). Если за цифрой 5 имеется еще какая-либо отличная от нуля цифра, то округление проводят в сторону ближайшего большего числа (4, 72551 4, 726), однако если 5 получена уже в результате округления, то округляемую цифру оставляют без изменения, то есть 5 просто отбрасывают (4, 72548 4, 7255 4, 725).
Округления при арифметических действиях n n Вычисления целесообразно производить лишь с числами одинаковой значимости. Если некоторые исходные числа имеют больше значащих цифр, чем другие, то их следует предварительно округлить, оставляя число значащих цифр на единицу больше, чем их содержит исходное наименее точное число. Рекомендуется округлять конечный результат после выполнения всех арифметических действий. При этом точность результата вычисления не может быть больше точности наименее точного числа, участвующего в вычислениях.
n n n Наименее точное число – это число, содержащее наименьшее количество десятичных знаков (при сложении или вычитании) или значащих цифр (при умножении или делении). Сложение и вычитание. Значимость суммы или разности определяется значимостью числа с наименьшим количеством десятичных знаков. Умножение и деление. Значимость произведения или частного определяется значимостью сомножителя с наименьшим числом значащих цифр.
n n Возведение в степень. При возведении числа в степень относительная недостоверность результата увеличивается в число раз, равное степени. Например, при возведении в квадрат она удваивается. Извлечение квадратного корня. Относительная недостоверность результата извлечения корня вдвое меньше относительной недостоверности подкоренного числа, поэтому в некоторых случаях после извлечения корня число значащих цифр увеличивается.
n Логарифмирование. Количество значащих цифр в мантиссе равно количеству цифр, которое содержит нестепенной член числа (в записи результата остается столько знаков после запятой, сколько значащих цифр содержится в исходном значении). n n Характеристика логарифма не входит в число значащих цифр, т. к. она указывает лишь на порядок логарифмируемого числа. При вычислении антилогарифмов чисел количество значащих цифр уменьшается (в записи результата остается столько значащих цифр, сколько знаков после запятой содержится в исходном значении).
Точность вычислений n n v v v n n Числом значащих цифр определяется относительная точность с которой выражена данная величина. Относительная точность величины, выраженная: Двухзначным числом лежит в интервале 1, 010, 0%; Трехзначным числом – 0, 1 -1, 0%; Четырехзначным числом – 0, 1 -0, 01%. Численное выражение результата анализа должно показывать не только содержание составной части, но и точность, с которой произведен анализ. В количественном аналитическом анализе вычисления достаточно производить с точностью ± 0, 1%, значит запись результата анализа должна быть выполнена до четвертой значащей цифры.
Основные понятия метрологии химического анализа n Ш Ш Ш Метрология – наука об измерениях и методах достижения их единства и требуемой точности. Основной раздел метрологии – методы определения погрешностей измерений. Метрологические характеристики: Правильность; Воспроизводимость; Интервал определяемых содержаний; Погрешность; Чувствительность; Предел обнаружения (определения). Погрешность измерения – отклонение результата измерения от истинного значения измеряемой величины.
Некоторые понятия математической статистики n n n Случайная величина – измеряемый аналитический сигнал или результат анализа; Варианта – отдельное значение случайной величины; Генеральная совокупность – идеализированная совокупность результатов бесконечного числа вариант; Выборочная совокупность (выборка) – совокупность ограниченного числа вариант, рассматриваемая как случайная выборка из генеральной совокупности; Объем выборки – число вариант (n), составляющих выборку (оптимально n=5).
Расчет метрологических параметров n Среднее значение : Хср. = При отсутствии систематических погрешностей Хср. = Хист. или μ. n Медиана М: единичный результат, относительно которого число полученных результатов с большим и меньшим значениями одинаково. При нечетном количестве результатов медиана совпадает с центральным числом выборки, при четном – является средним арифметическим двух центральных результатов.
n Отклонение от среднего di: di = |Xi – Xср. | n Среднее отклонение: dср. = n n Отклонение от медианы Мi: Мi = |Xi – М| Среднее отклонение от медианы: Мср. = n Размах варьирования (диапазон выборки) ω: ω = Хmax. – Xmin.
Дисперсия S 2: Cтандартное отклонение выборки (абсолютное) S
Стандартное отклонение среднего SХср Относительное стандартное отклонение Sr Критерии воспроизводимости
Доверительный интервал δ или Σα δ ( Σα или ∆Хср. ) = ± Действительное - а или истинное значение - μ а = μ = Хср. ± δ. Относительная погрешность среднего результата Е: . Е, % = Критерии правильности
Выявление промахов n n n Один из наиболее простых способов выявления промахов является Q - тест. Сущность Q – теста: варианты выборки расположите в порядке их возрастания и путем деления разности подвергаемой сомнению и соседней с ней вариант на диапазон выборки (размах варьирования: ω = Хmax - Xmin) найдите расчетное значение Qр: Qp = которое затем сравните с табличным значением Qт. Если Qр > Qт, то проверяемый результат является промахом и его отбрасывают; если Qр < Qт, результат исключать нельзя – он принадлежит выборке.
Сравнение выборок Сравнение по воспроизводимости (сравнивая дисперсии) через расчет критерия Фишера (F): Fp = где S 12 > S 22, S 1 > S 2. Если Fp < Fт (справочное данное), нуль-гипотеза подтверждается, выборки обладают одинаковой точностью, систематические погрешности отсутствуют, их можно отнести к одной совокупности. Если Fp > Fт, нуль-гипотеза отвергается, воспроизводимости двух методов разные, присутствуют систематические погрешности, поэтому выборки нельзя отнести к одной совокупности (объединить).
Сравнение выборок Сравнение по правильности (сравнивая средние арифметические) через расчет критерия Стьюдента (t): tp = . Sср. 2 =
Найденное значение tp сравнивают с табличным значением tт. Если tp < tт, нуль-гипотеза подтверждается, расхождение между средними значениями незначимо, случайные погрешности отсутствуют и выборки можно отнести к одной генеральной совокупности, следовательно данные обеих серий можно объединить. Если tp > tт, нуль-гипотеза отвергается, расхождение между средними значениями значимо, поэтому выборки не принадлежат одной и той же генеральной совокупности (их объединить нельзя). Если известно истинное значение (μ) какой либо величины и среднее значение выборки, то сравнение их позволяет установить наличие или отсутствие систематической погрешности. При этом вычисление tp упрощается:
Оценка допустимого расхождения результатов параллельных определений Если число параллельных определений меньше 5, то обычная статистическая обработка результатов анализа часто теряет смысл. Тогда рассчитывают R = Xmax – Xmin. Если отсутствует систематическая погрешность метода, то расхождение результатов параллельных определений допустимо при выполнении следующего условия: R < S • Lp, n, где S – стандартное отклонение, Lp, n – фактор при Р=0, 95 (табличное данное).
Скачать презентацию Статистическая обработка экспериментальных данных Лекция 2 -3
Стат. обработка.ppt