К. Дёрффель - Статистика в аналитической химии (1994) (1037704), страница 38
Текст из файла (страница 38)
Вычисление регрессии при этом значительно упрощается. Получаем (9.25) к2 ',г (9 — У))' зо = пг — 1 170 Гпава 9 Статмстмма мрммых лямки [9 4) Прм градумровкс определения цинка с помощью ААС ) были получены следу- 1) юшке змачеммм гп, млн-' 1 г 3 4 5 6 у,' (эмстмнк- 0,040 0,260 0,422 0,605 0,730 0,805 цмм) О У~ 0,055 0,248 0,417 0,612 0,725 0,795 Лммеймое уравнение имеет вмд. у = — 0,061 033 + 0,153486х прн по = 0,044 164 (у1 = 10 степеней свободы) Из мараллельмых определений у[ м у," в соответствии с уравнением (5.2) получаем и„„ = 0,004865 (ут = б степеней свободы).
Находим Р = (0,044164/0,004865) = 82,41. Иэ табл. А.5 ммеем Я(Р = 0,99,7) = 10;рт = 6) = 7, 87 Вследствие того что Р ) (Р = О, 99; Л; ут), результаты нельзя описать линейной зависимостью Проверку линейной зависимости можно легко провести [при известных условиях без многократных параллельных определений, требуемых в уравнении (9 30)) с помощью критерия серий Вальда — Вольфовица (см равд. 7.5). Для этого определяем разность между вычисленными значениями К = а+ 6х, и найденными в ходе эксперммемта у„а затем проверяем последовательность знаков.
(О возможностях применения моделей временных рядов см. с. 217.) [9.5) Иэ зависимости у = -0,061033+0,15348бх, полученмой в примере [9.4[, можно определить следующие змачеммм К х, 1 2 3 4 5 6 К 0,092 0,246 0,399 0,553 0,706 0,860 Длм 12 разностей К вЂ” у,', а также К вЂ” уп имеем следующую последовательность знаков + + — — — — — — — — ++.
При 6~ = 4 и 6 ж 8 число серий (1)) = 3) лежит нмже критического значения Л' = 4 (см табл. 73). Следовательно, при Р м 0,95 можно предположить, что линейная зависимость не выполмяетсм. Если в результате проверки оказывается, что линейная зависимость невозможна, то пытаются преобразовать результаты в удобную форму.
Во многих случаях целесообразно логарифмическое преобразование На полулогарифмической бумаге тогда будет показательная функция у = а6*, а также обратная ей функция в виде прямой в зависимости от того, какая из осей имеет логарифмический масштаб, ордината или абсцисса Двойная логарифмическая бумага линеаризует функции типа у = ах" В особых случаях можно также пользоваться и другими преобразованиями (например, обратные температуры при измерении давления пара) Для простоты в обращении всегда будут стремиться получить линейную зависимость с помощью удобного преобразования переменных. Однако важно помнить, что после подобных преобразований необходимо критически перепроверить условия для вычисления регрессии и что только тогда полноценная регрессия может привести к надежным результатам (см равд 9 3.3). В аналитических методах с большим динамическим диапазоном 0 (например, спектрометрня с 11 = 1 105) часто в области измерения относительное стандартное отнлонение пу/у постоянно Условия метода наименьших квадратов (с 166) тогда легко можно обеспечить после логарифмического преобразования (У = 1б у и Х = 15х) Если имеет место зависимость у = 6х, то в этом случае после логарифмирования имеем К = 156+ Х, т е прямую с отрезком на оси, 1) ААС вЂ” атомпо-абсорбпкопкаа спсктроскопкк — Прим рсд 9.2.
Характеристика зависимостей 171 2 !~Ю1 + Я~г в гп1 + пгг — 4 (9.31) Дисперсию разности [Ь1 — Ьг[ получают из: 1 1 + (Х12 Х1) ~ (Хгв Х2) 1 1 Х1 (~ Х12) /п11 ~ Хг ( Хг~) /пгг + с / = п11 + пгг — 4 степенями свободы. Для проверки значимости разности [61 — Ьг[ образуют ! = [Ь, — 6,[ вв и сравнивают обычным способом с !(Р, /). Для прямых, проходящих через начало координат, вида 9 = 6х эти уравнения упрощаются: О% +!;2Мг вв = п11 + п12 — 2 (9.31а) [9.6) установка титра раствора пермангавата калия сЦКМпО1) была проведена пс оксалату натрия и параллельно по окснду железа(1!!) по Бранду. Между значенилмв г (мг оттитрованиого вещества) н расходом В (пересчитанным на ! мг оттитрова""о го вещества), существовала пропорциональная зависимость. Полученные результата выглллелв следующим образом: равным !я 6, и тангенсом угла наклона, равным единице (т.
е. 45ь). Обе величины можно вычислить из гп пар значений (Х, и У,) по уравнениям (9.16) и (9.17) (см, также [9, равд. 4.2. Ц). Как мера линейного приближения иногда применяется коэффициент корреляции [уравнение (9.6)). Однако последний зависит не только от рассеяния результатов, но и от расстояния между наибольшим и наименьшим результатами Поэтому коэффициент корреляции не следует рассматривать как подходящий показатель для проверки линейности. Различие между коэффициентами двух прямых вида у = а+ Ьх можно проверить так же, как проверяют различие двух средних (см.
равд. 7.4.). В соответствии с равенством (9.19) объединяют обе полученные суммы квадратов и находят общую дисперсию вг: Глава 9. Статистика прямых линий 172 Оксалат натрия Оксид железа(П1) х У х У 141,3 152,5 203,5 208,4 242,0 253,1 283,1 291,7 327,6 345,0 362,0 370,0 Вычисления: Оксалат натрия Оксид железа(П1) При помощи соотношений !9.31) н следующих за мими получаем 23'84 + 107'59 0 5+6-2 х)1460[(1/213611,43)+(1/438453,31)) 00001016473, вв 0,031 9, 1,0453 - 1,0372 0,0101 При / ы 6+ 6 — 2 = 9 степенях свободы ЦР = 0,96; / = 9) = 2,26, Менглу получен ными значениями титра для раствора нермаиганата калия нет значимой разницы.
9.2.3. Градуировка Вычисление регрессии применяется при построении градуировочного графика по гл парам значений хк; ук. Отрезок на ординате а соответствует неизбежному значению холостого опыта, а козффициент регрессии 6 представляет чувствительность метода анализа. Далее при анализе измеренное значение Ул =,) ул/и вычисляют из и, параллельных определений, Искомое содержание находят из функции анализа хл = (ул — а)/'6, обратной к градуировочной функции. Стандартное отклонение для концентрации получают из зх(А) =— зо 8 (9.32) )/ = ~ ~ря/'гп с Х = гп — 2 степенями свободы. 136,2 140,0 161,2 171,5 200,3 207,7 235,5 244,6 271,1 285,4 ).х,в Хх) ~уг 6 фы- 1) 223 291,35 213 611,43 233433,86 5 1,045 316 23,84 454 750,12 438453,31 471 760,31 6 1,037 169 107,59 173 9.2.
Характеристика эаяиеимостей уяоо ) а+1(Р; / = т — 2)яо/ч/й (9.33) При преобразовании в концентрации учитывают доверительные границы градуировочного графика, т. е, указывают в качестве предела обнаружения х+ Ьх. Когда у,„С у, можно заменить нижнюю ветвь гиперболы соответствующей асимптотой, и это будет хорошим приближением. Она проходит через точки (х; У) н (О; а — 1(Р,/)яо/ /и ) и описывается функцией У-а+ М(Р, /)яо/и> Подставляя у = уен„[уравнение (9.33)] и решая уравнение относительно х, получим предел обнаружения аналогично уравнению (6.13) 21(Р,/) *ко/ /й хппп— У вЂ” а+1(Р,/)яо/ /и (9.34) Однако такой способ действий допустим только тогда, когда абсолютные ошибки значений у не зависят от их величины.
Во всех остальных случанх ув и ан (вн) должны определяться из дополнительных измерений результатов холостого опыта. С помощью уравнения (9.34) определяется минимально возможная концентрация для градунровки. Если в градуировочном графике есть точка со значением ниже предела обнаружения, эту пробу надо заменить новой с более высоким содержанием. [9.7] Для градунроэки фотометрического определения бензола н ультрафиолетоэой области спектра были измерены экстннкции (сэетоиоглощения) семи эталонных проб известного содержания.
Предполагая, что по всей области измерения случайная ошибка постоянна (э„„= сонэг), получили следующие оценки для ураэнения линейной регрессии. Несмотря на то, что я„„= сопэг, как обусловлено в гомоскедастической системе, я (А) будет зависеть от концентрации и тем больше, чем более удалено Уа от сеРеднны У = 2; УЯ/гп. Это особенно неУдобно на нижней гРанице области концентраций, поскольку там и без того уже достаточно велика относительная ошибка. Поэтому при градуировке рекомендуется выбирать эталоны с низкими концентрациями в большом количестве и как можно ближе друг к другу, чтобы сместить середину градуировочной примой в сторону более низких концентраций [9], Из уравнения (9.32) получают доверительный интервал для результатов анализа ха с / = гп — 2 степенями свободы. Обе границы доверительного интервала хд ж Ьх имеют вид двух ветвей гиперболы с малой осью у = а+ бх и центром в средней точке (х; У).
Из градуировочного графика можно непосредственно определить предел обнаружения. При этом отрезок на оси а примем в качестве результата холостого опыта (а = ув). В качестве наименьшего отличного от холостого опыта значения у,„(чкритическое значение") по аналогии с уравнением (6.12) получаем Глава 9. Статистика прямых линий 174 Кокивитраиии х,„ Экстинкииа Ю г бакаева/в Сначала находим / 'х, = 10,7, ~ хз = 22,79, (~ х,) = 114,49 ,') 'у, = 6,66, ~ у~ = 8,4298, ~ х,у, = 13,850 яь = 7 Следовательно, по уравнениям (9.16) и (9.17) получим 1,850-10,Т 6~66 0,570337 Т 22,Т9 — 114,49 6,66 — 0,570 ЗЗТ -10,Т а ьт = 0,079628 Т Сумму квадратов для диснерсни разностей результатов (у,) и предсказаний (1гь) находим по уравнению (9.19) ~ (у, — У;)' = 8,4298ОΠ— 0,079628. 6,66 — 0,5Т0337 13,850 = 0,000311 О, ООО 311 вь = и 0,0000622 5 вь = О, 007 ВВТ Дисперсии для констант Ь и а получают из уравнений (9.20) н (9.21); т 7 0,0000622 вь = 7 О'00000967 7 22, Т9 — 114, 49 вь = О, 00311 (с / = 5 степенямн свободы) О 00006" 2'22 79 о о ооз т 7 .