К. Доерфель - Статистика в аналитической химии (1969) (1109659), страница 32
Текст из файла (страница 32)
Тогда говорят о стоанстичесиой связи, или, другими словами, что обе величины связаны корреляцией. Сила подобной связи характеризуется коэффи4)иен- 14 — 43Э 211 Статистика прямых .виний 210 глава 9 [9ЛЗ). Прн применении метода калвйбромвдных таблеток в количественном ИК-спектральном анализе часто экстннкцню выбранной для анализа полосы поглощения относят к экстннкцвв добавленного стандартного вещества.
Таким образом должны уменьшиться случайные ошибки, возпвка!ощве прв приготовлении таблеток. Однако такой способ введения внутреннего стандарта только тогда эффективен, когда коррелнровапы экстнвкцнн обоих полос поглощения — аналитической в стандартной (взнтой для сравнения), т, е. когда случайные вэмененвн, влияющие ва одну вз полос поглощения, ведут к подобным же изменениям поглощения э другой полосе. Для определения остаточного содержания нвтрнльвых групп в продуктах нэ полнакрнлннтрила в качестве стандартного вещества использовали Ке [Ре(О)М)е).
Длн проверки корреляции ва десяти пробах одного состава были получены следующие значения экстннкции для аналитической (Ел) и стандартной (Ез) полос поглощения [4). /поле корреляции г. Он является безразмерной величиной, изменяющейся в области — 1 < г < +1. При г = +1 имеет место строго линейная связь, причем с увеличением х растет и у. Если г=- — 1, то связь также строго линейная, но с увеличением одной иэ величин вторая уменьшается. В случае г = 0 х и д считают некоррелированными.
Это наблюдается чаще всего тогда, когда х и у независимы друг от друга. Однако из того, что г = 0 нельзя сделать обратное заключение — о независимости х и у. Чем ближе г лежит к -~1, тем строже наблюдаемая линейная связь. Для обычной линейной корреляции коэффициенты корреляции получают по формуле ~ (х — ) (у! — у) )/с~~ ( , )9 (у, , )9 т Х х!у! — 2.' х! Х у! (9.88) [т ~ хв — ( ~~ х!)9) [т ~ у — ( ~у!)91 Проверяется статистическая значимость отличия найденного значения коэффициента корреляции от нуля.
Для этого его сопоставляют со значением г (Р, /), взятым из табл. 9.1, при степенях свободы /' = т — 2. Связь имеет место, если [ г [:я г (Р, /). Преобразованные еначення Таб.вича уи Граничные авачения г(.Р„У') для проверки статистической аначнмости коэффициентов корреляции Р.= 0,99 Р = 0,99 Для простоты расчета использовали преобразования Х= 1000Х Ел — 450 н У = 10ООЕз — 648. Из преобразованных значений вычислили: / Р 0,99 Р 0,99 / Р= 0,99 Р= 0,99 (~ Х,)'=ИЗ (в у )9 1 л~', Хву! = 1069 Х Хе =-- 1778 У;.— -- 2103 т=. 10 Пользуясь уравнением (9.38), 10 1069 — 4 1 получили 0,553 '(/в(10 1778 — 16) (10 2103 — 1) 1 1,00 2 095 3 0,88 4 0,81 5 0,75 6 0,71 7 067 8 0,63 9 0,60 10 0,58 1,00 0,99 0,96 0,92 0,87 0,83 0,80 0,77 0,74 0,71 11 0,55 0,68 12 0,53 0,66 13 О 51 О 64 14 О 50 О 62 15 048 061 16 0,47 0,59 17 0,46 0,58 18 0,44 0,56 19 0,43 0,55 20 0,42 0,54 25 0,38 30 0,35 35 0,33 40 0,30 45 0,29 50 0,27 60 0,25 70 0,23 80 0,22 100 0,20 0,49 0,45 0,42 0,39 0,37 0,35 О.ЗЗ 0,30 0,28 0,25 0,428 0,460 0,427 0,440 0,460 0,470 0,456 0,460 0,448 0,450 0,626 0,650 0,633 0,670 0,660 0,651 0,668 0,650 0,643 0,630 — 22 +10 — 23 — 5 +10 -!-20 +6 +10 — 2 0 — 22 +2 — 15 +22 +12 +3 +20 +2 — 5 — 18 213 Статистика прямых линий Глаяа 9 212 Но табл.
9.1 нашли ( г ( ( г (Р = 0,95; ! = 8) =. 0,63. Между акстинкциями аналитической и стандартной полос поглощения не оказалось никакой значимой коррелгщии. Из имеющихся результатов нельзл сделать вывод об уменьшающем ошибку влиянии стандартного образца. В целях сравнения часто возникает вопрос, существует лн различная степень связи между переменными х и у в двух разных сериях измерений. В этом случае необходимо проверить есть ли статистически значимое различие для коэффициентов корреляции г, и г„полученных нз т< и гпз измерений. Для этого составляют вырансение: 4 13(3 эх (т< — ) (тз — ) 1 (1 -г<) ( — гз] яч-! тз — 6 (1 — гй (1+ге) (9.39) Затем вычисленное значение сравнивают с табличным значением 1 (Р, )) прн !' = лзг + те — 4. Различие оказывается значимым в том случае, если 1„) 1(Р, !).
Из табл. 12,3 получают < (Р == 0,95; ! —.— 21) — — 2,08 Так как <г ( < (Р, !) дли двух коэффициентов корреляции нет значимой разницы Вычислением корреляции можно также отыскать и оценить связи мея<ду весьма отдаленными величинами. Однако при этом существует опасность, что устанавливают корреляции, смысл которых весьма спорен. Проверка корреляции наден<на только на таком материале, который по происхождению можно считать однородным. Отсутствие единообразия (например, два различно работающих аналитика) может замаскировать корреляцию или привести к ложной корреляции. Проверка корреляции на временных рядах нз-за временной изменчивости одной иэ величин моя<ет при известных обстоятельствах [9.14].
Для гоохимических исследований необходимо было выяснить, существует ли связь между содержанием натрия н лития з воде. В первой серии опытов, состолщей из 10 проб воды, коэффициент корреляции составил г, = 0,838, Нри повторении опыта з другое время года значения, полученные на 15 пробах, привели к коэффициенту корреляции гх =- 0,738. В соответствии с соотношением (9.39) с =.1,1513 ' (10 — 3) (1э..
3] ! 1,838 0,262 0 564 10+15 — 6 0,162.1,738 указать на связь, которой в действительности нет. Поэтому обоснованность корреляционных связей следует тщательно продумывать в кансдом случае. ЛИТЕРАТУРА 1. В а и ш а п п М., Арр!. 8рес!газ<ору, 13, 156 (1956). 2. В о е г11 е 1 К., Х.
апа!. СЬеш., 157, 241 (1957). 3. В о е г11 е ! К., Х. апа!. СЬеш., 185, 1 (!962). 4. !) о е г11 е 1 К., Иг!эз. Х. ТесЬп. НосЬзсЬп!е СЬеппе, 1.еппаМегэеЬпгв !6., 1965. 5. !Э о е г11 е 1 К., Ь < с Ь < и е г !., 8рес<госЫш. Ас<а, Ьопдоп, 196Т>. 6. 6 г о < Ь о р 1 Р., Вйр!опгагЬе1< ТН СЬевпе !.еппа-х(егэеьпгб, 1964. 7. 6 е у е г В., В о е г1 1 е 1 К., Х. апа1. СЬеши 158, 419 (1957).
8. Сеуег В.,Воег11е1 К., Н6Ьо!6 ЛУ.,Х.апа1.СЬеш., 1966. 9. 6 г о з з ш а п п УУ., 6гопдхйбе бег Апзб!е!сЬзгесйпппб, ВегИп-6о<!!пбеп-Не!6е!Ьегв, 8рппбег, 1954. 10. Н о 16 6., 8 < г а за Ь е ! ш А., Арр1. 8рес<гозсору, 14, 64 (196О). 11. К а < э е г Н., 8 р е с 1с е г Н., Х. апа!. СЬеши 149, 46 (1956). 12. К < гсЬЬо1 8,, ! абпзсЬ К. Н., Х. апа!. СЬеш., 199, 197 (1964), 13.
К 6 г<и ! п Н., 6гарЫзсЬез Ве<Ьпеп, 1,е!рз16, УЕВ РасЬЬпсЬ- чег!аб, 1949. 14. Л1 а п 6 е ! !., 1 ! п и ! 6 Р. К, Апа1. СЬеш., 29, 743 (1957). 15. М а п г ! с е М., Х. апа!. ГЬеш., 158, 271 (1958]. 16. % о г п е г Н., Х. <ч!г<зсй. Рег!!6., 52, 99 (1957). Приемы вычислений 215 10. Приемы вычислений При оценке результатов анализа значительную роль играют арифметические вычисления.
Возникает вопрос о затратах на вычисления, появляется также проблема разумного выбора техники вычислений и выбора счетных вспомогательных средств. Для этого ниже приведено несколько кратких указаний. Затраты на вычисления всегда определяются случайной ошибкой имеющихся измерений. Результат вычислений никогда не может быть точнее, чем используемые измерения. Для ошибки вычисленных результатов справедливы правила распространения ошибок, данные в начале гл.
4. При линейных расчетах суммируется абсолютная ошибка отдельных значений, а при нелинейных— относительнан ошибка. Расчет всегда проводят с сохранением одной лишней цифры по сравнению со случайной ошибкой конечного результата. Эту лишнюю цифру опускают лишь в конечном результате. Для необходимого при этом округления чисел справедливы правила стандарта ТС1 0-1333. 1. При округлении последняя сохраняемая цифра остается без изменения, если за ней следуют цифрыО, 1, 2, 3 и 4 (например, 8,2738-+ 8,27). 2. При округлении последнюю значащую цифру увеличивают на единицу, если за ней стоят цифры 9, 8, 7 и 6 (например, 8,2763 — и 8,28).
3. Если перед округлением за значащей цифрой стоит цифра 5 хотя бы с одной последующей цифрой, отличной от нуля, то последнюю значащую цифру увеличивают на единицу (например, 4,35001 — и 4,4). Однако если эта пятерка получилась уже после округления, то для дальнейшего округлении необходимо принимать во внимание первоначальное число (например, 6,315 получено из 6,3149; поэтому при дальнейшем округлении 6,315 — и 6,31).
4. Если перед округлением цифра, следующая за значащей цифрой, была точно 5, то последняя значащая цифра округляетсн до ближайшей четной (например, 1/16 0 0625000, 0 062. За7 3 750 в 3 8) При таком округлении получается малая ошибка. Ее можно сохранить в таких размерах, выбирая подходящим образом схему подсчета. Для вычисления сумм квадратов Е (х; — х)', например по равенству (2.6), обе формулы арифметически равнозначны. ~~~~ (х; — х)' =- ~~~~ х,'— (~ х;) (2.6а) =- ~",хз — мха (2. бб) Однако для практического расчета применнют первую формулу, так как в уравнении (2.66) при подсчете среднего значения при известных условиях может появиться ошибка округления, которая затем увеличится на фактор и.