Просмтор этого файла доступен только зарегистрированным пользователям. Но у нас супер быстрая регистрация: достаточно только электронной почты!

Текст из файла

Работа № 5. Критерий хи-квадрат проверки гипотез

Критерий хи-квадрат Пирсона является весьма общим методом построения тестов для проверки различных гипотез.

1. Проверка простой гипотезы о вероятностях

Обозначим:

A₁, ..., A_m - m возможных исходов некоторого опыта; p₁, ..., p_m - вероятности cooтветствующих исходов, ;

n - число независимых повторений опыта;

₁, ..., _m - число появлений соответствующих исходов в n опытах, ;

p , ..., p - гипотетические значения вероятностей, p  0, .

Требуется по наблюдениям ₁,...,_m проверить гипотезу Н о том , что вероятности p₁, ..., p_m имеют значения p , ..., p , т.е.

Н: p_i= p , i=1, ...,m.

Оценками для p₁, ..., p_m являются = ₁ /n, ..., = _m/n. Мерой расхождения между гипотетическими и эмпирическими вероятностями принимается величина

,

которая с точностью до множителя n есть усредненное с весами p значение квадрата относительного отклонения значений от p . Статистика X² называется статистикой хи-квадрат Пирсона. Для ее вычисления используются две формулы:

. (1)

Условно статистику можно записать так:

Н - наблюдаемые частоты _i, Т - теоретические (ожидаемые) частоты np .
Поскольку по закону больших чисел  p_i при n  , то

.

Последняя величина равна 0, если верна Н; если же Н не верна, то X²  .

Процедура проверки гипотезы состоит в том, что если величина X² приняла “слишком большое” значение, т.е. если

X²  h , (2)

то гипотеза Н отклоняется; если это не так, будем говорить, что наблюдения не противоречат гипотезе. На вопрос, что означает “слишком большое” значение, отвечает

Теорема К. Пирсона. Если гипотеза Н верна и p_i⁰ > 0, i=1,...,m, то при n  распределение статистики Х² асимптотически подчиняется распределению хи-квадрат с m - 1 степенями свободы, т.е.

Р{ X² < x / H }  F_m-1(x)  P{ ²_m-1 < x }.

Порог h выберем из условия: вероятность ошибки первого рода должна быть малой - равной выбираемому значению  - уровню значимости:

P{ отклонить H / H верна} = P{ X ²  h / H }  P{²_m-1  h} = ,

откуда

h = Q( 1-, n -1) (3)

- квантиль уровня 1- распределения хи-квадрат с m -1 степенями свободы.

Процедура (2) - (3) проверки Н может быть записана иначе: гипотеза Н отклоняется, если

P{²_m-1  X²}   , (4)

т.е. если мала вероятность получения (при справедливости Н) такого же расхождения, как в опыте (т.е. X²), или ещё большего. Вероятность слева в (4) называется минимальным уровнем значимости (при любом значении , большем P{X²_m-1  X²}, гипотеза, очевидно, отклоняется).

Замечание. Теорему Пирсона можно применять, если все ожидаемые частоты

np  10, i=1, ...,m; (5а)

если m порядка десяти и более, достаточно выполнения

np  4, i=1, ...,m. (5б)

Если (5) не выполняется, необходимо некоторые исходы А_i объединять

2. Проверка сложной гипотезы о вероятностях

Пусть A₁, ...,A_m - m исходов некоторого опыта, n - число независимых повторений опыта, ₁,...,_m - числа появлений исходов. Проверяемая гипотеза Н предполагает, что вероятности исходов P(A_i) являются известными функциями p_i(a) k-мерного параметра a = (a₁,...,a_k), т.е.

Н: Р(А_i) = p_i(a), i = 1, ..., m,

но значение а неизвестно.

Для проверки гипотезы Н определим статистику

(6)

По теореме Фишера, если Н верна, то при n   распределение статистики Х² асимптотически подчиняется распределению хи-квадрат с числом степеней свободы f = m -1- k, и потому отклоняем Н, если

 h, (7)

где h = Q(1-, f) - квантиль уровня 1-  распределения хи-квадрат с числом степеней свободы f; такой порог обеспечивает выбранный уровень  вероятности P(отклонить Н / Н) ошибки 1-го рода. Если (7) не выполняется, делаем вывод, что наблюдения не противоречат гипотезе. Распределению хи-квадрат с f = m -1- k степенями свободы асимптотически подчиняется также статистика

, (8)

где - оценка максимального правдоподобия для а, и потому в (7) может быть использована статистика (8) вместо (6). Процедура (7) может быть записана иначе: если

P{_f²  X²}   (9)

то гипотеза Н отклоняется.

3. Проверка гипотезы о типе распределения

Пусть требуется проверить гипотезу о том, что выборка x₁, ..., x_n извлечена из совокупности, распределенной по некоторому закону, известному с точностью до k-мерного параметра а=(а₁,...,а_k). Оказываются теоретически обоснованными следующие действия: разобьем весь диапазон наблюдений на m интервалов, определим значения _i -число наблюдений в i-м интервале, получим значение оценки минимизацией (6) или методом максимального правдоподобия, определим вероятности p_i( ) попадания в i-й интервал, вычислим (6) или (8) и примем решение по (7).

Пример1. Проверка нормальности. Проверим гипотезу о нормальном законе распределения размеров головок заклепок, сделанных на одном станке, по выборке объема n = 200; измерения приведены в таблице 1. Оценками для а (среднего) и  (стандартного отклонения) являются

и .

Таблица 1.

Наблюдаем таблицу частот, в которой нам нужны столбцы observed frequency (наблюдаемые частоты) и expected frequency (ожидаемые частоты). Сравним графически наблюдаемые и ожидаемые частоты. Наблюдаем некоторое различие.

В таблице приведено значение статистики Chi-Square: 13,25195, количество степеней свободы d.f. = 3. Приведено значение вероятности

Р ² ₃  13,25195 = р = 0,0041271.

последнее означает, что если гипотеза верна, вероятность получить 13,25195 или больше равна 0,0041271 – слишком мала, чтобы поверить в нормальность. Гипотезу о нормальности отклоняем.

Если посмотреть гистограмму наблюдений, видно, что в выборке имеется одно аномальное значение 14.56 (№ 188), которое могло появиться в результате какой-либо ошибки (при записи наблюдений, при перепечатке или попалась деталь с другого станка и т.д.). Удалим его и снова проверим гипотезу. Удаление одного наблюдения, если оно типично, не может изменить характеристики совокупности из 200 элементов; если же изменение происходит, следовательно, это наблюдение типичным не является и должно быть удалено. Повторим проверку гипотезы для “цензурированной” выборки и убедимся в том, что наблюдения не противоречат гипотезе о нормальности.

Р ² ₁₀  3,854282 = р = 0,9536707.

Вероятность получить 3,854282 или больше, при условии, что гипотеза верна, равна 0,9536707 –близка к единице, поэтому гипотезу о нормальности принимаем.

Примеры проверки простой гипотезы о распределении

Пример 2. Проверим генератор случайных чисел. Сгенерируем выборку заданного объема с заданным в таблице 2 законом распределения, и по полученным результатам проверим гипотезу о согласии данных с этим распределением. В таблице приняты обозначения для распределений: R - равномерное, N -нормальное, E - показательное, Bi - биномиальное, Po - Пуассона.

Таблица 2. Исходные данные.

Р ² ₉  2,616714 = р = 0,9775726.

Вероятность получить 2,616714 или больше при условии, что гипотеза верна, равна 0,9775726 – близка к единице, поэтому гипотезу о нормальности принимаем.

Пример 3. В опытах по генетике Мендель наблюдал частоты появления различных видов семян, получаемых при скрещивании гороха с круглыми желтыми и с морщинистыми зелеными семенами. Частоты приведены в таблице 3 вместе с теоретическими вероятностями.

Таблица 3. Частоты видов семян.

X² = 0.47. При числе степеней свободы m-1 = 3

P{  0.47 } = 0.92,

так что между наблюдениями и теорией имеется очень хорошее согласие: критерий с любым уровнем значимости   0.92 не отвергал бы эту гипотезу.

5. Проверка гипотезы о независимости признаков (таблица сопряженности признаков)

Предположим, имеется большая совокупность объектов, каждый из которых обладает двумя признаками А и В; признак А имеет m уровней: A₁, ..., A_m, а признак В – k уровней: B₁, ..., B_k . Пусть уровень А_i встречается с вероятностью P(A_i), а уровень B_j - c вероятностью P(B_j). Признаки А и В независимы, если

P(A_i B_j) = P(A_i)P(B_j), i = 1, ..., m, j = 1, ..., k ,

т.е. вероятность встретить комбинацию A_i B_j равна произведению вероятностей. Пусть признаки определены на n объектах, случайно извлеченных из совокупности; _ij - число объектов, имеющих комбинацию A_i B_j, =n. По совокупности наблюдений {_ij } (таблица m k) требуется проверить гипотезу Н о независимости признаков А и В. Задача сводится к случаю с неизвестными параметрами; ими являются вероятности

P(A_i), i = 1, ..., m; P(B_j), j = 1, ..., k,

всего (m-1) + (k-1); их оценки:

,

(в обозначениях точка означает суммирование по соответствующему индексу), и статистика (6) принимает вид:

. (10)

Если гипотеза Н верна, то по теореме Фишера асимптотически распределена по закону хи-квадрат с числом степеней свободы

f = mk - 1 - (m - 1) - (k - 1) = (m - 1)(k - 1),

и потому, если

, (11)

то гипотезу о независимости признаков следует отклонить.

Ясно, что по (11) - (12) можно проверять независимость двух случайных величин, разбив диапазоны их значений на m и k частей.

Пример 4. Данные, собранные по ряду школ, относительно физических недостатков школьников (P₁, P₂, P₃ - признак А) и дефектов речи (S₁, S₂, S₃ - признак В) приведены в таблице 4. В таблице 5 даны частоты.

Для проверки гипотезы о независимости этих двух признаков вычислим статистику (11): = 34.88; число степеней свободы f = (3-1)(3-1) = 4; минимальный уровень значимости

;

это значит, что при независимых признаках вероятность получить значение такое же, как в опыте или большее, меньше 0.001, и потому гипотезу о независимости следует отклонить.

Таблица 4.

Таблица 5. Таблица частот.

Наблюдаем две таблицы: таблицу частот Summary Frequency Table и Expected Frequencies; в верхней части последней указано значение статистики (10) (Chi-square), число степеней свободы df и уровень значимости р (вероятность в (11)). Поскольку значение р мало, гипотеза о независимости речевых дефектов и физических отклоняется.

6. Проверка гипотезы об однородности выборок

Пусть имеется m выборок объемами n₁,..., n_m, извлеченных из различных совокупностей. Измеряемая величина в каждой из выборок может иметь k уровней B₁, ..., B_k. Требуется проверить гипотезу о том, что исходные совокупности распределены одинаково. Обозначим _ij - число наблюдений в i-й выборке, имеющих уровень B_j, . Имеем таблицу mk наблюдений налогично предыдущему пункту 5. Можно показать, что для проверки гипотезы справедлива процедура (10) - (11).

Пример 5. Имеются данные о наличии примесей серы в углеродистой стали, выплавляемой двумя заводами (см. таблицу 6).

Таблица 6. Число плавок

Проверим гипотезу о том, что распределения содержания серы (нежелательный фактор) одинаковы на этих заводах.

По (11) находим: = 3.39. Число степеней свободы f = (2-1)(4-1) = 3; квантиль уровня 0.95

h = Q(0.95, 3) = 7.8.

Полученное нами из опыта значение 3.39 лежит в области допустимых значений, и потому у нас нет оснований считать, что содержание серы в стали этих заводов имеют различные распределения.

В таблице Results of Fitting... в последней строке столбца Person Chi-Squ получаем Х² = 3.59, число степеней свободы Degrs of Freedom f = 3, и уровень значимости Probab. p = 0.31. поскольку эта вероятность не мала (не является значимой), гипотезу об одинаковом распределении содержания серы в металле на двух заводах можно принять (вернее, наблюдения этому не противоречат).

7. Проверить гипотезу о типе распределения на основе сгенерированной по заданному в таблице 7 закону выборке объема n. Проверить три гипотезы: о нормальности, о равномерности и о показательности.

Таблица 7. Исходные данные

Выборка:

Проверка на равномерность:

р=0,58345, вероятность не мала, это говорит о том, что наблюдения не противоречат гипотезе.

Проверка на нормальность:

Проверка на показательность:

Характеристики

Тип файла документ

Документы такого типа открываются такими программами, как Microsoft Office Word на компьютерах Windows, Apple Pages на компьютерах Mac, Open Office - бесплатная альтернатива на различных платформах, в том числе Linux. Наиболее простым и современным решением будут Google документы, так как открываются онлайн без скачивания прямо в браузере на любой платформе. Существуют российские качественные аналоги, например от Яндекса.

Будьте внимательны на мобильных устройствах, так как там используются упрощённый функционал даже в официальном приложении от Microsoft, поэтому для просмотра скачивайте PDF-версию. А если нужно редактировать файл, то используйте оригинальный файл.

Файлы такого типа обычно разбиты на страницы, а текст может быть форматированным (жирный, курсив, выбор шрифта, таблицы и т.п.), а также в него можно добавлять изображения. Формат идеально подходит для рефератов, докладов и РПЗ курсовых проектов, которые необходимо распечатать. Кстати перед печатью также сохраняйте файл в PDF, так как принтер может начудить со шрифтами.

Список файлов лабораторной работы