TV_lektsia_6 (лекции 1-7)

Лекция 6. Основные задачи математической статистики. Генеральнаясовокупность. Выборка. Вариационный и статистический ряды. Гистограмма и полигон. Теоретическая и эмпирическая функции распределения. Выборочные моменты. Постановка задачи оценивания неизвестногопараметра. Оценка. Состоятельные и несмещенные оценки. Метод моментов. Метод максимального правдоподобия.МП-4; ОЛ-2, глава 2Основные задачи математической статистикиМатематическая статистика, как и теория вероятностей, занимается изучением математических моделей случайных явлений или экспериментов.В то же время задачи математической статистики являются как бы обратными к задачам теории вероятностей.

В теории вероятностей послезадания математической модели того или иного случайного явления требуется рассчитать различные вероятностные характеристики этого явления в рамках данной модели. В математической статистике, исходя изуже имеющихся результатов эксперимента, называемых статистическими данными, требуется определить или уточнить математическую модель данного явления иди найти те или иные параметры, ее определяющие.

Далее рассмотрим задачи математической статистики на примересхемы Бернулли. Предположим, проводится серия из п независимыходинаковых экспериментов, в каждом из которых возможны два исхода− "успех" с вероятностью р и "неуспех" с вероятностью 1 − р. Даннаямодель полностью задается значением параметра − вероятности "успеха"р в одном испытании. Если параметр р известен, то различные вероятностные характеристики, такие как вероятность наблюдать т "успехов" всерии из n испытаний, математическое ожидание числа "успехов" и др.,легко могут быть найдены по известным формулам теории вероятностей.Задача математической статистики возникают в тех случаях, когда истинное значение параметра р неизвестно, а известны результаты эксперимента − число т наблюдаемых "успехов" в серии из п испытаний.Требуется, исходя из результатов эксперимента, произвести те или иныевыводы относительно неизвестного истинного значения параметра p и,следовательно, относительно исходной математической модели, описывающей данный эксперимент.

При этом в математической статистикерассматриваются следующие основные задачи.1. Задачи оценки неизвестных параметров, т.е. в данном случае параметра р, по результатам эксперимента. При этой требуется найти такуюфункцию от результатов эксперимента, в данном случае от величины m,которая могла бы служить "достаточно хорошей" оценкой неизвестногоистинного значения параметра р. Такой оценкой в данном случае являет-ся стандартная оценка вероятности некоторого события на наблюдаемойчастоте этого события pˆ  m / n .2. Задачи интервального оценивания или, другими словами, оцениванияпараметров с помощью доверительных интервалов. Пря этом требуетсяпостроить интервал со случайными границами, зависящими от результатов эксперимента p  p(m) , p  p(m) , таким образом, чтобы построенный случайный интервал накрывал неизвестное истинное значение параметра с заданной достаточно высокой вероятностью: P{ p  p  p}   ,где коэффициент доверия γ выбирается близким к 1.3.

Задачи проверки статистических гипотез. В этом случае требуется наоснове результатов эксперимента проверить то или иное предположениеила гипотезу, например, гипотезу о том, что неизвестное истинное значение параметра удовлетворяет неравенству p ≤ p0 или равенству p = p0,где p0 − некоторое заданное число.4. Установление формы и степени связи между случайными величинами.Генеральная совокупность, выборкаВ математической статистике часто используется выборочная терминология, основанная на следующей "урновой" схеме. Предположим, чтоимеется урна, содержащая N чиселX 1 , X 2 ,..., X N(1)которые скрыты от наблюдателя.

Набор всех чисел (1) называется генеральной совокупностью.Пусть далее из указанной генеральной совокупности случайным образомвыбирается п чиселx1 , x2 ,..., xn(2)где n  N . Набор чисел (2) называется выборкой объема n из генеральной совокупности (1).В терминах данной схемы задачи математической статистики могутформироваться следующим образом. Требуется на основе выборки (2)произвести те или иные выводы относительно всей генеральной совокупности (1).Выборка может производиться двумя основными способами: без возвращения и с возвращением.

Если выборка производится с возвращением, то случайные величины (2) независимы. В этом случае говорят, чтонабор чисел (2) является независимой повторной случайной выборкойобъема п из генеральной совокупности (1). Указанная терминология сохраняется и в случае N = ∞, когда исходная генеральная совокупностьсодержит бесконечный набор чиселX 1 , X 2 ,..., X N , X N 1 ,...(3)В этом случае говорят о бесконечной генеральной совокупности (3) в отличие от конечной генеральной совокупности (1).Вариационный и статистический рядыСхема с бесконечной генеральной совокупностью используется в математической статистике либо в тех случаях, когда объем генеральной совокупности конечен, но очень велик, например, при статистически исследованиях в экономике, социологии и т.п., либо в тех случаях, когдачисла выборки являются повторными реализациями некоторой случайной величины, которая может наблюдаться сколько угодно раз. Нетрудно видеть, что при N   разница между выборками с возвращением ибез возвращения фактически исчезает.

Числа выборки (2), расположенные в порядке возрастания, обозначаютсяx(1)  x(2)  ...  x( n 1)  xn(4)и называются вариационным рядом.Пример 1. В результате пяти повторных независимых наблюдений некоторой случайной величины получены следующие ее значения: х1 = 104,x2 = 95, х3 = 93, х4 = 107, х5 = 101. Для данной выборки объема n = 5 вариационный ряд имеет вид х(1) = 93, x(2) = 95, х(3) = 101, х(4) = 104,х(5) = 107.Примечание. Если в выборке имеются совпадающие числа, другимисловами, число xi встречается в выборке пi раз, i = 1, ..., m; n1 + n2 + ... +nm = n, где m − число различных между собой членов выборки, то формулы для выборочных среднего и дисперсии могут быть записаны в следующем виде:1 m1 m2x   ni xi , S 2   ni  xi  x n i 1n i 1Статистическим рядом называется последовательность пар (xi, ni).Обычно статистический ряд записывается в виде таблицы, первая строкакоторой содержит элементы xi а вторая − их частоты.Теоретическая и эмпирическая функции распределенияЭмпирической функцией распределения, построенной на основе выборr ( x)ки (2), называется следующая функция: Fˆn ( x) , где r ( x) − количеnство таких чисел xi в выборке, для которых xi < x.

Эмпирическая функцияраспределения может быть также записана с помощью вариационногоряда в следующем виде:0, x  x(1)Fˆn ( x)   j / n, x( j )  x  x( j 1) , j  1,..., n  11, x( n )  xПример 2. Постройте эмпирическую функцию распределения для выборки из примера 1.Пусть F(х) − истинная или теоретическая функция распределения дляданной генеральной совокупности. Тогда в соответствии с известнойтеоремой Гливенко−Кантелли при n   с вероятностью 1 выполняетсясоотношениеsup | Fˆn ( x)  F ( x) | 0xт.е.

при увеличении объема выборки эмпирическая функция распределения сходится к теоретической.Построенные на основе эмпирической функции распределения моментыназываются эмпирическими или выборочными моментами.На основе выборки (2) строятся также следующие характеристики. Ве1 nличина x   xi называется эмпирическим или выборочным средним.n i 11 n2Величина S 2    xi  x  называется эмпирической или выборочнойn i 11 n2 xi  x  называется эмпирическимn i 1или выборочным среднеквадратичным отклонением.

Величины S, ̂ позволяют оценить разброс выборки относительно ее среднего значения x .Еще одной часто используемой характеристикой разброса выборки является размах выборки Rn  x( n )  x(1) .дисперсией. Величина ˆ  S Выборочные моментыНаряду с перечисленными эмпирическими характеристиками используются также эмпирические (выборочные) моменты ˆ r и центральные моменты ˆ r порядка r, которые вычисляются по формулам21 n r1 nxi , ˆ r    xi  x  .n i 1n i 1Пример 3. Найти выборочное среднее, дисперсию, среднеквадратичноеотклонение и размах выборки из примера 1.2Ответ: x  100; S  28;   5,3; Rn  14 .ˆ r Пример 4.

Найти выборочное среднее, дисперсию, среднеквадратичноеотклонение и размах следующей выборки объема n = 100xi ...1250 1270 1280 1290ni ... 2025505Примечание. Если числа выборки велики, то при вычислении выборочных характеристик удобно сначала записать их в виде xi  a  yi , где a −константа близкая к среднему, после чего для выборочного среднего по1 mлучается x  a   ni yin i 1При вычислении выборочной дисперсии часто удобно использовать1 m1 mS 2   ni xi 2  ( x ) 2 или S 2   ni yi 2  ( x  a ) 2n i 1n i 1Гистограмма и полигонПолигоном частот выборки называется ломаная с вершинами в точках(xi, ni).Пусть теперь ξ − непрерывная случайная величина с неизвестной плотностью вероятности p(x). Для оценки p(x) по выборке x1, x2, ..., xn разобьем область значений ξ на интервалы hi, (i = 1, 2, ..., s). Обозначим черезxi* середины интервалов, а через vi − число элементов выборки, попавших в интервал hi.

Тогда f ( xi ) ~ i (i  1, 2,..., s) − оценка плотности веnhiроятности в точке xi* . В прямоугольной системе координат построимпрямоугольники с основаниями hi, и высотами  i / ( nhi ) . Полученная таким образом фигура называется гистограммой выборки.Постановка задачи оценивания неизвестного параметраПредположим, что ищется некоторая случайная величина ξ с функциейраспределения F(x, θ) и плотностью распределения f(x, θ), зависящими отнекоторого многомерного параметра θ истинное значение которого неизвестно. Требуется оценить параметр θ по результатам п повторных независимых наблюдений величины ξ или, другими словами, на основе повторной независимой случайной выборки (2) объема n из генеральнойсовокупности с функцией распределения F(x, θ).Совокупность всех распределений F(x, θ) при различных возможныхзначениях параметра θ называется параметрическим семейством распределений.