Теория универа (Теория вероятностей и математическая статистика. Теория и примеры решения задач), страница 9

Тогда сумма их квадратовnχ 2 = ∑ X i2(12.1)i =1является случайной величиной, распределенной по так называемому закону «хи-квадрат» сk = n степенями свободы; если же слагаемые связаны каким-либо соотношением (например,∑ Х i = nX ), то число степеней свободы k = n – 1.Плотность этого распределения0, x ≤ 0;x k−−112 2e x , x > 0.f ( x) =  k 2 2 Γ k 2(12.2)∞Здесь Γ( x) = ∫ t x −1e −t dt - гамма-функция; в частности, Г(п + 1) = п! .0Следовательно, распределение «хи-квадрат» определяется одним параметром – числом степеней свободы k.Замечание 1. С увеличением числа степеней свободы распределение «хи-квадрат» постепенноприближается к нормальному.Замечание 2. С помощью распределения «хи-квадрат» определяются многие другие распределения, встречающиеся на практике, например, распределение случайной величины χ 2 длины случайного вектора (Х1, Х2,…, Хп), координаты которого независимы и распределены понормальному закону.Распределение Стьюдента.Рассмотрим две независимые случайные величины: Z, имеющую нормальное распределение инормированную (то есть М( Z ) = 0, σ( Z) = 1), и V, распределенную по закону «хи-квадрат» с kстепенями свободы.

Тогда величинаТ=Z(12.3)Vk44PDF created with FinePrint pdfFactory trial version http://www.fineprint.comимеет распределение, называемое t – распределением или распределением Стьюдента с kстепенями свободы.С возрастанием числа степеней свободы распределение Стьюдента быстро приближается кнормальному.Распределение F Фишера – Снедекора.Рассмотрим две независимые случайные величины U и V, распределенные по закону «хиквадрат» со степенями свободы k1 и k2 и образуем из них новую величинуF=U / k1.V / k2(12.4)Ее распределение называют распределением F Фишера – Снедекора со степенями свободыk1 и k2. Плотность его распределения имеет вид0, x ≤ 0;k1 − 2x 2f ( x) = C,k1 + k 2 02 (k 2 + k1 x)x > 0,(12.5) k + k 2  k1 k2Γ 1 k1 2 k 2 22 .

Таким образом, распределение Фишера определяется двумягде C 0 = k1   k 2 Γ Γ 2  2параметрами – числами степеней свободы.45PDF created with FinePrint pdfFactory trial version http://www.fineprint.comЛекция 13.Закон больших чисел. Неравенство Чебышева. Теоремы Чебышева и Бернулли.Изучение статистических закономерностей позволило установить, что при некоторыхусловиях суммарное поведение большого количества случайных величин почти утрачивает случайный характер и становится закономерным (иначе говоря, случайные отклонения от некоторого среднего поведения взаимно погашаются).

В частности, если влияниена сумму отдельных слагаемых является равномерно малым, закон распределения суммыприближается к нормальному. Математическая формулировка этого утверждения дается вгруппе теорем, называемой законом больших чисел.Неравенство Чебышева.Неравенство Чебышева, используемое для доказательства дальнейших теорем, справедливо как для непрерывных, так и для дискретных случайных величин.

Докажем его длядискретных случайных величин.Теорема 13.1(неравенство Чебышева). p( | X – M(X)| < ε ) ≥ D(X) / ε².Доказательство. Пусть Х задается рядом распределенияХх1х2…рр1р2…(13.1)хпрпТак как события |X – M(X)| < ε и |X – M(X)| ≥ ε противоположны, то р ( |X – M(X)| < ε ) ++ р ( |X – M(X)| ≥ ε ) = 1, следовательно, р ( |X – M(X)| < ε ) = 1 - р ( |X – M(X)| ≥ ε ).

Найдемр ( |X – M(X)| ≥ ε ).D(X) = (x1 – M(X))²p1 + (x2 – M(X))²p2 + … + (xn – M(X))²pn . Исключим из этой суммы теслагаемые, для которых |X – M(X)| < ε. При этом сумма может только уменьшиться, таккак все входящие в нее слагаемые неотрицательны. Для определенности будем считать,что отброшены первые k слагаемых. ТогдаD(X) ≥ (xk+1 – M(X))²pk+1 + (xk+2 – M(X))²pk+2 + … + (xn – M(X))²pn ≥ ε² (pk+1 + pk+2 + … + pn).Отметим, что pk+1 + pk+2 + … + pn есть вероятность того, что |X – M(X)| ≥ ε, так как этосумма вероятностей всех возможных значений Х, для которых это неравенствосправедливо. Следовательно, D(X) ≥ ε² р(|X – M(X)| ≥ ε), или р (|X – M(X)| ≥ ε) ≤ D(X) / ε².Тогда вероятность противоположного события p( | X – M(X)| < ε ) ≥ D(X) / ε², что и требовалось доказать.Теоремы Чебышева и Бернулли.Теорема 13.2 (теорема Чебышева).

Если Х1, Х2,…, Хп – попарно независимые случайныевеличины, дисперсии которых равномерно ограничены ( D(Xi) ≤ C), то для сколь угодномалого числа ε вероятность неравенстваХ 1 + Х 2 + ... + Х п М ( Х 1 ) + М ( Х 2 ) + ... + М ( Х п )−<εппбудет сколь угодно близка к 1, если число случайных величин достаточно велико.Замечание. Иначе говоря, при выполнении этих условийХ + Х 2 + ... + Х п М ( Х 1 ) + М ( Х 2 ) + ... + М ( Х п )lim p ( 1−< ε ) = 1.n →∞ппX + X 2 + ... + X nДоказательство. Рассмотрим новую случайную величину X = 1и найдемnее математическое ожидание. Используя свойства математического ожидания, получим,46PDF created with FinePrint pdfFactory trial version http://www.fineprint.com Х + Х 2 + ...

+ Х п  М ( Х 1 ) + М ( Х 2 ) + ... + М ( Х п ). Применим к Х неравенствочто М  1=ппЧебышева: X + X 2 + ... + X n D 1Х 1 + Х 2 + ... + Х п М ( Х 1 ) + М ( Х 2 ) + ... + М ( Х п )n . Такp(−< ε) ≥ 1−2ппεкак рассматриваемые случайные величины независимы, то, учитывая условие теоремы, X + X 2 + ... + X n  D( X 1 ) + D( X 2 ) + ...

+ D( X n ) Cn Cимеем: D 1≤ 2 = . Используя этот=nnn2nрезультат, представим предыдущее неравенство в виде:Х + Х 2 + ... + Х п М ( Х 1 ) + М ( Х 2 ) + ... + М ( Х п )Сp( 1−< ε ) ≥ 1 − 2 . Перейдем к пределупппεХ 1 + Х 2 + ... + Х п М ( Х 1 ) + М ( Х 2 ) + ... + М ( Х п )−< ε ) ≥ 1. Посколькуппвероятность не может быть больше 1, можно утверждать, чтоХ + Х 2 + ...

+ Х п М ( Х 1 ) + М ( Х 2 ) + ... + М ( Х п )lim p ( 1−< ε ) = 1. Теорема доказана.n →∞пппри п → ∞ : lim p (n →∞Следствие.Если Х1, Х2, …, Хп – попарно независимые случайные величины с равномерно ограниченными дисперсиями, имеющие одинаковое математическое ожидание, равное а, то дляХ 1 + Х 2 + ... + Х плюбого сколь угодно малого ε > 0 вероятность неравенства−а <εпбудет как угодно близка к 1, если число случайных величин достаточно велико. ИначеХ + Х 2 + ... + Х пговоря, lim p ( 1− а < ε ) = 1.n →∞пВывод: среднее арифметическое достаточно большого числа случайных величин принимает значения, близкие к сумме их математических ожиданий, то есть утрачиваетхарактер случайной величины.

Например, если проводится серия измерений какой-либофизической величины, причем: а) результат каждого измерения не зависит от результатовостальных, то есть все результаты представляют собой попарно независимые случайныевеличины; б) измерения производятся без систематических ошибок (их математическиеожидания равны между собой и равны истинному значению а измеряемой величины);в) обеспечена определенная точность измерений, следовательно, дисперсии рассматриваемых случайных величин равномерно ограничены; то при достаточно большом числеизмерений их среднее арифметическое окажется сколь угодно близким к истинномузначению измеряемой величины.Теорема Бернулли.Теорема 13.3 (теорема Бернулли).

Если в каждом из п независимых опытов вероятностьр появления события А постоянна, то при достаточно большом числе испытаний вероятность того, что модуль отклонения относительной частоты появлений А в п опытах от рбудет сколь угодно малым, как угодно близка к 1:mlim p − p < ε  = 1.(13.2)n →∞ n47PDF created with FinePrint pdfFactory trial version http://www.fineprint.comДоказательство. Введем случайные величины Х1, Х2, …, Хп, где Xi – число появлений А вi-м опыте. При этом Xi могут принимать только два значения: 1(с вероятностью р) и 0 (свероятностью q = 1 – p). Кроме того, рассматриваемые случайные величины попарнонезависимы и их дисперсии равномерно ограничены (так как D(Xi) = pq, p + q = 1, откудаpq ≤ ¼ ).

Следовательно, к ним можно применить теорему Чебышева при Mi = p:Х + Х 2 + ... + Х пlim p ( 1− р < ε) = 1.n →∞пХ + Х 2 + ... + Х п т= , так как Xi принимает значение, равное 1, при появлении А вНо 1ппданном опыте, и значение, равное 0, если А не произошло. Таким образом,mlim p − p < ε  = 1,n →∞ nчто и требовалось доказать.m= p. Речь идет лишь о вероятноn →∞ nсти того, что разность относительной частоты и вероятности по модулю может статьсколь угодно малой. Разница заключается в следующем: при обычной сходимости,рассматриваемой в математическом анализе, для всех п, начиная с некоторого значения,т− р < ε выполняется всегда; в нашем случае могут найтись такиенеравенствопзначения п, при которых это неравенство неверно.

Этот вид сходимости называютсходимостью по вероятности.Замечание. Из теоремы Бернулли не следует, что lim48PDF created with FinePrint pdfFactory trial version http://www.fineprint.comЛекция 14.Центральная предельная теорема Ляпунова. Предельная теорема Муавра-Лапласа.Закон больших чисел не исследует вид предельного закона распределения суммы случайныхвеличин. Этот вопрос рассмотрен в группе теорем, называемых центральной предельнойтеоремой. Они утверждают, что закон распределения суммы случайных величин, каждая изкоторых может иметь различные распределения, приближается к нормальному при достаточно большом числе слагаемых. Этим объясняется важность нормального закона для практических приложений.Характеристические функции.Для доказательства центральной предельной теоремы используется метод характеристических функций.Определение 14.1. Характеристической функцией случайной величины Х называетсяфункцияg (t) = M ( eitX )(14.1)Таким образом, g (t) представляет собой математическое ожидание некоторой комплекснойслучайной величины U = eitX, связанной с величиной Х.