1625915143-9358bde957c0693ae60a95b83ad382f6 (Лотов - Лекции по теории вероятностей и математической статистике для ФФ НГУ)

ТЕОРИЯ ВЕРОЯТНОСТЕЙИМАТЕМАТИЧЕСКАЯ СТАТИСТИКАКонспект лекций В.И. Лотовадля студентов физического факультета НГУ1СодержаниеI.Теория вероятностей31. Вероятностные пространства. Основные формулы1.1. Дискретные пространства . . . . . . . . . . . . . . .1.2.

Континуальные пространства . . . . . . . . . . . . .1.3. Вероятностное пространство общего вида . . . . . .1.4. Независимые события . . . . . . . . . . . . . . . . . .1.5. Схема Бернулли . . . . . . . . . . . . . . . . . . . . .1.6. Условные вероятности .

. . . . . . . . . . . . . . . . .1.7. Формула полной вероятности . . . . . . . . . . . . . .1.8. Формула Байеса . . . . . . . . . . . . . . . . . . . . .........................................................................................3391214151718192. Распределения2.1. Случайные величины. Функции распределения2.2. Типы распределений. Примеры .

. . . . . . . .2.3. Многомерные распределения и плотности . . .2.4. Преобразования случайных величин . . . . . .....3. Числовые характеристики распределений3.1. Математическое ожидание . . . . . . . . . . . . .3.2. Моменты . . . . . . . . . . . . . . . . . . . . . . .3.3. Дисперсия . . . . . . . . . . . . . . . . . . . . . .3.4. Коэффициент корреляции .

. . . . . . . . . . . .3.5. Многомерный случай: математическое ожиданиеи матрица ковариаций . . . . . . . . . . . . . . . .3.6. Многомерное нормальное распределение . . . . .4. Предельные теоремы4.1. Сходимость по вероятности . . . . .

. . . .4.2. Закон больших чисел . . . . . . . . . . . .4.3. Центральная предельная теорема . . . . .4.4. Приближение Пуассона в схеме БернуллиII.....................................................................2020233235....................................................3939444446. . . . . . . . .

. . . . 48. . . . . . . . . . . . . 49....................................................Математическая статистика5151535457605. Введение605.1. Основные понятия . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 605.2. Выборочные характеристики .

. . . . . . . . . . . . . . . . . . . . . . . . 616. Оценивание неизвестных параметров6.1. Постановка задачи. Несмещенность и состоятельность6.2. Метод моментов . . . . . . . . . . . . . . . . . . . . . .6.3. Метод максимального правдоподобия . .

. . . . . . . .6.4. Сравнение оценок . . . . . . . . . . . . . . . . . . . . .2........................................64646567707. Доверительные интервалы7.1. Некоторые распределения, связанные с нормальным . .7.2. Свойства выборок из нормального распределения . . .

.7.3. Доверительные интервалы для параметров нормального7.4. Построение доверительных интервалов с помощьюнормального приближения . . . . . . . . . . . . . . . . .8. Проверка гипотез8.1. Постановка задачи, основные понятия . . . . . .8.2. Критерий Колмогорова . . . . . . . . . . . . . . .8.3. Критерий хи-квадрат Пирсона . . .

. . . . . . .8.4. Построение критерия с помощью доверительногоинтервала . . . . . . . . . . . . . . . . . . . . . . .8.5. Проверка гипотез в случае двух выборок . . . . .8.6. Дисперсионный анализ: однофакторная модель .72. . . . . . . . .

72. . . . . . . . . 74распределения 76. . . . . . . . . 7879. . . . . . . . . . . . . 79. . . . . . . . . . . . . 80. . . . . . . . . . . . . 81. . . . . . . . . . . . . 82. . . . . . . . . . . . . 83. . . . . . . . . . . . . 859. Задачи линейной регрессии889.1. Постановка задачи . . . . . .

. . . . . . . . . . . . . . . . . . . . . . . . . 889.2. Метод наименьших квадратов . . . . . . . . . . . . . . . . . . . . . . . . 909.3. Доверительные интервалы и проверка гипотез . . . . . . . . . . . . . . . 91III.Элементы теории случайных процессов9510. Цепи Маркова9510.1. Основные определения . . . . . . . .

. . . . . . . . . . . . . . . . . . . . 9510.2. Возвратность состояний . . . . . . . . . . . . . . . . . . . . . . . . . . . . 9710.3. Эргодическая теорема . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 10011. Ветвящиеся процессы12. Случайные процессы с12.1. Общие определения .12.2. Процесс Пуассона . .12.3. Винеровский процесс103непрерывным временем107.

. . . . . . . . . . . . . . . . . . . . . . . . . . . . 107. . . . . . . . . . . . . . . . . . . . . . . . . . . . . 107. . . . . . . . . . . . . . . . . . . . . . . . . . . . . 1113Часть I.Теория вероятностей1.1.1.Вероятностные пространства. Основные формулыДискретные пространстваДо возникновения теории вероятностей объектом исследования науки были явления или опыты, в которых условия эксперимента позволяют исследователю однозначно определить исход эксперимента. Так, например, в химии: если известны вещества,вступающие в реакцию, их свойства, условия, в которых будет протекать реакция,то однозначно можно предсказать исход реакции.

В механике: если известны массатела, все силы, которые на него действуют, координаты и начальная скорость, тонетрудно вычислить траекторию последующего движения.Однако есть ряд явлений и экспериментов, которые называются случайными икоторые характеризуются невозможностью предсказать их исход до начала эксперимента.Рассмотрим некоторые примеры.1. Однократное подбрасывание монеты. Здесь возможны два исхода, их принятообозначать «Г» (герб) и «Р» (решка).2.

Однократное бросание игральной кости (т. е. кубика, у которого на граняхнанесены числа от 1 до 6). Здесь возможны шесть исходов эксперимента: 1, 2, 3, 4, 5, 6.3. Подсчет количества вызовов, пришедших в течение часа на АТС (автоматическую телефонную станцию) для обслуживания. Поступить может любое число вызовов: 0, 1, 2, . . . .4.

Определение времени безотказной работы прибора. Исходом этого эксперимента может быть любое неотрицательное число из [0, ∞).5. Движение броуновской частицы на плоскости в течение минуты. В результатеэтого эксперимента может осуществиться любая из бесконечного множества траекторий.Теория вероятностей, как и всякая другая математическая дисциплина, строит иизучает математическую модель тех или иных явлений, в данном случае — случайных явлений.Казалось бы, какие научные результаты можно получить относительно подбрасывания монеты? Если подбрасывание однократное, то, действительно, мало интересного можно сказать.

Но если, к примеру, подбрасывать монету n раз и подсчитатьколичество Sn выпавших гербов, то окажется, что при увеличении n отношение Sn /nстремится к 1/2. Этот факт был замечен давно, многие исследователи эмпирическимпутем его перепроверяли. Так, в опытах французского исследователя Бюффона монета бросалась 4 040 раз, выпало 2 048 гербов, что привело к результату Sn /n = 0.507.Английский статистик Пирсон в 24 000 бросаниях получил 12 012 гербов, при этомSn /n = 0.5005.Обнаруженная закономерность — одна из простейших, она является следствиемтак называемого закона больших чисел. Эта и ряд других предельных закономерностей будут изучены нами позже.А пока займемся построением математической модели случайных явлений.

Дляэтого нужно выделить у изучаемых явлений общие черты и наделить ими модель.4При этом надо постараться отразить наиболее существенные черты рассматриваемыхявлений и отбросить несущественные. Модель не должна быть слишком сложной,иначе изучать ее будет затруднительно.Какие же общие черты имеются у явлений, рассмотренных в примерах 1 – 5?У каждого из них имеется некоторый набор возможных исходов эксперимента. Будем обозначать его греческой буквой Ω и называть пространством элементарныхисходов.

У каждого случайного эксперимента оно свое — подчеркнем это. Если Ωконечно или счетно, то будем называть его дискретным. Из уже рассмотренных примеров дискретные пространства появляются в первых трех. Элементы множества Ωобычно обозначаются буквами ω с индексами или без них и называются элементарными исходами. Заметим, что, несмотря на использование часто встречающегося вматематике термина «пространство», в нашем случае Ω — всего лишь абстрактноемножество (не обязательно числовой природы), на этом множестве не вводятся операции сложения, умножения, нет там и отношения порядка.Далее на протяжении всего параграфа мы ограничимся рассмотрением толькодискретных пространств элементарных исходов.Введем понятие события.

Все хорошо представляют событие как нечто могущеепроизойти или уже происходящее. Нам нужно ввести в рассмотрение математическую модель этого «происходящего».Определение. Событиями называются произвольные подмножества пространства элементарных исходов Ω.Обозначать разные события будем буквами A, B, C, . . . с индексами или без них.Мы будем говорить, что событие A ⊂ Ω произошло, если в результате случайногоэксперимента реализовался один из элементарных исходов ω ∈ A.Убедимся на примерах, что каждое подмножество Ω действительно соответствует осуществлению некоторого события в данном случайном эксперименте. Так, подмножество {2, 4, 6} ⊂ Ω в примере 2 соответствует тому, что в результате бросанияигральной кости выпало четное число очков. Рассмотрим эксперимент из примера 3.Если описать здесь словами какое-нибудь событие, скажем, поступление на АТС неменее 10 вызовов за час, то ясно, что такому событию будет соответствовать множество {10, 11, 12, .

. .} ⊂ Ω.Пустое множество ∅ ⊂ Ω также, по определению, является событием, оно называется невозможным (никогда не может произойти). Все пространство Ω ⊂ Ω тожеесть событие, оно называется достоверным. Совокупность всех возможных событийобозначим S, в дискретном пространстве это совокупность всех подмножеств Ω.Если из ω ∈ A следует ω ∈ B, т.

е. A ⊂ B, то мы говорим, что событие A влечетсобытие B (но не наоборот!).Над событиями, как над множествами, можно производить операции объединения, пересечения, разности, перехода к дополнительному множеству, причем операции объединения и пересечения будут применяться как к конечному, так и к бесконечному набору событий. Напомним некоторые определения:∞SAi = {ω : ω ∈ Ai хотя бы при одном i} — объединение событий (означает, чтоi=1происходит хотя бы одно из A1 , A2 , . . .);∞TAi = {ω : ω ∈ Ai при всех i = 1, 2, . . .} — пересечение событий (означает, чтоi=1происходят одновременно все указанные события);A\B = {ω : ω ∈ A, но ω 6∈ B} — разность двух событий;A = Ω\A = {ω : ω 6∈ A} — дополнительное событие или просто дополнение к A.Перечисление различных свойств этих операций не входит в программу нашего5курса, мы остановимся только на одном соотношении, которое будет использоватьсяв дальнейшем.Формула двойственности. Для любой последовательности событий A1 , A2 , .