Общие понятия теории вероятностей (Общие понятия теории вероятностей.pdf)
Описание файла
PDF-файл из архива "Общие понятия теории вероятностей.pdf", который расположен в категории "". Всё это находится в предмете "(ммо) методы машинного обучения" из 10 семестр (2 семестр магистратуры), которые можно найти в файловом архиве МГУ им. Ломоносова. Не смотря на прямую связь этого архива с МГУ им. Ломоносова, его также можно найти и в других разделах. .
Просмотр PDF-файла онлайн
Текст из PDF
ЧАСТЬ I. ОБЩИЕ ПОНЯТИЯ ТЕОРИИ ВЕРОЯТНОСТЕЙ.Вероятностное пространство – это тройка (Ω, A, P) , гдеΩ -пространство элементарных исходов, конечное или бесконечное, которое описываетвсе возможные исходы эксперимента;A – σ -алгебра событий, событие есть подмножество Ω , σ -алгебра – это класс, такой что1. Ω ∈ A 2. a ∈ A ⇒ a ∈ A 3.для любой счётной последовательности a n : ∪ a n ∈ AnP – вероятность – мера, являющаяся неотрицательной, нормированной 1 и σ -аддитивнойP( A ∩ B)Условной вероятностью A при условии B называется P ( A | B) =, P( B) ≠ 0P( B)События A и B называются независимыми, если P ( A ∩ B) = P( A) ∗ P( B)ФормулаполнойвероятностиP ( A) = ∑ ( P( H k ) ∗ P( A | H k )) позволяетнайтиkвероятность события, разбив его на части некоторой группой событий (гипотез).Требуется, чтобы все гипотезы были несовместными (не пересекались) и в суммепокрывали полностью событие А.P( H k ) P( A | H k )Формула Байеса P ( H k | A) =позволяет узнать вероятность гипотезы a∑ P( H i ) P( A | H i )iposteriori.ЧАСТЬ II.
СЛУЧАЙНЫЕ ВЕЛИЧИНЫ.Случайная величина – измеримая функция ξ : Ω → R , причём на R задана σ -алгебра, иполный прообраз любого элемента этой σ -алгебры есть событие. Как правило, берётсяборелевская σ -алгебра, то есть σ -алгебра, порождённая всеми открытыми интервалами.Случайныевеличиныξиηназываютсянезависимыми,если∀Δ 1 , Δ 2 P (ξ ∈ Δ 1 ,η ∈ Δ 2 ) = P (ξ ∈ Δ 1 ) ∗ P (η ∈ Δ 2 )Распределение (з-н распределения) вероятностей значений с. в. – правило, покоторому для любого Борелевского множества ставится в соответствие вероятность, тоесть функция B->R такая, что ∀Δ ∈ B : P(Δ) = P(ω : ξ (ω ) ∈ Δ) Чаще всего пользуютсяфункцией распределения: Fξ ( y ) , что Fξ ( y ) = P(ξ ≤ y ) .
Свойства Fξ ( y ) : она не убывает,односторонне непрерывна, lim F ( x) = 0; lim F ( x) = 1x → −∞x →∞Случайная величина Fξ (x) называется дискретной, если существует не более чем счётноемножество X такое, что P(X)=1. Дискретная случайная величина имеет не более чемсчётное число точек роста.Случайная величина Fξ (x) называется непрерывной, если существует неотрицательнаяxфункция pξ (t ) такая, что Fξ ( x) =∫ pξ (t )dt .−∞распределения.1Функция pξ (t ) называется плотностьюХарактеристическая функция (преобразование Фурье): f ξ (t ) = Me itξОсновное свойство характеристической функции: f ξ +η (t ) = f ξ (t ) ∗ fη (t )Производящая функция:g ξ ( z ) = Mz ξ (для дискретных целочисленных случайныхвеличин)Преобразование Лапласа – Стилтьеса: ϕ ( s ) = Me − sξ (для неотрицательных случайныхвеличин)Математическое ожидание – показатель центра распределения – M ξ = ∫ ξ (ω ) P (dω )ΩМатематическое ожидание для дискретной случайной величины –+∞∑xk =1непрерывной – Mξ =k∗ p k , для+∞∫ x ∗ pξ ( x)dx .Если ряд или интеграл не сходятся абсолютно, то−∞говорят, что математического ожидания не существует.Мода – наиболее часто встречающееся значение случайной величины, медиана – такая11точка M, что P (ξ ≤ M ) ≥ ∪ P (ξ ≥ M ) ≥22Дисперсия с.
в. – D[ξ ] = Var[ξ ] = M [(ξ − M [ξ ]) 2 ] - показатель разброса значений вокругцентра. Среднеквадратичное отклонение – σ = DξОсновные свойства мат. ожидания и дисперсии:M (aξ + bη ) = aMξ + bMηM (ξη ) = Mξ ∗ Mη , если ξ и η независимыD (aξ + bη ) = a 2 Dξ + b 2 Dη , если ξ и η независимыDξ = Mξ 2 + ( Mξ ) 2k-м моментом случайной величины называется Mξ k , k-м центральным моментом –M (ξ − Mξ ) kВиды сходимости случайных величин.• Сходимость почти наверное: ξ n ⎯почти⎯ ⎯наверное⎯⎯→ ξ ⇔ P(ω : ξ n (ω ) → ξ ) = 1•pСходимость по вероятности: ξ n ⎯⎯→ξ ⇔ ∀ε : lim P (| ξ n − ξ |> ε ) = 0•Сходимость в среднем порядка l: ξ n ⎯⎯→ ξ ⇔ lim M | ξ n − ξ |l = 0•Сходимостьn→∞ln →∞поξn ⎯⎯→ ξ ⇔ Fξ ( x) → Fξ ( x)распределению:dnпоточечно,иFξ (x) непрерывна для ∀x•wСлабая сходимость: ξ n ⎯⎯→ξ ⇔ lim Mϕ (ξ n ) = Mϕ (ξ ) ∀ϕ ( x) - непрерывной иn →∞ограниченнойВзаимосвязь между видами сходимости:Почти наверноеСлабаяПо вероятностиВ среднем порядка lПо распределению2Предельные теоремы:• Закон больших чиселСмысл: среднее арифметическое большого количества одинаково распределённыхслучайных величин перестаёт быть случайной и стремится к постоянной.nФормулировка:••∑ξk =1P⎯⎯→Mξn →∞nЗамечание: требуя существование и/или ограниченность дисперсии (а такженакладывая на нее некие ограничения), можно доказать, что имеет местосходимость почти наверное (усиленный закон больших чисел).Центральная предельная теоремаСмысл: Сумма независимых одинаково распределенных случайных величин ведетсебя приблизительно как нормально распределенная случайная величина.n⎛ n⎞⎜ ξ −M ξ⎟x t2∑∑kk⎜ k =1⎟ d1k =1< x⎟ ⎯⎯→Формулировка: P⎜∫−∞e 2 dt ≅ N (0,1)nn →∞π2⎜⎟D∑ ξ k⎜⎟k=1⎝⎠Теорема ПуассонаСмысл: Если число испытаний Бернулли очень велико, а вероятность успеха оченьмала, причем так, что np → 1 , то такая случайная величина имеет распределение,близкое к распределению Пуассона.Формулировка:n∑ξk =1•kkd≅ B( p) ⎯⎯→Pois (λ )n → +∞np → λНеравенство ЧебышеваСмысл: неравенство Чебышева дает оценку для отклонения случайной величины отее центра.DξФормулировка: P (| ξ − Mξ |≥ ε ) ≤ 2εЧАСТЬ III.
ПРИМЕРЫ СЛУЧАЙНЫХ ВЕЛИЧИН.Дискретные случайные величины.1. Распределение Бернулли B(p)Смысл: описывает одиночный эксперимент, результатом которого может бытьуспех либо неудача.0 1; Mξ = p; Dξ = q; g ξ ( z ) = q + pzРаспределение, свойства:q p2. Биномиальное распределение Bi(n,p)Смысл: описывает серию последовательных одинаковых испытаний БернуллиkРаспределение, свойства: k k n − k ; Mξ = np; Dξ = npq; g ξ ( z ) = (1 + p ( z − 1)) nCn p q3.
Геометрическое распределение G(p)Смысл: описывает число успехов до первой неудачи (либо наоборот; этислучайные величины отличаются на 1)3kpp1− p(k = 0,1,2,...); Mξ = ; Dξ = 2 ; g ξ ( z ) =kq∗ pq1 − pzqПримечание: Непрерывный аналог геометрического распределения –экспоненциальное4. Равномерное распределениеСмысл: является моделью для экспериментов, в которых все исходы равноправныkn +1n2 −11Распределение, свойства:(k = 1..n); Mξ =; Dξ =212n5. Распределение ПуассонаСмысл: описывает число событий, произошедших за единицу времени впуассоновском потоке.kРаспределение, свойства: −λ λk ; Mξ = Dξ = λ ; g ξ ( z ) = e λ ( z −1)ek!Примечание: в силу теоремы Пуассона пуассоновское распределение связано сбиномиальным.Распределение, свойства:Непрерывные случайные величины.1.
Равномерное распределениеСмысл: выбор случайной точки на отрезкеb1(b − a) 2Распределение, свойства: pξ ( x) ≡(a < x < b); Mξ = a + ; Dξ =12b−a22. Экспоненциальное распределениеСмысл: описывает время между появлениями двух событий в потоке.11λРаспределение, свойства: exp(λ ) = 1 − e λx ; Mξ = ; Dξ = 2 ; ϕ ( s ) =λ+sλλПримечание: экспоненциальное распределение является непрерывныманалогом геометрического.3.
Нормальное распределениеСмысл: описывает попадание в цель; является предельным распределениемсумм случайных величинРаспределение, свойства:N ( a, σ ) =2x12πσ2∫e− (t −a )22σ 2dt ; Mξ = a; Dξ = σ ; f ξ (t ) = e2−∞4ita −σ 2t 22.