L_pr1-7 (1120165), страница 4
Текст из файла (страница 4)
ì N OÞP OBN ÿ ¢ тельность ÿ Èßàáÿ nV N OPOBN ¢V N OPOBN ¢ . Возвращаяськ неравенствуâ ÁКоши: если равенство, то ¤T , такое, чтоOnPjT QÙ с вероятностью 1 (почти наверное).O .6. O ~¦¥ ~ @ { { A¡§ ~ @ { {A{OOw7.{}| y O{}| y O P{Ñ| y O P~~ @ { {A @ A ~ {{ yyOPOOPOOw{}|{ ©| {|\¨ { | y {|\¨ ª©«G¬ O O@ @~@ @(={}| y O { если O { O попарно независимы — формула Бьенемэ.)Лекция 6.Моменты случайных величин. @ векторныхA ,OOOOOO , @ G GAh hO y®¯° h Õ h²{{O O — ковариационнаяy Õ ,матрица. Введем ¶©«G¬¦Â.N ¶ {² N± R' , тогдаКаков смысл ¶ {$ ? Пусть N ¶ {² Nи" hhI@ÕA h hÕ w w ¶ {$¢ и величины O { и O линейноI#IOOOзависимы с вероятностью 1.''Условное математическое ожидание @10O NQ ]æA 72 ÁÁ ; \h r @ ; ]A:<; N>Пафнутий Львович Чебышёв 1821–1894 — русский математик, создатель Петербургской научной школы.20Это случайная величина, функция от Q .
Она обладает всеми свойствами математического ожидания с вероятностью 1.h\ r @ ; ] A ³x ² ? N8 ² W W @ Y Y , то>´µ 877 ]A 'F Á @Á ; 9h r @ ; ]æA <: ;¶· r @ ]A:S] " OBN QN>>2 Á 2 Á7 7 Á Á ; h+r @ ; ]æA :<;F:\] O>2 Á 2 ÁЕсли учесть, чтоЗадача о наилучшем среднеквадратичном приближении.Пусть O и Q — сл. величины,наблюдаемоценить Q , т.е. @Ä A @ A©A O ¹, ¸ требуетсяáàè @найти такую функцию, что QPOW»º Y @ A A A 'F @©@"Q PONO @©@ @A @ A @ A©A A 'F"QP QIN O wQIN O PONO @©@ @A©A A @©@ @A©A @ @ A @ A A AQPQIN ON O w[Q PQI N OQN O PO NO w@ @ A @ A©A A h @ @A©A @ @A @ A©AwQIN O PO N OQ PQIN OwQN O PO% @ @A©A @@ @A A @ @ A @ A©A A %QPQIN OQPQIN OQIN O PO NO¢т.к. @ A @AQIN O (п.н.).
причем равенство выполняется, только если OДругие задачи наилучшего приближения.¸áàè @A1)Приближениепостоянной.OP»¸áàè áàè @A ¼O P O wjO иOnPO .» 2) Приближение Q по наблюдениям O в классе линейных функций.@+½ A%A @% @ @AA % ¸ áàè QP#<OnPQ P/#<O PjQP/#<O w67\@@+½ A@% A@+½ A% Q¦P#OДифференцируя @ по , находим,послечего@ A©Ah¾rпринимает видQu@ P A QuPp# OlPOQu P® # ©«G¬ OQw§ # ®¯ ° h O ,¢ #дифференцируя по # , получаемh+r Ph ©«G¬ OQwp3# O%Ý @ A ®¯° h¾h @ Aи #<Oïw# O PO wQO wQ .®¯° O P%A @Среднеквадратичная ошибка при этом равнаQ P/#<O P@A@ @ ¿ A COQ QPQP/# O POQPj ©«G¬ O<Qnwj# OQP ©«G¬O @ A @AQN O (п.н.).Теорема.
O @ A©A @Доказательство.Q POЗадача наилучшего линейного приближенияв векторном случае. Пусть O — измеренный вектор, O¢ , Q¢ . Нужно найти21 ¹¸ áàè матрицу , такую, чтоQ P/ OH . « @A{ À @ A Q P/ïOQ P/ O{ ÂÁ9à @A@A Á<ÃÅÄ rÆr Á9Ã Ä h¾r Á9ÃÅÄ rÆhÁ9Ã Ä h+h QP/ïO Q P/ïO gPP g w gÄ r!r- Ä rÆh Ä h¾h ЗдесьQêQ g ,QSO g ,OO g , а знак ( g ) означает сопряжение (транспонирование).A À @ A À À @Àjw Ç PВарьируя по , получим Ç Á<ÃÄ h+rÁ9ÃEÄ r!hÁ<ÃÄ h+hÁ9Ã Ä h+hPÇ PÇÖ g wÇÖ g wÇ g¢@ Á9Ã!rh+hhÁ9ÃÄÄAОтсюда, учитывая, что C gC , имеемÇ ¢ ,Ä rÆhÝ ¶ Ä h¾h P= ÇÖ следуетоткуда в силу произвольности, таким образом, Ä rÆh Ä h+h Ä r!h Ä h¾h2 и QÈ2 O . При этом с.к. ошибка (погрешность)линейного приближения равна Á9à @ Ä rÆr Ä r!h Ä h+h Ä h+r AQ}Q ÈPP2 Á9ÃÄ rÆrQPQи— априорная погрешность.
Последовательности случайных величин. Сходимость. Виды Лекция 7.сходимости.Закон больших чисел в форме Чебышёва.Пусть O { попарно независимы, причем O 0 (ограничены в соyвокупности). Тогда « {A cy @O PO P û ¢ {yyâ Áh» ÕL 0Доказательство. Q.yИз неравенства Чебышёваследуетyyÿ ÂQ cV NQ N0P¢ yIyII yâ ÁСледствия.~ c 1. Пусть O . Тогда {}Á| 3O { P û.yÁ2. Пусть O { —числоуспеховприyâодномиспытании в схеме Бернулли. Тогда O {, O {и>> «Á O { P ûc {}|>yâ Á3. Теорема Маркова.
Снимем условие независимости, но потребу ~{ c ¢ . Тогда из неравенства Чебышёва получаемем, чтобы{Ñ| y Oyнепосредственно « «y O { P ûcy O{ {Ñ| {}| yâ ÁQ22Характеристические функции.Определение. Характеристической функцией называетсяGh @ A {h причем этот момент существует всегда, так как NПримеры.Распределение Пуассона:Gh @ A {h { T i«25X Á |ý{h p .NÕ XWÊÉ ¢ 2 YНормальное распределение:Gh @ A {h 721L <: ; L LL32 ¢32 ,{? Á2 Á @ A @A  '¢NИз очевидных свойств отметимследующие:, N, @Aчетностьивещественностьэквивалентныивэтомслучае @A ã @ A©« ÓO . Следующие свойства сформулированы в виде теорем.2;h @ A { { h¡ Теорема 1..¦Ë < {³Ëв совокупности.
ТогдаAh Теоремаhh @ 2.Gh @ O A G, h @ A \Gh @ независимыA ПустьALL.³Теорема³ ºÌºÌº ³ ´ 3. Пусть существует´ момент º -го порядка. Тогда суще h @AW Y , она равствует º -я производная характеристическойфункции и имеет место равенствономерно непрерывна на P h @ A W Y ¢ O(6)Первое и третье свойства очевидны, второе доказывается цепочкойравенств (неравенств):(7)7 H h @A h @ A ÂN W Y w Í P W Y N2ÿHN{ ?;ÎPN>@ ;BA :<;wx7 Ï >? H@ ;BA :<; ¢ так, чтобы второе слагаемое было менее (следВыберем Iствие сходимости).
Заметим, чтоNВыбрав теперь NÐÍNвисимо от .{ ?;ΠP N N7 ?;Î {Â:4 )NÂ;N Í N NÌͪNýA h @ A  , мы получаем N h W Y @ Ñw Í P W Y NнезаHIL23Теорема 4. Бездоказательства.Ah @ AЕсли х.ф.абсолютно интегрируема на Ò , то сл. величина Oнепрерывна, а ее плотность вероятности равна@ ;BA (8)>217Á2{ ? Ah @ A : 2 Áи равномерно непрерывна на Ò .(По существу — это теорема об обратном Фурье-преобразовании.)Теорема 5. Теорема непрерывности для характеристическихфункций.
Без доказательстваK2h @ A Пусть последовательностьх.ф. случайных величин сходит2h @ Ac ´ся при к х.ф.случайнойвеличины c O равномернопо вÂкаждом конечном интервале N Nc . Тогда при f|h @ ;BA >f-h @ ;BAfyâ h @ Á ;BA ´в точках непрерывности, а если последняя непрерывна, то рав; Ò .номерно поßàá(9)Следствие. Если у двух сл. величин совпадают х.ф., то совпадаюти законы распределения (фукции распределения).Центральная предельная теорема (ЦПТ). Пусть O— последовательность одинаково распределенных, À .
Тогда, Oнезависимыхy в совокупности сл. величин, Oyy~ @ { Ay{}| O P¸@ A uc(10)QPQ ¢À yyâ Á L@ ;BA +* 8 ?å @ A:; /) 'т.е., V Q 0M= P .y2 ÁДоказательство.@A— х.ф. сл. величины O { P. Тогда Пусть Ó" " @ A@ AAr @ A ¥§ y ¥ @ A§ y ÓÓ ¢ wÓ-Ô ¢ wÓ|Ô Ô ¢ wÀ #À À #´" L§ y c' ¥'wx¢nPwP2-¢ L3Õ#yâ Á— х.ф. нормального распределения. Далее воспользуемся теоремойнепрерывности для характеристических функций.
Следствие. Теорема Муавра-Лапласа.Рассмотрим схему Бер-c нулли, где — число успехов и при фиксирванных ¢00>и ¢R00 . Тогда справедливо>V43#@%A@ A P/%Ö5 /> 0MP M # >'24Центральные предельные теоремы для неодинаково распределенных случайных величин.Обзор, без доказательств. Пусть сл. величины O независимы, существуют моменты 1 и 2порядка O и OÀ ÿПусть дляÇ ¢ существуют Теорема А.М.Ляпунова.
некоторого ~ ~y Ù ³× , ky À . ЕслиN O P N . Обозначим Ù ³ ×| | ³×³×L»yyî L ½AØ P c ¢ (условие Ляпунова), то V Q 0 ; P c M @ ;BA .´ ½AØ´ Замечание1. Условие Ляпунова не y являетсяyâ Á необходимым, однаyâ Áко его практически легче проверять и доказывать теорему, особенноpпри11 Ç.Замечание 2. Еще более слабым является условие Линдеберга,ÿкоторым можно заменить условие Ляпунова: для всякого Ù¢ «7@; A : f @ ;BA c y P P¢k | ÚÖÛ&î?yâ Áy2 Ë´но и оно не является необходимым, т.е. существуют распределения,которые ему не удовлетворяют, но сходимость к нормальному закону имеет место.
Однако, если добавить требованиепренебрежимойh hî(асимптотической) малости величин Ü ,2´¡ áÞß Ý ß V NÌÜ N ÿ P c ¢ Iyâ Áyто условие Линдеберга становитсянеобходимым.Перечислим виды сходимости случайных величин. cßàá с.к.1. СреднеквадратичнаяN O PO N¢ или OPO илиß à áÞ yyOO .yâ Áyâ Áyâ 2.Á Сy вероятностью 1, почти наверное, по модулю V (áV ) 12:ª«àxßàá @ A @ A h®cп.н.VOOили O PO .yyßàá â Á ÿ ÿcÁ3.
Поyâ вероятности¢ :V N OnyPÛO N¢ или O P û O .IIy ucfh @ ;BAy c f|h @ ;BAyâ Á4. По распределению («слабая»)или O P yâ Á O .´y yâ Á11См. доказательство в учебнике Пытьева, Шишмарева, стр. 128.12âäã , для которых существует å=õMæ0ö÷ø çéè åЗаметим, что множество ú тех áдействительноçê çê является событием, так как его можно представить в видеíïúô ¡ë ìîí å ìîí ð|ñ¡ò ðôó¡õWåGö áÞ÷Wø è ð ñù è ð ó øú ëNû .для ü6ývôþ=ÿGÿþ , такое,ú — множество á , удовлетворяющее условиям:íчто ü í ÿ é÷ ø è ð ñ á ù è ð ó á!øGú ë .В каждой точке áÞânú последовательность è å û фундаментальна и, следовательöно, сходится. Измеримость ú следует из его представления, а в случае сходимостиå û ú Bôþ .ö è почти наверное 25Отношения между видами сходимости.cс.к.OOPOy yâ Ácп.н.fffOcP û O y yâ ÁOucPO .y y â ÁPOy y â ÁДругихотношений без дополнительных условий не существует.@ AНапомним, что речь всюду идет о случайныхвеличинахO, за/yвисящих от элементарного исхода.















