А.С. Холево - Курс лекций по теории вероятностей (1120061), страница 4
Текст из файла (страница 4)
. . yn )dy1 . . . dyn .xnЯсно, что при n = 1 получается немного более широкое определение, чем для одномерного классического случая(там для полуинтервала из R1 , а здесь — для произвольного B ∈ B(R1 )). Тогда :∂ n F (x)1) ∂x= p(x1 . . . xn ) для всех (x1 . . . xn ). В частности, для кусочно-непрерывных функций имеем это1 ...∂xnравенство во всех точках непрерывности.xxR1Rn2) F (x1 . . . xn ) =...p(y1 . . . yn )dy1 . .
. dyn .−∞−∞3)P (x) > 0 почти всюду ( это следует из монотонности F ), а+∞R−∞масса, размазанная по всему пространству....+∞Rp(y1 . . . yn )dy1 . . . dyn = 1 — единичная−∞2.2.2. Независимость случайных величинОпределение. Случайные величины X1 . .
. Xn называются независимыми, если их совместное распределеnQние обладает свойствами: ∀ B1 , . . . Bn ∈ B(R), имеем P ω : X(ω) ∈ B1 × . . . × Bn =P (ω : Xj (ω) ∈ Bj ).(н.1)j=1Упростим это определение: Пусть Bj = [xj , xj + hj ). Тогда ∆h F (x) =nQj=1(∆jhj Fj (xj )) (н.2)F (x1 . . . xn ) = F1 (x1 ) · .
. . · Fn (xn ) (н.3).н.2 =⇒ н.1 следует из единственности продолжения мерын.3 =⇒ н.2 несложно доказывается.Получаем, что н.1 ⇔ н.2 ⇔ н.3В частности если совместное распределение X1 . . . Xn абсолютно непрерывно, то н.1 н.2 н.3 ⇔ p(x1 . . . xn ) =p(x1 ) . . . p(xn )Пример 2.1. 1) Пусть V ⊂ Rn — ограниченное борелевское множество, Пусть p(x) := mes1 V χ(V ), тогдаR). Здесь X = (X1 , . . . , Xn ). Это равномерноеp > 0, иp dx = 1, а PX (B) = P ω : X(ω) ∈ B ∩ V = mes(B∩Vmes VRnраспределение на множестве V .
Если V = [a1 , b1 ]×. . .×[an , bn ], то X1 . . . Xn — независимые случайные величины.2)Многомерное нормальное распределение:(t−m)21p(t) = √e− 2σ2 ,2πσ 2и тогда p(x1 . . . xn ) = p1 (x1 ) . . . pn (xn ).Задача 2.2. Пусть Y = f (X1 . . . Xn ), f — измеримая функция, а X1 . . . Xn имеют плотность совместногораспределения p(x1 .
. . xn ). Найти плотность распределения Y .Решение.Fy (y) = P ω : Y (ω) < y = P ω : f (X1 (ω), . . . Xn (ω)) < y = P ω : (X1 (ω), . . . , Xn (ω)) ∈ By , гдеBy = (x1 , . . . , xn ) : f (x1 , . . . , xn ) < y . Тогда в силу абсолютной непрерывностиZFY (y) = p(x1 , . . . , xn ) dx1 . .
. dxn ,Byоткуда PY (y) =dFY (y)dy=ddyRp(x1 , . . . , xn ) dx1 . . . dxn . ByПример 2.2. Рассмотрим конкретный пример: Найти плотность и функцию распределения Y = X1 + X2 ,где X1 и X2 имеют совместную плотность p(x1 , x2 ).14Решение. ИмеемFY (y) = P ω : X1 (ω) + X2 (ω) < y =Zp(x1 , x2 ) dx1 dx2 =x1 +x2 <y+∞ y−xZZ 1Z∞ Zy=p(x1 , x2 ) dx1 dx2 =p(x1 , x2 − x1 ) dx1 dx2 , (5)−∞ −∞−∞ −∞откуда, дифференцируя по верхнему пределу, получаем PY (y) =с плотностями p1 , p2 : PY (y) =+∞R−∞+∞Rp(x1 , y−x1 ) dx1 .
Получаем свертку функций−∞p1 (x1 )p2 (y − x1 ) dx1 — в случае независимости X1 и X2 . 2.3. Математическое ожидание случайных величин2.3.1. Интеграл Лебега по вероятностной мере— случайная величина на (Ω, A , P ) , и пусть пока X — дискретна =⇒ X принимает значения Пусть X(ω)x1 , x2 , . . . с вероятностью p1 , p2 , .
. . Пример3.1.МатематическиможиданиемдискретнойслучайнойвеличиныX(ω)называетсячислоMX = P= E X := xi pi , при условии абсолютной сходимости этого ряда.iЗамечание. M — от слова «Mean Value», E — «expectation». Замечание. В случае X(ω) > 0, (xj > 0, ∀ j), если ряд расходится, то M X = +∞.PPДля сокращенияxi pi = xpx , где px := P ω : X(ω) = x .i xВероятностный смысл M X — среднее ожидаемое значение случайной величины. Если n(x) — количество PPPиспытаний, в которых происходит выигрыш x =⇒ x = n1xn(x) = x( n(x)xpx = M X , отметим чтоn )≈x( n(x)n ) — частота x.Пример 3.2.
X =(xx =⇒ M X = 1p + 0(1 − p) = p.1, с вероятностью p0, с вероятностью 1 − pПример 3.3. Рассмотрим биномиальное распределение X(ω) = m с вероятностью pm = Cnm pm (1−p)n−m , m =n P0, 1, . . . , n. Имеем M X =mCnm pm (1 − p)n−m = { выкладки в теореме Бернулли } = np.m=0Пример 3.4.
Пуассоновское распределение с показателем λ X(ω) = m, m = 0, 1, 2, . . .,pm =λm −λe (λ > 0),m!+∞+∞+∞XX λm Xλm −λλmM X =me =e−λ = λ()e−λ = λ.m!(m−1)!m!m=0m=1m=0 Теорема 2.3. (Основное свойство M X ) Пусть Y = f (X1 , . . . , Xn ), где X1 , . . . , Xn — дискретные случайные величины. Тогда, в предположении абсолютной сходимости ряда,X M Y =f (x1 , . . . , xm )P ω : X1 (ω) = x1 , . .
. , Xm (ω) = xm .(6)x1 ,...,xmДокажем для m = 2, в общем случае — аналогично. По определению имеем X M Y =yP ω : Y (ω) = y , y = f (x1 , x2 ),yтогдаP ω : Y (ω) = y =X(x1 ,x2 ):f (x1 ,x2 )=yP ω : X1 (ω) = x1 , X2 (ω) = x2 , посмотрим, как через это можно записать M Y :XXf (x1 , x2 )P ω : X1 (ω) = x1 , X2 (ω) = x2 =y(x1 ,x2 ):f (x1 ,x2 )=yX(x1 ,...,xm )15f (x1 , .
. . , xm )P ω : X1 (ω) = x1 , . . . , Xm (ω) = xm . (7)Поскольку ряд сходится абсолютно, то порядок сумм можно изменять. PPЗамечание. Если m = 1 =⇒ M f (x) =f (x)P ω : X(ω) = x , тогда M |X| = |x|P ω : X(ω) = x , тоXX есть условие абсолютной сходимости ряда для M X ↔ M |X| < +∞.2.3.2. Свойства математического ожидания Теорема 2.4. Пусть M X существует, тогда: 1◦ X(ω) > 0 =⇒ M X > 0 2◦ Если c = const — неслучайная величина =⇒ M c = c; 3◦ M (cX) = cM X ; 4◦ M (X1 + X2 ) = M X1 + M X2 ; 5◦ Если X1 6 X2 =⇒ M X1 6 M X2 . Кроме того, |M X | 6 M |X| ;6◦ Если X1 , . .
. Xm независимы =⇒ M (X1 . . . Xm ) = M X1 · . . . · M Xm . 1◦ Очевидно.2◦ M c = c · 1 (остальные члены ряда — нули). P3◦ Применим теорему f (x) = cx : M (cX) = (cx)P ω : X(ω) = x = cM X (Константу мы просто вынеслиxиз-под знака суммы)4◦M (X1 + X2 ) =X(x1 + x2 )P X1 (ω) = x1 , X2 (ω) = x2 =(x1 ,x2 )=X(x1 ,x2 )так какPXx2 P X1 (ω) = x1 , X2 (ω) = x2 = M X1 + M X2 , (8)x1 P X1 (ω) = x1 , X2 (ω) = x2 +(X1 ,X2 )P (Xi (ω) = xi ) = 1.xi5◦ Следует из того, что X2 (ω) − X1 (ω) > 0 =⇒ из 1) M X2 − X1 > 0, по 3) 4) M X1 − M X2 > 0Второе утверждение: имеем −|X| 6 X 6 |X|, поэтому −M |X| 6 M X 6 M |X| =⇒ |M X | 6 M |X|.6◦ Рассмотрим функцию f (x1 .
. . xm ) = x1 · . . . · xm . ИмеемM (X1 . . . Xm ) =X(x1 ,...xm ) !f (x1 , . . . , xm )P X1 = x1 , . . . , Xm = xm =!=X(X1 ,...Xm ) !!(x1 · . . . · xm )P X1 = x1 · . . . · P Xm = xm = M X1 · . . . · M Xm . (9)Переход, отмеченный «!», верен в силу независимости величин X1 , . . . Xm , а «!!» — в силу абсолютной сходимости рядов. Лемма 2.5. Произвольная случайная величина X(ω) на σ-алгебре может быть равномерно аппроксимирована последовательностью дискретных случайных величин Xn (ω).(n) Покажем, что можно аппроксимировать линейную функцию. Пусть xk — разбиение R. ∀ n = 1, 2, . .
. (n) (n)(n)(n)пусть R xk ∈ R : xk ↑ при возрастании k, и 0 < xk+1 − xk 6 εn . Введем случайную функцию:ϕ(n) (x)Xk(n)xk χ[x(n) ,x(n) ] , k ∈ Z =⇒kk+1ясно,что 0 < x − ϕ(n) (x) 6 εn , осталось положить Xn (ω) := ϕ(n) (X(ω)) — это годится для любой случайнойвеличины, т.к. x − ϕ(n) (x) 6 εn . Лемма 2.6. Пусть Xn (ω) — последовательность дискретных случайных величин:Xn ⇒ X и M Xn суще ствует для всех n =⇒ существует lim M Xn , и этот предел одинаков для ∀ Xn . |M Xn − M Xm | 6 M |Xn − Xm | 6 M |Xn (ω) − X(ω)| + M |X(ω) − Xm (ω)| → 0 (в силу равномернойсходимости).
То что предел единствен легко доказывается. Определение. M X := lim M Xn , если Xn ⇒ X.16Отсюда имеемX (n) (n) (n) M X = lim M ϕ(n) (X) = limxk P xk 6 X(ω) 6 xk+1 =n→∞n→∞= limn→∞Xk(n)xkk+∞Zhi(n) (n) F xk+1 − F xk=:x dF (x) — интеграл Лебега – Стилтьеса. (10)−∞Свойства 1–6 имеют место для произвольных случайных величин, при условие существования математического ожидания. Доказываются с помощью предельного перехода от дискретных случайных величин.
Докажемсвойство 4)Если ∃ M X , M Y =⇒ M X + M Y = M (X + Y ) . В самом деле, найдутся дискретные величиныXn ⇒ X, Yn ⇒ Y . Тогда M Xn → M X ; M Yn → M Y . Поскольку Xn + Yn ⇒ X + Y , а для дискретных это всевыполняется, получаем что M (Xn + Yn ) = M Xn + M Yn . Следовательно ∃ lim M (Xn + Yn ) =: M (X + Y ), но поnформуле он равен сумме пределов.Пусть X — случайная величина с функцией распределения F (x). Тогда+∞X (n) (n)(n) M X = limxk F (xk+1 ) − F (xk ) ,n(n)(n)(n)здесь |xk − xk+1 | 6 εn , εn → 0, и xkk=−∞R +∞→ ±∞ при k → ±∞. Тогда M X =x dF (x).−∞Задача 2.3. Если X — дискретная случайная величина, такая что событие xj происходит с вероятно+∞RPстью pj , тоx dF (x) = pj xj .−∞jРассмотрим случай абсолютно непрерывных случайных величин с плотностью p(x).
Тогда M X =Теорема 2.7. Пусть−∞R+∞+∞Zxp(x) dx.−∞ +∞R|x|p(x) dx < ∞. Тогда M X =xp(x) dx.−∞(n)(n)(n)Приблизим X равномерно случайными величинами: ϕ(n) = xk , если x ∈ [xk , xk+1 ). Докажем, что+∞RM ϕ(n) (x) существует и стремится кxp(x) dx. В самом деле,−∞(n)M ϕ(n) (x) =+∞X (n)(n) (n)(n) (n) xk P xk 6 X(ω) < xk+1 , P xk 6 X(ω) < xk+1 =k=−∞xk+1Zp(x) dx.(11)(n)xkТогда(n)+∞X(n)xk+1k=−∞(n)|xk |Zp(x) dx 6+∞Xk=−∞(n)xkxk+1Z(n)xk+∞+∞ZZ(|x| + εn )p(x) dx =(|x| + εn )p(x) dx =|x|p(x) dx + εn .−∞(12)−∞Значит сходится. Теперь покажем совпадение математических ожиданий.
Имеем(n)(n)Mϕ(x) =+∞Xk=−∞xk+1Z(n)xk(n)ϕ+∞Z(x)p(x) dx =ϕ(n) (x)p(x) dx,(13)−∞а потомуM ϕ(n) (x) −+∞+∞+∞+∞ZZZZ (n)(n)xp(x) dx =(ϕ (x) − x)p(x) dx 6ϕ (x) − x p(x) dx 6 εnp(x) dx → 0(n → ∞). (14)−∞−∞−∞17−∞Пример 3.5. Равномерное распределение: p(x) = M X =.(∈ [a, b]0, x 6∈ [a, b]1b−aПример 3.6. Показательное распределение: p(x) = M X =Пример 3.7.
p(x) =(x−m)22σ2√ 1e−2πσ21b−a , xZbxdx =a+b2a(λe−λx , x > 00, x < 0, причем λ > 0.+∞Zxλe−λx dx = λ−1 .0. M X =+∞Z−∞(x−m)2x√= m.e− 2σ22πσ 2Теорема 2.8. Пусть Y = f (x1 , . . . , xn ) f — измерима. X1 . . . Xn имеют плотность совместного распределения p(x1 . . . xn ). Тогда+∞+∞ZZMY =...f (x1 , . . . , xn )p(x1 . . . xn ) dx1 . . . xn(15)−∞−∞(при условной сходимости интеграла).+∞ZM f (x) =f (x)p(x) dx.−∞M Y = lim M ϕ(n) (Y ) = limn→∞n→∞+∞Xk=−∞+∞X= limn→∞limn→∞+∞Xk=−∞(n) (n)(n) yk P ω : yk 6 Y (ω) < yk+1 =k=−∞(n)yk(n) (n)(n) yk P ω : yk 6 f (X1 (ω), . . . , Xn (ω)) < yk+1 =Z.........Zp(x1 , .