Лекции (1115344), страница 6
Текст из файла (страница 6)
Ìîìåíòûn k=1n k=1νðàñïðåäåë¼ííîé ñëó÷àéíîé âåëè÷èíû ξ îáîçíà÷àþòñÿ êàê αν = Mξ , µν = M(ξ − Mξ)ν .Î÷åâèäíî, ÷òî âûáîðî÷íûå ìîìåíòû òàêæå ÿâëÿþòñÿ ñëó÷àéíûìè âåëè÷èíàìè.n1 PÏðèìåð: ðàññ÷èòàåì íåêîòîðûå õàðàêòåðèñòèêè a1 è m2 . Mx̄ = ·Mxk = α1 , Dx̄ =n k=1nnn1 Pµ21 P1 P2·Dx=.Ïóñòüy=x−Mx;òîãäàm=·(y−ȳ)=·y 2 − ȳ 2kkkk2kn2 k=1nn k=1n k=1 k!nnX22 X2Mx̄ = Mxk ⇒ Mȳ = x̄ − Mx̄; ·yk ȳ = · (x̄ − Mx̄) yk = 2ȳ⇒n k=1nk=1n1 X12⇒ Mm2 = ·µ2 − M(x̄ − Mx̄) = µ2 − Dx̄ = µ2 1 −.n k=1n22Îïðåäåëåíèå: ξ0 , ξ1 , .
. . ξn íåçàâèñèìûå ñëó÷àéíûå âåëè÷èíû, èìåþùèå ñòàíäàðòíîåíîðìàëüíîå ðàñïðåäåëåíèå; òîãäà ñëó÷àéíàÿ√âåëè÷èíà ξn2 = ξ12 +. . .+ξn2 èìååò ðàñïðåäåëåíèåξ0 nõè-êâàäðàò ñ n ñòåïåíÿìè ñâîáîäû, à τn = ðàñïðåäåëåíèå Ñòüþäåíòà ñ n ñòåïåíÿìèχ2nñâîáîäû.Òåîðåìà 2 (Ôèøåðà áåç äîêàçàòåëüñòâà): x1 , . . . xn íåçàâèñèìûå ñëó÷àéíûå âåëè÷èíû, èìåþùèå íîðìàëüíîå ðàñïðåäåëåíèå ñ ïàðàìåòðàìè (a, σ); òîãäà x̄ è m2 íåçàâèñèìû,σnm2ïðè÷¼ì x̄ èìååò íîðìàëüíîå ðàñïðåäåëåíèå ñ ïàðàìåòðàìè (a, √ ), à 2 ðàñïðåäåëåíèåσnõè-êâàäðàò ñ n − 1 ñòåïåíÿìè ñâîáîäû.x̄ − a √Ñëåäñòâèå: ñëó÷àéíàÿ âåëè÷èíà √n − 1 èìååò ðàñïðåäåëåíèå Ñòüþäåíòà ñ n − 1m2ñòåïåíÿìè ñâîáîäû.x̄ − aσ√√x̄ − a √x̄ − an4 √n−1= n−1· √, íî, ïî òåîðåìå Ôèøåðà, σ èìååò ñòàíäàðòíîå√nm2m2nσ√nm2 2íîðìàëüíîå ðàñïðåäåëåíèå, à ðàñïðåäåëåíèå õè-êâàäðàò ñ n − 1 ñòåïåíÿìèσñâîáîäû.
4.2.Òî÷å÷íûå è èíòåðâàëüíûå îöåíêè.Îïðåäåëåíèå: ñòàòèñòèêîé íàçûâàåòñÿ ëþáàÿ ôóíêöèÿ âûáîðêè. Òî÷å÷íàÿ îöåíêàb 1 , . . . xn ), ãäå (x1 , . . . xn ) âûáîðêà. Òî÷å÷íàÿ îöåíêà íàçûâàåòñÿïàðàìåòðà θ ôóíêöèÿ θ(xPb = θ è ñîñòîÿòåëüíîé, åñëè θbn −íåñìåù¼ííîé, åñëè Mθ→ θ, n → ∞.Îïðåäåëåíèå: èíòåðâàëüíîé îöåíêîé ïàðàìåòðà θ íàçûâàþòñÿ ôóíêöèè θ(x1 , . .
. xn )è θ(x1 , . . . xn ): ∀ (x1 , . . . xn ) θ(x1 , . . . xn ) < θ < θ(x1 , . . . xn ). Åñëè P {θ(x1 , . . . xn ) < θ <θ(x1 , . . . xn )} = 1 − 2α, òî [θ, θ] íàçûâàåòñÿ äîâåðèòåëüíûìè èíòåðâàëîì äëÿ θ, ñîîòâåòñòâóþùèì äîâåðèòåëüíîé âåðîÿòíîñòè 1 − 2α.Ñïîñîáû ïîëó÷åíèÿ îöåíîê:1.
Íåïîñðåäñòâåííûé ïîäáîð (êðèòåðèåì ïðàâèëüíîñòè ÿâëÿåòñÿ áëèçîñòü aν è αν ).2. Ïî íàèáîëüøåìó ïðàâäîïîäîáèþ : ââåä¼ì ôóíêöèþ ïðàâäîïîäîáèÿ L(x1 , . . . xn , θ) =px1 (x1 , θ) · . . . · pxn (xn , θ) (x1 , . . . xn ðàçíûå ñëó÷àéíûå âåëè÷èíû, à p1 , . . . pn èõ ïëîòíîñòèðàñïðåäåëåíèÿ); îöåíêà äëÿ θ âûáèðàåòñÿ òàê, ÷òîáû çíà÷åíèå ôóíêöèè L áûëî ìàêñè∂ ln L∂L= 0 (èëè= 0).ìàëüíûì, òî åñòü èç óðàâíåíèÿ∂θ∂θ3.
Ñ ïîìîùüþ êðèòåðèÿ χ2 : ïðè îöåíêå s ïàðàìåòðîâ (θ1 , . . . θs ) ðàñïðåäåëåíèå âåëè÷ènP(xk − npk (θ1 , . . . θs ))2íûáëèçêî ê χ2n+s−1 ; çíàÿ ýòî, ìîæíî îïðåäåëèòü ôóíêöèènp(θ,...θ)(1−p(θ,...θ))k 1sk 1sk=1pk (θ1 , . . . θs ) (k = 1, n), à ñ èõ ïîìîùüþ òî÷å÷íûå îöåíêè äëÿ θ1 , .
. . θs .Äîâåðèòåëüíûå èíòåðâàëû äëÿ íîðìàëüíîãî ðàñïðåäåëåíèÿ:x̄ − aσ : ïî òåîðåìå Ôèøåðà σ èìååò ñòàíäàðòíîå íîðìàëü√()n x̄ − a íîå ðàñïðåäåëåíèå, òî åñòü ∃ uα > 0: P σ < uα = 1 − 2α, uα îïðåäåëÿåòñÿ èç √n +∞R − x21σσóðàâíåíèÿ √ ·e 2 dx = α ⇒ P x̄ − uα · √ < a < x̄ + uα · √= 1 − 2α, òî åñòünn2π uα1.Îöåíêàaïðè èçâåñòíîì23σσ äîâåðèòåëüíûé èíòåðâàë äëÿ a.x̄ − uα · √ , x̄ + uα · √nn2. Îöåíêà äëÿ a ïðè íåèçâåñòíîì σ : ñîãëàñíî ñëåäñòâèþ èç òåîðåìû Ôèøåðà τn−1 =x̄ − a √n − 1 èìååò ðàñïðåäåëåíèå Ñòüþäåíòà ñ n − 1 ñòåïåíÿìè ñâîáîäû; çíà÷èò, ∃ tα,n−1 :√m2rrm2m2< a < x̄ + tα,n−1 ·=P {|τn−1 | < tα,n−1 } = 1 − 2α, ïîýòîìó P x̄ − tα,n−1 ·n−1n−1= 1 − 2α.nPS2(xk − a)2 ⇒ 2 èìååò ðàñïðåäåëåíèå õè3. Îöåíêà äëÿ σ ïðè èçâåñòíîì a: S 2 =σk=11êâàäðàò ñ n ñòåïåíÿìè ñâîáîäû.
∀ α ∈ [0, ] ∃ χα,n : P {χ2n > χ2α,n } = α, ∃χ1−α,n : P {χ2n >2χ21−α,n } = 1 − α ⇒S2SS22P χ1−α,n < 2 < χα,n = 1 − 2α ⇒ P<σ<= 1 − 2α.σχα,nχ1−α,nnm2a: ïî òåîðåìå Ôèøåðàèìååò ðàñïðåäåëåíèåσ2nonm2õè-êâàäðàò ñ n − 1 ñòåïåíÿìè ñâîáîäû, òî åñòü P χ21−α,n−1 < 2 < χ2α,n−1 = 1 − 2α ⇒σ√√nm2nm2= 1 − 2α.<σ<Pχα,n−1χ1−α,n−115. Ñðàâíåíèå âûáîðîê : (x11 , . . . xn1 1 ), (x12 , .
. . xn2 2 ) íåçàâèñèìûå âûáîðêè; x̄i =·nininiP1 Pn1 m21 + n2 m22xki , m2i = · (xki −x̄i )2 (i = 1, 2); òîãäà, ïî òåîðåìå Ôèøåðà, χ2n1 +n2 −2 =ni k=1σ2k=1èìååò ðàñïðåäåëåíèå õè-êâàäðàò ñ n1 + n2 − 2 ñòåïåíÿìè ñâîáîäû.4.Îöåíêà äëÿσïðè íåèçâåñòíîìx̄1 − x̄2 − (a1 − a2 )q2pσ2+ nσ2(x̄1 − x̄2 − (a1 − a2 )) n1 n2 (n1 + n2 − 2)n1pτn1 +n2 −2 = r=⇒n1 m21 + n2 m22(n1 m21 + n2 m22 )(n1 + n2 )(n1 + n2 − 2)σ 2s((n1 m21 + n2 m22 )(n1 + n2 )< |a1 − a2 | <P |x̄1 − x̄2 | − tα,n1 +n2 −2 ·n1 n2 (n1 + n2 − 2)s)(n1 m21 + n2 m22 )(n1 + n2 )< |x̄1 − x̄2 | + tα,n1 +n2 −2 ·= 1 − 2α.n1 n2 (n1 + n2 − 2)Îïðåäåëèâ äîâåðèòåëüíûé èíòåðâàë, ìîæíî ñäåëàòü ïðåäïîëîæåíèå î ïðèíàäëåæíîñòèäâóõ âûáîðîê ê îäíîé è òîé æå èëè ðàçíûì ãåíåðàëüíûì ñîâîêóïíîñòÿì.Çàìå÷àíèå: åñëè ñëó÷àéíûå âåëè÷èíû x1 , . .
. xn ðàñïðåäåëåíû òàê, ÷òî èìåþò äèñïåðñèþ (Mxk = a, Dxk = σ 2 ), òî, ñîãëàñíî öåíòðàëüíîé ïðåäåëüíîé òåîðåìå, ðàñïðåäåx̄ − aëåíèå σ áëèçêî ê ñòàíäàðòíîìó íîðìàëüíîìó ïðè áîëüøèõ n. Ýòî ïîçâîëÿåò îöåíè√nâàòüÍàïðèìåð, äëÿ áèíîìèàëüíîãî ðàñïðåäåëåíèÿ a è σ ñ ïîìîùüþ ïîëó÷åííûõ ôîðìóë.µnσnµnσnP− uα · √ < p <+ uα · √→ 1 − 2α, n → ∞, ãäå σn2 ëþáàÿ ñîñòîÿòåëüíàÿnnnnîöåíêà σ 2 .4.3.Ñòàòèñòè÷åñêàÿ ïðîâåðêà ãèïîòåç.241. Ñ ïîìîùüþ èíòåðâàëüíûõ îöåíîê : ñëó÷àéíàÿ âåëè÷èíà ξ ðàñïðåäåëåíà íîðìàëüíîñ ïàðàìåòðàìè (a, σ); ãèïîòåçà ñîñòîèò â òîì, ÷òî Mξ = a0 ; èç 4.2rm2= 2α.P |x̄ − a0 | > tα,n−1 ·n−1rm2Åñëè, ñîãëàñíî èçìåðåíèÿì, |x̄ − a0 | > tα,n−1 ·, òî ãèïîòåçà îòâåðãàåòñÿ; â ýòîìn−1ñëó÷àå âåðîÿòíîñòü îòêàçà îò âåðíîé ãèïîòåçû ðàâíà 2α.2. Êðèòåðèé õè-êâàäðàò : ãèïîòåçà óòâåðæäàåò, ÷òî ñëó÷àéíàÿ âåëè÷èíà xk èìååò ôóíêöèþ ðàñïðåäåëåíèÿ F (x).
Âûáåðåì ïðîèçâîëüíûå ÷èñëà z1 , . . . zr : z1 < . . . < zr . Åñëè ãèïîòåçà âåðíà, òî pl = P {xk ∈ [zl , zl+1 )} = F (zl+1 ) − F (zl ). Ïóñòü ml ÷èñëî ðåçóëüòàòîâ ýêñïåðèìåíòà, ïîïàâøèõ â îòðåçîê [zl , zl+1 ); â ñëó÷àå âåðíîãî ïðåäïîëîæåíèÿ Mml = npl ; ìåðîér+1P (mi − npi )2, ðàñïðåäåëåíèå êîòîðîé áëèçêî ê ðàñïðåäåëåðàñõîæäåíèÿ ÿâëÿåòñÿ ηn,r =i=1 npi (1 − pi )íèþ õè-êâàäðàò ñ r ñòåïåíÿìè ñâîáîäû. Ïîýòîìó P {ηn,r < C} → P {χ2r < C}, n → ∞, ãäå Cîïðåäåëÿåòñÿ äîâåðèòåëüíîé âåðîÿòíîñòüþ, êîòîðàÿ ðàâíà âåðîÿòíîñòè îòêàçà îò âåðíîéãèïîòåçû.3.
Êðèòåðèé Êîëìîãîðîâà :Òåîðåìà 1 (Êîëìîãîðîâà áåç äîêàçàòåëüñòâà):√n · sup|Fbn (x) − F (x)| < z → K(z), n → ∞, ãäåPx∈R0, z ≤ 0K(z) =+∞P2 2(−1)k e−2k z , z > 0.k=−∞Òåîðåìà ïîçâîëÿåò îïðåäåëèòü zα : 1 − K(zα ) = α; òîãäàzαzαbbP Fn (x) − √ < F (x) < Fn (x) + √→ 1 − α, n → ∞.nnÎïðåäåëåíèå: ñòàòèñòèêîé êðèòåðèÿ íàçûâàåòñÿ ôóíêöèÿ, çíà÷åíèå êîòîðîé îïðåäåëÿåò ïðèíÿòèå ãèïîòåçû èëè îòêàç îò íå¼ (íàïðèìåð, ηn,r äëÿ êðèòåðèÿ õè-êâàäðàò).nÊðèòè÷åñêîé îáëàñòüþ íàçûâàåòñÿ îáëàñòü R , â êîòîðîé ñòàòèñòèêà êðèòåðèÿ ïðåâûøàåò âåëè÷èíó, çàäàííóþ äîâåðèòåëüíîé âåðîÿòíîñòüþ.Îïðåäåëåíèå: ãèïîòåçà H ïðîñòà, åñëè îíà îäíîçíà÷íî îïðåäåëÿåò ðàñïðåäåëåíèåâûáîðêè, è ñëîæíà â ïðîòèâíîì ñëó÷àå.Îïðåäåëåíèå: ïóñòü H0 , H1 ïðîñòûå êîíêóðèðóþùèå ãèïîòåçû; S êðèòè÷åñêàÿîáëàñòü.
Îøèáêîé ïåðâîãî ðîäà α = P0 {x ∈ S} íàçûâàåòñÿ âåðîÿòíîñòü îòâåðãíóòü ãèïîòåçó H0 â òîì, ñëó÷àå, êîãäà îíà âåðíà; îøèáêîé âòîðîãî ðîäà β = P1 {x 6∈ S} íàçûâàåòñÿâåðîÿòíîñòü ïðèíÿòü ãèïîòåçó H0 â òîì ñëó÷àå, êîãäà îíà ëîæíà. ×èñëî 1 − β íàçûâàþòìîùíîñòüþ êðèòåðèÿ.Òåîðåìà 2 (êðèòåðèé Íåéìàíà-Ïèðñîíà áåç äîêàçàòåëüñòâà): ïóñòü ãèïîòåçû H0 è H1→→→→→→çàäàþò ôóíêöèè p0 (−x ) è p1 (−x ); Sc = {−x |p1 (−x ) ≥ cp0 (−x )}.
Ïóñòü ∀ α ∈ [0; 1] ∃ c: P0 {−x ∈Sc } = α; òîãäà íàèáîëåå ìîùíûì (ïðè ôèêñèðîâàííîì α) ÿâëÿåòñÿ êðèòåðèé, îïðåäåëÿåìûé îáëàñòüþ Sc .4.4.Ìåòîä íàèìåíüøèõ êâàäðàòîâ.25Ïóñòü çàäàí íàáîð ðåçóëüòàòîâ èçìåðåíèé (òî÷åê) (x1 , y1 ), . . . (xn , yn ), êîòîðûé òðåáóåòñÿ àïïðîêñèìèðîâàòü (ïðèáëèçèòü) ëèíåéíîé ôóíêöèåé y = ax + b, ïðè÷¼ì ∀ i = 1, n yi =axi + b + δi , ãäå δi íåçàâèñèìû è ðàñïðåäåëåíû íîðìàëüíî ñ ïàðàìåòðàìè(0, σ). ÂîñïîëünP1122çóåìñÿ êðèòåðèåì ïðàâäîïîäîáèÿ: L(y, a, b, σ ) = √· exp − 2 (yi − axi − bi ) .σ i=1( 2πσ)nÒîãäàn∂ ln L2 X= 2·xi (yi − axi − b) = 0,∂aσ i=1n2 X∂ ln L= 2·(yi − axi − b) = 0,∂bσ i=1n∂ ln Ln1 X=−+·(yi − axi − b)2 = 0.∂(σ 2 )2σ 2 σ 4 i=1Âûáåðåì xi :nPxi = 0; â ýòîì ñëó÷àåi=1nP∗a =xi yik=1nPnn1 X2 X∗2yi , σ = ·(yi − a∗ xi − b∗ )2 ., b = ·n i=1n i=1∗x2ii=1Ïîäñòàâëÿÿ yi = axi + b + δi , ïîëó÷èìb∗a =a+nPi=1nPnPxi+x2ii=1xi δii=1nP, b∗ = b + ax2inXi=1xi +n1 X·δi ⇒ Ma∗ = a, Mb∗ = b,n i=1i=1òî åñòü ïîëó÷åííûå îöåíêè ÿâëÿþòñÿ íåñìåù¼ííûìè.Òîò æå ðåçóëüòàò ìîæåò áûòü ïîëó÷åí ïðè ìèíèìèçàöèè ôóíêöèè Q(a, b) =nP(yi − axi − b)2 , ïîýòîìó òàêîé ìåòîä àïïðîêñèìàöèè íàçûâàþò ìåòîäîì íàèìåíü=i=1øèõ êâàäðàòîâ(ÌÍÊ).26Ïðåäìåòíûé óêàçàòåëüσ -àëãåáðà, 3Àáñîëþòíî íåïðåðûâíîå ðàñïðåäåëåíèåìíîãîìåðíîå, 13ïðèìåðû, 13îäíîìåðíîå, 11ïðèìåðû, 11Àëãåáðà, 3áîðåëåâñêàÿ, 10Àñèìïòîòè÷åñêàÿ íîðìàëüíîñòü, 21Áàéåñà ôîðìóëà, 8Áåðíøòåéíà ïðèìåð, 8Áåðíóëëè ñõåìà, 8Áåðíóëëèåâñêîå ðàñïðåäåëåíèå, 11Áåðòðàíà ïàðàäîêñ, 7Áèíîìèàëüíîå ðàñïðåäåëåíèå, 11äèñïåðñèÿ, 18ìàò.