Ю.Н. Тюрин, Г.И. Симонова - Математическая статистика. Записки лекций (1124593), страница 11
Текст из файла (страница 11)
Ïðåäïîëîæèì, ÷òî äâå ïåðåìåííûå t è xñâÿçàíû ñîîòíîøåíèåì xf t , ãäå f íåêîòîðàÿ óíêöèÿ.Ïðè íåêîòîðûõ çíà÷åíèÿõ t1 ; t2 ; : : : ; tn ïåðåìåííîé t (íàçûâàåìîé÷àñòî àêòîðîì), áûëè ïðîèçâåäåíû èçìåðåíèÿ ïåðåìåííîé x (íàçûâàåìîé îòêëèêîì). Îíè äàëè çíà÷åíèÿ x1 ; x2 ; : : : ; xn .
Ïðè ýòîìxi f ti "i , ãäå "1 ; : : : ; "n êàêèå-òî, ñîïðîâîæäàþùèå èçìåðåíèÿ, îøèáêè. Îñíîâíîå ïðåäïîëîæåíèå ñîñòîèò â òîì, ÷òî ìû ñ÷èòàåì óïîìÿíóòûå "1 ; "2 ; : : : ; "n íåçàâèñèìûìè ñëó÷àéíûìè âåëè÷èíàìè. Ìåíåå âàæíûå ïðåäïîëîæåíèÿ: "i ðàñïðåäåëåíû îäèíàêîâîè ðàñïðåäåëåíû ïî íîðìàëüíîìó çàêîíó N ; 2 . ÏðåäïîëîæåíèåE"iîòðàæàåò ïðåäñòàâëåíèå î òîì, ÷òî ñèñòåìàòè÷åñêèõ îøèáîê ïðè èçìåðåíèè îòêëèêà â íàøåé ñõåìå íåò. Âåëè÷èíà îáû÷íîñ÷èòàåòñÿ íåèçâåñòíîé (íåîáÿçàòåëüíî). Îíà ÷èñëåííî âûðàæàåòíåòî÷íîñòü (èçìåí÷èâîñòü) èçìåðåíèé, ò. å. ìàñøòàá ñëó÷àéíûõîøèáîê.Ïîñëåäíåå ïðåäïîëîæåíèå, ïðåâðàùàþùåå çàäà÷ó ðåãðåññèè âëèíåéíóþ: ñ÷èòàåì, ÷òî f ìîæíî (ñ äîñòàòî÷íîé àêêóðàòíîñòüþ) âûðàçèòü â âèäå ëèíåéíîé êîìáèíàöèè çàäàííîãî êîíå÷íîãî íàáîðà óíêöèé (ñêàæåì '1 ; '2 ; : : :): ñóùåñòâóþò ïàðàìåòðû1 ; : : : ; m òàêèå, ÷òî= ()()= ( )+(0 )=0()f (t) = 1 '1 (t) + 2 '2 (t) + + m 'm (t):=() ýòîì ñëó÷àå âåêòîð Xx1 ; x2 ; : : : ; xn T ïðåäñòàâëÿåòñÿ â âèäåëèíåéíîé êîìáèíàöèè âåêòîðîâ:j = ('j (t1 ); 'j (t2 ); : : : ; 'j (tn ))T ; j = 1; mè âåêòîðà" ñëó÷àéíûõ îøèáîê: " = ("1 ; : : : ; "n )T :X=mXj =1j j + ":67Ëèíåéíîå ïîäïðîñòðàíñòâî L, êîòîðîìó çàâåäîìî ïðèíàäëåæèòâåêòîð EX , â äàííîì ñëó÷àå ïîðîæäåíî âåêòîðàìè 1 ; 2 ; : : : ; m . 5.
Íîðìàëüíàÿ âûáîðêààññìîòðèì âûáîðêó x1 ; x2 ; : : : ; xn èç íîðìàëüíîé ñîâîêóïíîñòè N a; 2 , ãäå ïàðàìåòðû a 2 R1 , 2 2 ; 1 íåèçâåñòíû. Òåîðåìà àêòîðèçàöèè ïîìîãàåò íàéòè äîñòàòî÷íûå ñòàòèñòèêè äëÿa; 2 . Âûïèøåì óíêöèþ ïðàâäîïîäîáèÿ ýòîé ìîäåëè (ïîëüçóÿñüíåçàâèñèìîñòüþ ãàóññîâñêèõ ñëó÷àéíûõ âåëè÷èí x1 ; x2 ; : : : ; xn ) èïðåîáðàçóåì åå:(())(0 )nYi=1 p1 exp(xi a)2 o =22n2nnnnhXioX1= p2 exp 21 2 x2i 2a xi + na2 :i=1i=1Ïîñêîëüêó ïðàâäîïîäîáèå çàâèñèò îò ïåðåìåííûõ x1 ; x2 ; : : : ; xnnnPPëèøü ïîñðåäñòâîì ñòàòèñòèêxi è x2i , ýòà ïàðà è ÿâëÿåòñÿ äîi=1i=1ñòàòî÷íîé ñòàòèñòèêîé äëÿ a; 2 .
Ìû óæå îáðàùàëè âíèìàíèå íàòî, ÷òî ãëàâíûì â îïðåäåëåíèè äîñòàòî÷íîé ñòàòèñòèêè T T Xÿâëÿåòñÿ íå åå êîíêðåòíûé âèä, à òî ðàçáèåíèå âûáîðî÷íîãî ïðîñòðàíñòâà íà ìíîæåñòâà óðîâíÿ âèäà fT XConstg, êîòîðîåîíà ïðîèçâîäèò. Ëþáàÿ äðóãàÿ ñòàòèñòèêà, åñëè îíà ïîðîæäàåò òîæå ñàìîå ðàçáèåíèå, òîæå ÿâëÿåòñÿ äîñòàòî÷íîé.  ÷àñòíîñòè, äîñòàòî÷íîé îêàæåòñÿ ëþáàÿ ñòàòèñòèêà, íàõîäÿùàÿñÿ âî âçàèìíîîäíîçíà÷íîì ñîîòâåòñòâèè ñ T X . Äëÿ îáñóæäàåìîé íîðìàëüíîéâûáîðêè ïðåäïî÷èòàåìîé äîñòàòî÷íîé ñòàòèñòèêîé ñëóæèò ïàðàx; s2 :nnXXxxi ; s2xi x 2 :n i=1ni=1nPËåãêî âèäåòü, ÷òî x; s2 âçàèìíî îäíîçíà÷íî ñâÿçàíà ñxi ,i=1nPx2i .
Î ïðåèìóùåñòâàõ, êîòîðûå äàåò ñòàòèñòèêà x; s2 ïåðåäi=1äðóãèìè ñòàòèñòèêàìè äëÿ a; 2 , ìû ïîäðîáíåå áóäåì ãîâîðèòü()= ( )( )=( )( )= 1= 11( ))68()()(( )ïîçæå. Ñåé÷àñ îòìåòèì ëèøü òî, ÷òî x è s2 íåñìåùåííî îöåíèâàþòa è 2 :E x = a;Es2 = 2 :Âàæíîñòü ýòèõ ñâîéñòâ áóäåò ÿñíà óæå íà ñëåäóþùåé ëåêöèè. Çàìåòèì, ÷òî ýòè ñîîòíîøåíèÿ ñïðàâåäëèâû äëÿ ëþáîé, íå òîëüêîãàóññîâñêîé, âûáîðêè (åñëè Dx2i ñóùåñòâóþò).Âûáîðêà èç N a; 2 ÿâëÿåòñÿ ÷àñòíûì ñëó÷àåì ëèíåéíîé ìîäåëè. àññìîòðèì âåêòîð Xx1 ; x2 ; : : : ; xn T .
Åãî ìàòåìàòè÷åñêîåTîæèäàíèå ðàâíî a; a; : : : ; a , è ïîòîìó ïðèíàäëåæèò ëèíåéíîìóïîäïðîñòðàíñòâó L, ïîðîæäåííîìó âåêòîðîì ; : : : ; T . Òàê êàêêîîðäèíàòû âåêòîðà X íåçàâèñèìû è îäèíàêîâî ðàñïðåäåëåíû, òîDX 2 I . Òàêèì îáðàçîì, ïðåäïîñûëêè ëèíåéíîé ìîäåëè ñîáëþäåíû.
Äîñòàòî÷íûå ñòàòèñòèêè îáùåé ëèíåéíîé ìîäåëè â äàííîìñëó÷àå ñóòü:projL X x ; ; : : : ; T ;(()=())(11)== (1 1jprojL X j2 =nX?1)(xi x)2 = (n 1)s2:i=1Ïðè îáñóæäåíèè ãàóññîâñêîé ëèíåéíîé ìîäåëè ìû îòìå÷àëè,÷òî óñëîâíîå ðàñïðåäåëåíèå X ïðè èêñèðîâàííîì çíà÷åíèè äîñòàòî÷íîé ñòàòèñòèêè ðàâíîìåðíîå. Èç ýòîãî îáñòîÿòåëüñòâàìîæíî èçâëå÷ü èíòåðåñíûå ñëåäñòâèÿ.  äàííîì ïðèìåðå óïîìÿíóòîå óñëîâíîå ðàñïðåäåëåíèå ñîñðåäîòî÷åíî íà n-ìåðíîéñåðå:nnXXy y 2 Rn ;yi nx;yi y 2 ns2 :i=1i=1àññìîòðèì âåêòîðxpn x Txp1 x xp2 x(:= Y=s n ;1 sn() = ( ; ::: ;1sn2)1)1:Ïðè èêñèðîâàííîì çíà÷åíèè äîñòàòî÷íîé ñòàòèñòèêè x; s2 âåêòîð Y ÿâëÿåòñÿ ëèíåéíûì (è âçàèìíî-îäíîçíà÷íûì) ïðåîáðàçîâàíèåì âåêòîðà X .
Ïîýòîìó óñëîâíîå (ïðè èêñèðîâàííûõ x; s2 )ðàñïðåäåëåíèå Y òîæå ÿâëÿåòñÿ ðàâíîìåðíûì. Ýòî óñëîâíîå ðàñïðåäåëåíèå ñîñðåäîòî÷åíî íà n-ìåðíîé åäèíè÷íîé ñåðånnXXSn 2 y y 2 Rn;yi ;yi2:i=1i=1(=:( )2)=0=169Òåïåðü çàìåòèì, ÷òî ñêàçàííîå óñëîâíîå ðàñïðåäåëåíèå Y ïðè ëþáûõ çíà÷åíèÿõ x; s2 îäíî è òî æå (à èìåííî, ðàâíîìåðíîå íàSn 2 ). Çíà÷èò:âåêòîðYêàê ñëó÷àéíûé ýëåìåíò íå çàâèñèò îòx; s2 ;(áåçóñëîâíîå) ðàñïðåäåëåíèå Y ñîâïàäàåò ñ óñëîâíûì, ò. å.ÿâëÿåòñÿ óæå èçâåñòíûì ðàâíîìåðíûì ðàñïðåäåëåíèåì íàSn 2 .Èç ñêàçàííîãî ñëåäóåò, ÷òî äëÿ íîðìàëüíîé âûáîðêè òàêèå (÷àñòî ïðèìåíÿåìûå íà ïðàêòèêå) ñòàòèñòèêè, êàê âûáîðî÷íûé êîýn Xxi x 3è âûáîðî÷íûé êîýèöèåíòèöèåíò àñèììåòðèèn i=1 sn Xxi x 4ýêñöåññàñòàòèñòè÷åñêè íåçàâèñèìû îò x; s2 .n i=1 sÀ èõ ðàñïðåäåëåíèÿ íå çàâèñÿò îò íåèçâåñòíûõ ïàðàìåòðîâ a; 2è ìîãóò áûòü âû÷èñëåíû è òàáóëèðîâàíû.Óïîìÿíóòûå ñòàòèñòèêè ìîãóò ñëóæèòü äëÿ ïðîâåðêè íîðìàëüíîñòè èìåþùåéñÿ âûáîðêè.
Åñëè çíàòü, ÷òî äàííàÿ âûáîðêà íîðìàëüíàÿ, å¼ ìîæíî èññëåäîâàòü î÷åíü äåòàëüíî. (Èç äàëüíåéøèõ ëåêöèé áóäåò âèäíî, êàê). Äëÿ îáùåé ëèíåéíîé ãàóññîâñêîé ìîäåëè óòâåðæäåíèå î ðàâíîìåðíîì ðàñïðåäåëåíèè ñëó÷àéíîãî âåêòîðà X projL X =jprojL? X j (íà åäèíè÷íîé ñåðå ðàçìåðíîñòè n r, ãäå r dimL) è åãî ñòàòèñòè÷åñêîé íåçàâèñèìîñòè îòïàðû projL X; jprojL? X j2 äîêàçûâàåòñÿ àíàëîãè÷íî. Àíàëîãè÷íîìû ìîæåì ñîñòàâèòü êîýèöèåíòû àñèììåòðèè è ýêñöåññà, è òîæå èñïîëüçîâàòü èõ äëÿ ïðîâåðêè íîðìàëüíîñòè ðàñïðåäåëåíèÿ Xâ ëèíåéíîé ìîäåëè.11((70=3))( )Ëåêöèÿ 4.
Íàèëó÷øèå íåñìåùåííûå îöåíêèÏîä ýòèì íàçâàíèåì îáû÷íî ðàçóìåþò íåñìåùåííûå îöåíêè ñìèíèìàëüíûì êâàäðàòè÷íûì ðèñêîì.Äëÿ ñêàëÿðíîãî ïàðàìåòðà (è äëÿ ñêàëÿðíûõ óíêöèé îò ïàðàìåòðà) ýòî íåñìåùåííûå îöåíêè ñ ìèíèìàëüíîé äèñïåðñèåé; äëÿâåêòîðíîãî (êîíå÷íîìåðíîãî) ïàðàìåòðà è óíêöèé îò íåãî ýòîíåñìåùåííûå îöåíêè ñ íàèìåíüøåé ìàòðèöåé êîâàðèàöèé.  íåêîòîðûõ ñëó÷àÿõ óêàçàòü íàèëó÷øóþ íåñìåùåííóþ îöåíêó ïîìîãàþò íåðàâåíñòâà Êðàìåðà-àî: åñëè îöåíêà ýåêòèâíàÿ, òî îíà èíàèëó÷øàÿ â óêàçàííîì âûøå ñìûñëå, òàê êàê èìååò íàèìåíüøóþâîçìîæíóþ äèñïåðñèþ.Íî äàæå äëÿ ýêñïîíåíöèàëüíûõ ñåìåéñòâ ðàñïðåäåëåíèé, äëÿêîòîðûõ òîëüêî è ñóùåñòâóþò ýåêòèâíûå îöåíêè, ýåêòèâíîîöåíèòü ìîæíî ëèøü îäíó êàêóþ-òî óíêöèþ îò ïàðàìåòðà.
Ñêàæåì, äëÿ èñïûòàíèé Áåðíóëëè, â êîòîðûõ ïàðàìåòðîì ñëóæèòâåðîÿòíîñòü óñïåõà, ýåêòèâíàÿ îöåíêà åñòü òîëüêî äëÿ (ýòî÷àñòîòà óñïåõîâ). Íî êàêîâû íàèëó÷øèå íåñìåùåííûå îöåíêè, íàïðèìåð, äëÿ èëè 2 ? Âîïðîñ òåì áîëåå îòêðûò äëÿ ñåìåéñòâðàñïðåäåëåíèé, íå ÿâëÿþùèõñÿ ýêñïîíåíöèàëüíûìè. Èçâåñòíûå êíàñòîÿùåìó âðåìåíè îáîáùåíèÿ íåðàâåíñòâà Êðàìåðà-àî ðàñøèðÿþò íàøè âîçìîæíîñòè íå ñëèøêîì çíà÷èòåëüíî.Çàäà÷ó î íàèëó÷øèõ íåñìåùåííûõ îöåíêàõ óäàåòñÿ ïðîäâèíóòü (à ÷àñòî è ïîëíîñòüþ ðåøèòü), åñëè äëÿ íåèçâåñòíîãî ïàðàìåòðà ñóùåñòâóåò äîñòàòî÷íàÿ ñòàòèñòèêà.
Íåñìåùåííîå îöåíèâàíèå ïðè äîñòàòî÷íîé ñòàòèñòèêå è áóäåò íàøåé òåêóùåé òåìîé.Äëÿ åå îáñóæäåíèÿ íàì ïîíàäîáèòñÿ ïîíÿòèå óñëîâíîãî ìàòåìàòè÷åñêîãî îæèäàíèÿ îäíîé ñëó÷àéíîé âåëè÷èíû ïðè èêñèðîâàííîìçíà÷åíèè äðóãîé.  ïîëíîì îáúåìå îíî áóäåò ââåäåíî è èçó÷åíî âñëåäóþùåé ëåêöèè. À ñåé÷àñ, ÷òîáû çàâåðøèòü òåìó íàèëó÷øåãîíåñìåùåííîãî îöåíèâàíèÿ, ìû îãðàíè÷èìñÿ íåîðìàëüíûì òîëêîâàíèåì ýòîãî ïîíÿòèÿ.
À òàêæå óêàæåì íåêîòîðûå åãî ñâîéñòâà,íåîáõîäèìûå äëÿ óïîìÿíóòîé öåëè.(1 ) 1. Óñëîâíûå ìàòåìàòè÷åñêèå îæèäàíèÿÏóñòü ñëó÷àéíûå âåëè÷èíû X è Y çàäàíû íà îäíîì âåðîÿòíîñòíîì ïðîñòðàíñòâå. (Ñîäåðæàòåëüíî ýòî îçíà÷àåò, ÷òî çíà÷å71íèÿ ïåðåìåííûõ X , Y ïîëó÷åíû â îäíîì ýêñïåðèìåíòå). Ïîíÿòèåóñëîâíîãî ìàòåìàòè÷åñêîãî îæèäàíèÿ X ïðè äàííîì çíà÷åíèè Y äàëåå E X jY ìîæíî ââåñòè ýëåìåíòàðíûìè ñðåäñòâàìè, åñëè ïðè êàæäîì çíà÷åíèè Y ñóùåñòâóåò óñëîâíîå ðàñïðåäåëåíèå X .àññìîòðèì óñëîâíîå ðàñïðåäåëåíèå X ïðè äàííîì Y . Óñðåäíèìçíà÷åíèÿ X (ïðè äàííîì Y ) ïî ýòîìó óñëîâíîìó ðàñïðåäåëåíèþ.Ïîëó÷åííûé ðåçóëüòàò (÷èñëî, åñëè X ïðèíèìàåò ÷èñëîâûå çíà÷åíèÿ, âåêòîð-ñòîëáåö, åñëè çíà÷åíèÿ X ñóòü âåêòîðû-ñòîëáöû èò.ä.) çàâèñèò îò èêñèðîâàííîãî çíà÷åíèÿ Y , ò.å.
ÿâëÿåòñÿ óíêöèåé Y . Åãî íàçûâàþòXïðè äàííîì Y è îáîçíà÷àþò êàê E X jY . Ïîñêîëüêó Y ñëó÷àéíàÿ âåëè÷èíà, E X jY òîæå ÿâëÿåòñÿ ñëó÷àéíîé âåëè÷èíîé.Åñëè ñîâìåñòíîå ðàñïðåäåëåíèå X; Y èìååò ïëîòíîñòü p x; y(ëèáî äèñêðåòíî), òî îðìóëó äëÿ E X jY ìîæíî ïîëó÷èòü ÿâíî. ýòîì ñëó÷àå óñëîâíîå ðàñïðåäåëåíèå X ïðè äàííîì Y èìååòïëîòíîñòü (â òî÷êå x), ðàâíóþ()(óñëîâíûì ìàòåìàòè÷åñêèì îæèäàíèåì( ))( )( )( )RÎòñþäàp (x; Y ):p (x; Y )dxE (X jY ) =Rx p (x; Y )dx:p (x; Y )dxRÀíàëîãè÷íàÿ îðìóëà (ñ çàìåíîé èíòåãðèðîâàíèÿ ñóììèðîâàíèåì) äåéñòâóåò è â äèñêðåòíîì ñëó÷àå. îáùåì ñëó÷àå ñîîòíîøåíèå ìåæäó óñëîâíûì ðàñïðåäåëåíèåì è óñëîâíûì ìàòåìàòè÷åñêèì îæèäàíèåì îáðàòíîå ïî îòíîøåíèþ ê îïèñàííîìó: E X jY ïåðâè÷íî è ââîäèòñÿ íåïîñðåäñòâåííî,à ïîíÿòèå óñëîâíîãî ðàñïðåäåëåíèÿ X ïðè äàííîì Y ìîæåò áûòüîïðåäåëåíî íà åãî îñíîâå.Óêàæåì íåêîòîðûå ñâîéñòâà óñëîâíûõ ìàòåìàòè÷åñêèõ îæèäàíèé, êîòîðûå íàì ñåé÷àñ ïîíàäîáÿòñÿ.
![](https://s.studizba.com/z.php?f=/templates/si/i/noavatar.png&w=100&h=100&t=1"){kind=avatar}
