Turin Yu.N. - Multidimensional Gaussian Calculus (1120045), страница 10
Текст из файла (страница 10)
Ýòî - äðóãîé ïîäõîä ê îöåíèâàíèþ íåèçâåñòíîãî ïàðàìåòðà θ èôóíêöèé τ îò íåãî; â èçâåñòíîì ñìûñëå îí ïðîòèâîïîëîæåí ïîñòðîåíèþ îöåíîê.Çàìå÷àíèå 4.8. ×àñòíûé ñëó÷àé äîâåðèòåëüíûõ ìíîæåñòâ, äîâåðèòåëüíûå èí-òåðâàëû - õîðîøî èçâåñòíîå ïîíÿòèå â ìàòåìàòè÷åñêîé ñòàòèñòèêå. Íàïîìíèì, ÷òîäëÿ îäíîìåðíîé íîðìàëüíîé âûáîðêè X = (X1 , . . . , Xn )T , ãäå Xk v N (a, σ 2 ), k = 1, n- íåçàâèñèìûå è îäèíàêîâî ðàñïðåäåëåííûå ñëó÷àéíûå âåëè÷èíû, à äèñïåðñèÿ σ 2èçâåñòíà,µ¶σσX − √ z1− α2 , X + √ z1− α2 −nnäîâåðèòåëüíûé èíòåðâàë äëÿ a ñ äîâåðèòåëüíîé âåðîÿòíîñòüþ 1−2α, ãäå α ∈ (0; 1/2),à ÷åðåç zβ îáîçíà÷åí êâàíòèëü ñòàíäàðòíîãî íîðìàëüíîãî ðàñïðåäåëåíèÿ N (0, 1),ñîîòâåòñòâóþùèé óðîâíþ β ∈ (0; 1).Åñëè æå äèñïåðñèÿ σ 2 íåèçâåñòíà, òîµ¶ssX − √ t1− α2 , X + √ z1− α2 −nnäîâåðèòåëüíûé èíòåðâàë äëÿ a, ñîîòâåòñòâóþùèé óðîâíþ çíà÷èìîñòè 1 − 2α, ãäåîïÿòü α ∈ (0; 1/2), íî tβ - êâàíòèëü ðàñïðåäåëåíèÿ Ñòüþäåíòà ñ n − 1 ñòåïåíÿìè38ñâîáîäû, ñîîòâåòñòâóþùèé óðîâíþ β ∈ (0; 1).
Ýòî - êëàññè÷åñêèå ðåçóëüòàòû ñòàòèñòèêè.Òåïåðü ìû ñòîèì ïåðåä àíàëîãè÷íîé, ñîâåðøåííî åñòåñòâåííî âîçíèêàþùåé ìíîãîìåðíîé çàäà÷åé: êàê æå ïîñòðîèòü äîâåðèòåëüíûé èíòåðâàë äëÿ íåèçâåñòíîãî ïàðàìåòðà a (âåêòîðà ìàòåìàòè÷åñêèõ îæèäàíèé äëÿ ìíîãîìåðíîãî ãàóññîâñêîãî ðàñïðåäåëåíèÿ) ïî âûáîðêå èç ýòîãî ðàñïðåäåëåíèÿ? Ïðè ýòîì íå òîëüêî âåêòîð ñðåäíèõa, íî è ìàòðèöà êîâàðèàöèé Q ýòîãî ðàñïðåäåëåíèÿ íàì íå èçâåñòíà; îäíàêî ìû ñ÷èòàåì, ÷òî îíà çàâåäîìî íåâûðîæäåíà, ò.å., ýêâèâàëåíòíî, ïîëîæèòåëüíî îïðåäåëåíà.Áîëåå ôîðìàëüíî: åñëè Θ := {(a, Q)|a ∈ Rp , Q > 0}, Pθ = Np (a, Q) × Np (a, Q) ×.
. . × Np (a, Q) äëÿ θ = (a, Q) ∈ Θ,(X, F, {Pθ |θ ∈ Θ}) = (Rpn , B(Rpn ), {Np (a, Q)×Np (a, Q)× . . . ×Np (a, Q)|a ∈ Rp , Q > 0})(ïðîèçâåäåíèå ñîñòîèò èç n ñîìíîæèòåëåé) - èñõîäíîå ñòàòèñòè÷åñêîå ïðîñòðàñòâî,ÿâëÿþùååñÿ, êàê îòìå÷àëîñü â $1 ãëàâû 2, áàçîé äëÿ íàøèõ ìíîãîìåðíûõ ìîäåëåé,òî êàêîâî äîâåðèòåëüíîå ìíîæåñòâî AX ⊂ Rp äëÿ ôóíêöèè τ : Θ → Rp , îïðåäåëÿåìîéòàê: τ (θ) := a äëÿ θ = (a, Q) ∈ Θ?Íî ìû óæå ðàñïîëàãàåì èíñòðóìåíòàìè äëÿ ðåøåíèÿ ýòîé çàäà÷è. À èìåííî: ìûçíàåì, ÷òî åñëè X = (X1 , . . .
, Xn )T - âûáîðêà èç ðàñïðåäåëåíèÿ Np (a, Q) (ìû áóäåìñ÷èòàòü åå np-ìåðíûì âåêòîðîì - ñòîëáöîì), òîn(X − a)T S −1 (X − a) v(n − 1)pF (p, n − p),n−pãäå, íàïîìíèì, F (p, n − p) - ðàñïðåäåëåíèå Ôèøåðà (Ñíåäåêîðà) ñ p, n − p ñòåïåíÿìènnPP1ñâîáîäû, X = n1Xk - ýìïèðè÷åñêîå ñðåäíåå, S := n−1(Xk − X)(Xk − X)T k=1ýìïèðè÷åñêàÿ ìàòðèöà êîâàðèàöèé.Îòñþäà íåìåäëåííî ïîëó÷àåì ñëåäóþùèé ðåçóëüòàò.k=1Óòâåðæäåíèå 4.9. Åñëè äëÿ X ∈ Rpn ìû îïðåäåëèì ìíîæåñòâî½¾(n − 1)ppT −1EX := a ∈ R |n(X − a) S (X − a) <F1−ε (p, n − p) ⊂ Rp ,n−pòî îíî áóäåò äîâåðèòåëüíûì ìíîæåñòâîì äëÿ ïàðàìåòðà a, ñîîòâåòñòâóþùèì äîâåðèòåëüíîé âåðîÿòíîñòè 1 − ε (ε ∈ (0; 1)). ñëó÷àå, êîãäà ìàòðèöà Q êîâàðèàöèé èçâåñòíà, ò.å., ôîðìàëüíî ãîâîðÿ, Θ :=R , Pθ = Np (a, Q) × Np (a, Q) × .
. . × Np (a, Q) äëÿ θ = a (ñîìíîæèòåëåé, êàê âñåãäà, n;êðîìå òîãî, Q > 0), èìååì:pn(X − a)T Q−1 (X − a) v χ2 (p),è î÷åâèäíûì îáðàçîì ñòðîèòñÿ äîâåðèòåëüíîå ìíîæåñòâî.Óòâåðæäåíèå 4.10. Åñëè ε ∈ (0; 1), òî äëÿ X ∈ X = Rpn©ª0:= a ∈ Rp |n(X − a)T Q−1 (X − a) < χ21−ε (p) ⊂ Rp −EXäîâåðèòåëüíîå ìíîæåñòâî ñ äîâåðèòåëüíîé âåðîÿòíîñòüþ 1 − ε.Ýòè äîâåðèòåëüíûå ìíîæåñòâà ÿâëÿþòñÿ n-ìåðíûìè ýëëèïñîèäàìè (èëè, âåðíåå,îáëàñòÿìè, îãðàíè÷åííûìè ýëëèïñîèäàìè - âåäü, ôîðìàëüíî ãîâîðÿ, â àíàëèòè÷åñêîé ãåîìåòðèè ýëëèïñîèäîì íàçûâàåòñÿ íå îáëàñòü â Rp , à ïîâåðõíîñòü.) Îíè òàê èíàçûâàþòñÿ - äîâåðèòåëüíûìè ýëëèïñîèäàìè.Ïîñëå ýòèõ ïðîñòûõ ñîîáðàæåíèé èçëîæèì áîëåå ñîäåðæàòåëüíûå - òàê íàçûâàåìûé ìåòîä Øåôôå (H.
Shee). Çàäàäèìñÿ íåêîòîðûì íàáîðîì âåêòîðîâ C ⊂ Rp ,39íå ñîäåðæàùèì íóëåâîé âåêòîð, è áóäåì ñòðîèòü äîâåðèòåëüíûå ìíîæåñòâà äëÿ a ñïîìîùüþ íàáîðà {cT a|c ∈ C}.Îïðåäåëåíèå 4.11. Âûðàæåíèÿ cT a, c ∈ C ÿâëÿþòñÿ ëèíåéíûìè ôîðìàìè îòàðãóìåíòà a. Òàêèå ôîðìû íàçûâàþòñÿ â äàííîì ìåòîäå êîíòðàñòàìè. Îäíîâðåìåííîå ïîñòðîåíèå äîâåðèòåëüíûõ èíòåðâàëîâ äëÿ ýòèõ êîíòðàñòîâ íàçûâàåòñÿ ìíîæåñòâåííûì ñðàâíåíèåì. Ìåòîä áóäåò îñíîâàí èìåííî íà òàêîì îäíîâðåìåííîìïîñòðîåíèè.Òåîðåìà 4.12.(Øåôôå, 1952) Ââåäåì ñëåäóþùåå âñïîìîãàòåëüíîå îáîçíà÷åíèå:p(n−1)åñëè α ∈ (0; 1) - çàäàííàÿ äîâåðèòåëüíàÿ âåðîÿòíîñòü, òî ïóñòü k 2 := (n−p)nF1−α (p, n−p). Òîãäà ìíîæåñòâî√√AX := {a ∈ Rp | − k cT Sc + cT X < cT k cT Sc + cT X ∀c ∈ C}åñòü äîâåðèòåëüíîå ìíîæåñòâî äëÿ a ñ äîâåðèòåëüíîé âåðîÿòíîñòüþ 1 − α.¤ Íåîáõîäèìî äîêàçàòü, ÷òî ïðè ëþáîì θ ∈ Θ (ãäå Θ = {(a, Q)|a ∈ Rp , Q > 0})Pθ {X ∈ Rpn |a ∈ AX } > 1 − α.Äëÿ ýòîãî äîñòàòî÷íî ïîêàçàòü, ÷òî{X ∈ Rpn |a ∈ EX } ⊂ {X ∈ Rpn |a ∈ AX },èëè ÷òî EX ⊂ AX ïðè ëþáîì X ∈ Rpn .
Íî\√√AX ={a ∈ Rp | − k cT Sc + cT X < cT a < k cT Sc + cT X}.c∈CÇíà÷èò, áóäåò äîñòàòî÷íî ïîêàçàòü, ÷òî√√EX ⊂ {a ∈ Rp | − k cT Sc + cT X < cT a < k cT Sc + cT X}ïðè âñåõ X ∈ Rpn , c ∈ C . Ýòîò ïîñëåäíèé ôàêò ñëåäóåò èç òîãî, ÷òî (ìû ôèêñèðîâàëèX ∈ Rpn , c ∈ C ) äëÿ EX (a − X)T S −1 (X) ≤ k 2 , à√cT (a−X) = k cT Sc.maxcT (a−X) =maxcT (a−X) = kmax(a−X)T S −1 (X)≤k2(a−X)T S −1 (X)=k2(a−X)T S −1 (X)=1Ïîñëåäíåå ðàâåíñòâî ñëåäóåò èç ëåììû 3.2 ãëàâû 3. (Îáîñíîâàòü äðóãèå äâà ðàâåíñòâàâ ýòîé öåïî÷êå!) Ýòèì âñå è äîêàçàíî. ¥Ìû ìîæåì ðàññìîòðåòü ÷àñòíûé ñëó÷àé êîíñòðóêöèè Øåôôå: C = {ck |k = 1, m} êîíå÷íîå ìíîæåñòâî.
Òîãäà äîâåðèòåëüíûé ýëëèïñîèä EX âêëàäûâàåòñÿ â ìíîæåñòâîAX , êîòîðîå ïðåäñòàâëÿåò èç ñåáÿ îáëàñòü â ïðîñòðàíñòâå Rp , îãðàíè÷åííóþ m ïàðàìè ïàðàëëåëüíûõ ãèïåðïëîñêîñòåé, êàñàòåëüíûõ ê ãðàíèöå - ïîâåðõíîñòè ýëëèïñîèäàEX . Ò.å. ýòà îáëàñòü - ìíîãîãðàííèê. (Ïðîâåäèòå ýòî ðàññóæäåíèå ïîäðîáíåå!)3. Ïðîâåðêà ïðèáëèæåííîé ãèïîòåçû.Ñòàòèñòè÷åñêèå ãèïîòåçû ÷àñòî âûñêàçûâàþò êàê òî÷íûå óòâåðæäåíèÿ î ïàðàìåòðå θ èç áàçîâîé ìîäåëè ñòàòèñòèêè - ñòàòèñòè÷åñêîãî ïðîñòðàíñòâà, èëè, èíûìèñëîâàìè, î íåèçâåñòíîì ïàðàìåòðå (ïàðàìåòðàõ) ðàñïðåäåëåíèÿ íàáëþäåíèé.
Î÷åâèäíûé ïðèìåð - ãèïîòåçà H : a = a0 , êîòîðîé áûëà ïîñâÿùåíà ãëàâà 3. Íî â äàííîìñëó÷àå ïðè íåîãðàíè÷åííîì óâåëè÷åíèè ðàçìåðà âûáîðêè âîçíèêàåò íåïðèÿòíàÿ ñèòóàöèÿ: ðàíî èëè ïîçäíî ìû îòâåðãíåì ëþáóþ íàïåðåä çàäàííóþ ãèïîòåçó H : a = a0 ,êðîìå òîé, êîòîðàÿ ÿâëÿåòñÿ äåéñòâèòåëüíî èñòèííîé - ò.å. òîé, ãäå a0 - èñòèííîå çíà÷åíèå ïàðàìåòðà a ðàñïðåäåëåíèÿ.40Îäíàêî êàê ìîæíî, ïðåäëàãàÿ âåêòîðà a0 äëÿ ãèïîòåç a = a0 , óãàäàòü äåéñòâèòåëüíî èñòèííîå çíà÷åíèå ýòîãî ïàðàìåòðà? Ñîâåðøåííî íåâåðîÿòíî, ÷òîáû íàì óäàëîñüòàê òî÷íî óãàäàòü - íî òîëüêî òîãäà ìû íå ïîïàäåì â îïèñàííóþ âûøå ëîâóøêó. Êàêæå áûòü?Çàìåòèì, ÷òî ìû îòâåðãàåì ãèïîòåçó î òî÷íîì ðàâåíñòâå âîâñå íå òîãäà, êîãäàèñòèííîå çíà÷åíèå ïàðàìåòðà a íå ðàâíî òî÷íî îáúÿâëåííîìó.
(Èíà÷å, ïî-âèäèìîìó,ïðèøëîñü áû ïðàêòè÷åñêè âñåãäà îòâåðãàòü òàêèå ãèïîòåçû.) Ìû îòâåðãàåì ãèïîòåçó,åñëè âèäèì: ðàñõîæäåíèå ìåæäó îáúÿâëåííûì çíà÷åíèåì ïàðàìåòðà è òåì, êîòîðîå,ïî-âèäèìîìó, èñòèííî, íàñòîëüêî âåëèêî, ÷òî ìû íå ìîæåì ïðåíåáðå÷ü ýòîé ðàçíèöåé. È ýòî íàäî èìåòü â âèäó ïðè ôîðìóëèðîâàíèè è ïðîâåðêå òàêèõ ãèïîòåç. Îäíàêîñîäåðæàùååñÿ â íèõ óòâåðæäåíèå - ýòî âñå-òàêè èìåííî ðàâåíñòâî. Ñåé÷àñ æå ìûðàññìîòðèì ãèïîòåçû, èçíà÷àëüíî â ñâîåé ôîðìóëèðîâêå ñîäåðæàùèå íåðàâåíñòâà,êàñàþùèåñÿ íåèçâåñòíîãî ïàðàìåòðà a.
Ýòè íåðàâåíñòâà áóäóò êàê ðàç ñòðîãî âûðàæàòü ìûñëü î òîì, ÷òî èñòèííîå çíà÷åíèå a áëèçêî ê a0 - òîìó çíà÷åíèþ, êîòîðîåíàçâàëè ìû.Ñïåðâà ðàññìîòðèì îäíîìåðíûé ñëó÷àé. Ïóñòü X = (X1 , . . . , Xn ) - âûáîðêà èçN (a, σ 2 ). Òîãäà èç êëàññè÷åñêîé ìàòåìàòè÷åñêîé ñòàòèñòèêè íàì èçâåñòíî ñëåäóþùåå:Óòâåðæäåíèå 4.13. Âåðîÿòíîñòü òîãî, ÷ò¯√ X − a ¯¯ < tε ,¯ n¯s ¯ðàâíà 1 − 2ε ïðè ëþáûõ çíà÷åíèÿõ ïàðàìåòðîâ ðàñïðåäåëåíèÿ a, σ .
Çäåñü ε ∈ (0; 1/2),nP1s := n−1(Xk − X)2 - ýìïèðè÷åñêàÿ äèñïåðñèÿ (íåñìåùåííàÿ îöåíêà äëÿ σ 2 ), à t1−2εk=1- êâàíòèëü ðàñïðåäåëåíèÿ Ñòüþäåíòà ñ n − 1 ñòåïåíÿìè ñâîáîäû, ñîîòâåòñòâóþùèéóðîâíþ 1 − 2ε.Ïåðåôðàçèðóåì ýòîò ôàêò òàê: åñëè a0 - îáúÿâëåííîå çíà÷åíèå ïàðàìåòðà a ðàñïðåäåëåíèÿ N (a, σ 2 ), òî ìû îòâåðãàåì íà óðîâíå 2ε ýòó ãèïîòåçó òîãäà è òîëüêî òîãäà,êîãäà Òàê ìû âûðàçèëè ìûñëü ìíîãîìåðíîì ñëó÷àå ìûñëü î ìàëîñòè a−a0 , ãäå a0 - îáúÿâëåííîå, à a - èñòèííîåçíà÷åíèå ïàðàìåòðà, ìîæíî âûðàçèòü ñ ïîìîùüþ ìåòîäà Ðîÿ ñâåäåíèÿ ìíîãîìåðíûõçàäà÷ ê îäíîìåðíûì. Äðóãèìè ñëîâàìè, ìû ñ÷èòàåì, ÷òî a − a0 ìàëî òîãäà è òîëüêîòîãäà, êîãäà uT a − uT a0 ìàëî ïðè âñåõ u ∈ Rp , u 6= 0.
Íî ìû æå ðàñïîëàãàåì ñïîñîáîì ôîðìàëüíî îáúÿñíèòü, ÷òî çíà÷èò, ÷òî uT a − uT a0 ìàëî äëÿ ôèêñèðîâàííîãîu ∈ Rp , u 6= 0. À èìåííî, ïóñòü (X1 , . . . , Xn ) - íàøà èñõîäíàÿ âûáîðêà èç Np (a, Q)(a ∈ Rp , Q > 0 - ìàòðèöà ðàçìåðà p × p - íåèçâåñòíûå ïàðàìåòðû ðàñïðåäåëåíèÿ.Òîãäà (uT X1 , .
. . , uT Xn ) åñòü âûáîðêà èç óæå îäíîìåðíîãî ãàóññîâñêîãî ðàñïðåäåëåíèÿ N (uT a, uT Qu). Âûáîð÷íàÿ äèñïåðñèÿ s äëÿ äàííîé âûáîðêè ðàâíà (ïîäñ÷èòàéòåýòî!) uT Su. Çíà÷èò, uT a − uT a0 ìàëî, åñë误¯√ uT a − uT a0 ¯¯ n¯ < δ.(4.5)¯uT Su ¯(Çäåñü δ > 0 - íåêîòîðîå ÷èñëî; ìû ìîæåì åãî âûáèðàòü, âîîáùå ãîâîðÿ, ïðîèçâîëüíî.) Íî íàì íåîáõîäèìî, ÷òîáû uT a − uT a0 áûëî ìàëî íå ïðè êàêîì-òî îòäåëüíîì u, àïðè âñåõ u ∈ Rp , u 6= 0.
Ýòî ìîæíî ôîðìàëèçîâàòü òàêèì îáðàçîì: íåðàâåíñòâî (4.5)âûïîëíåíî ïðè âñåõ u ∈ Rp , u 6= 0. Èíà÷å ãîâîðÿ,¯¯¯√ uT a − uT a0 ¯¯ < δ.(4.6)max ¯ nu∈Rp ,u6=0 ¯uT Su ¯Ïî ëåììå 3.2 èç ãëàâû 3 (ïðîâåäèòå ïîäðîáíåå â ýòîì ìåñòå ðàññóæäåíèå!) ýòî âûïîëíåíî òîãäà è òîëüêî òîãäà, êîãäà(a − a0 )T S −1 (a − a0 ) < δ 2 .41Ýòî ìîæíî ñôîðìóëèðîâàòü òàê: ïàðàìåòð íåöåíòðàëüíîñòè ñòàòèñòèêè ÕîòåëëèíãàT 2 := n(X − a0 )T S −1 (X − a0 ) íå ïðåâîñõîäèò nδ 2 . Ïîýòîìó ñòàíåì îòâåðãàòü ãèïîòåçó(4.6) ïðè áîëüøèõ çíà÷åíèÿõ T 2 . Êðèòè÷åñêîå çíà÷åíèå óðîâíÿ α - îáîçíà÷èì åãît(α) - îïðåäåëèì êàê ðåøåíèå îòíîñèòåëüíî t ýêñòðåìàëüíîé çàäà÷è½¾(n − 1)pmax PF (p, n − p, ∆) ≤ t = 1 − α.∆≤nδ 2n−pÝòà çàäà÷à ðàâíîñèëüíà óðàâíåíèþ¾½(n − 1)p2F (p, n − p, nδ ) ≤ t = 1 − α,Pn−pò.ê.