Е.Е. Тыртышников - Матричный анализ и линейная алгебра (1112313), страница 49
Текст из файла (страница 49)
Çíà÷èò, ìíîæåñòâî ïñåâäîðåøåíèé ñîâïàäàåò ñ ìíîæåñòâîìðåøåíèé ñîâìåñòíîé ñèñòåìû Az = y . 2Ñðåäè âñåõ ïñåâäîðåøåíèé âûäåëÿåòñÿ ïñåâäîðåøåíèå x̂ ìèíèìàëüíîé äëèíû îíîíàçûâàåòñÿ íîðìàëüíûì ïñåâäîðåøåíèåì. Ãåîìåòðè÷åñêè ÿñíî, ÷òî x̂ åñòü ïåðïåíäèêóëÿð, îïóùåííûé íà kerA èç ëþáîãî ÷àñòíîãî ðåøåíèÿ z ñîâìåñòíîé ñèñòåìû Az = y(âåêòîð y îðòîãîíàëüíàÿ ïðîåêöèÿ âåêòîðà b íà imA).
Òàêèì îáðàçîì, íîðìàëüíîåïñåâäîðåøåíèå ñóùåñòâóåò è åäèíñòâåííî.Ñèíãóëÿðíîå ðàçëîæåíèå ïîçâîëÿåò äàòü ÿâíûé âèä íîðìàëüíîãî ïñåâäîðåøåíèÿ:x̂ =rXv∗bkk=1σkuk .(∗)Äëÿ äîêàçàòåëüñòâà äîñòàòî÷íî ïðîâåðèòü, ÷òî b − Ax̂ ⊥ imA è x̂ ⊥ kerA.Ïðîñòîòà ôîðìóëû íå äîëæíà ñîçäàâàòü âïå÷àòëåíèå îá îòñóòñòâèè ïðîáëåì ïðè âû÷èñëåíèèÃëàâíàÿ ïðîáëåìà, ñîáñòâåííî, â òîì, ÷òî â ñëó÷àår < min(m, n)ðàíãrx̂.ìîæíî ïîâûñèòü ñêîëü óãîäíîìàëûì âîçìóùåíèåì ýëåìåíòîâ ìàòðèöû, à ýòî îçíà÷àåò, ÷òî íîðìàëüíîå ïñåâäîðåøåíèå, íåñìîòðÿ íàôàêò ñóùåñòâîâàíèÿ è åäèíñòâåííîñòè, íå ÿâëÿåòñÿ íåïðåðûâíîé ôóíêöèåé îò ýëåìåíòîâ ìàòðèöûÍàïðèìåð, ïóñòüm=n=1è ðàññìàòðèâàåòñÿ ñèñòåìàx̂ = 0, à íîðìàëüíîå ïñåâäîðåøåíèåx̂(ε) íå ñòðåìèòñÿ ê x̂ ïðè ε → 0. Ñàìà0 · x = 1.A.Åå íîðìàëüíîå ïñåâäîðåøåíèå åñòü,ε·x = 1åñòüx̂(ε) = 1/ε.î÷åâèäíî,âîçìóùåííîé ñèñòåìûâèäèì,çàäà÷à î âû÷èñëåíèè ñòîëü íåóñòîé÷èâîãî îáúåêòà íåÊàêêàæåòñÿ î÷åíü óæ îñìûñëåííîé. òî æå âðåìÿ, çàäà÷è òàêîãî ðîäà ïîñòîÿííî âîçíèêàþò â ïðèëîæåíèÿõ, è îò íàñ òðåáóþòñÿ êàêèåòî ìåòîäû èõ ðåøåíèÿ.
Ïðè ïîñòðîåíèè òàêèõ ìåòîäîâ ñëåäóåò èìåòü â âèäó, ÷òî ýòî äîëæíû áûòü,ìåòîäû èçìåíåíèÿ ñàìîé ïîñòàíîâêè çàäà÷è.ìåòîäàìè ðåãóëÿðèçàöèè. 2ïðåæäå âñåãî,âàåìûìèÇàäà÷à.Ïîäîáíûå âîïðîñû ñâÿçàíû ñ òàê íàçû-Íàéòè íîðìàëüíîå ïñåâäîðåøåíèå íåñîâìåñòíîé ñèñòåìûx1 + x2 + .. + xn = 1,x1 + x2 + ... + xn = 0.2 Îáùóþ òåîðèþ ìåòîäîâ ðåãóëÿðèçàöèè ñîçäàë îñíîâàòåëü ôàêóëüòåòà ÂÌèÊ àêàäåìèê ÀíäðåéÍèêîëàåâè÷ Òèõîíîâ.Å. Å. Òûðòûøíèêîâ35.6233Ïñåâäîîáðàòíàÿ ìàòðèöàÔîðìóëó (∗) äëÿ íîðìàëüíîãî ïñåâäîðåøåíèÿ ìîæíî çàïèñàòü òàêæå â âèäå1/σ1.. ∗.x̂ = M b, M = U V .1/σrÌàòðèöà M íàçûâàåòñÿ ïñåâäîîáðàòíîé (ïî ÌóðóÏåíðîóçó) äëÿ ìàòðèöû A.  ñèëó åäèíñòâåííîñòè íîðìàëüíîãî ïñåâäîðåøåíèÿ ïñåâäîîáðàòíàÿ ìàòðèöà îïðåäåëÿåòñÿîäíîçíà÷íî ïî ìàòðèöå A.
Îáîçíà÷åíèå: M = A+ .Çàäà÷à.ÏóñòüA ïðîèçâîëüíàÿ ïðÿìîóãîëüíàÿ ìàòðèöà èA+ åå ïñåâäîîáðàòíàÿ ìàòðèöà.Äîêàæèòå, ÷òî âûïîëíÿþòñÿ ñîîòíîøåíèÿ(AA+ )∗ = AA+ , (A+ A)∗ = A+ A, AA+ A = A, A+ AA+ = A+ .Äîêàæèòå òàêæå, ÷òî35.7A+ åäèíñòâåííàÿ ìàòðèöà, óäîâëåòâîðÿþùàÿ ýòîé ñèñòåìå óðàâíåíèé.Íàèëó÷øèå àïïðîêñèìàöèè ñ ïîíèæåíèåì ðàíãà êàæäîé ìàòðèöå σk vk u∗k ýëåìåíò â ïîçèöèè (i, j) ìîæåò ðàññìàòðèâàòüñÿ êàê ôóíêöèÿîò i è j ñ ðàçäåëåííûìè äèñêðåòíûìè ïåðåìåííûìè i è j : f (i, j) = f1 (i)f2 (j). ÒàêèìrPîáðàçîì, çàïèñü A â âèäå A =σi vi u∗i îïèñûâàåò íåêîòîðûé ñïåöèàëüíûé ñïîñîá ðàçi=1äåëåíèÿ ïåðåìåííûõ â êàæäîì ÷ëåíå ñóììû èëè, â ìàòðè÷íîé òåðìèíîëîãèè, ñêåëåòíîåðàçëîæåíèå ìàòðèöû A ïðè÷åì ñ âàæíûì äîïîëíèòåëüíûì ñâîéñòâîì îðòîíîðìèðîâàííîñòè ñèñòåì u1 , .
. . , ur è v1 , . . . , vr .Îñîáàÿ öåííîñòü è øèðîòà ïðèìåíåíèé ñèíãóëÿðíîãî ðàçëîæåíèÿ âûçâàíû, ïðåæäåâñåãî, òåì, ÷òî îíî äàåò ïðîñòîé è íàäåæíûé ìåõàíèçì èñêëþ÷åíèÿ èç ìàòðèöû íàèìåíåå çíà÷èìîé èíôîðìàöèè ïóòåì åå àïïðîêñèìàöèè ñóììîé ìåíüøåãî ÷èñëà ñëàãàåìûõ ñ ðàçäåëåííûìè ïåðåìåííûìè i è j . Ðå÷ü èäåò î ïîèñêå ýëåìåíòà íàèëó÷øåãîïðèáëèæåíèÿ äëÿ çàäàííîé ìàòðèöû A íà äîâîëüíî ñëîæíîì ìíîæåñòâå ìíîæåñòâåìàòðèö, ðàíã êîòîðûõ îãðàíè÷åí çàäàííûì ÷èñëîì.Òåîðåìà î íàèëó÷øèõ àïïðîêñèìàöèÿõ ñ ïîíèæåíèåì ðàíãà. Ïóñòü ìàòðèöàA ∈ Cm×n çàäàíà ñèíãóëÿðíûì ðàçëîæåíèåì âèäàA=rXσl vl u∗l ,l=1è óñëîâèìñÿ ñ÷èòàòü, ÷òî σr+1 = 0.
Ïóñòü çàäàíî öåëîå 1 ≤ k ≤ r. ÒîãäàminrankB ≤ kB ∈ Cm×n||A − B||2 = σk+1 = ||A − Ak ||2 ,ãäåAk =kXσl vl u∗l .l=1Äîêàçàòåëüñòâî. Ïóñòü rankB ≤ k . Òîãäà dim kerB ≥ n − k . Ðàññìîòðèì ëèíåéíóþîáîëî÷êó L = L(u1 , . . . , uk+1 ), íàòÿíóòóþ íà ñòàðøèå ñèíãóëÿðíûå âåêòîðû. Ïî òåîðåìåÃðàññìàíà,dim(kerB ∩ L) = dim kerB + dim L − dim(kerB + L) ≥ (n − k) + (k + 1) − n = 1.234Ëåêöèÿ 35Ïîýòîìó ñóùåñòâóåò íåíóëåâîé âåêòîð z ∈ kerB ∩ L. Áóäåì ñ÷èòàòü, ÷òî ||z||2 = 1.Ó÷èòûâàÿ, ÷òîk+1k+1XXαl ul ,|αl |2 = 1,z=l=1íàõîäèìl=1vu k+1uX||A − B||2 ≥ ||(A − B)z||2 = ||Az||2 = t|αl |2 σl ≥ σk+1 .l=1 òî æå âðåìÿ,A − Ak =rXσl vl u∗l ⇒ ||A − Ak ||2 = σk+1 .2l=k+135.8Ðàññòîÿíèå äî ìíîæåñòâà âûðîæäåííûõ ìàòðèöÅñëè A íåâûðîæäåííàÿ ìàòðèöà, òî âñå ìàòðèöû A + F ïðè äîñòàòî÷íî ìàëîé íîðìå||F ||2 áóäóò íåâûðîæäåííûìè (ïî÷åìó?). Ïîä ñïåêòðàëüíûì ðàññòîÿíèåì ìåæäó A èìíîæåñòâîì âûðîæäåííûõ ìàòðèö ïîíèìàåòñÿ âåëè÷èíà ρ ≡ inf ||A − B||2 .det B=0Èç òåîðåìû îá àïïðîêñèìàöèÿõ ñ ïîíèæåíèåì ðàíãà âûòåêàåò, ÷òîρ =infrankB≤n−1||A − B||2 = σn (A).Òàêèì îáðàçîì, ñïåêòðàëüíîå ðàññòîÿíèå îò çàäàííîé íåâûðîæäåííîé ìàòðèöû äîìíîæåñòâà âûðîæäåííûõ ìàòðèö ðàâíî åå ìèíèìàëüíîìó ñèíãóëÿðíîìó ÷èñëó.Ýòîò ðåçóëüòàò ïîä÷åðêèâàåò çíà÷åíèå îðòîíîðìèðîâàííûõ áàçèñîâ: åñëè ìàòðèöàV óíèòàðíàÿ, òî ìàòðèöà V + F áóäåò íåâûðîæäåííîé äëÿ âñåõ âîçìóùåíèé F ïðèóñëîâèè ||F ||2 < 1 (äîêàæèòå!).
 ÷àñòíîñòè, ìàòðèöà I + F áóäåò íåâûðîæäåííîé äëÿâñåõ âîçìóùåíèé F ñ íîðìîé ||F ||2 < 1.Çàäà÷à.ÏóñòüÄîêàæèòå, ÷òîσ1 ≥ ... ≥ σn ñèíãóëÿðíûå ÷èñëà n × n-ìàòðèöû1 a11 a2....A=a1 , . . . , an−1 > 0.,..1 an−1 10 < σn < 1/(a1 ... an−1 ).Ëåêöèÿ 3636.1Êâàäðàòè÷íûå ôîðìûÂûðàæåíèå faij xi xj íàçûâàåòñÿ êâàäðàòè÷íîé ôîðìîé îò ïåðåìåííûõP=1≤i,j≤nx1 , . .
. , xn . Ïðè i 6= j â ñóììå èìåþòñÿ äâà ÷ëåíà, äëÿ êîòîðûõaij xi xj + aji xj xi =aij + aji(xi xj + xj xi ).2Ïîýòîìó, íå îãðàíè÷èâàÿ îáùíîñòè, âñåãäà ïîëàãàþò, ÷òî aij = aji .Êâàäðàòè÷íûå ôîðìû óñïåøíî èçó÷àëèñü åùå äî ââåäåíèÿ ïîíÿòèÿ ìàòðèöû. Ñîâðåìåííûé ïîäõîä, êîíå÷íî, èñïîëüçóåò ìàòðèöû îíè âîçíèêàþò çäåñü åñòåñòâåííûìîáðàçîì: a11 . . . a1nx1>f = x Ax, ãäå A = . .
. . . . . . . , x = ... .an1 . . . annxnÌàòðèöà A íàçûâàåòñÿ ìàòðèöåé êâàäðàòè÷íîé ôîðìû f . Ñîãëàñíî íàøåé äîãîâîðåííîñòè, aij = aji ïîýòîìó ìàòðèöà A ñèììåòðè÷íàÿ.Ïðèìåð.Ïóñòü f = x1 (x1 + x2 + ... + xn ). Òîãäà" #1/2 ... 1/21x11/2f = [x1 ... xn ] A ... , A = ....0xn1/2Îòñþäà ñëåäóåò, â ÷àñòíîñòè, ÷òî ìàêñèìàëüíîå çíà÷åíèå êâàäðàòè÷íîé ôîðìû f îòâåùåñòâåííûõ ïåðåìåííûõ x1 , ..., xn ïðè óñëîâèè x21 + ... + x2n = 1 ðàâíî ìàêñèìàëüíîìóñîáñòâåííîìó çíà÷åíèþ âåùåñòâåííîé ñèììåòðè÷íîé ìàòðèöû A.Çàäà÷à.2A =Ïóñòü ðàíã âåùåñòâåííîé ñèììåòðè÷íîé ìàòðèöû ïîðÿäêàA.
Äîêàæèòå, ÷òî 136.2√||A||∞ ≤nðàâåí 1 è, êðîìå òîãî,n+12 .ÊîíãðóýíòíîñòüÇàìåíà ïåðåìåííûõ x = P y ñ ïîìîùüþ íåâûðîæäåííîé ìàòðèöû P äåëàåò f êâàäðàòè÷íîé ôîðìîé îò íîâûõ ïåðåìåííûõ:f = x> Ax = (P y)> A(P y) = y > (P > AP )y.1 Íàïîìíèì, ÷òî||A||∞ =maxnP1≤i≤m j=1|aij |.235236Ëåêöèÿ 36Ìàòðèöû A è B , ñâÿçàííûå ðàâåíñòâîì B = P > AP äëÿ íåêîòîðîé íåâûðîæäåííîéìàòðèöû P , íàçûâàþòñÿ êîíãðóýíòíûìè. Ëåãêî âèäåòü, ÷òî îòíîøåíèå êîíãðóýíòíîñòèåñòü îòíîøåíèå ýêâèâàëåíòíîñòè íà ìíîæåñòâå ìàòðèö ôèêñèðîâàííîãî ïîðÿäêà.Êâàäðàòè÷íûå ôîðìû îò òðåõ ïåðåìåííûõ íàì óæå âñòðå÷àëèñü ïðè èçó÷åíèè ïîâåðõíîñòåé âòîðîãî ïîðÿäêà.
 ýòîì ñëó÷àå ïåðåìåííûå áûëè âåùåñòâåííûìè êîîðäèíàòàìè, à ìàòðèöà A âåùåñòâåííîé ñèììåòðè÷íîé ìàòðèöåé. Òîãäà íàñ îñîáåííîèíòåðåñîâàëè äåêàðòîâû ñèñòåìû êîîðäèíàò ïîýòîìó òðåáîâàëîñü, ÷òîáû ìàòðèöàP áûëà îðòîãîíàëüíîé. Êàê ñëåäñòâèå, ïåðåõîä îò A ê B â äàííîì ñëó÷àå ÿâëÿåòñÿîäíîâðåìåííî ïðåîáðàçîâàíèåì êîíãðóýíòíîñòè è ïîäîáèÿ.36.3Êàíîíè÷åñêèé âèä êâàäðàòè÷íîé ôîðìûÌû çíàåì, ÷òî ëþáàÿ âåùåñòâåííàÿ ñèììåòðè÷íàÿ ìàòðèöà îðòîãîíàëüíî ïîäîáíà âåùåñòâåííîé äèàãîíàëüíîé ìàòðèöå:Λ = P > AP,P > = P −1 ,P ∈ Rn×n . íîâûõ ïåðåìåííûõ êâàäðàòè÷íàÿ ôîðìà f îêàçûâàåòñÿ àëãåáðàè÷åñêîé ñóììîéêâàäðàòîâf = λ1 y12 + . .
. + λn yn2 . îáùåì ñëó÷àå îò P ìîæíî òðåáîâàòü ëèøü íåâûðîæäåííîñòè. Ïîèñê ñîîòâåòñòâóþùåé çàìåíû ïåðåìåííûõ (ìàòðèöû P ) äëÿ çàäàííîé êâàäðàòè÷íîé ôîðìû íàçûâàåòñÿïðèâåäåíèåì ê êàíîíè÷åñêîìó âèäó. Åñëè P îðòîãîíàëüíàÿ ìàòðèöà, òî ãîâîðÿò îïðèâåäåíèè f ê ãëàâíûì îñÿì.Åñëè r = rankΛ = rankA, òî â äàííîé ñóììå ìîæíî îñòàâèòü òîëüêî r ÷ëåíîâ,îòâå÷àþùèõ λi 6= 0. Íå îãðàíè÷èâàÿ îáùíîñòè, ìîæíî ñ÷èòàòü, ÷òîλ1 , . . . , λk > 0,λk+1 , . . . , λr < 0,λr+1 = . . . = λn = 0.Î÷åâèäíî, k , r −k è n−r ðàâíû, ñîîòâåòñòâåííî, ÷èñëó ïîëîæèòåëüíûõ, îòðèöàòåëüíûõè íóëåâûõ ñîáñòâåííûõ çíà÷åíèé ìàòðèöû A.Òðîéêà ÷èñåë (k, r − k, n − r) íàçûâàåòñÿ èíåðöèåé âåùåñòâåííîé ñèììåòðè÷íîé ìàòðèöû A. Òî÷íî òàê æå ââîäèòñÿ ïîíÿòèå èíåðöèè äëÿ ïðîèçâîëüíîé ýðìèòîâîé ìàòðèöû.36.4Çàêîí èíåðöèèÏóñòü âñå ìàòðèöû âåùåñòâåííûå.Òåîðåìà.
Âåùåñòâåííûå ñèììåòðè÷íûå ìàòðèöû êîíãðóýíòíû òîãäà è òîëüêî òîãäà, êîãäà îíè èìåþò îäèíàêîâóþ èíåðöèþ.Äîêàçàòåëüñòâî. Äîñòàòî÷íî äîêàçàòü ñîâïàäåíèå èíåðöèé äëÿ êîíãðóýíòíûõ âåùåñòâåííûõ äèàãîíàëüíûõ ìàòðèö. Ïóñòü ýòî ìàòðèöû Λ è D = P > ΛP , ãäå P âåùåñòâåííàÿ íåâûðîæäåííàÿ ìàòðèöà.
Êîíå÷íî, D è Λ èìåþò îáùèé ðàíã r. Ïóñòü èíåðöèÿ Dðàâíà (l, r − l, n − r), à èíåðöèÿ Λ ðàâíà (k, r − k, n − r). Ïðåäïîëîæèì, ÷òîd1 , . . . , dl > 0,dl+1 , . . . , dr < 0;λ1 , . . . , λk > 0,λk+1 , . . . , λr < 0.Ðàâåíñòâî y > Dy = x> Λx ïðè óñëîâèè x = P y îçíà÷àåò, ÷òî2(d1 y1 + .
. . + dl yl2 ) + (dl+1 yl+1+ . . . + dr yr2 ) =Å. Å. Òûðòûøíèêîâ237(λ1 x1 + . . . + λk x2k ) + (λk+1 x2k+1 + . . . + λr x2r ).(∗)Ðàññìîòðèì äâà ïîäïðîñòðàíñòâà:M = {y ∈ Rn : y = P −1 x, x1 = . . . = xk = 0}.L = {y ∈ Rn : yl+1 = . . . = yr = 0},Ëåãêî âèäåòü, ÷òî dim L = l. Ïîñêîëüêó y = P −1 x, ÿñíî, ÷òî dim M = n − k . Åñëè l > k ,òî dim L + dim M > n ⇒ ñóùåñòâóåò íåíóëåâîé âåêòîð y ∈ L ∩ M . Äëÿ ýòîãî âåêòîðày ëåâàÿ ÷àñòü â ðàâåíñòâå (∗) ñòðîãî ïîëîæèòåëüíà, à ïðàâàÿ ÷àñòü îòðèöàòåëüíà èëèðàâíà íóëþ.