Лекции (1163663)
Текст из файла
×èñëåííûå ìåòîäû.7 èþëÿ 2005 ã.Ëåêòîð Àðóøàíÿí Èãîðü Îëåãîâè÷.Êîíñïåêò ëåêöèé ãð.4071 Ëåêöèÿ 1.Ðåøåíèå ñèñòåì àëãåáðàè÷åñêèõ óðàâíåíèé.Ðåøåíèå çàäà÷è Ax = b â ïðåäïîëîæåíèè ∃A−1 ñâîäèòñÿ ê ðàçëîæåíèþ ìàòðèöû Aíà ïðîèçâåäåíèå äðóãèõ ìàòðèö. Íàïðèìåð, A = LU (÷àñòíûé ñëó÷àé - ìåòîä Ãàóññà)ïðîèçâåäåíèå íèæíåòðåóãîëüíîé è âåðõíåòðåóãîëüíîé ìàòðèö.Ðåøåíèå çàäà÷è ëèíåéíîé àëãåáðû ñ òðåóãîëüíîé ìàòðèöåé dim n òðåáóåò O(n2 )àðèôìåòè÷åñêèõ îïåðàöèé.Ðàññìîòðèì âîïðîñ - ñêîëüêî ñòåïåíåé ñâîáîäû èìååò çàäà÷à ðàçëîæåíèÿ ìàòðèöûíà òðåóãîëüíûål11 0 . . .
0u11 u12 . . . u1n l21 l22 . . . 0 0u22 . . . u2n (aij )n×n = .... .... .... .. . ..······. ln1 ln2 . . . lnn00. . . unnÈìååì n2 óðàâíåíèé è n2 + n íåèçâåñòíûõ. Ñëåäîâàòåëüíî n ñòåïåíåé ñâîáîäû.Åñëè óæå åñòü ðàçëîæåíèå A = LU , òî èìååì òàêæå åùå ìíîãî ñïîñîáîâ ðàçëîæåíèÿA = L0 U 0 , L0 = LD, U 0 = D−1 U , ãäå D - ïðîèçâîëüíàÿ íåâûðîæäåííàÿ äèàãîíàëüíàÿìàòðèöà.
(Èñïîëüçîâàíû âñå ñòåïåíè ñâîáîäû)Äëÿ íåâûðîæäåííîé ìàòðèöû A äîëæíî áûòü ljj 6= 0, uii 6= 0.Íå îãðàíè÷èâàÿ îáùíîñòè ìîæíî ïîòðåáîâàòü ïðè ïîñòðîåíèè ljj = 1 ∀j èëè uii =1 ∀i. Áåðåì âòîðîé âàðèàíò.Äëÿ ïîñòðîåíèÿ ðàçëîæåíèÿ èñïîëüçóåòñÿ îáùèé Àëãîðèòì Êðàóòà nPlik ukj + lij = aij ,i = j, ..., nk=1nP(ljk ukj + ljj uji ) = aji , i = j + 1, ..., nk=11µ0 11 0¶Ñ òî÷êè çðåíèÿ ðåàëèçàöèè ðàñ÷åòîâ íà ÝÂÌ äëÿ ìàòðèöû A =ýòîòµ¶ε bàëãîðèòì ïîäõîäèò ïëîõî, ïîñêîëüêó äàåò U =ñ ìàëûì ε.0 εÄëÿ òîãî, ÷òîáû èçáàâèòüñÿ îò ýòîé ïðîáëåìû, èñïîëüçóþò óìíîæåíèå èñõîäíîéçàäà÷è íà ìàòðèöó ïåðåñòàíîâêè (ñîñòîèò èç 0 è 1 - â êàæäîé ñòîêå è êàæäîì ñòîëáöåòîëüêî ïî îäíîé åäèíèöå)• äëÿ ñòðîê P Ax = P b,• äëÿ ñòîëáöîâ ASS −1 x = b.½L |{z}U x = b −→y(Î ÷åì øëà ðå÷ü?)det A ≈ 0 : Ly = bO(n3 ) îïåðàöèéUx = y0.1 000.1...···00.........00....
. . 0.1− ïëîõî100×100(÷òî æ òóò ïëîõîãî?)1 −a a2 −a3 . . .1 −aa2 . . . ðàñòåò âû÷èñëèòåëüíàÿ ïîãðåøíîñòü...−ïðè |a| > 1....1 ìíîãî × ìíîãîÄëÿ ñèììåòðè÷íûõ ïîëîæèòåëüíî îïðåäåëåííûõ ìàòðèö [ A = AT > 0, ò.å. aij = ajiè A = B T B èëè (Ax, x) > 0 ∀x 6= 0 ⇒ aii > 0 ò.ê. (Aei , ei ) > 0 : (0... |{z}1 ...0) ] îäèí èçïîïóëÿðíûõ ìåòîäîâ - ìåòîä êâàäðàòíîãî êîðíÿ (Õîëåöêîãî).Ïðåäñòàâèì A = LLT è íàéäåì òàêîå ðàçëîæåíèå â ÿâíîì âèäå√l11 = a11li1 = sai1 /l11 , i > 1i−1P 2lii = aii −lij , i = 2, ..., nlij =j=1i−1X1(aij −ljk lik )ljjk=12iÄëÿ ïðîèçâîëüíûõ íåâûðîæäåííûõ ìàòðèö ìîæíî èñïîëüçîâàòü ðàçëè÷íûå âàðèàíòûQR àëãîðèòìà - ìåòîä âðàùåíèé, ìåòîä îòðàæåíèé ...A = QR, QQT = E(Q îðòîãîíàëüíàÿ ìàòðèöà) −→QRx = bRx = QT bÌåòîä çàêëþ÷àåòñÿ â ïîñëåäîâàòåëüíîì óìíîæåíèè èñõîäíîé ñèñòåìû óðàâíåíèé ñëåâàíà îðòîãîíàëüíûå ìàòðèöûì.á. ãäå-òî òðàíñïîíèðîâàíèÿ íå õâàòàåò?Q ...Q A x = Qn ...Q1 b| n {z 1 }Ròàê, ÷òîáû îáíóëèòü ýëåìåíòû ìàòðèöû∗ ∗ 0 ∗Q1 A = .. .
···0 ∗.........∗∗...... ∗- â ìåòîäå îòðàæåíèé ýòó ïðîöåäóðó ìîæíî îñóùåñòâèòü çà ñ÷åò âûáîðà îäíîé ìàòðèöûQ1 ; â ìåòîäå âðàùåíèé ñàìà ìàòðèöà Q1 ÿâëÿåòñÿ ïðîèçâåäåíèåì íåñêîëüêèõ åùåáîëåå ïðîñòûõ ìàòðèö âðàùåíèé.3-x äèàãîíàëüíûå ìàòðèöû. Ìåòîä ïðîãîíêè äëÿ 3-õ äèàãîíàëüíûõ ìàòðèö.α1 γ1A= 0 ···0β1α20β2...0...0...γ2 α3···.. .. .....βn−1. . . 0 γn−1 αnα1 x1 + β1 x2 = b1γx+αi−1 i−1i xi + βi xi+1 = bi , i = 2, ..., n − 1 γn−1 xn−1 + αn xn = bnÏóñòü ðåøåíèå ñóùåñòâóåò.
Áóäåì åãî èñêàòü â âèäåxi = Ai+1 xi+1 + Bi+1(!)Íàéäåì {Ai }, {Bi } - ïðîãîíî÷íûå êîýôôèöèåíòû, à çàòåì xn . Ïîäñòàâëÿåì xi−1 =Ai xi + βi â i-òîå óðàâíåíèåγi Ai xi + γi βi + αi xi + βi xi+1 = biãðóïïèðóåì(γi Ai + αi )xi = −βi xi+1 + bi − γi βiïîëó÷àåìAi+1 =−βibi − γi βi, Bi+1 =γ Ai + αiγi Ai + αi| i {z} 6=03(!!)Äëÿ âû÷èñëåíèÿ ïî ýòèì ðåêóððåíòíûì ñîîòíîøåíèÿì òðåáóþòñÿ íà÷àëüíûå óñëîâèÿ,êîòîðûå ñðàçó ïîëó÷àþòñÿ èç ïåðâîãî óðàâíåíèÿ èñõîäíîé ñèñòåìû óðàâíåíèéA2 =−β1b1; B2 = .α1α1Èç ïîñëåäíåãî óðàâíåíèÿ ñèñòåìû è âûáðàííîé ôîðìû ïðåäñòàâëåíèÿ ðåøåíèÿ¯½γn−1 xn−1 + αn xn = bn ¯¯¯ ⇒ ïîëó÷àåì xnxn−1 = An xn + BnÏðè âû÷èñëåíèÿõ ïî âûâåäåííûì ôîðìóëàì âîçìîæíû ïðîáëåìû1.
äåëåíèå íà íîëü2. íåñîâìåñòíîñòü ïîñëåäíåé ñèñòåìû3. xn ïîëó÷åíà ñ ïîãðåøíîñòüþ, êîòîðàÿ çàòåì âîçðàñòàåò çà ñ÷åò "íåõîðîøèõ"ïðîãîíî÷íûõ êîýôôèöèåíòîâ.Óñëîâèÿ, ïðè êîòîðûõ ïðîáëåìû 1-3 ïðîïàäàþò:1)2)3)4)5)|αi | ≥ |γi−1 | + |βi |;α1 = αn = 1;|β1 | ≤ 1; |γn | ≤ 1;|β1 | + |γn | ≤ 2;∀i γi 6= 0, βi = 0(çäåñü âñå îïå÷àòêè åùå ïðåäñòîèò èñïðàâèòü!).
Èç 1)-5) ïîëó÷àåòñÿ "Òåîðåìêà"|Ai | ≤ 1.2 ïî èíäóêöèè. Ïóñòü |Ai | ≤ 1.? ⇒?|Ai+1 | ≤ 1.Äàëüíåéøèé òåêñò íàäî âîñïðèíèìàòü, êàê äîêàçàòåëüñòâî|Ai γi + αi | − |βi | ≥ |αi | − |Ai γi | ≥1) |γi | + |βi | − |Ai γi | − |βi |−βi≤1çíàìåíàòåëü⇒ |Ai γi + αi | ≥ |βi | >5) 0 ⇒ çíàìåíàòåëü 6= 0(i ≤ n − 1) xn−1 = An xn + BnB − bn /γnαnbn ⇒ xn = nαn xn−1 = − xn +An +γnγnγn: |γi |(1 − Ai |) ≥ 0. ⇒ Ai+1 =ñòðîãî!ëèáî1)|β1 | < 1 ⇒ |A2 | < 1, |An | < 1 ⇒ çíàìåíàòåëü â ôîðìóëå äëÿ xn 6= 03)⇒4)ëèáî2)|γn | < 1 ⇒ çíàìåíàòåëü 6= 0(àíàëîãè÷íî)4Òàêîå âîò äîêàçàòåëüñòâî!Ïðèìåð.(íåèçâåñòíûå îáîçíà÷åíèÿ!)1−10 ...0 −12 −1.. ..
.....−12 −1 −11åñëèPb2 Ax = bbi = 0, òî ñèñòåìà èìååò ∞ ìí.ðåø.2 Ëåêöèÿ 2. ïðèìåðå, íà êîòîðîì çàêîí÷èëàñü ïðåäûäóùàÿ ëåêöèÿ1−10 ...0 −12 −1b......2 Ax = b...−12 −1 −11ïðîáëåìà çàêëþ÷àåòñÿ êàê ðàç â íàõîæäåíèè xn .Íîðìû âåêòîðîâ.
Íîðìû ìàòðèö. Âîçìóùåíèÿ.Ïóñòü Ax = b - ëèíåéíàÿ ñèñòåìà, A - êâàäðàòíàÿ ìàòðèöà. Åñòåñòâåííî âîçíèêàþòâîïðîñû:1. Êàê îøèáêè â A è b âëèÿþò íà x ?2. Êàê îøèáêè â âû÷èñëåíèÿõ ïî âûáðàííîìó àëãîðèòìó (ìåòîäó) âëèÿþò íà x ?Íîðìû âåêòîðîâ.Îïðåäåëåíèå.k.k : Rn → Rn1) kxk ≥ 0, kxk = 0 ⇔ x = 0,2) kαxk = |α|kxk, α ∈ R,3) kx + yk ≤ kxk + kyk.Ïðèìåðû íîðì:1. Àáñîëþòíàÿ íîðìà (1-íîðìà,l1 -íîðìà) kxk1 =P|xi |i2.
Åâêëèäîâà íîðìà (2-íîðìà, l2 −íîðìà) kxk2 = (x, x)1/2 = (xT x)1/2 = (5P1/2x2i )3. Ìàêñèìàëüíàÿ íîðìà (l∞ -íîðìà) kxk∞ = max |xi |i4. Íîðìà üëüäåðà ñ ïîêàçàòåëåì p : kxkp = (P|xi |p )1/p äàëüíåéøåì áóäóò èñïîëüçîâàòüñÿ ñòàíäàðòíûå îáîçíà÷åíèÿ: ïóñòü x - òî÷íîåðåøåíèå çàäà÷è, x̃ - ïðèáëèæåííîåkδxk = kx − x̃kkx − x̃kk∆xk =kxkÌàòðè÷íûå íîðìû.Îïðåäåëåíèå.kAk ≥ 0kαAk = |α|kAkàääèòèâíûå íîðìûkA + Bk ≤ kAk + kBkkABk ≤ kAkkBkñâîéñòâî ìóëüòèïëèêàòèâíîñòèÏðèìåðû:PkAk1 = max |aij |qj ikAk2 = max λi (AT A)i PkAk∞ = max |aij |ijrP Páåç äîê-âà p|aij |2=kAkF = N (A) =tr(AT A)ijñòîëáöîâàÿñïåêòðàëüíàÿñòðî÷íàÿñôåðè÷åñêàÿÎïðåäåëåíèå.Íîðìû k.kI è k.kII íàçûâàþòñÿ ýêâèâàëåíòíûìè, åñëè αk.kI ≤ k.kII ≤ βk.kI .Ïðèìåðû:√1√ k.k1 ≤ k.k∞ ≤ nk.k1n√1√ k.k2 ≤ k.k1 ≤ nk.k2nÃîâîðÿò, ÷òî ìàòðè÷íàÿ íîðìà ñîãëàñîâàíà c âåêòîðíîé, åñëè kAxk ≤ kAk kxk ∀ A, x.kAxkkAk = sup= sup kAxk íàçûâàåòñÿ íîðìîé, ïîä÷èíåííîé äàííîé âåêòîðíîéx6=0 kxkx,kxk=1íîðìå.kAk1 ïîä÷èíåíà kxk1kAk2kxk2kAk∞kxk∞6Òî, ÷òî ýòî ìàòðè÷íûå íîðìû - î÷åâèäíîµ(÷åòâåðòîå óñëîâèå¶ îïðåäåëåíèÿ ïðîâåðÿåòñÿkAxk kBxkkAxkkBxkkAx + Bxk≤ sup+≤ sup+ sup=òàê: kA + Bk = supkxkkxkkxkkxkkxkkAk + kBk).Ïîä÷èíåííàÿ íîðìà ÿâëÿåòñÿ ñîãëàñîâàííîé:(∗)kABk = sup kABxk ≤ sup kAkkBxk ≤ sup kAkkBkkxk ≤ kAk kBkkxk=1kxk=1kxk=1kAxk(∗) ⇐≤ kAkkxkkEk â ïîä÷èíåííîé íîðìå ðàâíà 1, íî â ñëó÷àå ñôåðè÷åñêîé íîðìû kEkF =ò.å.
ýòà íîðìà íå ÿâëÿåòñÿ ïîä÷èíåííîé.max |aij | - íå ÿâëÿåòñÿ ìàòðè÷íîé íîðìîé:√n-i,jkAAk ≤ kAk kAk - íåâåðíî äëÿµ¶µ¶1 12 22A=,A =1 12 2- ïðîòèâîðå÷èå 2 ≤ 1.Ðàññìîòðèì âëèÿíèå íà ðåøåíèå âîçìóùåíèÿ ïðàâîé ÷àñòè ñèñòåìû àëãåáðàè÷åñêèõóðàâíåíèé:Ax = b,A(x + δx) = b + δbkδxk = kA−1 δbk ≤ kA−1 k kδbkAδx = δbkbk ≤ kAk kxkkδxkkx − x̃kkA−1 kkδbkkA−1 kkAk≤≤≤kδbk =kxkkxkkxkkbk= kA−1 kkAk ·k∆bk| {z }=condindex (A)èíäåêñ îáîçíà÷àåò êîíêðåòíóþ íîðìó - íàïðèìåð cond2 (A).Ax̃ − b- âåêòîð íåâÿçêè.kbkkAx̃ − bkkδxkcond(A) =kbkkxk7Åñëè â çàäà÷å ëèíåéíîé àëãåáðû ìàòðèöà çàäàåòñÿ ñ ïîãðåøíîñòüþ èëè, êàê ãîâîðÿò,âîçìóùàåòñÿ ìàòðèöà:µ¶kx − x̃kcond(A)kδAk kδbk≤+.kxk1 − kAδAk kAkkbkÌû ðàññìàòðèâàåì ñëó÷àé íåâûðîæäåííîé A.
Åñëè kAδAk ≥ 1 - íè÷åãî íåëüçÿ ñêàçàòüî ïîãðåøíîñòè.det A - íè÷åãî íå ãîâîðèò î ìàòðèöå: ïðèìåðû10−1 0 01) D = 2) A = A−110−1...0...1 −1 ....01 .... ....0 . . . 01 1. 0 ....=. 00.........000 10−1−1−1 12 . . . 2n−2.. ...... ....2... 11...0cond∞ (D) = 1det D = 10−ncond∞ A = n · 2n−1 , det A = 11Ïóñòü D = (λ1 ...λn ) - äèàãîíàëüíàÿ ìàòðèöà.Ðàññìîòðèì çàäà÷ó: íàéòè ìàòðè÷íóþ íîðìó, ïîä÷èíåííóþ åâêëèäîâîé, äëÿ äèàãîíàëüíîéìàòðèöû.kDk2 = max kDxk2kxk2 =1kDk22 = max kDxk22 = max (Dx, Dx) = (∗)kxk2 =1kxk2 =1ei = (0...0 |{z}1 0...) − n − ìåðíûé áàçèñiPPx=αi ei , (ei , ej ) = δij òîãäà Dx =αi λi eii= (∗) = kDk22 = Pmax2Pαi =1 i⇒ kDk2 =qiαi2 λ2i = max λ2i · Pmax2imax λ2ii8αi =1Pαi2λ2i= max λ2iimax λ2iÓòâåðæäåíèå 1.
kAk2 =| y Y Ax |kxk2 = 1 | {z }max=(y,Ax)kyk2 = 1Ê-ÁÄîê-âî : |y Y Ax| = |(y, Ax)| ≤ kyk2 kAxk2 ≤ kyk2 kAk2 kxk2AxÅñëè kxk2 = 1, kAxk2 = kAk2 kxk2 , äëÿ y =kxk2¯¯¯¯¯ (Ax)T¯ ¯ xT AT Ax ¯ (Ax, Ax)kAxk2¯=|y T Ax| = ¯¯Ax¯¯ = ¯¯== kAxk2kAxkkAxk ¯kAxkkAxkÓòâåðæäåíèå 2. kAT k2 = kAk2Äîê-âî : kAT k2 = max ky T AT x| =kxk,kyk=1Tmax kxT Ay| = kAk2 .kxk,kyk=1Óòâåðæäåíèå 3. kA Ak = kAk2 .kAT Ak =max |y T AT Ax| ≥ max |xT AT Ax| = max kAxk2 = kAk2 .kxk,kyk=1|x|=1Óòâåðæäåíèå 4. Åñëè Q - îðòîãîíàëüíàÿ, ò.å.
QT Q = E, kQk = 1, òîãäà kQAk2 =kAk2 = kAQk2 .Ñèíãóëÿðíîå ðàçëîæåíèå ìàòðèöû.(SVD - Singular Value Decomposition)U T AV = Σ• A - èñõîäíàÿ ìàòðèöà• U, V - îðòîãîíàëüíûå ìàòðèöû, íàçûâàþòñÿ ëåâîé è ïðàâîé ñèíãóëÿðíûìè îáðàòíûìè(?)• Σ - äèàãîíàëüíàÿ ìàòðèöà diag(σ1 . .
. σn ), σ1 ≥ σ2 ≥ · · · ≥ σr > σr+1 = · · · = σn =0Èç ðàâåíñòâà ΣΣT = U T A VV T} AT U ñðàçó ñëåäóåò, ÷òî ìàòðèöû ΣΣT è AAT| {z=Eÿâëÿþòñÿ îðòîãîíàëüíî ïîäîáíûìè. Òàêèì îáðàçîì äîêàçàíîÓòâåðæäåíèå. λi (AT A) = σi2 .kAk2 = kU ΣV T k = kΣV T k2 = kΣk2 =pmax |λi (AT A)|Ýòî äîêàçûâàåò, ÷òî ìàòðè÷íàÿ íîðìà, ñîãëàñîâàííàÿ ñ kxk2 - åñòü kAk2 .p−1kA−1 k = max |λi (AT A)| .×àñòíûé ñëó÷àé A = ATkAk2 = max |λi (A)|.93 Ëåêöèÿ 3.Èòàê, äëÿ êâàäðàòíîé ìàòðèöû A(m × m) ñèíãóëÿðíîå ðàçëîæåíèå îçíà÷àåò íàëè÷èåìàòðèö U, V ∈ ìíîæåñòâà îðòîãîíàëüíûõ òàêèõ, ÷òî U T AV = Σ, ãäå Σ - äèàãîíàëüíàÿìàòðèöà, ðàíã êîòîðûé ðàâåí rσ10...σi − ñèíãóëÿðíûå ÷èñëà ìàòðèöûΣ=σr00Ðàññìîòðèì âîïðîñ, êîãäà ìàòðèöà ïðÿìîóãîëüíàÿ A(m × n) m > n rankA = r ≤ n.Ïóñòü ∃ U (m × m), V (n × n) - îðòîãîíàëüíûå è òàêèå, ÷òî U T AV = Σ, ãäåσ10σ120......T2Σ=ΣΣ=σrσr000 (m×m)0 (m×m)Èç î÷åâèäíîé öåïî÷êè ðàâåíñòâΣΣT = (U T AV )(U T AV )T = U T A VV T} AT U = U T AAT U| {z=Eñëåäóåò, ÷òî ΣΣT îðòîãîíàëüíî ïîäîáíà AAT .
Характеристики
Тип файла PDF
PDF-формат наиболее широко используется для просмотра любого типа файлов на любом устройстве. В него можно сохранить документ, таблицы, презентацию, текст, чертежи, вычисления, графики и всё остальное, что можно показать на экране любого устройства. Именно его лучше всего использовать для печати.
Например, если Вам нужно распечатать чертёж из автокада, Вы сохраните чертёж на флешку, но будет ли автокад в пункте печати? А если будет, то нужная версия с нужными библиотеками? Именно для этого и нужен формат PDF - в нём точно будет показано верно вне зависимости от того, в какой программе создали PDF-файл и есть ли нужная программа для его просмотра.