Методы оптимизации. Конспект лекций (Буряков) (2010), страница 2

. . , un , . . .), u ∈ l2 ⇔u2i < ∞, hu, vi =H = L2 (a, b) çàìûêàíèå êëàññàC[a, b]ui vi ;i=1i=13.∞Pïî íîðìåkukL2 =srb|u(t)|2 dt ÿâëÿåòñÿa2ãèëüáåðòîâûì ïðîñòðàíñòâîì. (Âîçìîæíî àëüòåðíàòèâíîå îïðåäåëåíèå êëàññà L :2ìíîæåñòâî èçìåðèìûõ ïî Ëåáåãó íà (a, b) ôóíêöèé f (t) òàêèõ, ÷òî f (t) èíòåãðèðóåìû íà(a, b)ïî Ëåáåãó).Óïðàæíåíèå 4 (5).Äîêàçàòü, ÷òî Ãèëüáåðòîâ êèðïè÷1,U = {x ∈ l2 | |xn | 61}, 2nêîìïàêò â l2 .Ïðèâåäåì ïðèìåð êîìàêòíîãî ìíîæåñòâà â íåãèëüáåðòîâîì ïðîñòðàíñòâå.Ïðèìåð. Ðàññìîòðèì ìíîæåñòâî â áàíàõîâîì ïðîñòðàíñòâå U = {x ∈ C[a, b] | ||f ||C 6M ; |f (x) − f (y)| 6 L|x − y| ∀ x, y ∈ [a, b]}.(Çäåñü ñóùåñòâåííî, ÷òîM, Låäèíû äëÿ âñåõôóíêöèé.) Êîìïàêòíîñòü ñëåäóåò èç òåîðåìû Àðöåëà, ÿâëÿþùåéñÿ êðèòåðèåì ïðåäêîìïàêòíîñòè â ïðîñòðàíñòâåC[a, b]:îãðàíè÷åíèå íà ìåòðèêó äàåò ðàâíîìåðíóþ îãðàíè-Uîíî Îïðåäåëåíèå.

Ïîñëåäîâàòåëüíîñòü {uk }k=1 ⊂ H íàçûâàåòñÿ ñëàáî ñõîäÿùåéñÿê ýëå-÷åííîñòü, à ëèïøåöåâîñòü - ðàâíîñòåïåííóþ íåïðåðûâíîñòü.  ñèëó ïîëíîòûêîìïàêò.nìåíòóñëàáîu0 ∈ H(uk → u0 ),Çàìå÷àíèå.åñëè∀h ∈ H huk , hiH → hu0 , hiH ïðè k → ∞.H ñëåäóåò ñëàáàÿ ñõîäèìîñòü, íî íå íàîáîðîò.Èç ñõîäèìîñòè â ìåòðèêå⇒kuk − u0 kH → 0 ⇒ ∀h | huk , hiH − hu0 , hiH | = | huk − u0 , hiH | 66 {íåð-âîÊîøè-Áóíÿêîâñêîãî}6 kuk − u0 kH · khkH → 0;| {z } | {z }→0const1 Íàçâàíèå, ïî-âèäèìîìó, ïðîèñõîäèò îò òîãî ôàêòà, ÷òî äëèíà îáû÷íîãî êèðïè÷à (âáîëüøå øèðèíû, êîòîðàÿ, â ñâîþ î÷åðåäü, â äâà ðàçà áîëüøå âûñîòû.8R3 )â äâà ðàçà:ðàññìîòðèì ëþáóþ îðòîíîðìèðîâàííóþ ñèñòåìó∀h ∈ H∞Xhh, ek iH 2 6 {íåð-âî{ek }∞k=1 ;Áåññåëÿ}6 khk2H < ∞.k=1hh, ek i2 → 0 ïðè k → ∞ ⇒kek − 0kH = kek kH = 1 9 0.2Íåîáõîäèìûì óñëîâèåì ñõîäèìîñòè ýòîãî ðÿäà ÿâëÿåòñÿhh, ek i → 0 = hh, 0i .Îïðåäåëåíèå.ÈìååìÌíîæåñòâîñëàáîek → 0,UÇàìå÷àíèå.ñëàáî êîìïàêòíûì (ñëàáûì êîìïàêòîì ),U ñóùåñòâóåò ïîäïîñëåäîâàòåëüíîñòü {ukm },íàçûâàåòñÿåñëè ó ëþáîé ïîñëåäîâàòåëüíîñòèñëàáî ñõîäÿùàÿñÿ ê òî÷êåíî{uk }èçu0 ∈ U.Èç òîãî, ÷òî ìíîæåñòâîUÿâëÿåòñÿ êîìïàêòîì, ñëåäóåò, ÷òî îíî ÿâëÿ-åòñÿ ñëàáûì êîìïàêòîì, íî íå íàîáîðîò.

Íàïðèìåð, åäèíè÷íûé øàð âHïðåäñòàâëÿåòñëàáûé êîìïàêò, íî êîìïàêòîì íå ÿâëÿåòñÿ.Îïðåäåëåíèå.íîé ñíèçó )â òî÷êåÔóíêöèÿu0 ,J(u)íàçûâàåòñÿñëàáî íåïðåðûâíîé (ñëàáî ïîëóíåïðåðûâu0 ïîñëåäîâàòåëüíîñòè {uk }åñëè äëÿ ëþáîé ñëàáî ñõîäÿùåéñÿ êñóùåñòâóåò ïðåäåëlim J(uk ) = J(u0 )k→∞( lim J(uk ) > J(u0 ))k→∞Çàìå÷àíèå.Èç ñëàáîé íåïðåðûâíîñòè ôóíêöèèJ(u)ñëåäóåò å¼ îáû÷íàÿ íåïðå-ðûâíîñòü, íî íå íàîáîðîò.Ïóñòü H ãèëüáåðòîâî ïðîñòðàíñòâî, U ñëàáûé êîìïàêò â H, ôóíêöèÿ J(u) ñëàáî ïîëóíåïðåðûâíà ñíèçó íà U.Òîãäà:Òåîðåìà 2 (ñëàáûé âàðèàíò òåîðåìû Âåéåðøòðàññà).1) J∗ > −∞;2) U∗ 6= ∅;3) ëþáàÿ ñëàáàÿ ïðåäåëüíàÿ òî÷êà ëþáîé ìèíèìèçèðóþùåé ïîñëåäîâàòåëüíîñòè ïðèíàäëåæèò ìíîæåñòâó U∗ (ìèíèìèçèðóþùàÿ ïîñëåäîâàòåëüíîñòü åñòü òàêàÿk→∞ïîñëåäîâàòåëüíîñòü {uk }, ÷òî J(uk ) → J∗ ).Äîêàçàòåëüñòâî.Àíàëîãè÷íî Òåîðåìå 1 (ïðîâåñòè ñàìîñòîÿòåëüíî).Îïðåäåëåíèå.Çàäà÷è, óäîâëåòâîðÿþùèå óñëîâèÿì Òåîðåìû 2 íàçûâàþòðåêòíî ïîñòàâëåííûìèâñëàáî êîð-M.âûïóêëûì, åñëè òî÷êà αu + (1 − α)v ïðèíàäëåæèò ìíîæåñòâó U äëÿ ëþáûõ u è v èç U è ëþáîãî α èç îòðåçêà [0, 1].Îïðåäåëåíèå.

Ôóíêöèÿ J(u) íàçûâàåòñÿ âûïóêëîé íà âûïóêëîì ìíîæåñòâå U, åñëèäëÿ ëþáûõ òî÷åê u è v èç ìíîæåñòâà U è äëÿ ëþáîãî α èç îòðåçêà [0, 1] âûïîëíÿåòñÿíåðàâåíñòâî J(αu + (1 − α)v) 6 αJ(u) + (1 − α)J(v).Äîñòàòî÷íîå óñëîâèå ñëàáîé êîìïàêòíîñòè â HÎïðåäåëåíèå.ÌíîæåñòâîUíàçûâàåòñÿ9quqvuqqvUâûïóêëîå ìíîæåñòâîíåâûïóêëîå ìíîæåñòâîÐèñ.

3: ê îïðåäåëåíèþ âûïóêëîñòè ìíîæåñòâà66-vâûïóêëàÿ ôóíêöèÿu-íåâûïóêëàÿ ôóíêöèÿÐèñ. 4: ê îïðåäåëåíèþ âûïóêëîñòè ôóíêöèèÅñëè ìíîæåñòâîUâûïóêëî, çàìêíóòî è îãðàíè÷åíî, òîUñëàáî êîìïàêòíî (áåç äî-êàçàòåëüñòâà).Äîñòàòî÷íîå óñëîâèå ñëàáîé ïîëóíåïðåðûâíîñòè ñíèçó â HÅñëè ôóíêöèÿJ(u) âûïóêëà è ïîëóíåïðåðûâíà ñíèçó íà ìíîæåñòâå U, òî J(u) ñëàáîïîëóíåïðåðûâíà ñíèçó íà ýòîì ìíîæåñòâå (áåç äîêàçàòåëüñòâà).Ïðèâåä¼ì íåñêîëüêî ïðèìåðîâ.1) Ðàññìîòðèì ëèíåéíûé ôóíêöèîíàëJ(u) = hc, uiH ,ãäåc ∈ H.Îí ÿâëÿåòñÿ ñëàáîíåïðåðûâíûì, ÷òî ñëåäóåò èç îïðåäåëåíèÿ ñëàáîé ñõîäèìîñòè.J(u) = kAu−f k2F , ãäå A ∈ L(H → F) ëèíåéíûé îãðàíè÷åííûé (íåïðåðûâíûé) îïåðàòîð; H, F ãèëüáåðòîâû ïðîñòðàíñòâà;f ∈ F.2) Ðàññìîòðèì êâàäðàòè÷íûé ôóíêöèîíàëÏîêàæåì âûïóêëîñòü è íåïðåðûâíîñòü (à, êàê ñëåäñòâèå, è ïîëóíåïðåðûâíîñòüñíèçó) ôóíêöèîíàëàJ(u), òåì ñàìûì, ñîãëàñíî äîñòàòî÷íîìó óñëîâèþ, ìû äîêàæåìåãî ñëàáóþ ïîëóíåïðåðûâíîñòü ñíèçó.a) (âûïóêëîñòü) Äëÿ ëþáûõv, u ∈ Uè ëþáîãîαèç îòðåçêà[0, 1]èìååì:kA(αu + (1 − α)v) − f k2F = {ò.ê.

A -ëèíåéíûé} == kα(Au − f ) + (1 − α)(Av − f )k2F 6 {íåðàâåíñòâî 4} 6106 (αkAu − f kF + (1 − α)kAv − f kF )2 6 {ò.ê.6 αkAu −f k2Fy = x2ôóíêöèÿ+ (1 − α)kAv −âûïóêëàÿ}6f k2F÷òî è òðåáîâàëîñü.â Hb) (íåïðåðûâíîñòü) Ïóñòü uk → u ïðè k → ∞, òîãäà, òàê êàê A íåïðåðûâíûé,â FAuk − f → Au − f. Îòñþäà â ñèëó íåïðåðûâíîñòè k·k (íåðàâåíñòâî Êîøè-Áóíÿêîâñêîãî) ñëåäóåò, ÷òîòî åñòü íåïðåðûâíîñòüJ(u).ôóíêöèîíàëàÇàìå÷àíèå.kAuk − f kF → kAu − f kF ,ÔóíêöèîíàëJ(u) = kuk2 (A = I, f = 0, H = F )ñëàáî ïîëóíåïðå-ðûâåí ñíèçó, íî íå ÿâëÿåòñÿ ñëàáî íåïðåðûâíûì.

(äëÿ ëþáîé îðòîíîðìèðîâàííîéñèñòåìûñëàáî{ek }∞k=1 en → 0ïðè3) Äîêàæåì, ÷òî ìíîæåñòâîïðîñòðàíñòâà,An → ∞,íîken k2 = 1 6= 0).U = {u ∈ H | kAu − f k2F 6 R2 },ãäå îáðàòèìûé îïåðàòîð, äåéñòâóþùèé èçHH, F ãèëüáåðòîâûâ F, f ∈ F, R > 0(íåâûðîæäåííûé ýëëèïñîèä), ÿâëÿåòñÿ ñëàáûì êîìïàêòîì. Äëÿ ýòîãî âîñïîëüçóåìñÿ äîñòàòî÷íûì óñëîâèå ñëàáîé êîìïàêòíîñòè. Äîêàçàòåëüñòâî âûïóêëîñòè è çàìêíóòîñòè ìíîæåñòâàUíå ïðåäñòàâëÿåò îñîáîãî òðóäà (ñäåëàòü ñàìîñòîÿòåëüíî).Äîêàæåì åãî îãðàíè÷åííîñòü:∀u ∈ U kuk = kA−1 Auk = kA−1 (Au − f ) + A−1 f k 6 {íåðàâåíñòâî 4} 66 kA−1 (Au − f )k + kA−1 f k 6 kA−1 k·kAu − f k + C 66 C1 ·kAu − f k + C 6 C1 R + C ≡ const÷òî è òðåáîâàëîñü.Çàìå÷àíèå.U = {kuk 6 R} (A = I, f = 0)Øàðïðåäñòàâëÿåò ñîáîé ñëàáûéêîìïàêò, íî êîìïàêòîì íå ÿâëÿåòñÿ.4) Ðàññìîòðèì ïàðàëëåëåïèïåä âL2 (a, b),òî åñòü ìíîæåñòâîï.â.ï.â.U = {u(t) ∈ L2 (a, b) | α(t) 6 u(t) 6 β(t), t ∈ (a, b)},α(t), β(t) ∈ L2 (a, b)çàäàíû (íàïðèìåð, êîíñòàíòû).a) Äîêàæåì îãðàíè÷åííîñòükuk2L2=wbU:2|u(t)| dt 6awba(çäåñü ìû ó÷èòûâàëè, ÷òî ôóíêöèÿb) ÇàìêíóòîñòüU(max{|α(t)|, |β(t)|})2 dt ≡ R2max{|α(t)|, |β(t)|} ∈ L2 (a, b)).ñëåäóåò èç ñâîéñòâ èíòåãðàëà Ëåáåãà (ñì., íàïðèìåð, [ÊÔ,ãë.VII, Ÿ2,ï.5])c) Äîêàçàòåëüñòâî âûïóêëîñòèUïðåäîñòàâëÿåòñÿ ñäåëàòü ñàìîñòîÿòåëüíî.L2 (a, b) åñòü ñëàáûé êîìïàêò.2ïàðàëëåëåïèïåä â L (a, b) íå ÿâëÿåòñÿ êîìïàê-Èç ïóíêòîâ a),b),c) ñëåäóåò, ÷òî ïàðàëëåëåïèïåä âÓïðàæíåíèå 5 (3).òîì (ïðè óñëîâèèα<βÄîêàçàòü, ÷òîïî÷òè âñþäó).112Ýëåìåíòû äèôôåðåíöèàëüíîãî èñ÷èñëåíèÿâ íîðìèðîâàííûõ ïðîñòðàíñòâàõÏðîèçâîäíàÿ ÔðåøåÎïðåäåëåíèå.íàçûâàåòñÿX, Y íîðìèðîâàííûå ïðîñòðàíñòâà, F : X → Y.

Îòîáðàæåíèå Fäèôôåðåíöèðóåìûì ïî Ôðåøå [Frechet] â òî÷êå x0 , åñëèÏóñòüF (x0 + h) = F (x0 ) + F 0 (x0 )h + o(khkX ) ∀h ∈ X,ãäåF 0 (x0 ) ∈ L(X → Y) ëèíåéíûé îïåðàòîð (ïðîèçâîäíàÿko(khkX )kY→0khkXïðèÔðåøå ),ïðè÷¼ìkhkX → 0.Ïðîèçâîäíûå áîëåå ñòàðøèõ ïîðÿäêîâ îïðåäåëÿþòñÿ ðåêóðñèâíî.1 ñëó÷àå, êîãäà X = H ãèëüáåðòîâî, Y = R , èìååì:J(u0 + h) = J(u0 ) + J 0 (u0 )h + o(khkH ).J 0 (u0 ) ∈ H∗ = L(H → R1 )ñîïðÿæ¼ííîå ê H.Òåîðåìà (Ðèññ).

ïðîñòðàíñòâî ëèíåéíûõ íåïðåðûâíûõ ôóíêöèîíàëîâ íàäH,[ÊÔ, ãë. IV, Ÿ2, ï.3]∗∗Ïðîñòðàíñòâî H èçîìîðôíî ñîïðÿæ¼ííîìó ïðîñòðàíñòâó H : H w H , ò.å. äëÿ ëþáîãî∗ýëåìåíòà f èç H ñóùåñòâóåò åäèíñòâåííûé ýëåìåíò hf èç H òàêîé, ÷òîf (h) = hhf , hiH ∀h ∈ H,ïðè÷¼ìkf kH∗ = khf kH(áåç äîêàçàòåëüñòâà).Çàìå÷àíèå.J(u) : H → R1 ñóùåñòâóåò âòîðàÿòî÷êå u0 ïðåäñòàâèìî â âèäå:Åñëè ó ôóíêöèèòî ïðèðàùåíèå ôóíêöèèJ(u)âJ(u0 + h) = J(u0 ) + hJ 0 (u0 ), hi +ïðîèçâîäíàÿJ 00 (u),1 00hJ (u0 )h, hi + o(khk2 ).2Óïðàæíåíèå 6 (5). Ïîêàçàòü, ÷òî èç òîãî, ÷òî J(u0 +h) = J(u0 )+ah+ 21 bh2 +o(khk2 ),íå ñëåäóåò ñóùåñòâîâàíèåJ 00 (u0 )(ðàññìîòðåòü ñëó÷àéÒåîðåìà (î ïðîèçâîäíîé ñëîæíîé ôóíêöèè).ÏóñòüX, Y, Z íîðìèðîâàííûå ïðîñòðàíñòâà,åò ïðîèçâîäíàÿ ôóíêöèèy0 = F (x0 ).Fâ òî÷êåx0 ,H = R1 ).[ÊÔ, ãë.X]F : X → Y, G: Y → Z,ñóùåñòâóåò ïðîèçâîäíàÿ ôóíêöèèÒîãäà ñóùåñòâóåò ïðîèçâîäíàÿ ñëîæíîé ôóíêöèèïðè÷¼ì(GF )0 (x0 ) = G0 (y0 )F 0 (x0 )(áåç äîêàçàòåëüñòâà).12GF : X → Zñóùåñòâó-Gâ òî÷êåâ òî÷êåx0 ,Ôîðìóëû êîíå÷íûõ ïðèðàùåíèéÂâåä¼ì ðÿä îáîçíà÷åíèé:C(U) êëàññ íåïðåðûâíûõ íàLip(U)Uôóíêöèé;U ôóíêöèé|f (u) − f (v)| 6 L·ku − vkH , ãäå L êëàññ Ëèïøèö-íåïðåðûâíûõ íàâûïîëíÿåòñÿ óñëîâèå(ò.å.

ôóíêöèé, äëÿ êîòîðûõ êîíñòàíòà Ëèïøèöà);C1 (U) êëàññ íåïðåðûâíî äèôôåðåíöèðóåìûõ ôóíêöèé;C2 (U) êëàññ äâàæäû íåïðåðûâíî äèôôåðåíöèðóåìûõ ôóíêöèé.Óòâåðæäåíèå.Äëÿ ôóíêöèèJ(u) ∈ C1 (U)è∀u, v ∈ Uâûïîëíÿåòñÿ ñëåäóþùååðàâåíñòâî:J(u) − J(v) =w1hJ 0 (v + t(u − v)), u − viH dt =00= hJ (v + θ(u − v)), u − viH ,Äîêàçàòåëüñòâî.ãäåθ ∈ [0, 1].Ââåä¼ì âñïîìîãàòåëüíîå îòîáðàæåíèåF : R1 → H, F (t) = v + t(u − v), F 0 (t) = u − v.Òîãäà áóäåì èìåòü:J(u) − J(v) = JF (1) − JF (0) = {ôîðìóëà=w1(JF )0 (t) dt = {òåîðåìàÍüþòîíà-Ëåéáíèöà}î ïðîèçâîäíîé ñëîæíîé ôóíêöèè}==0=w1000J (F (t)) F (t) dt = {òåîðåìà| {z } | {z }∈H∗ =H= {òåîðåìà=î ñðåäíåì (ìàòàíàëèç-I)}0ÏóñòühJ (u + h) − J (u), giH =w1hJ 0 (v + t(u − v)), u − viH dt =0u−vÓïðàæíåíèå 7 (3).0Ðèññà}w1= hJ 0 (v + θ(u − v)), u − viH , θ ∈ [0, 1] 2J(u) ∈ C2 (H).Äîêàçàòü, ÷òîhJ 00 (u + th)h, giH dt = hJ 00 (u + θh)h, giH ,ãäåθ ∈ [0, 1].0Ïðèâåä¼ì ïðèìåðû âû÷èñëåíèÿ ïðîèçâîäíîé.1)0H = R, J (u) =∂J ∂J∂J,,...,∂u1 ∂u2∂un(ãðàäèåíò),00J (u) =∂ 2J∂xi ∂xjÃåññå, ãåññèàí).2)J(u) = hc, uiH ⇒ J 0 (u) ≡ C ∈ H, J 00 (u) = Θ, (Θ13 íóëü-îïåðàòîð).(ìàòðèöàn×nJ(u) = kAu − f k2F , A ∈ L(H → F), f ∈ H:3)J(u + h) − J(u) = k(Au − f ) + Ahk2F − kAu − f k2F = 2 hAu − f, AhiF + kAhk2FÇàìåòèì, ÷òîkAhk2F = o(khkH ),òàê êàêkAhk2F 6 kAk2L ·khk2H .Îòñþäà, ñäåëàâ ýëå-ìåíòàðíûå ïðåîáðàçîâàíèÿ ñêàëÿðíîãî ïðîèçâåäåíèÿ â ïîñëåäíåì ðàâåíñòâå, ïîëó0∗00∗÷àåì, ÷òî J (u) = 2A (Au − f ).

Àíàëîãè÷íî ìîæíî ïîëó÷èòü, ÷òî J (u) = 2A A00(J (u) ∈ L(H → H)).Óïðàæíåíèå 8 (3).Íàéòè ïåðâóþ è âòîðóþ ïðîèçâîäíûå äëÿ ôóíêöèîíàëà1J(u) = hAu, uiH − hf, uiH ,2Óïðàæíåíèå 9 (4).ãäåA ∈ L(H → H), f ∈ H.Íàéòè ïåðâóþ è âòîðóþ ïðîèçâîäíûå äëÿ ôóíêöèîíàëàJ(u) = g(kukH ), g: R1 → R1 , g ∈ C2 (R1 ).×òî áóäåò, åñëè3g(t) ≡ t, g(t) ≡ t3 ?Ïðèëîæåíèÿ ê çàäà÷àì óïðàâëåíèÿ ëèíåéíûìè äèíàìè÷åñêèìè ñèñòåìàìèÇäåñü ìû ðàññìîòðèì ïðîñòåéøóþ çàäà÷ó îïòèìàëüíîãî óïðàâëåíèÿ ïðè ñëåäóþùèõóñëîâèÿõ:x0 (t) = A(t)x(t) + B(t)u(t) + f (t),t0 < t < T,x(t0 ) = x0 ,u(t) ∈ U ⊆ L2r (t0 , T ), (1)A(t) = {aij (t)} ìàòðèöà (îïåðàòîð)ïîðÿäêà n×n, B(t) = {bij (t)} ìàòðèöà ïîðÿäêà n×r, f (t) = {fi (t)} ìàòðèöà ïîðÿäêà n×1, òî åñòü n-ìåðíûé âåêòîð ñòîëáåö;2ìîìåíòû âðåìåíè t0 , T, à òàêæå òî÷êà x0 çàäàíû; U çàäàííîå ìíîæåñòâî èç Lr (t0 , T );x(t, u) = x(t) = (x1 (t), .