Ильин В.А., Позняк Э.Г. Основы математического анализа. В 2-х ч. Часть I (7-е изд., 2005) (1095443), страница 99
Текст из файла (страница 99)
1)4),ы tриде t 'нерю,енстр>[, лениисильной14.113 )И; СООТНО ненийЛХ)Л Х 1) ~.1 1)-(14.IdJ Х1 +заt<лючае\t.d 2 ЛХ 1+ е(х -~Ч'I ОХ1)] ~J( x 1)1 ·Iд.хlk1+ 2 1 д. х lтак что14.114Jу штывая, что точt<аt<сировartавеЛf1чt1ftа I gradпрес tставляет собой некоторое фиксированное числос мы заведоtю tЮ/ltемчтобы при Iд.хюложитеЛI,ное 'шсло> R выражение в кваRнаСТОЛltКО БОЛЫТТf1[ратных скобках в,14.114;было положительным.1) ?\Iы с,читывае"" чJсильно ''"сс""клаtJ н" множесп",сша разаtJIффереНЕируема на этом мно:жествес:"2) Какова бы ни была точка х множества Q, отрезок, сое, tJIняющий точкии Ti:, "рииадле,t,итву Q в,'"ссшукл"стивас Всноске к теореме Теikлоратра ра,с,южеН,t с"т.14.15,с,южно БР"JЬ:с,южно БР:tс JЬ всеотмечалось с что в качестве окрестности "ен,ве,диую "крести ,сп,с этого цеНJр,tс.[них~?TO iiзна'Iaf~'IJ(:C)>),Ч'If\с [рав!т, е, в( ЮД!BHi'T~' нтр()м В Т()ЧI<;Г хl ЗН!iЧi'НИЯтттар!,ryT()riiJ(x)преВОСXiiцентре yt,:азаННii,о IШlра)01 ,! iзначим QR пере(ечение множе( ва Q с указ!шным шарО!' СП' TiK K!iK iiбаiiiже(Iта QСП iШЛifЮТ(Я ВI,ШУКЛI,i!ШИ замкнутымк то и их пересечение Qп также является выпукЛЫ!':а\fКН!ТЫМ.
Так как f<pO\fe Т01'О, !ШОiIiеСТIЮ Qп iШЛifетсяограниченным, то по юказанному выше функт~ияMHo;rieCTBeПоскольк!fC'IBeI шую ТОЧf<УДОf<а:али, 'ITO воед jf!fЫJ(x)имеет на!fY\Ia.лока,ff,НOl'ОвсехTO'IKax Q,Jлежащнх запре, fелами Qзначения J( х) превосходятхl), ТО эти значения тем более превосходят ji'!{i), т. е. ТОЧi<аявляется точкойлокального МИНИМУ"Ia (х) и на всем множестве Q. Теорема полJность(tДОi<а:ана.3, Поиск минимума сильно выпуклой функции. Мыдоказали.
что сильно выпуклая ФУНКi)ИЯх . за, iанная на заМКН!ТО!1выпyt<ЛО!1J!fHO;riecTEe (!,И\fеетна!ТО!1!fножествее iинственную точку ха локального минимума.06ратимся к построению и обоснованию алгоритма, с помокоторо;о отыс<iшаеТCifФикснруе!1 прои:вольн!I <а :СО.TO'IK! i'l MHo;rieCTBaэта ТО'ивольное число СУ, удовлетворяющее неравенствам(14. 15)1'де h:2 - ПОСТOiшнаif(еравенствасильную выпуклость ФУНКТ~ИИ (х ) .J(14. 04),опредеШfi tще,оОтправляясь от хl как от первого приближения, составимитерационную последовательность{:CI,,}с помощьюpei<yppeHT-ного соотношения(14.116)в настоящем пункте мыюкажем СЛi' iующее УТВi'рЖ ii'ние.Основная теорема. ПУС!i!Ь фу'!!'Х:'ЦuяJ( х)является сuлы-tовъmу-клой на за.Nl-кнутом въmу-клом множествеu пустьnроuзвольная тО'i-ка ,(f'!-tожеС!i!ваТогда uтершцuонная послеQ.довательностьЮМ'}, Оnf!еделяемая !!е-кm !!eHmHъt.Nl соотноше{14.116 )nри любо,(!HipiiBeHC пва,(!(14.115),с:содuтсяЛХ).i iодчеркнем,что эта теорема дает алгоритм отыскания ЛЮ('0-f( х)~Н~в~~:~:~~с='~7I~~~~е:~~~~к~~~а.~:н~~~и~:~~~,~jома (2~j'~~iзИа~тельно ограниченном) замкнутом выпуклом множествеQ.557Дiiii1iaTeo fЬCTB\осн,if'Hii'* Ti'iipe\iпреДПi iтттле\i чеf ыре ле\f~ЫоЛемма.че'J(;Еел'/},QпоеМ'J-lо:жеетпо,Т!о!юuаНОЛ'hiHOJ/,'h'J-lая то io'J(,aQотo~ато14.1171д о к а з ае л ь с то.
ПреДfЮiЮifoi,'fTO нерariеНСТfЮогда существует точка у множества Q14.11 7) несправедливо.Taiia [, 'fTO14.118 )Иiсра 'у же.1fiblTeKaeT, ifTO+ t(yлежит множествуточкойQ.(:С)не соп адает слюГ!ая точка Z =Вычислим расстояние меж [у любой такой-= Р (Х, PQ(X)Х-- PCJ(i) PQ(X) у PQ(X)t-Так как Х и у фиксированы, аtQи точкой :С2ОТОЧiiаPQ Х +PQ(X) отрезка i сое iиняющего точки PQ(X) и у, принаВ силу выпуклости множества1,то в силу неравенства- PCJ(:C))) =+ {о (у, PQ Х ).14.119;ЛЮ(iое число из сегмента(14.118)можно в iЯТЬtудовлетворяющим неравенству<t <2(х - PQ(X), у - PQ( \))р2(и,П} и таком выборе-2t(:c -PQ(oi))tРОи мы получим изО,14.119;, чтоZ,нее неравенство противоречитХ<р2(х, PQ(x) . Последчто точкапроеiiцией ТОЧiiИ :С на множествооточка Zi Уоiоаленная от Х меньше i чемPQ(X) являетсямножестваQнашласьPQ(X) от х. Полученноеiротиворе'ше зariертттает доказатеш,сТfЮ ле\'Лемма 5.
Пуст!, Лх) 'РuффереU'ЦUРУiiМii u въmу'Х:ла j-Щ3 io\f'X:1-tуmОМ въmу'Х:лом М1-tо:жестве Q. Еслu nри не'Х:оторомnоложuтеЛЬ1-tом СУ nрое'Х:'Цuя- СУ • gradi{i)) то'Ч'Х:u- СУ • grad (iUна .Nt1-tожество Q совпадает с то'Ч'Х:оu iU этоJго МНОНе о ес пвп, то фу1-t'Х:'ЦuяJ(x)нмеет в тО'Ч'Х:ii Хо ЛО'Х:ii.Jl, ,uыlпMU1-tUМУ·Nl.Д о К а з а т е л ь с т в о.неравенствоИспользуя лемму14.117) для точек Х = ХоЛХО4,запишеми у = Хо+[Нl [Х+ ~:!,l'деfринадлежит(хоfi)бой в! кт' ,Т!, fЛЯ кот'peiY, н,та'у п, i.ЛучнQ,лхо)а,iiiil'iiто [ка у:1:олхо))хоУ чит",твая , тттоPQ(TO-ихо ПОilУТПЛ\Т П'~ ПUСТТСдglad.f(xo))него неравенства с [ед\ fi)щее соотношенпе:О.(gradЭто соотношение, справедлпвое для любого вектора ~x, для которшо ТОЧi<а~1 iринадлежит,в сил)ыстанав+ливает, что Функт~пя.f(x)пмеет в точке хо локальный минимум,Лемма 5 ДОi<аiана.редположим, что ФУНКiЩЯнашраНИ'fеННОi'.fзаiii<НУТОi'чим тn l\шнпмальное значениеCTPOl'O болыпее тn, Tai< 'fTOхявляется спльно выпуклойклоi' iшожестве Q.
Обо ifia-на множестве.fтn =чпсло,хЕС;Л:с)i<ai<а fL -mil1 j( х ) .Фикснруе i , 'шсло V, С'! ршо болмножество тех точек х множества Q,MHO!fiecTBoQ,под~(14. 20)V.ЮДi' южество оtрани fенншо мносамо является огранпченным,QJL, И обозна Шi'iЛЯ которыхfiecTBa Q~Убедимся в том, что множество Q являетсяа м к нт ы М, Пусть х'"произвольная схо, iЯщаяся ПОСЛi' юватель~-НОС'! [, TO'feK iшожества(!.Требуетс>! ДОi<аiать, что [реде2,этой последовательности также принадлежит м!:ожествукак i<аждая точка :С'" прпнадлежпт множествуго номера kСтрого выпуклая ФУНКi шянаQ,а попом\.fхQ,Q,1)Такто для i<аждо~во всяком случае непрерывнасходимости последоватеш,ности{:Ck}квсилу определенпя непрерывностп функт~ии вытекает схо, i.ИМОСТЬпоследовательностп {}} к чпсл\.
Tai< как все элементы сходя пейся числовой последовательности .f(Xk} удовлетво~Pi! HfТ неравенствю!4.121) тоiредел I (1fi) этоi\ ЮС>fеДОЕа~тельности у' ювлетворяет неравенствам fL ~ Лхо) ~гл. 3,Кii,i( иСХОДНОii множест юBCiJKOMс.",Чii'iiрииадлеiiiИТQiiВ,]Яii С"iai,iiiHYT ",',"преДi'Л55;)3.ирин 1Д.Jlежита)тоQ.мн, '.жествуи;fзна ше!;'ЛЬ(вочтf\то (казамкнутости:Tuмн,,-fсшерн ;'но.вс;Ит;,]рЫХТ;fче«едл lf'Ы нераве!си]изтваюже(fтаQ,дЛЯ кот'являеf С( заМКНУТf,;'4.120)UiраничrННЫIli.Докажем теиерь следующую лемму.ЛеммаПУС!i!' фУ1-t'Х:'Ция f(x) сиЛЬ1-tо въmу'Х:ла 'На въmу'Х:-6.ЛО.J'vt за.J'vt'Х:1-tутО.J'vt .J'vt1-tожестве- любая то'Ч'Х:аа - любое'(!О.нкнси iU'ЛЬ1-tо;' 'Число.
символ ,6.х обозuачш';(; раз юсть,6.х =х -PQ.fgra;х ) - х.Тогда сn! аведливо 1-tеfюве1-tство:{gra;fх ,,6.х) ~ -,6.х 1.14.123 )QQЕсли же. 'X:po.J'vte того ..J'vt1-tОЖ!lствоQI!O.!.;.f.1-tО !fП'ствусnfюведливыl неравенстваогра1-tи'Че1-tо и то'Ч'Х:аQ.'!ля 'x:omopыxllliH,то найточе'Х:1.120)nf!U JLхЕ(дется строго nоложитеЛЬ1-tое 'Числоr!та'Х:ое. 'Что справедливо1-tераВ;i1-tсmво(! 4.124;Д о к а з а т е л ь с т в о.CTf!O (14. 2;».Докажем сначала неравен-Фикснруем ИРОИfВОЛЬНiТОЧ':уи.
иривлекая лемму4,заиишем неравенствоB\feCTOа. grad f(:c),TO'fKi-аB\feCTO(шо fieCTEa14.11 Т, взяв в немTO'fKi . При ЭТО('иолучим неравенство'С;--a·grad),-a·grad(:c-а·gгаdJ(:с)которое с учетом обозначения ,6.х =(ере (штттеТСfюследне,о(ения вытекает.fх- ,6.х.(еравенс; ваиз С!. gra;, ,6./)а это ищиводит К неравенствуJCTaef С! до«аfать, чтотом, что Q ограничено исуществуетr.
gra;fх) -х,6.х) ~ О.Oi;CTBс«ал тно;очтоa(gradох -в видеаИзPQ)+1(14.12;».ирн ДОИОЛНfпеff,НОМ иредиоложеннчто х ирина. (лежит иодмножествуо такое. что сираведливо неравенствоQ,(14.1:'4).(Нl (Х:1:graz Лх)) TO\f,мн·')KCCTBZ' Qxl(14.этанаФункт~исй точки Хсначала, что веl'~ТОРllаяфункцией точt<не!в щаPQ(X). Дляявлястсяэ', шо ДОС ато'шо доt<а<атьнеравенство(14.1:>6)сираве tливое для любых векторов Х и д.х.В СНЛУ ле .z(tысираЕедл f!'Ы4HepaBeftCTBa+ д.i)- PC;(i), РС;(Х+ д.х -PQ ХИсиольз\+ д.хнераве!,PQ ХtCfBaPQ Х-О.- PC;(i)+ д.хнераве [ство) ~ О.КОffш-БУf\tKO-вского.
иолучим т~еиочку соотношенийIPQ(X+ д.х)PQ Х Г+ д.! ) PQ(X + д.х+ д.i)РС;=(Х~+ (д.i,++ д.!PQ ХТО'fКИчто ФункщIЯ СУ'.=- PQ(X)Хиз которой и вытекает неравенствоИтак. доt<а<ано,д.х))+ д.х - PQ(X) ~д.х) - Х, PQ(X + д.хPQ(X)- д.! РС; + д.! ) )+- PC;(i)) (д.!,+ д.!) - PC;(i))Iд.il . 1 'с;(:с + д.!- PQ(X) PQ(PQ ХРС;х,-'fTO1,(14.1:>6).(г) \Ш.шtетсяtеирерывной ве:тор юйИз снльноi\ выклости (.г) навытекает,f(x) также является неирерывной на Q век-функцией точt<.
Но ТOl'датеоремы о неиреРЫВfЮсти сложной ФУНКt щи и неирерывности разности неирерывныхФУНКt щй вытекает, что и Функт~ияЛх)является неирерывной на множестветочки х.-QХвекторной функт~ией561]\I()дулЦИЯУ <азаННi;ijпот()\;\Bet< tt;рной[<ЦН,т, е, ска, fЯрная ф\ нк-более ,ш.шtt тtя Нi"(14, 25),eto[аШЩ\'tИтак, ФУНКЩIЯюжестве(141:>5)непрерывна и неОТРlпательна всюдуQна з;]мкнут()м t;гр;;ниченном мн()жествеВ такомВТОРОЙ 'lсореые I3сйсршт~аСUllсореыуДОСТИl'аетнаcBoel'Oюжестленого значенияf.казанноеП5JЛожительно, нбо еслн быQ нашлась,;лось нулl' paBfбы точка Ха такая, что PQ ХаО, а )то о;начало бы в снлу леммы\ШОifiеСТЕаЭТсlМИНИl\Iaльное значениеCTPOl'O,го14.7)неотрицател ,fЮl'Ожестве-Q,[а\;аш,~l'то на \шо~f (Ха )-СУ')ТОЙ5, 'fTOзаве, юмоTO'fKe,го\;еет единственныij на \шожествелокальный l\ШНИМУМ (~ то время как этот минимум по опре, [e~Qлениюлежит внеQ).О, инеравенствоl'14.124;доt<а;ано.Лемма6ЛеМ,;ИJZполностью доказана.7.Пусть фун'Х:'ЦияСТ) сильно выtj'х:лаa на въtny'X:~- любая то'Ч'Х:а,СУ - любоеHtpfiBeHCniBa"f (14.115) д.х - разност'ьЛО.J'vt за.J'vt'Х:нутом множестве'Число,вида{14.12:».Тогда при nе/;е;тоде из то'Ч'Х:и ;с в то'Ч'Х:уf= PQ(x - а .х),Нfi'Чение Фун'Х:'Цшt ЛХ)Ht'BO,pficmfiem,nри'Чем 1)ЛХ* ? (~Лх)(14.1271Если же, 'x:f оме того, .J'vt1-tожествоQ'nРИНfiдЛtf:ж:итсn/юведливо неравенствовенство14.1271ог/юни'Чено и то'Ч'Х:аni()'Че'Х:Q,Шll1хЕ< !'X:()mOPblX,тоHepa~nеретодш!! в неравенс пвоf(i) -(! 4.12>>гдеl'О - постоянная из лем.J'vtыl 6.Д о к а з а т е л ь с т в о.
Достаточно для любой точки х\ШО!fiеСТЕаустаноппь неравенство (14. 2~), нбо и; fTOl'O [еравенства и из неравенства14.128;сразу вытекает инеравенство(14.1:14){для точек х, прина,tлежащихQ,при условиНi чтоQOtраНИ'fено).Сначала докажем неравенствокаЯf ляетс;;в нв ви, [у что точка1)Из(14.115)т=(14.1:17)е н н еPQ (х - СУ • gratвытекает, что (~(V_ k22для случак когда точ~точt<оij)> О.fюжестваQ.И\;еях ) принадлежит l\fНO~[Нl [Х;т;т'ств\на Ю>ТОРf\'Q,ф\ нкциязн;; "'НИ f ')ф<>Р\fе Лгде ~x = х*х =Используя.;,paHif;;;'шм(х(14, 29)< 1.ЛХ) - х, U <(14.1:13) и правоеИ: фор\тfЫ Тей, юра (14.а·PQ(xюлучн_~I~j2+ k 2•2(Vчто для случая вн\ тре шеi\выразимПрннеравенство)_Tat;кл[ентро;'ЛХ) + (graf ЛХ) ~x) + ~=4.104)си, н,но выле ТСЙЛffра стато'шыi\ЛХ*/(:1:)неравенство~jI2,ТО'fКИ :С нерю енст! о.127)юказано.Пусть теперь :С является г р а н и ч н о й точкой мншкества Q.