Ильин_ Позняк - Основы математичемкого анализа. Часть 1 (1111798), страница 116
Текст из файла (страница 116)
Таким Ооразом, прг! данно:! Нами ОП1л)деленян можно подразделить точки минимума на то !ки внутреннего локального миниъгума (для сну !ая, когда эти точки яв.ппотся внутренними тОЧКаМИ Сг)) И тО !Ки КРаЕВОГО ЛОКаЛЬНОГО МИНИМУМа !ДЛЯ СЛУ ПШ, кОГда эти то'!ки ЯВляются Граничнь)мн то'!кими с)1). Г:1. !! эь нкнии нкскольких нирнминных Для из«н>ния ВО«ц)оса О сущ«>стВОВании и единстВ!'.нностп точки локального к!Ннпх!уя!а нам понадООН1ся !':!«)Дующая Вспомогательная теорема.
Лемма 3. Пусои> но! выпуклом мнооюестве с) задано, дифференцируемая выпуклая функция 1(з>). Лля того чтобы, зта фУнкЦил имела локольныт1 минимрл«в точгке:го множлютва !т» необход!«мо !л до«таточно, что>бы для любого веко!Ора,Ьх, для. которого точка з>0 +,Ь«> аринадлесчгит л!нооюеству б)> было сн)>аведливо >«е1>авенсп>во ) (ага«1 )" (хо). Ьх) ) О. (14.105) Доказательство. 1) Необходнмость. Всилу 1"!В«ер>кд«>ния, д«)к!Кзанн«п«) в п.
6 «) 4 «л. 14, л«>вая «асгь (14.105) равна прои;>ведению производной функции ф(х) в точке хн по направлению вектора Ьх на длину (Ьх! этого вектора: (йта«11( 0) >г ) = де (:>оигт:х1 (14 106) зх где е = "- едини гпый вектор в направзени!«,л:«х Так как хо является точкой локального миним! Ма функции е>х 1'(«г).
то производная — (ха) по любому нану>авлснию е = де )Лх) неотрнцательна (точнее, равна ну:по в случае, если:го — точка внутреннего локального зкстрех!ук«а, и неотрицательна в случае, если 1;о . точка кРаевого локального экстРемУма). Итак, правая часть (14.106) (а потому и левая часть (14.105)) пеотрицательна.
Необходимость доказана. 2) До с т а т о ч и о с т ь. Пусть для любого вектора Ь«г, для которого точка хо + «1«:«: принадлежит Ст), справедливо неравенство (14.105). Докажем, что точка хо является точкой локального минимума функции 1 (х). Так как функция 1(х) по условию является выпуклой на мно)кес1Ве. б), то дл"1 люОых дВух точек «с! и ха этого множестВВ и л!Обого п«ела 1 пз с«>гм««нта 0 ~ (1 ~( 1 справ«длине н«>равенство (14.95). Полагая в этом неРавенстве х! = >го, >ха = хо+ «1х, мож- НО переписать это н«>раВ!'Яство В Виде у( +ь") — у(» )(х«>т«~х) 1(хе) (14.107) Считая хв и Ь:х «1>икс~>«)ва!«Иык!и, пер««идем В неравенств!« (14.107) к пределу при 1 — > 0 + О.
По определению производной по направлению (см. и. 6 З 4 гд. 14) предел при А — > О+ 0 ') В неравенстве (14,105) берется скалярное нронзвеленне векторов к!ай Пхв) н Лх. Оареце)>анне кта«) 1(хе) см, в н. б 1 4 гл. 14. Гглдиен'!'ный ь!етОд ИОискл экст!'емумл 553 правой части (14.107) в точности равен произведению, стояли му в правой части (14.106). Поэтому в силу соотнопп>ний (14.105) и (14.106) этсп предел неотрицателсп.
Учитывая, что ля вая часть (14.107) пе зависит от Х, ь«ы получим в пределе при 4 — > О+ 0 и« неравенства (14.107), что «(сто + с.'>х) — «(хо) > О. Последнее неравенство, справедливое для любого вс>ктора,Ьх, для которого точка:с:о + «1>:«> принадлежит о>>., доказывает. что функция «(х) имеет в точке хо лслсальный минимум. Дс>статичность доказана. „!емма 3 полностью .«оказана.
3 а и с ч а н и с 1. Из приведя>нного нами доказательства очевидно, что для случая. когда точка хо является в н у т р е ин е й точкой множества Я, т. е. когда речь идет о внутреннем локальном минимуме, в формулировке леммы 3 знак > в нераве«1стве (14.105>) мо>к1«о з'>манить ««а знак 3 а и с. ч а и и е 2. Пр««доказатс>льстив неооходимости леммы 3 мы не использовали требования выпуклости функции «(с«;). Поэтому доказательство псобходиъ«ости проходит бс з требования выпуклости функции «(х).
Иными словами, справед,пиво следующее у т в е р ж д е н и е: если функция «(х) диффаре>яяяпруаляо но, выпуклоля ляножеспгва С~ и имеет локальный миьисмум во вну«праннай (в граночкой) точка хо этого мнс>жаство., то для любого векторе, с."«хз для. когпорого точки, хо + с.">х принадлежит Я~, а»1>авадл««во неравенство (йга«1«(хо) с.">;«) = 0 ((йга«1«(хо),с.">х) > 0).
Перейдем к вопрос«о единственности и о стществовании точки локалыюго минимума. Теорема (о единственности локального минимума у строго выпуклой функции). Если фунт1ия «(х) диффаран; цируами и старого сяь«ггуклл нв вь>пуклом множаатсн: ф то вна, мопн:ат иматпь лик«>льный' минимум только в однои точка эп>ого ля>сот«>ас>тви. Д о к а з а т е:««с т В о. Предпо.«о>ням.
«то фу>«кция «(х) имеет пока«ьный минимум в двух р а з л и ч н ы х то «ках х« и:гг множества О. Тогд>«чсловие выпуклости (14.95) для точек х> и хг можно:Записать в вид«'. «( . ) «(,. ) > «(х> я «(хг х>)) «(х>) (14. 108) (з,п*.сь ! люоос. «ис:«о из се~~ен~а 0 ~ (У ~( 1). Меняя в соотношении (14.108) точки х1 и с«>г ролями, мы получим неравенство «(х1) — «(х ) > «(х> " " ' .
( .10 ) 584 г:!. !! эх нкции нискольких пиримннных В пределе при 1 — > 0+ 0 правая часть (14.108) (соответственно правая чагть (14.109)) дает производнун) функции «(х) по напРав)1снию В<эктойа хл — 2:! (РООтВетственно В<ектоуа 2:! — хл), Взяту<о в точке .т:1 (соответств<нно в точке хл), умноженную па /хг — х</.
Так как обе то <ки х> и х> являются точками локального минимума, то обе указанные производные по направлению неотрицательны, г. е. пределы правых частей (14.108) и (14.109) при 1 — > 0+ 0 оба неотрипательны. Таким образом, пз неравенс!в (14.108) н (14.109) в пределе при 1 — > О+ 0 мы получим «(2>2) — «(х>) > О, .«(21!) — «(хв) > О Сопосг!В.,п!ни<1 по< цдних н<р !Вене!В приводит пас к зак.по.!енню о том, что «(<с!) = «(хл). Используя равенство «(х!) = «(хл), мы получим нз условия строгой выпуклости (14.96), что «Ге<+1(<ст — <х!)1 < «(х!) (14.110) для всех 1изинтервалаО<1<1.
Неравенство (14.110) противор<'чит тому, что функпия «'(х) имеет локальный минимум в точке х~ (в точке х! + 4(хг — х!), как угодно близкой прп малом 4 к точке х>, функция «(х) имеет значение, меньшее значения «(х ! ) ) . Полученное противоречие доказывает, что наше предположение о том, что функция «(х) имеет локальный минимум в двух различных точках множества ф является оп<ибочным. Теорема доказана.
Существование локального минимума докажем при более сильных ограничениях, чем единственность. Теорема (о существовании локальногв минимума у сильно выпуклой функции). Если функция «(х) сильно вкм ВУкло, иа замкаолтпм ныпйклом мноэкхестне <,л, то У этой <«)лу>лкц<л<л су<цестаует на множестве бь> точка хо м>кол)о!ого м<лкилмумо ). ,4 О к а 3 ат <эл ь с т в О. Сна>ала, отм<этим, чло тео1н>м>! заве- ЛОмо с!0)ав<>дг1иВВ для <211 1ая, ко!.да ВЬП11 к>10е за)1кнуто<1 х1НО- жество <> является, кроме тон>, о г р а н и ч е н н ы м. Тогда по второй теореме ВР!<Врштрасса (см.
теорему 14.7) функция «(х), будучи во Всяком с. <учае непрерывной на множестве Я, достнга- РТ В НРКОТОРОЙ ТО'1КР 2'о ЗТОГО МНОЖР<'Тва СВОЕГО МИНИМЙЛЬНОГО на б~ значения. ) казанная то'1ка хо и яВляется точкой локального минин> ма. ) !ак как сильно выпУклаЯ на выпУклом множестве бт> фУнкциЯ «(2) является строго выпуклой на этом множестве, то ло предыдугией теореме точка хе бУцет е Л и н с т в е н н о и точкой локального мннимУма.
17 ГГйДИКИтИЫй МКтОД ПОИОКЛ ИКОТГКМьгый 555 Остается доказать теорему в случае, когда выпуклое замкнутоехсножествоб) не является ограниченным. Фиксируем некоторую внутреннюю точку х| множества с,) и разложим функцшо т(х) по формуле Тейлора с центром в точке х|, взяв ос:|"|точный |лс'.н Лв(:х) в фораге „'1азр)знжа ) (см. п.
3 ч 5 гл. 14). Указанное разложение будет иметь вид 1 (сг) = )'(х) ) + с)('()х) ) + — Й 1" (дз) + О(х — х| )) „(14.111) гле Π— число из |гптервала О ( О ( 1, так что точка х| + 0(х — х| ) принадлежит отрезку, соединяю|нему точки х| и х ). Ест))| обозна тить с.')х вектор х — х|, то для с)Г" (сх|) будет справедливо равенство; с(((х|) = (угас( 1(х|), Ьх).
Из этОГО раве|и:|Ва вытекает,что ~с1) (х) ) ! ( ( дас( ~(х) ) ( )Ьх!. (14. 112) Далее, используя левое неравенство в определении с)гьчьной выпуклости (14.104). мы придем к неравенству сР 7'[х) + 0(х — х| )1 > А | . ()')х)з. (14.113) Из соотпюшенпй (14.111) — (14.113) заключаем. что )(х) — 1(хз) > — ф(хз))+ -с1 1(х) + 0(х — х|)1 > > — ( нгас( 1(х|) ! (,л)з / + —,' (Ьх(~, так что ,) (сх) — З(сх)) > (|зх( [ — '(Ьз( — ~ огас( )(хз)~1 . (14.114) Учитывая, что то |ка х| фиксирована и величина (рас( ((х))) представляет собой некоторое фикс.гсрованное число, мы заведомо можем выбрать положительное число Л настолько большим, чтобы при /Ьх! > Л выражение в квадратных скобках в (14.114) было положительныа|.