Диссертация (Абстрактное кодифференциальное исчисление в нормированных пространствах и его приложения к негладкой оптимизации)

САНКТ–ПЕТЕРБУРГСКИЙ ГОСУДАРСТВЕННЫЙУНИВЕРСИТЕТНа правах рукописиУДК 519.7Долгополик Максим ВладимировичАбстрактное кодифференциальное исчислениев нормированных пространствах и его приложенияк негладкой оптимизацииДиссертация на соискание ученой степеникандидата физико–математических наукпо специальности 01.01.09 — дискретная математикаи математическая кибернетикаНаучный руководительдоктор физ.–мат. наук, профессорВ.Ф. ДемьяновСанкт–Петербург 2014ОглавлениеВведение41 Предварительные сведения91.1Элементы топологии. . .

. . . . . . . . . . . . . . . . . . . . . . . . . . . . . .91.2Элементы функционального анализа . . . . . . . . . . . . . . . . . . . . . . . .111.3Элементы выпуклого анализа . . . . . . . . . . . . . . . . . . . . . . . . . . . .161.4Элементы абстрактного выпуклого анализа . . . . . . . . . . . . . . . . . . . .201.5Элементы негладкого анализа и теории многозначных отображений . .

. . . .232 Абстрактные выпуклые аппроксимации негладких функций282.1Вспомогательные построения . . . . . . . . . . . . . . . . . . . . . . . . . . . . .282.2Абстрактно кодифференцируемые функции . . . . . . . . . . . . . . . . . . . .302.3Абстрактно выпуклые аппроксимации . . . . .

. . . . . . . . . . . . . . . . . .342.4Исчисление абстрактно кодифференцируемых функций . . . . . . . . . . . . .352.5Необходимые условия экстремума . . . . . . . . . . . . . . . . . . . . . . . . . .402.6Примеры H–кодифференцируемых функций . . . . . . . . . . . . . . . . . . . .433 Кодифференцируемые функции513.1Предварительные сведения . . .

. . . . . . . . . . . . . . . . . . . . . . . . . . .513.2Определение кодифференцируемости . . . . . . . . . . . . . . . . . . . . . . . .543.3Исчисление непрерывно кодифференцируемых функций . . . . . . . . . . . . .603.4Необходимые условия экстремума кодифференцируемых функций . . . . . . .653.5Некоторые свойства кодифференцируемых функций . . . . . .

. . . . . . . . .693.6Метод кодифференциального спуска . . . . . . . . . . . . . . . . . . . . . . . .743.6.1Формулировка метода . . . . . . . . . . . . . . . . . . . . . . . . . . . . .753.6.2Вспомогательные результаты . . . . . . . . . . . . . . . . . . . . . . . . .763.6.3Исследование метода кодифференциального спуска . . . . . . . . . . . .8023.6.4Сходимость метода кодифференциального спуска . .

. . . . . . . . . . .4 Исчерпывающие семейства неоднородных выпуклых аппроксимаций4.1Определение неоднородных выпуклых аппроксимаций . . . . . . . . . . . . . .4.2Исчисление неоднородных верхних выпуклых и838686нижних вогнутых аппроксимаций . . . . . . . . . . . . . . . . .

. . . . . . . . .894.3Условия экстремума . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .934.4Метод спуска . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 1004.4.1Описание метода спуска . . . . . . .

. . . . . . . . . . . . . . . . . . . . 1014.4.2Исследование метода спуска . . . . . . . . . . . . . . . . . . . . . . . . . 1034.4.3Сходимость метода спуска . . . . . . . . . . . . . . . . . . . . . . . . . . 1054.4.4Метод спуска и метод кодифференциального спуска . . . . . . . . . . . 1065 Приложения к задачам вариационного исчисления1105.1Одна негладкая классическая задача вариационного исчисления . .

. . . . . . 1105.2Негладкая задача Больца . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 1155.3Минимаксная задача вариационного исчисления . . . . . . . . . . . . . . . . . 122Заключение125Список обозначений127Литература1303ВведениеС появлением интегрального и дифференциального исчисления в трудах Ньютона иЛейбница, математика более чем на два столетия обеспечила себя аппаратом достаточным,как для теоретического исследования в различных областях науки, так и для бесчисленных приложений. Однако, постепенно потребности самой математики и, в первую очередь,различных приложений привели к исследованию недифференцируемых функций. Так, например, естественным образом возникающая в теории приближений задача о наилучшемравномерном приближении непрерывной функции является существенно негладкой.

Всё более и более часто возникающие примеры недифференцируемых функций и задачи связанныес ними возбудили интерес математиков к изучению данных функций. Основным результатомэтих исследований стало появление новой, богатой приложениями математической дисциплины — негладкого анализа, а также становление нового понимания того, что недифференцируемые функции являются не патологией, а нормой и достойным объектом исследования.Наиболее яркой иллюстрацией этого факта является теорема С.

Банаха [66], утверждающая,что множество непрерывных функций, дифференцируемых хотя бы в одной точке интервала[0, 1], является тощим (или, что тоже самое, множеством первой категории) в пространственепрерывных функций (по этому вопросу см. также [98]).Негладкие задачи впервые были поставлены и успешно исследованы российским математиком П.Л. Чебышёвым [55]. Однако, П.Л. Чебёшыв использовал в своём исследованиитолько классические, хотя и очень оригинальные методы. Первые “негладкие” методы исследования недифференцируемых функций появились в рамках выпуклого анализа [27, 30–32, 35, 41, 43, 45, 60, 94, 95, 128], который, наряду с теорией минимакса [8, 11, 15, 36, 37, 52],послужил основой для формирования негладкого анализа.

В настоящее время, выпуклыйанализ является хорошо развитой областью математики, имеющей многочисленные приложения [13, 33, 38–40, 46, 51, 110].Негладкий анализ, как раздел математики, изучающий недифференцируемые функции, в первую очередь в связи с теорией негладких экстремальных задач, сформировался4во второй половине XX века под влияние работ В.Ф. Демьянова [13, 15], Н.З.

Шора [57, 58],Б.Н. Пшеничного [42–44], Ф. Кларка [29], Дж. Варги [9] и многих других авторов. В настоящее время имеется огромное число работ, посвящённых различным аспектам негладкогоанализа [12, 16, 67, 75, 87, 92, 99, 100, 108, 109, 114, 117, 122]. Отличительной особенностьюнегладкого анализа, по сравнению с классическим дифференциальным исчислением, является его тесная связь с теорией многозначных отображений [7, 53, 64, 65, 96, 97].Основными инструментами исследования в негладком анализе являются производнаяпо направлениям и субдифференциал, а также их многочисленные обобщения [16, 29, 80, 81,91, 99, 104, 108, 114, 117, 122, 126].

Одним из наиболее продуктивных методов исследованияпроизводных по направлениям негладких функций является метод, основанный на понятииэкзостера [2, 4, 62, 79, 83, 84, 125], поскольку данный метод позволяет выражать удобнымобразом условия экстремума негладкой функции, а также строить направления спуска иподъёма данной функции. Однако, в негладком случае производная по направлениям, как иеё обобщения, не является непрерывной функцией точки (см.

[16], глава II, параграф 1), чтосущественно затрудняет построение эффективных численных методов решения негладкихоптимизационных задач. Поэтому В.Ф. Демьянов в [77, 78] ввёл понятие кодифференцируемой функции и кодифференциала (см. также [14, 21, 127]). Для очень широкого классанегладких функций кодифференциальное отображение является непрерывным в метрикеХаусдорфа [16], что позволяет строить эффективные методы недифференцируемой оптимизации на основе понятия кодифференциала [5, 16, 69, 70, 82]. Отметим здесь замечательноесвойство метода кодифференциального спуска “обходить” некоторые точки локального минимума [82], существенно отличающее данный метод от других методов гладкой и негладкойоптимизации.

Общая теория непрерывных аппроксимаций негладких функций рассматривалась в [121, 127]. Ещё одним преимуществом подхода, основанного на кодифференцируемости, является наличие удобного исчисления кодифференцируемых функций [16, 21], в товремя как не существует полноценного исчисления различных субдифференциалов негладких функций (ср. формулы для вычисления субдифференциала Кларка [29] или “нечёткое”исчисление субдифференциалов в [100]).

В качестве дальнейшего обобщения понятия кодифференциала А.Е. Абанькин в [1] предложил рассматривать H–гипердифференциал, которыйпозднее в работах В.Ф. Демьянова и М.Э. Аббасова получил называние коэкзостера [4, 80].Субдифференциал выпуклой функции, описывает как локальные, так и глобальныесвойства данной функции. С одной стороны, с помощью субдифференциала можно вычислять производную по направлениям и направления спуска выпуклой функции, а с другойстороны, субдифференциал описывает множество линейных функций, опорных к данной вы5пуклой функции, которое даёт глобальную информацию о поведении рассматриваемой функции. Негладкий анализ пошёл по пути обобщения субдифференциала выпуклой функции, наоснове его локальных свойств, т.

е. как инструмента, описывающего локальные свойствафункции. В то время как другой подход, основанный на обобщении глобальных свойств субдифференциала, выпуклых функций и выпуклых множеств, привёл к появлению нового раздела математики — абстрактного выпуклого анализа [47, 73, 106, 123]. Отметим, что первойкнигой по абстрактному выпуклому анализу была работа С.С.

Кутателадзе и А.М. Рубинова[32]. Основные результаты абстрактного выпуклого анализа, подробную библиографию и исторические комментарии по данному предмету можно найти в работах [111, 119, 124]. Идеиабстрактного выпуклого анализа оказались очень плодотворными и нашли своё применениев различных приложениях, в том числе и внутри негладкого анализа [101, 111, 118, 120].Одной из актуальных задач, изучаемых в данной диссертации, является построениеобщей теории неоднородных аппроксимаций негладких функций на основе идей абстрактного выпуклого анализа.