Задача линейного программирования и множители лагранжа
Задача линейного программирования и множители Лагранжа
Множители Лагранжа можно рассматривать для ЗЛП только в канонической форме записи.
тогда можно построить функцию Лагранжа
Для оптимального решения
=
Таким образом двойственные переменные - суть множителя Лагранжа. Тогда функция Лагранжа для двойственной задачи запишется:
Рекомендуемые материалы
Рассмотрим задачу линейного программирования в канонической форме записи:
(1)
(2)-(3)
Составим функцию Лагранжа:
. (4)
Теорема. Задача линейного программирования (1)-(3) имеет решение тогда и только тогда, когда такие, что функция Лагранжа достигает мавксимума в точке в области .
Доказательство.
1. Необходимость. Пусть - оптимальное решение задачи(1)-(3).Покажем, что в точке функция Лагранжа (4) достигает максимума в области .
Для доказательства построим двойственную задачу к данной:
(5)
(6)-(7)
Т. к. задача (1)-(3) имеет оптимальное решение, то и задача (5)-(7) имеет оптимальное решение .
Тогда будем иметь:
(8)
По теореме двойственности . (9)
Откуда
Или при , значит, - точка максимума для функции Лагранжа (4).
2. Достаточность. . Требуется доказать, что - оптимальное решение задачи (5)-(7).
Предположим противное.
Пусть существует , для которого (6) не выполняется:
,
.
Тогда функция Лагранжа перепишется в виде:
.
, т. е. .
Следовательно, не является оптимальным решением, что противоречит условию. Тем самым мы показали, что - допустимое решение задачи (5)-(7), и выполняется условие (6):
. (10)
Покажем, что для выполняется соотношение (9). Предположим противное:
. (11)
Пусть существует индекс такой, что (12) (не выполняется (11)).
.
.
, что противоречит условию.
Т. е. предположение, что существует индекс неверно. Следовательно, - оптимальное решение, для него верно (10), и это вытекает из теоремы двойственности.
Примечание. (14)
Точка называется седловой точкой.
Выпуклое программирование
Рассмотрим задачу:
(1)
(2)
Функции - выпуклые функции.
Задача (1)-(2) не имеет смысла, если область не ограничена снизу. Во всех остальных случаях она имеет решение.
Теорема 1. Если является аргументом локального минимума:
,
то или .
Доказательство.
Предположим противное. Пусть в области существует , в котором . Рассмотрим линейную комбинацию
.
Из определения выпуклости функции следует:
(3)
Выражение (3) является условием выпуклости. Выберем достаточно малым:
.
Т. о. получили две точки минимума, что противоречит свойству выпуклости функции . Следовательно, предположение о существовании точки было неверным. Поэтому - точка глобального минимума функции .
Теорема Куна-Таккера.
(1)
, (2)
где - выпуклые функции.
Условие Слейтера( необходимо для выполнения теоремы).
Теорема. будет решением задачи (1)-(2)когда существует вектор и такой, что вектор является седловой точкой функции Лагранжа для задачи (1)-(2).
Выясним, можно ли с помощью формализма Лагранжа решить линейную задачу.
.
Тогда получим ограничение для двойственной задачи
и для прямой задачи
Доказательство.
Пусть существует и .
(4)
Заметим, что (4) является условием седловой точки.
(4’)
1. Требуется доказать, что - точка минимума для задачи (1)-(2). Покажем, что является дополнительным решением для задаи (1)-(2), т. е. что .
Предположим противное. Пусть существует индекс , для которого условие (2) не выполняется, т. е. .
.
Задавая достаточно большим, получим, что последнее выражение будет неограниченно возрастать, что противоречит условию (4’). Следовательно, предположение о том, что существует индекс , для которого не выполняется условие (2) было неверно. Таким образом, .
Теперь докажем, что - точка минимума функции :
.
Рассмотрим правое неравенство из (4’):
.
Тогда , что и требовалось доказать.
2. Необходимо построить множитель Лагранжа, чтобы имела место седловая точка. Причем, дано, что
.
Рассмотрим два множества:
,
где - выпуклые функции.
Тогда из построения следует, что и тоже являются выпуклыми множествами.
Существует теорема о том, что два любых множества можно разделить гиперплоскостью, при условии, что эти множества не пересекаются. Пусть - уравнение гиперплоскости.
Т. к. точка множества не ограничена, то выберем ее таким образом, чтобы . Рассмотрим выражение:
.
Откуда следует, что .
.
Т. к. , то
.
По построению .
.
.
Это выражение является условием седловой точки.
Точка определяет минимум по и максимум по .
.
Замечание. Практическое применение метода Лагранжа состоит в реализации следующего алгоритма:
,
.
1. Находим точку .
В лекции "Психология боевой деятельности" также много полезной информации.
2. , иначе см. пункт 4.
3. , пункт 5, иначе см. пункт 6.
4. , пункт 3.
5. , пункт 3.
6. .
Конец.