Условный экстремум и метод множителей Лагранжа

Пусть экстремум \(f\) ищется при регулярных ограничениях \(F_{1}(x)=\ldots =F_{m}(x)=0\), а градиенты ограничений в точке \(p\) линейно независимы. Необходимое условие имеет вид \(\nabla f(p)=\sum \lambda _{i}\nabla F_{i}(p)\). Эквивалентно составляют функцию Лагранжа \(L(x,\lambda )=f(x)-\sum \lambda _{i}F_{i}(x)\) и решают систему \(\nabla _{x}L=0\) вместе с \(F_{i}=0\). Знак второго дифференциала \(L\) на касательном пространстве даёт достаточный критерий.1

Что важно запомнить
  • Метод Лагранжа ищет экстремум функции на множестве ограничений.
  • Для обычного правила нужны регулярные ограничения с независимыми градиентами.
  • Кандидаты удовлетворяют \(\nabla f=\sum \lambda _{i}\nabla F_{i}\).
  • Ограничения \(F_{i}=0\) входят в систему наравне с уравнениями по \(x\).
  • Достаточный тест второго порядка проверяется только на касательных направлениях.
  • Для ограничений-неравенств используется более общий подход Куна—Таккера.

Что такое условный экстремум

Условным экстремумом называют локальный экстремум функции \(f\) не во всём пространстве, а на множестве допустимых точек. Рассмотрим ограничения

\[F_{1}(x)=\ldots =F_{m}(x)=0\].

Если градиенты \(\nabla F_{1}(p),\ldots ,\nabla F_{m}(p)\) линейно независимы, ограничения локально задают гладкую поверхность.

Необходимое условие Лагранжа

В точке условного экстремума \(p\) градиент \(f\) ортогонален касательному пространству поверхности ограничений. Поэтому существуют числа \(\lambda _{1},\ldots ,\lambda _{m}\) такие, что

\[\nabla f(p)=\lambda _{1}\nabla F_{1}(p)+\ldots +\lambda _{m}\nabla F_{m}(p)\].1

Вводят функцию Лагранжа

\[L(x,\lambda )=f(x)-\sum _{i=1}^{m} \lambda _{i}F_{i}(x)\]

и решают систему \(\nabla _{x}L=0, F_{1}=0,\ldots ,F_{m}=0\).

Достаточное условие

После нахождения кандидата исследуют второй дифференциал \(L\) по переменным \(x\) на касательном пространстве ограничений. Если \(d^{2}_{x}L(p,h)\gt 0\) для всех ненулевых касательных \(h\), точка является строгим условным минимумом. Если форма отрицательно определена на касательном пространстве, получаем строгий условный максимум.1

Пример простыми словами

Найдём минимум \(f(x,y)=x^{2}+y^{2}\) при \(x+y=1\). Функция Лагранжа \(L=x^{2}+y^{2}-\lambda (x+y-1)\). Уравнения \(2x=\lambda , 2y=\lambda \) и \(x+y=1\) дают \(x=y=\frac{1}{2}\). Это точка условного минимума.

Частые ошибки
  • Простое правило множителей Лагранжа требует регулярности ограничений, в частности независимости их градиентов.
  • В систему входят и уравнения \(\nabla _{x}L=0\), и сами ограничения \(F_{i}=0\).
  • Решение системы Лагранжа даёт кандидата, а не автоматически доказанный экстремум.
  • Достаточный критерий второго порядка проверяет \(d^{2}_{x}L\) на касательном пространстве ограничений, а не на всех направлениях пространства.

Другие вопросы

Источники

  1. 1 Бегунц А. В., Шапошников С. В. Примерный конспект курса математического анализа Второй семестр. Мехмат МГУ, 2018 г. Раздел об условном экстремуме, правило множителей Лагранжа и теорема 32.