9. Выпуклая оптимизация 9. 1. Функция f, определенная на выпуклом множестве называется выпуклой, если Если же из строгих неравенств всегда сле для строгие, то функция f называется строго выпуклой. Например, линейная форма – функции, выпуклые на
9. 2. Функция одной переменной выпукла точки плоскости, лежащие над её графиком y образуют выпуклое множество. y = f (x) x Дифференцируемая на промежутке функция y = f (x) выпукла на этом промежутке её производная оказывается неубывающей на нём (или если существует).
9. 3. Функция f , заданная на выпуклом множестве, выпукла тогда и только тогда, когда её надграфик множество – выпукло. 9. 4. Пусть fi – выпуклые функции, определенные на выпуклом множестве Ω , Тогда – выпуклая функция. Если при этом хотя бы одно слагаемое – строго выпуклая функция, то такова же и вся сумма.
9. 5. О выпуклости сложных Если функций. y = h(t) – выпуклая неубывающая функция одной переменной, определенная на множестве значений выпуклой функции то сложная функция – выпуклая. Если к тому же f – строго выпуклая функция, а функция y = h(t) – возрастающая, то функция ψ строго выпукла на множестве Ω (выпуклом). Аналогичные утверждения верны, если имеется k выпуклых функций и выпуклая функция k переменных, возрастающая по каждой из них.
9. 6. Проведем прямую через две точки Если – выпуклое множество, то промежуток. Для любой определенной на Ω функции имеем сечение f – функцию переменной t , заданную на промежутке Для того, чтобы функция была выпуклой [строго выпуклой] необходимо и достаточно, чтобы выпуклой [строго выпуклой] было любое её сечение.
9. 7. Дифференцируемая функция f , определенная на выпуклом множестве Ω, выпукла Условиями строгой выпуклости являются строгие нер 9. 8. Если функция f дважды дифференцируема, рассматривают – матрицу Гессе, в i-ой строке j-ом столбце которой записывают – значение второй производной в точке
9. 9. Для того, чтобы дважды дифференцируемая на открытом выпуклом множестве Ω функция f была выпуклой, необходимо и достаточно, чтобы её матрица Гессе была неотрицательно определена в любой точке – второй дифференциал функции f оказывается неотрицательно определенной квадратичной формой. Если является положительно определенной в любой точке, то f – строго выпуклая функция.
Симметрическая матрица является положительно определенной тогда и только тогда, когда все её угловые миноры положительны. 9. 10. Пример. Строгая выпуклость квадратичной фун следует из положительной определенности её матрицы Гессе:
9. 11. Необходимым и достаточным условием неотрицательной определенности симметрической матрицы является неотрицательность всех её диагональных миноров. Минор матрицы называют диагональным, если он получен из матрицы выделением строк и столбцов с одинаковыми номерами.
9. 12. Пример. Проверим выпуклость квадратичной фу Т. к. её матрица Гессе не является положительно определенной, но все диагональные миноры первого и второго порядка положительны.
9. 13. Для квадратичной функции положительная определенность матрицы Гессе является не только достаточным, но и необходимым условием строгой выпуклости. 9. 14. Свойства матрицы Гессе удобно проверять, зная её собственные значения: если все они неотрицательны, то матрица оказывается неотрицательно определенной; у положительно определенной все собственные значения должны быть положительны.