ВЫПУКЛЫЙ АНАЛИЗ ЛЕКЦИЯ 20 7. СУБГРАДИЕНТ И СУБДИФФЕРЕНЦИАЛ

ВЫПУКЛЫЙ АНАЛИЗ ЛЕКЦИЯ 20 7. СУБГРАДИЕНТ И СУБДИФФЕРЕНЦИАЛ ФУНКЦИИ

7. СУБГРАДИЕНТ И СУБДИФФЕРЕНЦИАЛ ФУНКЦИИ 7. 1. Определение субградиента и субдифференциала функции. Примеры.

7. 1. Определение субградиента и субдифференциала функции. Примеры. Определение 1. Пусть n RURUI, : 1. v U и Вектор n Rvc)( I называется субградиентом функции в точке , v если ( ) ( ), , . (1) I u I v c v u U Множество всех субградиентов функции I в точкеv и обозначают символом ( ). I v Геометрический смысл неравенства (1) состоит в том, что график функции I лежит не ниже графика линейной функции 1 : , n l R R определенной равенством ( ) ( ), , . l u I v c v u U Понятие субградиента и субдифференциала определено для произвольной функции 1 : . n I R R Однако естественным это понятие является для выпуклых функций. называют v субдифференциалом этой функции в точке u I I u l l u v O I v tg c v 7. СУБГРАДИЕНТ И СУБДИФФЕРЕНЦИАЛ ФУНКЦИИ При этом ( ). l v I v

Для выпуклых дифференцируемых функций был установлен критерий выпуклости ( ) ‘( ), , . (2)I u I v u v u U Выпуклая функция может не быть дифференцируемой даже во внутренних точках области определения. Для таких функций неравенство (1) Из сказанного выше следует, что субдифференциал гладких выпуклых функций не пуст, а градиенты этих функций суть их субградиенты. Следующая теорема утверждает, что во внутренних точках области определения гладкая выпуклая функция других субградиентов иметь не может. Теорема 1. Пусть функция , : 1 RUI где n RU выпуклое множество, выпукла. Тогда если 1 , I C U то ( ) ‘( ) int. I v v U Доказательство. Вложение Uvv. Iint), ()(‘ следует непосредственно из неравенства (2). Докажем обратное вложение. Пусть неравенства (2). является обобщением ( ) ( ), , (1) I u I v c v u v

. c v I v В силу UCI 1 ( ) ‘( ), . I u I v u v O u v для любых u U справедливо равенство ( ) ( ), (1)I u I v c v u v 0 ‘( ) ( ), I vс v u v O u v ‘( ) ( ), . (3)I vс v u v O u v Условие Uvint влечет за собой включение 0 ‘( ) мало u v I vс v U для всех достаточно малых 0. . u u В неравенстве (3) полагаем Имеем 2 ‘( ) ( )I vс v O ‘( ) 0 I vс v Теорема доказана. ( ) ‘( ). с v I v ‘( ) O I vс v ‘( ) ( ), ‘( ) ( )I vс v Ivvvс v ‘( ) ( ), u I vс v u v 2 ‘( ) ( )I vс v ‘( ) ( ), ‘( )I vс v I v с v

Пример 1. Тогда для функции n Ruugu. I, справедливо включение 0. I v Действительно, для всех n u R имеем } } } 0 I u I vg v g u g v 0. g v. Пусть 1 : n g R R произвольная функция и } 0, ( ) 0 u v I u I v ( ) 0, . I u I v u v ( ) ( ), (1)c v I u I v c v u v Полученное неравенство в силу (1) и означает, что 0. c v I v Существуют не дифференцируемые в точке функции, субдифференциал которых не пуст. Пример 2. Функция 1: , n. I R R определенная равенством ( ) , , n. I u u u R в точке 0 v не дифференцируема, но в силу предыдущего примера (0). I Более того, для этой функции из неравенства (0) , 0 I c u , c u ( 0) ( ) 0 1 с. I I u u , (0) c u I c u 6 7 8 следует, что при 1 c справедливо (0) , I c u ( ) (0) , 0 , 1. I u I c u c

1 (0). n c R c I означает, что 0. c I Таким образом, справедливо вложение Упражнение. Доказать, что в разобранном примере на самом деле имеет место равенство 1 (0). n c R c I Решение. В силу (1) достаточно доказать, что для любого , 1 n c R c найдетсяˆ, n u R такой, что ˆ0 10 ˆ ˆ( ) , u c I u I v c u v ˆ ˆ, . u c u В качестве такого полагаем ˆ ˆ1. с u u с Тогда 2 ˆ ˆ, , 1. сс c u cс u с с Требуемое неравенство имеет место. ( ) (0) , 0 , 1 I u I c u c Последнее

Пусть функция 1 : n I R R определена формулой 1, , max , i i n I u u L Обозначим 1, , max. i s s n. Z v i n v v L L 1. n n u u R u L В частности, пусть 2 0 4, . 2 1 n v Тогда 2, 1, 3. I v Z v n v R имеет место равенство. Заметим, что для всех , . 4 i I v v i Z v Для частного случая 1 3 2, 1, 3. I v v v Z v

Упражнение. Доказать, что функция 1, , max i i n I u u L является выпуклой. Решение. Пусть 1 2, , 0, 1. n u u R Полагаем 1 21. u u u 1, , max i i n I u u L Тогда 1 21. I u Выпуклость функции I доказана. Доказать, что для всех n v R справедливо Пример 3. 1 11, 0, 1, , ; 0, ; . 5 n i i n c I v c c i n c i Z v c L L L В частности, если , Z v i то 0 , 1 0 I v L L где 1 стоит наi месте. 1 21, , max 1 maxi i i n I u u L L 6 4 7 48 1 21, , max 1 i i i n u u L

Правую часть равенства (5) Требуется доказать, что. A v I v Пусть. c A v Покажем, что. c I v . A vобозначим символом 1 1 1, 0, 1, , ; 0, ; . 5 n i i nc I v c c i n c i Z v c L L L 1, , max , j i j n u v i Z v I u I v L Из (4) , 4 i. I v v i Z v следует, что Каждое из равенств в (6) и сложим их по всем . i Z v icумножим на Имеем i i Z v I u I v c 1, , max j i i ij ni Z v u c c v LРешение. 1, , max , , , . (6) j i n j n u v R i Z v L 1, , 1 1 0 max i n n j i i ij ni i u u c c v L 6 4 7 4 8 1 1 n n i i i c cu v 1 , c u n i i i v ic u v

, I u I v c u v . c I v , I u I v c u v Из доказанного включения c I v следует, что. A v I v ( ) ( ), (1)c v I u I v c v u v Докажем обратное вложение . I v A v Пусть . c I v Тогда c по определению субградиента 1 , i i Z v I u I v c c u v 6 7 8 , 1 , . n i i u i c i v c u v 6 44 7 4 48 Тогда. Заметим, что } 0, 1 1. ic n i Z v i ic c

1, , max , , (7) j j n j n u v c u v u R L L 1, , max , , j j j n u n v I u I v c u v u R L L Обозначим 1 1. 1 n v u v L В (7) полагаем. u u 1, , max 1 max j j n v v L L 1. , c u v 1 1 1. n n i i i c cv v Последовательно вычисляем левую и правую части (7) 1 1 n i i c получим ( ) ( ), (1)c v I u I v c v u v

1 1. 8 n i i c 1 1 n i i c c 11 0, 1, , ; 0, 1 ; i i n n c c i n A v c c i Z v cc c L L L 1 1 n i i c 1. i i nv u v v L L 1, , i n L полагаеми всех. Для 0 Очевидно, что . i. I u I v По определению субградиента c , (7)I u I v c u v в силу (7) 7 0 i. I u I v , ic u v 1 n j j j i j c u v имеем при iu u

ic 0, 1, , . 9 ic i n L 0 ic Далее пусть iv I v 0 : . i v I v 1 n j j j i i i cvv v cv i Z v 1 0 n j j j i j c u v 1 10 0, 1, , ; 1 , ; i n c i nc A v c c i Z v c cc L L L Полагаем 1 i i n. I vv u v v L L Очевидно, что . i. I u I v В силу (7) , , (7)n. I u I v c u v u R имеем при iu u 7 0 i. I u I v 0 , ic u v 0 1 n j j j i j c u v

0, 0 i ic c I v A v 0, . ic i Z v Таким образом, . I v A v 1 1 0, ; 1 i i nnc A v c i Z v cc cc L L 0 ic } 1 0 i n j i i i j j i v c u v Отсюда и (9) 0, 1, , . 9 ic i n L выводим Тогда. c A v 1 n j j j i j c u v 0, . ic i Z v 0 1 n j j j i i i cvv v cv

Упражнение. c I v Для частного случая 4, n 2 0 2 1 v 1 1 3 3 0 1, 0, 0 0 c c A v c c c доказать, что Решение. } }} } 1, , 41 3 1, , m 4 ax 2 1 max 1 2 j ju c c j c I u I v u L L Для любого c A v имеем 4 u Rи 1 31, , 4 max 2 j j c c u c c L Требуется доказать, что. c I v 1 1 3 3 1 32 2 c u c c 1 3 0 0 1 31, , 4 max 2 2 j j u u c u c c L L

4 1 i i c u v , c u v , I u I v c u v , . I u I v c u v c I v Утверждение доказано. 431 2 1 1 2 3 3 42 0 0 2 0 1 vvv v c u u 1 313132 2 u uc cc c

Упражнение. Для частного случая 4, n 2 0 2 1 v доказать, что c I v 1 1 3 3 0 1, 0, 0. 0 c c A v c c c Решение. c I v } } 1, , 4 max 2 , j j u I v c u v L 1 21, , 4 max 2 2 0 j j u c u L 3 4 4 3 42 1 , 11 c u u R

2 1 0 1 2 1 1 1 u 3 1 , 3 0 u 1 1. 1 2 u Обозначим: 1 2 3 4 1 2 3 3 1 3 41, , 4 3 0 max 2 2 0 2 1 11 j j u c u c u L 6 4 7 4 8 Подставим u в (1 1 ) 1 2 3 43 2 3 2 0 1 c c 1 2 3 41. 12 c c Подставим u в (1 1 ) 1 2 3 4 1 2 1 1 2 3 41, , 4 max 2 2 0 2 1 11 j j u c u c u L 6 4 7 4 8 2 1 3 41 2 1 1 2 2 1 c u c c 1 2 3 4 1 2 31 1 13 c c c c Из (1 2 ) и (1 3 ) следует 1 2 3 41. 14 c c

Полагаем 1 2 3 4 2 2 0 0 , , , 2 2 1 1 u u 1 2 3 41, , 4 max 2 2 2 1 11 j j u c u c u L 11 1 2 2 0 u u c c 2 2 22 2 0 u u c c 3 3 32 2 0 u u c c 4 4 42 2 0 u u c c 1 2 3 4 0, 0, 0, 0. c c Последовательно подставляем в (1 1 )

2 22 0 , 2 1 u 1 2 3 41, , 4 max 2 2 2 1 , 11 j j u c u c u L 4 22 0. 2 1 u 2 2 22 2 002 2 0, u u c c cc 4444 4. 02 2 0, 0 u u c c cc Утверждение доказано. Таким образом, для частного случая доказано 1 1 3 30 1, 0, 0. 0 c I v c c c Полагаем Последовательно подставляем в (1 1 )

Упражнение. Для функции 1 2 max u I u u найти ее субдифференциал в точках 1 2 3 1 2 1 , , . 1 1 2 v v v Построить эти множества на плоскости 1 2. c Oc Решение. 1 1 2 2 1, 0, 0; 0, i c I v c c c i Z v c 1, 2 max. i s s. Z v i v v 1 1 1 2 2 1, 0, 0 c I v c c c 11, 2 Z v 2 1 0 I v 32 Z v 3 0 1 I v 1 c 1 c 1 I v 3 I v 2 I v