Подготовила студентка 2 к 146 гр Никитина

Подготовила студентка 2 к. , 146 гр. Никитина А. И.

ГРАДИЕНТНЫЕ МЕТОДЫ [gradient methods] – методы решения задач математического программирования (вычислительные алгоритмы), основанные на поиске экстремума (максимума или минимума) функции путем последовательного перехода к нему с помощью градиента этой функции.

В случае поиска минимума функции говорят о методе наискорейшего спуска, в случае задачи максимизации — о методе наискорейшего роста (или подъема). При этом необходима строгая проверка решения, ибо градиентный спуск или подъем могут привести к экстремальной точке, которая на самом деле окажется не глобальным, а лишь одним из локальных оптимумов.

Формально решение в случае спуска состоит в построении последовательности векторов x 0, x 1, . . . , xn, удовлетворяющих условию f (x 0) > f(x 2) >. . . f(xk). . . > f(xn). Такие последовательности называют релаксационными.

Точки этой последовательности [xk] вычисляются по формуле xk + 1 = xk + γk pk , где γk — направление спуска, определяемого градиентом; pk — длина шага вдоль этого направления (длина шага может быть постоянной и переменной, причем оптимальный ее размер обеспечивает наискорейший спуск или подъем).

Среди градиентных алгоритмов: q метод растяжения пространства; q субградиентный метод выпуклой оптимизации; q метод покоординатного спуска.

http: //slovari. yandex. ru q http: //ru. wikipedia. org q http: //matlab. exponenta. ru q