- •Метод наискорейшего спуска
- •Метод наискорейшего покоординатного спуска.
- •Проекция точки на поверхность.
- •Метод наискорейшего спуска
- •Инфинум функции
- •Метод золотого сечения.
- •Метод Фибоначчи.
- •Методы одномерной оптимизации.
- •Глобальный экстремум функции
- •Локальный экстремум
- •Выпуклость функции
- •Гессиан
- •Критерий Сильвестра
- •Выпуклость
- •Задача условной оптимизации
- •Метод Лагранжа
-
Метод золотого сечения.
Найти наибольшее или наименьшее значение функции и значение аргумента, при котором оно достигается.
Определяем погрешность. Затем, находим две точки x1 и x2 на заданном отрезке: x1=b-(b-a)/φ и x2=a+(b-a)/φ. Далее вычисляем значение функции в этих точках. Если f(x1)>f(x2), тогда интервал поиска минимума сокращается до [x1; b], в противном случае – до [a; x2]. В случае поиска максимума: при f(x1)<f(x2), интервал поиска сокращается до [x1; b], и при не выполнении предыдущего условия к [a; x2]. Все вышеуказанные действия, кроме определения погрешности, повторяются на каждом шаге, пока .
Функция Y от одной переменной X и отрезок, на котором оптимизируют эту функцию.
-
Метод Фибоначчи.
Найти наибольшее или наименьшее значение функции и значение аргумента, при котором оно достигается.
Определяем количество этапов N. Затем, находим две точки x1 и x2 на заданном отрезке, как х1=a+(b-a)*Fn-2/Fn и х2=a+(b-a)*Fn-1/Fn. Далее вычисляем значение функции в этих точках. Если f(x1)>f(x2), тогда интервал поиска минимума сокращается до [x1; b], в противном случае – до [a; x2]. В случае поиска максимума необходимо изменить знаки в условиях сравнения значений функции в точках отрезка. Затем сравниваем значение функции и повторяем последующие действия, пока не выполним N этапов.
Функция Y от одной переменной X и отрезок, на котором оптимизируют эту функцию.
-
Методы одномерной оптимизации.
Найти наибольшее или наименьшее значение функции и значение аргумента, при котором оно достигается.
Определяем погрешность, так как все методы этого класса являются численными, то есть приближенными. Находим две точки x1 и x2 на заданном отрезке, причем в каждом из методов эти точки выбираются по разному правилу. В выбранных точках вычисляем значение функции и сравниваем их между собой. В случае минимума обхватывается точка с меньшим значением функции, а в случае максимума с большим. Далее аналогично продолжаем поэтапно выполнять пересчет, пока не выполнится условие остановки.
Функция Y от одной переменной X и отрезок, на котором оптимизируют эту функцию.
-
Глобальный экстремум функции
Точка, в которой функция достигает наименьшего или наибольшего значения на всей области определения.
Находим первые частные производные функции F(x1, …, xn) по всем переменным x1, …, xn (градиент). Приравниваем их к нулю и вычисляем значения координат стационарных точек. Находим гессиан (матрицу вторых производных) функции F(x1, …, xn). Подставив поочередно вычисленные координаты стационарных точек в гессиан, с помощью критерия Сильвестра проверяем является ли данная стационарная точка точкой глобального минимума или максимума.
Функция F(x1, …, xn).
-
Локальный экстремум
Точка, в которой функция достигает наименьшего или наибольшего значения на некотором промежутке.
Находим первые частные производные функции F(x1, …, xn) по всем переменным x1, …, xn (градиент). Приравниваем их к нулю и вычисляем значения координат стационарных точек. Вычисляя значения производной между стационарными точками, определяем промежутки возрастания и убывания функции («+» - функция возрастает, «-» - убывает). Если производная слева и справа меняет знак, то это точка локального экстремума.
Функция F(x1, …, xn).