МТУСИ

Дизайн И. Гайдель 2007

Математические основы нейронных сетей

Оптимизация на основе градиента

Как было показано в предыдущей лекции, каждый слой нейронной сети преобразует данные следующим образом:

output = relu(dot(input, W) + b) ,

где relu = max(x,0);

dot – скалярное произведение (тензорное произведение) W и b — тензоры, являющиеся атрибутами слоя.

Тензоры W и b называются весами или обучаемыми параметрами слоя. Эти веса содержат информацию, извлеченную сетью из обучающих данных.

Первоначально весовые матрицы заполняются небольшими случайными значениями (данный шаг называется случайной инициализацией). Конечно, бессмысленно было бы ожидать, что relu(dot(input, W) + b) вернет хоть сколько- нибудь полезное представление для случайных W и b. Начальные представления не несут никакого смысла, но они служат отправной точкой. Далее на основе сигнала обратной связи происходит постепенная корректировка весов, которая также называется обучением. Она и составляет суть машинного обучения.

Дизайн И. Гайдель 2007

Математические основы нейронных сетей

Оптимизация на основе градиента

Ниже перечислены шаги, выполняемые в так называемом цикле обучения, который повторяется необходимое количество раз.

1. Извлекается пакет обучающих экземпляров x и соответствующих целей

y_true.

2. Модель обрабатывает пакет x (этот шаг называется прямым проходом) и получает пакет предсказаний y_pred.

3.Вычисляются потери модели на пакете, дающие оценку несовпадения

между y_pred и y_true.

4.Веса модели корректируются так, чтобы немного уменьшить потери на этом пакете.

В конечном итоге получается модель, имеющая очень низкие потери на обучающем наборе данных: несовпадение предсказаний y_pred с ожидаемыми целями y_true малое. Модель «научилась» отображать входные данные в правильные конечные значения.

Дизайн И. Гайдель 2007

Математические основы нейронных сетей

Оптимизация на основе градиента

Если разобрать представленные выше процесс на мелкие шаги, он выглядит очень просто.

Шаг 1 несложный — это просто операция ввода/вывода.

Шаги 2 и 3 — всего лишь применение нескольких операций с тензорами.

Шаг 4: корректировка весов сети (наиболее запутанный шаг). Как по отдельным весам в сети узнать, должен ли некоторый коэффициент увеличиваться или уменьшаться и насколько?

Одно из простейших решений — заморозить все веса, кроме одного, и попробовать применить разные его значения. Допустим, первоначально вес имел значение 0,3. После прямого прохода потери сети составили 0,5. Теперь представьте, что после увеличения значения веса до 0,35 и повторения прямого прохода вы получили увеличение оценки потерь до 0,6, а после уменьшения веса до 0,25 — падение оценки потерь до 0,4. В данном случае похоже, что корректировка коэффициента на величину –0,05 вносит свой вклад в уменьшение потерь.

Эту операцию можно было бы повторить для всех весов в сети. Однако подобный подход крайне неэффективен, поскольку требует выполнять два прямых прохода (что довольно затратно) для каждого отдельного веса (которых очень много, обычно тысячи, а иногда и до нескольких миллионов). Есть более оптимальное решение: градиентный спуск.

Дизайн И. Гайдель 2007

Математические основы нейронных сетей

Оптимизация на основе градиента

Что такое производная? Рассмотрим непрерывную гладкую функцию f(x) = y, отображающую число x в новое число y. Возьмем для примера функцию, изображенную на слайде. Поскольку функция непрерывна, небольшое изменение x может дать в результате только небольшое изменение y — это вытекает из понятия непрерывности. Допустим, мы увеличили x на маленькую величину epsilon_x: в результате y изменилось на маленькую величину epsilon_y.

Кроме того, поскольку функция является гладкой (ее кривая не имеет острых углов), то при малых величинах epsilon_x в окрестностях определенной точки p функцию f можно аппроксимировать линейной функцией c наклоном a. Соответственно, epsilon_y можно вычислить как a * epsilon_x, т.е:

f(x + epsilon_x) = y + a * epsilon_x

Очевидно, что такая линейная аппроксимация действительна, только когда x располагается достаточно близко к точке p.

Дизайн И. Гайдель 2007

Математические основы нейронных сетей

Оптимизация на основе градиента

Функция, которую мы рассматривали выше, превращает скалярное значение x в другое скалярное значение y: ее можно изобразить в виде кривой на двумерной плоскости. Теперь представьте функцию, которая превращает кортеж скаляров (x,

y) в скалярное значение z: это уже будет векторная операция. Ее можно изобразить как двумерную поверхность в трехмерном пространстве (с осями координат x, y, z). Точно так же можно представить функции, принимающие на входе матрицы, трехмерные тензоры и т. д. Понятие производной применимо к любой такой функции, если поверхности, которые они описывают, являются непрерывными и гладкими.

Производная тензорной операции (или тензорной функции) называется градиентом. Градиенты — это просто обобщение понятия производной на функции, принимающие многомерные входные данные — тензоры. Если производная скалярной функции выражает локальный наклон кривой функции, то градиент тензорной функции выражает кривизну многомерной поверхности, описываемой функцией. Он характеризует изменение результата функции при изменении входных параметров.

Дизайн И. Гайдель 2007

Математические основы нейронных сетей

Оптимизация на основе градиента

Теперь, используя градиенты, можно выяснить, как обновить W, чтобы уменьшить значение loss_value. Если входные данные x и y_true зафиксированы, то предыдущие операции можно интерпретировать как функцию, отображающую значения W в значения потерь:

Допустим, что W0 — текущее значение W. Тогда производной функции f в точке W0 будет тензор grad(loss_value, W0) с той же формой, что и W, в котором каждый элемент grad(loss_value, W0)[i, j] определяет направление и величину изменения в loss_value, наблюдаемого при изменении W0[i, j].

Тензор grad(loss_value, W0) — это градиент функции f(W) = loss_value в точке

W0, его также называют градиентом loss_value для W в окрестностях W0.