8124

19

Графики обучения нейронной сети выглядят следующим образом

(рисунок 15).

Рисунок 15 – Графики обучения нейронной сети Из рисунка видно, что переобучение наступает где-то после 270 эпох.

Точность распознавания модели, обученной на 270 эпохах составляет 82,4 %.

4 Список литературы

1. Каллан Р. Основные концепции нейронных сетей.: Пер. с англ. / Р.

Каллан. М.: Издательский дом «Вильямс», 2001. – 291 с.

2. Франсуа Ш. Глубокое обучение на Python / Ш. Франсуа. СПб.: Питер,

2018. - 400 c.

3. Цыган, В.Н. Электроэнцефалография / В.Н Цыган, М.М Богословский,

А.В Миролюбов; под. ред. М.М Дьяконова – СПб.: Наука, 2008. – 192 с.

61

20

Приложение. Установка среды разработки

Для запуска скриптов, написанных на Python, необходимо установить его интерпретатор версии 3.8. Интерпретатор Python можно скачать на сайте https://www.python.org/downloads/windows/.

Рисунок 0.1 иллюстрирует начало установки интерпретатора Python. В

начальном окне необходимо поставить галочку напротив «ADD python 3.8 to PATH» и нажать на ссылку «Customize installation». Далее все делать по умолчанию до момента, когда появится окно с выбором пути для установки интерпретатора. Необходимо выбрать путь C:\Python38. Далее все действия выполнять по умолчанию.

После установки интерпретатора необходимо выполнить установку дополнительных библиотек. Для этого запустить командную строку Windows

и перейти в директорию C:\Python38. Далее необходимо установить библиотеку OpenCV и Keras. OpenCV используется для цифровой обработки изображений, Keras – для построения нейронных сетей.

Рисунок 0.1 – Окно начала установки интерпретатора Python

62

21

Рисунок 0.2 – Выбор пути для установки интерпретатора Python

Также для корректного запуска скриптов нам понадобятся библиотека для численных вычислений NumPy и библиотека для визуализации графиков

Matplotlib. Для установки указанных библиотек необходимо ввести в консоль следующие команды:

pip install numpy; pip install keras;

pip install opencv-python; pip install matplotlib.

После установки библиотек можно запускать скрипты на Python из какого-нибудь редактора кода. Мы будем использовать Visual Studio Code,

скачать которую можно на сайте https://code.visualstudio.com/download.

После установки среды на вкладке Extensions необходимо ввести в окно поиска Python и установить Python for VS (рис. 0.3).

63

22

Рисунок 0.3 – Установка плагинов для программирования на Python в VS Code

Далее можно приступать к реализации проекта.

64

ЛАБОРАТОРНАЯ РАБОТА № 7

Реализация системы распознавания образов на базе сверточных нейронных сетей с

использованием Python и его библиотек глубокого обучения, таких как TensorFlow и

PyTorch

Введение

Наилучшие результаты в области распознавания лиц показала

Convolutional Neural Network или сверточная нейронная сеть (далее – СНС),

которая является логическим развитием идей таких архитектур НС как когнитрона и неокогнитрона. Успех обусловлен возможностью учета двумерной топологии изображения, в отличие от многослойного персептрона.

Сверточные нейронные сети обеспечивают частичную устойчивость к изменениям масштаба, смещениям, поворотам, смене ракурса и прочим искажениям. Сверточные нейронные сети объединяют три архитектурных идеи, для обеспечения инвариантности к изменению масштаба, повороту сдвигу и пространственным искажениям:

•локальные рецепторные поля (обеспечивают локальную двумерную связность нейронов);

•общие синаптические коэффициенты (обеспечивают детектирование некоторых черт в любом месте изображения и уменьшают общее число весовых коэффициентов);

•иерархическая организация с пространственными подвыборками.

На данный момент сверточная нейронная сеть и ее модификации считаются лучшими по точности и скорости алгоритмами нахождения объектов на сцене. Начиная с 2012 года, нейросети занимают первые места на

65

известном международном конкурсе по распознаванию образов ImageNet.

Именно поэтому в своей работе я использовал сверточную нейронную сеть,

основанную на принципах неокогнитрона и дополненную обучением по алгоритму обратного распространения ошибки.

Структура сверточной нейронной сети

СНС состоит из разных видов слоев: сверточные (convolutional) слои,

субдискретизирующие (subsampling, подвыборка) слои и слои «обычной» нейронной сети – персептрона, в соответствии с рисунком 1.

Рисунок 1 – топология сверточной нейронной сети

Первые два типа слоев (convolutional, subsampling), чередуясь между собой, формируют входной вектор признаков для многослойного персептрона.

Свое название сверточная сеть получила по названию операции – свертка, суть которой будет описана дальше.

Сверточные сети являются удачной серединой между биологически правдоподобными сетями и обычным многослойным персептроном. На сегодняшний день лучшие результаты в распознавании изображений получают с их помощью. В среднем точность распознавания таких сетей превосходит обычные ИНС на 10-15%. СНС – это ключевая технология Deep

Learning.

Основной причиной успеха СНС стало концепция общих весов.

Несмотря на большой размер, эти сети имеют небольшое количество

66

настраиваемых параметров по сравнению с их предком – неокогнитроном.

Имеются варианты СНС (Tiled Convolutional Neural Network), похожие на неокогнитрон, в таких сетях происходит, частичный отказ от связанных весов,

но алгоритм обучения остается тем же и основывается на обратном распространении ошибки. СНС могут быстро работать на последовательной машине и быстро обучаться за счет чистого распараллеливания процесса свертки по каждой карте, а также обратной свертки при распространении ошибки по сети.На рисунке ниже продемонстрирована визуализация свертки и подвыборки:

Модель нейрона

67

не более 1 секунды и точность распознавания не менее 70%. Общая топология сети в соответствии с рисунком 2.

Рисунок 2 — Топология сверточной нейросети

Входной слой

Входные данные представляют из себя цветные изображения типа JPEG,

размера 48х48 пикселей. Если размер будет слишком велик, то вычислительная сложность повысится, соответственно ограничения на скорость ответа будут нарушены, определение размера в данной задаче решается методом подбора. Если выбрать размер слишком маленький, то сеть не сможет выявить ключевые признаки лиц. Каждое изображение разбивается на 3 канала: красный, синий, зеленый. Таким образом получается 3

изображения размера 48х48 пикселей.

Входной слой учитывает двумерную топологию изображений и состоит из нескольких карт (матриц), карта может быть одна, в том случае, если изображение представлено в оттенках серого, иначе их 3, где каждая карта соответствует изображению с конкретным каналом (красным, синим и зеленым).

Входные данные каждого конкретного значения пикселя нормализуются в диапазон от 0 до 1, по формуле:

69