книги из ГПНТБ / Галушкин, А. И. Синтез многослойных систем распознавания образов

8 -2 2 ) показал, что при К* = — 2 , когда процесс настройки является автоколебательным, степень пересечения классов играет значительную роль в формировании процесса на­ стройки. При значительных а процесс настройки расхо­ дится. При незначительных а . колебательный процесс на­ стройки периодически изменяет свою амплитуду относи­ тельно идеального значения порога, в некоторые моменты времени принимая достаточно точные значения.

Необходимо отметить, что процессы (рис. 8-21) имеют место в основном в существенно нелинейных системах, ка­ ковыми и являются СР, настраивающиеся по замкнутому циклу.

Эксперимент с СР с упреждением решения на время а позволил сделать следующие выводы (рис. 8-17, 8-18):

1.Чем больше а, тем больше случайные ошибки кон­ тура настройки СР по замкнутому циклу.

2.Чем больше а и меньше т, тем при постоянном а больше случайные ошибки контура настройки СР по замк­ нутому циклу.

3.Расчеты с линейной и квадратичной гипотезой из­ менения во времени координат центров классов показали, что при прочих равных условиях увеличение порядка ги­ потезы приводит к увеличению случайных ошибок контура настройки СР по замкнутому циклу.

8-7. Исследование динамики трехслойной СР в режиме обучения

Предметом исследования в данном случае являлась трехслойная СР из ЛПЭ с континуумом решений. Первый, второй и третий слои СР содержали соответственно три, два и один ЛПЭ. Пространство признаков было в общем слу­ чае многомерным; в частном случае — двумерным. " Р а ­ зомкнутая СР описывалась следующим выражением:

Я„ arctg В 2

хл).'ft,

230

G)

Рис. 8-23. Начальные и конечные положения разделя­ ющих поверхностей, реализуемых ЛПЭ в экспери­ менте 1-3.

а = первый слой; б — третий слой.

—тп

Для распределений, линии равных значений которых представлены на рис. 8-23, оптимальное состояние рассмат­ риваемой многослойной СР определяется следующим об­

231

Для второго слоя ЛПЭ21, ЛПЭ22 имеют коэффициенты:

Эксперименты проводились со следующими парамет­ рами датчика образов на входе СР: размерность входного пространства признаков N = 2, число мод / (х) равно 4.

Эксперименты с первым слоем ЛПЭ СР (второй и тре­ тий слои оптимальны). Каждый из перечисленных ниже экспериментов определялся своими условиями.

1-1. Приведенные выше коэффициенты гиперплоскостей, реализуемых ЛПЭ СР, оптимальны.

лизуемых ЛПЭ первого слоя СР, в разные стороны (началь­ ные коэффициенты: 1,1; — 8 ; — 1; — 1,24; 1,1; — 40).

1- 4. Поворот двух гиперплоскостей, реализуемых ЛП первого слоя СР, на угол а — л (начальные коэффициенты:

-1; - U 2 ; 1,1; - 2 4 ; 1,1; - 3 6 ) .

Эксперименты со вторым слоем ЛПЭ СР (первый и тре­

третьего слоя СР, на угол а — я.

Ниже приведены результаты экспериментов.

На рис. 8-24 — 8-26 приведена иллюстрация процессов настройки коэффициентов ЛПЭ СР. По вертикальной оси отложены отношения коэффициентов, а по горизонталь­ ной — количество итераций. Уровень осей координат соответствует оптимальному значению коэффициентов. Экс­ перимент 1-1 подтверждает предположение об устойчиво­ сти значений коэффициентов ЛПЭ СР в оптимальном со­

232

233

этому эксперименты с ЛПЭ второго и третьего слоя пре­ дусматривали настройку коэффициентов плоскостей, по­ вернутых на 180°. В результате настройки в эксперименте 2-1 плоскость, реализуемая ЛПЭ третьего слоя, разверну­ лась в оптимальное положение. На рис. 8-26, 8-27 представ­ лена динамика настройки коэффициентов ЛПЭ СР для экс­ перимента 2-2 и 3-1. В результате обучения СР гиперпло-

Рис. 8-26. Динамика настройки коэффициентов ЛПЭ в эксперименте.

скость, реализуемая ЛПЭ третьего слоя, развернувшись на 180°, пришла в оптимальное состояние. Вполне законо­ мерно поведение коэффициентов ЛПЭ первого слоя, так как до момента, когда коэффициенты ЛПЭ третьего слоя не оптимальные, коэффициенты ЛПЭ первого слоя значи­ тельно отклоняются от оптимальных. Но после настройки ЛПЭ третьего слоя они приходят в оптимальное состояние.

Данная работа является начальным исследованием мно­ гослойных СР, настраивающихся по замкнутому циклу в режиме обучения. Результаты проведенных экспериментов подтвердили теоретическое обоснование исследуемого ал­ горитма настройки, а также показали высокую его эффек­

234

тивность. Остается довольно широкий круг вопросов, ко­ торые необходимо исследовать. К ним в первую очередь относятся:

1) выбор оптимальных коэффициентов К в градиентной процедуре и их соотношения между слоями многослойной СР (этого вопроса частично коснемся ниже);

2 ) изучение влияния избыточности структуры много­ слойной СР на эффективность и качество настройки и т. д.

8-8. Исследование СР частного вида с обратными связями

Объектом исследования в данном пункте является од­ номерный ЛПЭ с обратной связью, описываемый следую­ щими соотношениями:

хк(пАТ) = sign [g (пАТ)]; g (пАТ) = х (пАТ)—

где АТ — интервал времени между моментами поступле­ ния образов на вход СР. В качестве критерия вторичной оптимизации выбирается критерий минимума а 2а. Предпо­ лагается, что при настройке по замкнутому циклу коэффи­ циенты а0 и ак не меняют своего значения на интервале усреднения тп. Выражения для оценок градиента а 2а имеют в данном случае вид:

дак

Выражения (8-7), (8 -8) служат основой для построения соответствующей замкнутой СР. Усреднение измеренных значений градиента производилось оптимальным дискрет­ ным фильтром с памятью тп, синтезированным исходя из априори заданной гипотезы об изменении на интервале тп математического ожидания входного сигнала (стационар­

235

Рис. 8-28, Исследование динамики настройки ЛПЭ с обратной связью.

— 0,5 и отрицательной обратной связью при K j = — 0,5; — X X _____ с поло­

жительной обратной связью при Kj == — 0,5.

236

Рис. 8-29. Ис­ следование ди­ намики на­ стройки ЛПЭ

собратной

=— 0,5.

*

обратной связи; •— •— • — с положительной обратной связью при Кj = 0,5

*

и с отрицательной обратной связью при K j = — 0,5; — X X — — с поло­

237

туре настройки коэффициента ак) приводит к одинаковым результатам настройки СР по величине а0 и суммарному порогу = а0 (п) + ак (п) xk (п— 1), но различным по знаку и одинаковым по модулю коэффициентам ак.

Рис. 8-31. Исследование ди­ намики настройки ЛПЭ с обратной связью при т —

= 20; К* = — 0,5 (К* —

коэффициент настройки по. рога а0\ К\ — коэффициент настройки ак).

с положительной обратной связью при К , = 0,5.

Рис. 8-32. Исследование дина­ мики настройки ЛПЭ с обрат­

2. При достаточно большой памяти СР в блоке на стройки (порядка тп = 2 0 ) характер изменения а0 и ак является колебательным. При уменьшении памяти (до

238

тп = 5) колебательность процесса настройки коэффици­ ента йк резко возрастает, а коэффициента а0 — падает.

3. Систематическая ошибка настройки коэффициента а0 увеличивается при увеличении памяти системы, а также при введении обратной связи в структуру разомкнутой СР.

ство СР с обратной связью по сравнению с СР без обратной связи.

4. Уменьшение К] — коэффициента в итерационной

процедуре настройки коэффициента обратной связи — при­ водит, естественно, к тому, что СР с обратной связью по своим характеристикам приближается к СР без обратной связи.

8-9. Исследование динамики однослойных СР в режиме самообучения

Ниже представлены результаты моделирования на ЦВМ четырех типов СР в режиме самообучения: СР с поиском центров мод распределения / (х); СР в виде слоя ЛПЭ с двумя решениями; СР в виде ЛПЭ с К р решениями.

Основной задачей исследования является оценка ка­ чества разработанных алгоритмов при наличии на входе сигнала х (п) с распределением произвольной модально­ сти. Качество определяется числом найденных и выделенных алгоритмом мод распределения / (х) при заданной точности получения величин настраиваемых коэффициентов СР.

а) СР с поиском центров мод распределения / (х)

В соответствии с результатами гл. 7 рассматривается алгоритм самообучения, реализующий' следующее рекур­ рентное соотношение:

b{xk, n + l ) = b{xk, ri) + K*[x(n) — b(xk, п)\ (8-9)

ивключающий в себя следующие этапы.

1.В заданном интервале изменения х случайным обра­

зом выбираются координаты К р-мерного вектора b (xk, 0 ).

2.На вход поступает очередной образ х. Вычисляется ближайший к данному х центр Ь.

3.В соответствии с выражением (8-9) данная координата

вектора b (xk) изменяется.

4. Замыкается внутренний цикл на п. 2, затем внешний цикл на п. 1. Распределение случайного входного сигнала

239