книги из ГПНТБ / Галушкин, А. И. Синтез многослойных систем распознавания образов

ные типы (всего система содержит 12 типов распределений) обра­ зуются на стыке диапазонов при К 0 = О, К 0 — 1, К 0 = оо с при­ влечением дополнительных критериев классификации. Решение уравнений (3-1) и (3-2) может быть получено в следующем виде:

где A i и А 2 — корни полинома G (х).

Сравнение встречающихся на практике частных видов распре­ делений с типовыми распределениями Пирсона говорит о широте охвата системы.

Выражение для плотности (3-4) может быть использовано в про­ цессе реализации оптимальных моделей СР при настройке по ра­ зомкнутому циклу. Обучение в рассматриваемом случае происхо­ дит следующим образом:

а) по выборке из генеральной совокупности для распределе­ ния, охват которого системой Пирсона подразумевается, оцени­ ваются четыре первых момента;

3-4. Метод допустимых преобразований

Метод допустимых преобразований [Л. 8, 34, 54 ] впервые был предложен в работе [Л. 34]. Ниже излагается некоторая его моди­ фикация. При этом показывается, что метод допустимых преобразо­ ваний приводит к СР, настраивающейся по разомкнутому циклу, причем априорная информация о виде допустимых преобразований эквивалентна априорной информации о виде типового распреде­ ления. При данном методе подобие Z (х, Х т) образа х и совокуп­ ности образов Х т (пг— I, , М), представляющих класс, оп­ ределяется следующим выражением:1

В работе (Л. 18] рассматривается случай К = 2. Ниже рас­ смотрим частный класс метрик, а именно

70

Отсюда следует, что необходимо обеспечить минимум следую­ щего выражения:

жжN

71

Исходная ортогональная система координат преобразуется матрицей, на которую накладывается дополнительное требование ортогональности

CN 1 ' ’ ' CN N .

Вслучае подобного преобразования объем области сохраняется.

Ввыбранной системе координат

2ft

Отсюда

Итак, минимизируемая величина имеет следующий вид:

Эту величину необходимо минимизировать при наложении со­ ответствующих ограничений (3-6) на коэффициенты линейного пре­ образования. Из (3-9) получаем:

l2ft-1

и производя дальнейшие преобразования, получаем:

72

Можно показать, что симметричная перестановка индексов в группе индексов не меняет матрицу Ui , . . . , z'2fc> а несимметрич­

ная изменяет ее. Следовательно, выражение для полного дифферен­ циала имеет следующий вид:

•••+ Uix.....гА-Л......гяЛ—l)*

Минимум при ограничениях типа (3-7) обеспечивается при удовлетворении коэффициентами с следующего соотношения:

Отсюда следует, что параметры оптимального нелинейного пре­ образования исходного пространства признаков в данном случае непосредственно определяются через моменты распределения со­ вокупностей образов.

Рассмотрим связь метода допустимых преобразований с тео­ рией статистических решений. В случае г = 2 введенная мера по­ добия образа классу может быть представлена в преобразованном пространстве признаков в следующем виде:

--------------------------------------------------- — ----------- т

2(х , X m) = { x - x m) C W W TCT { x - l m) T .

Здесь / — единичная матрица, a W — диагональная матрица с диагональными элементами, которые в соответствии с (3-5) равны:

1 / » \ТГ

г“=Ч,Н ■

где о,- = / X, X — собственное значение ковариационной матрицы для совокупности образов, соответствующее z'-му собственному век­ тору, хт — вектор из множества Хт. Преобразуем выражение для меры подобия Z следующим образом:

73

где Urs — элемент матрицы ковариаций. Далее рассмотрим мат­ рицу

[CWIWTCT] U = C ( W I W T) { C TU) = C ( WIWT) (CTU) (c c ~ l) =

= С (WIWT) (CTUC) C~l = C (WIWT) xc~ l =

где К -т- диагональная матрица с собственными значениями мат­ рицы по диагонали. Отсюда следует, что

Подставляя (3-11) в (3-10), получаем следующее:

2

74

С другой стороны, многомерное нормальное распределение может быть представлено в следующем виде:

3-5. Построение СР нестационарных образов

Большинство существующих разработок в области теории и практики распознавания образов относится к стационарным об­ разам, т. е. к таким, когда сигнал х (п) представляет собой стацио­ нарный случайный процесс. Иными словами, картина образа, т. е. множество в М-мерном пространстве является неизменным во вре­ мени, а любой образ является представителем совокупности с рас­ пределением, не зависящим от времени. В действительности пред­ ставление человека об окружающем мире постоянно изменяется. Человек забывает старые факты и больший вес зачастую придает последним. Одним словом, некоторый обобщенный образ у человека как бы перемещается во времени в некотором пространстве призна­ ков, которые вырабатываются у человека в мозгу. Можно было бы назвать несколько практических задач распознавания образом, где образы в пространстве признаков подчиняются законам распре­ деления, переменным во времени.

На рис. 3-5 показаны линии равных значений условных плот­ ностей для первого и второго класса, а также девиация разделяю­ щей поверхности в нестационарном случае. В этом смысле задачу распознавания нестационарных на некотором интервале времени образов иногда можно трактовать как стационарную с более слож­ ной оптимальной разделяющей поверхностью. Рассмотрим простей­ ший случай распознавания двух совокупностей образов, распреде­

75

денного на интервал а — Ь—п (b = const) момента времени с целью нахождения того, какое наиболее правильное решение нужно

ш1 (ft), m2 (п) является классической задачей оптимальной много­ мерной фильтрации случайных процессов, приводимых к стацио­ нарным. Синтез оптимального многомерного фильтра для оценки векторов математических ожиданий приведен в [Л. 43].

3-6. Построение настраивающихся по разомкнутому циклу СР в режиме самообучения

Рассмотрим алгоритм самообучения СР по разомкнутому циклу в том случае, когда распределение f (х) входного сигнала СР яв­

ляется суммой произвольного числа многомерных нормальных за­ конов с соответствующими априорными вероятностями [Л. 55].

Двумодальное распределение

В качестве уравнения для разделяющей поверхности можно использовать любое из приведенных в § 3-2. Как видно из этих урав­ нений, искомыми при решении задачи самообучения в данном слу­ чае являются рх, р2, Шц ш2, Ux, U2, т. е. (N + 1) (N + 2) пара­

метров. Основной задачей в моментном (параметрическом) подходе к самообучению является нахождение зависимости между этими параметрами и моментами распределения входного сигнала. Введем некоторые обозначения

Получим общее выражение для центрального момента р,£ по­

рядка | к] >2 распределения входного сигнала СР через параметры распределений первого и второго класса:

И* = J (х — m0)k/ (х) dx = рх J (х— m0)kfx(х) dx +

77

торых | 1 |> 2 . Известно, что центральные моменты многомерного нормального распределения однозначно выражаются через цен­ тральные моменты второго порядка. Вывод такой зависимости пред­ ставлен в [Л. 49]. Здесь приведен окончательный результат

78

Подставив полученные результаты в (3-16), получаем соотно­ шение между центральными моментами распределения входного сигнала и распределениями первого и второго класса:

торые соображения по выбору необходимого числа уравнений. Таким образом, структура рассматриваемой СР в режиме самообу­ чения будет состоять из следующих последовательно соединенных блоков: блока вычисления (N + 1) (N + 2) моментов распределе­ ния входного сигнала, блока вычисления параметров распределе­ ния первого и второго класса, блока построения разделяющих по­ верхностей.

Многомодальное распределение. Уравнения для разделяющих поверхностей в данном случае легко могут быть получены по мате­ риалам, посвященным К классам образов с использованием выра­ жения для многомерного нормального закона. Для построения данной разделяющей поверхности необходимо знать параметры рь,

раметров). Система уравнений для определения этих параметров через центральные моменты распределения входного сигнала имеет следующий вид:

второго из трех указанных блоков вычисления параметров распре­ деления образов первого и второго класса СР, самообучающейся по разомкнутому циклу.

Отметим, что реализация на ЦВМ систем распознавания, на­ страивающихся по разомкнутому циклу, представляет собой само­ стоятельную задачу. Так как реализация связана в основном с во-

79