книги из ГПНТБ / Галушкин, А. И. Синтез многослойных систем распознавания образов

потери при отнесении образов к тому или иному классу. Матрица коэффициентов потерь имеет следующий вид:

терь при отнесении образов г'-го класса к &р-й области. Оче­ видно необходимо, чтобы

Найдем выражение для S p (x), минимизирующее сред­ нюю функцию риска. Введем дополнительное обозначение следующим образом:

Sр(х)>0

Сиспользованием приведенного выше материала до­ статочно легко показать, что минимальное значение R до­ стигается при

5 (Йр)(х) = £." (х)—g k (х)>0, Г - 1 , ... , К

40

или

Выражения для оптимальных моделей СР в случае дру­ гих рассмотренных выше критериев первичной оптимиза­ ции могут быть получены достаточно просто на основании изложенного выше метода.

Системы распознавания 4 и 9, Это — системы распозна­ вания К классов образов, имеющие (Кр— 1) разделяющую поверхность.

При использовании критерия минимума средней функ­ ции риска система неравенств, ограничивающая в много­ мерном пространстве признаков область kp-ro решения, имеет следующий вид:

Система распознавания 5. При наличии на входе двух классов образов система распознавания имеет на выходе непрерывный (по уровню) сигнал. Естественно, что данный сигнал, как и входной сигнал СР, является дискретным по времени.

В случае использования критерия первичной оптимизации СР по величине апостериорной вероятности необходимо иметь априори функцию d (хь) превышения апостериорной вероятности принад­ лежности текущих образов на входе к первому классу над апосте­ риорной вероятностью принадлежности этих образов ко второму классу при конкретном значении выходного сигнала х* ,т. е. для каждого значения х* в СР априори должна быть определена «уве­ ренность» СР в отнесении образов к тому или иному классу по апо­ стериорной вероятности. В этом случае уравнение для оптималь­ ной модели СР двух классов образов и континуумом решений имеет следующий вид:

/"(e = - l / x ) - d ( * ft) = / " ( e = 1/х).

в рассматриваемом случае. Это уравнение определяет связь между входным и выходным сигналом СР, которую в принципе необходимо реализовать, исходя из выбранного критерия первичной оптимиза­ ции и структуры СР.

41

Рассмотрим критерий минимума средней функции риска. Иллюстрация видоизменения функции ошибок при пере­ ходе от двух к Кр и континууму решений системы распоз­ навания двух классов образов представлена на рис. 2-5. Следовательно, в данном случае вводится в рассмотрение вместо матрицы (2 -12) коэффициентов ошибок для случая

Рис. 2-5. Иллюстрация видоизменения функции ошибок при переходе от двух к К р и континууму решений СР двух классов образов.

а — два решения; б — три решения; в — /Ср решений; г — конти­ нуум решений.

двух классов образов и Кр решений вектор функции оши­ бок

L = h (xk)

J i ( X k ) .

возникающих при приписывании различным образам пер­ вого и второго класса решения %.

В случае Кр решений СР двух классов образов выраже­ ние для условной функции риска для образов первого класса имеет следующий вид:

42

Здесь U S р(х) = Х ,где X — полное многомерное про-

странство признаков. Введем дополнительные обозначе­ ния:

В этом случае, как и в предыдущих, рассмотренных ра­ нее, функция G (х, kp) является предметом синтеза. Она определяет оптимальную модель СР, т. е. оптимальную связь (с точки зрения принятого критерия первичной оп­ тимизации) выходного и входного сигналов СР.

При переходе к континууму решений выражения для функций риска принимают следующий вид:

N

получаем окончательное выражение для средней функции

риска:

N

Здесь функция g (х, xk) задана в общем виде. Функция G (х, xk), являющаяся предметом синтеза, должна быть выражена через функцию g (х, xk) таким образом, чтобы достигался минимум R. На рис. 2-6 представлена иллюстра­ ция данной функции для случая одномерного пространства признаков и конечного числа Кр решений СР. При переходе

43

к континууму решений СР данная функция вырождается

вфункцию G (х, xk), общий вид которой представлен на рис. 2-7. Это полоса с высотой, равной единице. Предметом

синтеза является форма данной полосы.

Рис. 2-8. Вид функции G (х, х^ для континуума решений и двух классов образов.

На рис. 2-8 представлена геометрическая иллюстрация функции g (х, xk) в простейшем случае. Таким образом, задача минимизации средней функции риска сводится к за­ даче минимизации площади полосы G (х, хк) g (х, хк), по­ лученной модуляцией (профилированием) полосы G (х, xk), показанной на рис. 2-7, функцией g (х, xk).

44

В выражении для средней функции риска (2-15)

G(x. х*) = 1 1 при

1 0 при хк ф р (\),

где функция р (х) есть предмет синтеза — преобразование, осуществляемое СР над входным сигналом в режиме рас­ познавания. Отсюда выражение для R (х, хк) можно за­ писать в следующем виде:

N

х

где функция g [х, р (х) ] в данном случае имеет вид:

g [х, р (х)] = Pi/x (х) 1Х\р (х)] + р2/2 (х) /2 [р (х)].

Минимизация R является задачей вариационного ис­ числения. При этом минимум достигается при условии

dg[x,p(x)] _ q

dp (х)

или с учетом конкретного вида функции g [х, р (х)]:

имеют вид, изображенный на рис. 2-9. Этот случай соответствует одинаковому значению функции ошибок на некотором интервале изменения хк. При этом

45

Уравнение для оптимальной модели СР будет иметь следующий

вид:

А

Здесь б (л-*) — б — функция с известными свойствами.

2.Функции ошибок для образов первого и второго класса

функции второго порядка /] (х*) = (1 + х*)2/, /2 (*ft) = (1—х*)2/.

Хк

Рис. 2-9. Зависимости функции ошибок для СР с континуумом решений.

При этом

Подставляя данные выражения в (2-17), получаем уравнение для оптимальной модели р (х) СР с континуумом решений в следую­ щем виде:

Plfl (X)2/[ 1+ р (х)] + p2f2(х) 21 [р (X) - 1] = 0.

Отсюда следует выражение для оптимальной модели СР с кон­ тинуумом решений в случае квадратичных функций потерь:

р (х) = Рг/g (х) — p j i (х)

Р2 / 2 (х) + Р1 / 1 (х)

Иллюстрация функции xk = р (х), реализуемой СР, представ­ лена на рис. 2-10.

3.Функции ошибок для образов первого и второго класса ес

функции первого порядка 1г (xk) = 1 ( 1 + xk), l2 (xk) =-■ l ( \ —xk).

46

В данном случае dl1 (x^/dx^ — /; dl2 (x^/dx^ = — l. Отсюда сле­ дует, что при линейных функциях ошибок возникают определен­ ные трудности в формировании оптимальной модели СР. Для ис­ следования данного вопроса рассмотрим функцию ошибки в сле­ дующем виде:

к (Ч) = / (1 + xk)e+l, к (Ч) = / (1 - * * ) е+1,

из которого при с — 1 следует случай 2, а при с = 0 — линейный случай. Тогда

нуума решений пространство решений вырождается в пространство двух решений.

При сравнении критериев первичной оптимизации СР по ве­ личине апостериорной вероятности (2-14а) и минимума средней функции риска (2-17) видно, что оптимальные модели СР совпадают,

dxk

Эти выражения позволяют ввести дополнительную физическую интерпретацию функции d (х«)

47

Рассмотрим критерий минимума средней функции риска при ограничениях (2-7) и (2-8). Минимизация средней функ­ ции риска (2-15) при условии

N

где

gi (x, xk) = p1f1(x) h {xk)— p2f2(x) l2 (xk),

приводит к уравнению для оптимальной модели СР следую­ щего вида:

получаем выражение для оптимальной модели СР в сле­ дующем виде:

Ф?2 (х, xk, k)\Xk=PW

др (х)

или, иначе,

Множитель А, определяется подстановкой (2-15) в (2-20).

48

Система распознавания 6. Система распознавания К классов образов с континуумом решений имеет оптималь­ ную модель следующего вида в случае критерия минимума средней функции риска:

где Р (х) = xk — оптимальная модель СР в данном случае. Система распознавания 7. Это система распознавания К классов образов с двумя решениями. В случае критерия минимума средней функции риска вместо матрицы коэффи­ циентов потерь, возникающих при отнесении образа г'-го

класса к /-му, которая для системы 1 имеет вид:

У к 1 ^К2_

Матрица L есть матрица коэффициентов потерь, воз­ никающих при отнесении образов, относящихся к k-му классу (& — 1 , . . . , К), к областям многомерного про­ странства признаков, соответствующим первому и второму решению. Выражение для условной функции риска имеет следующий вид:

N N

49