2.5. Сеть Хэмминга

Когда нет необходимости, чтобы сеть в явном виде выдавала образец, то есть достаточно, например, получать номер образца, ассоциативную память успешно реализует сеть Хэмминга. Данная сеть характеризуется, по сравнению с сетью Хопфилда, меньшими затратами памяти и объемом вычислений.

Структура сети Хэмминга приведена на рис. 7.

Сеть состоит из двух слоев. Первый и второй слои имеют по т нейронов, где m – число образцов. Нейроны первого слоя имеют по n синапсов, соединенных с входами x₁, x₂, …, x_i, …, x_n сети (образующими фиктивный нулевой слой). Нейроны второго слоя связаны между собой синаптическими отрицательными обратными связями. Единственный синапс с положительной обратной связью для каждого нейрона соединен с его же выходом.

Идея работы сети состоит в нахождении расстояния Хэмминга от тестируемого образца до всех образцов (числа различающихся битов в двух бинарных векторах). Сеть должна выбрать образец с минимальным расстоянием Хэмминга до неизвестного входного сигнала, в результате чего будет активизирован только один выход сети, соответствующий этому образцу.

На стадии инициализации весовым коэффициентам первого слоя и порогу активационной функции присваиваются следующие значения:

(17)

где x_i^k – i-й элемент k-гo образца.

Весовые коэффициенты  тормозящих синапсов во втором слое берут из диапазона 0 <  < 1/m. Синапс нейрона, связанный с его же выходом, имеет вес +1.

Алгоритм функционирования данной сети следующий.

1. На входы сети Хэмминга подается неизвестный вектор X = {х_i: i = l, 2, ..., n}; рассчитываются состояния нейронов первого слоя (верхний индекс в скобках – номер слоя):

(18)

После этого полученными значениями инициализируются значения выходов второго слоя:

(19)

2. Вычисляются новые сигналы на выходах сумматоров нейронов второго слоя:

(20)

и новые значения выходов

(21)

3. Проверяется, изменились ли выходы нейронов второго слоя за последнюю итерацию. Если да – перейти к шагу 2. Иначе – останов программы.

Сети Хопфилда и Хэмминга позволяют просто и эффективно решать задачи воссоздания образов по неполной и искаженной информации. Невысокая емкость сетей (число запоминаемых образов) объясняется тем, что сети позволяют проводить обобщение образов; например, с помощью сети Хэмминга возможна классификация по критерию максимального правдоподобия. Вместе с тем легкость построения программных и аппаратных моделей делают эти сети привлекательными для многих применений.

3. ПРЕДВАРИТЕЛЬНОЕ ЗАДАНИЕ

3.1. Изучить структуру и математическую модель искусственного нейрона, а также функции активации нейронов.

3.2. Изучить структуру, принцип работы персептрона и алгоритм его обучения.

3.3. Изучить структурную схему и алгоритм функционирования сети Хопфилда.

3.4. Изучить структурную схему и алгоритм функционирования сети Хэмминга.