"Е.М.Миркес. Учебное пособие по курсу Нейроинформатика " - читать интересную книгу автора

Наиболее известной сетью ассоциативной памяти является сеть Хопфилда
[312]. В основе сети Хопфилда лежит следующая идея - запишем систему
дифференциальных уравнений для градиентной минимизации "энергии" H (функции
Ляпунова). Точки равновесия такой системы находятся в точках минимума
энергии. Функцию энергии будем строить из следующих соображений:
1. Каждый эталон должен быть точкой минимума.
2. В точке минимума все координаты образа должны иметь значения 1.
Функция
не удовлетворяет этим требованиям строго, но можно предполагать, что
первое слагаемое обеспечит притяжение к эталонам (для вектора x
фиксированной длины максимум квадрата скалярного произведения (x, xi)
достигается при x= xi...), а второе слагаемое - приблизит к единице
абсолютные величины всех координат точки минимума). Величина a характеризует
соотношение между этими двумя требованиями и может меняться со временем.
Используя выражение для энергии, можно записать систему уравнений,
описывающих функционирование сети Хопфилда [312]:
(1)
Сеть Хопфилда в виде (1) является сетью с непрерывным временем. Это,
быть может, и удобно для некоторых вариантов аналоговой реализации, но для
цифровых компьютеров лучше воспользоваться сетями, функционирующими в
дискретном времени - шаг за шагом.
Построим сеть Хопфилда [312] с дискретным временем. Сеть должна
осуществлять преобразование входного вектора x так, чтобы выходной вектор x'
был ближе к тому эталону, который является правильным ответом.
Преобразование сети будем искать в следующем виде:
(2)
где wi - вес i-го эталона, характеризующий его близость к вектору x,
Sign - нелинейный оператор, переводящий вектор с координатами yi в вектор с
координатами sign(yi).


Функционирование сети

Сеть работает следующим образом:
1. На вход сети подается образ x, а на выходе снимается образ x'.
2. Если x' в x, то полагаем x = x' и возвращаемся к шагу 1.
3. Полученный вектор x' является ответом.
Таким образом, ответ всегда является неподвижной точкой преобразования
сети (2) и именно это условие (неизменность при обработке образа сетью) и
является условием остановки.
Пусть j* - номер эталона, ближайшего к образу x. Тогда, если выбрать
веса пропорционально близости эталонов к исходному образу x, то следует
ожидать, что образ x' будет ближе к эталону xiв, чем x, а после нескольких
итераций он станет совпадать с эталоном xiв.
Наиболее простой сетью вида (2) является дискретный вариант сети
Хопфилда [312] с весами равными скалярному произведению эталонов на
предъявляемый образ:
(3)
Рис. 1. а, б, в - эталоны, г - ответ сети на предъявление любого