"Е.М.Миркес. Учебное пособие по курсу Нейроинформатика " - читать интересную книгу автора

эталона

О сетях Хопфилда (3) известно [53, 231, 247, 312], что они способны
запомнить и точно воспроизвести "порядка 0.14n слабо коррелированных
образов". В этом высказывании содержится два ограничения:
в число эталонов не превосходит 0.14n.
в эталоны слабо коррелированны.
Наиболее существенным является второе ограничение, поскольку образы,
которые сеть должна обрабатывать, часто очень похожи. Примером могут служить
буквы латинского алфавита. При обучении сети Хопфилда (3) распознаванию трех
первых букв (см. рис. 1 а, б, в), при предъявлении на вход сети любого их
эталонов в качестве ответа получается образ, приведенный на рис. 1 г (все
образы брались в рамке 10 на 10 точек).
В связи с такими примерами первый вопрос о качестве работы сети
ассоциативной памяти звучит тривиально: будет ли сеть правильно обрабатывать
сами эталонные образы (т. е. не искажать их)?
Мерой коррелированности образов будем называть следующую величину:
Зависимость работы сети Хопфилда от степени коррелированности образов
можно легко продемонстрировать на следующем примере. Пусть даны три эталона
x1, x2, x3 таких, что
(4)
Для любой координаты существует одна из четырех возможностей:
В первом случае при предъявлении сети q-го эталона в силу формулы (3)
получаем
так как все скалярные произведения положительны по условию (4).
Аналогично получаем в четвертом случае x'j = -1.
Во втором случае рассмотрим отдельно три варианта
так как скалярный квадрат любого образа равен n, а сумма двух любых
скалярных произведений эталонов больше n, по условию (4). Таким образом,
независимо от предъявленного эталона получаем x'j = 1. Аналогично в третьем
случае получаем x'j = -1.
Окончательный вывод таков: если эталоны удовлетворяют условиям (4), то
при предъявлении любого эталона на выходе всегда будет один образ. Этот
образ может быть эталоном или "химерой", составленной, чаще всего, из
узнаваемых фрагментов различных эталонов (примером "химеры" может служить
образ, приведенный на рис. 1 г). Рассмотренный ранее пример с буквами
детально иллюстрирует такую ситуацию.
Приведенные выше соображения позволяют сформулировать требование,
детализирующие понятие "слабо коррелированных образов". Для правильного
распознавания всех эталонов достаточно (но не необходимо) потребовать, чтобы
выполнялось следующее неравенство
Более простое и наглядное, хотя и более сильное условие можно записать
в виде
Из этих условий видно, что, чем больше задано эталонов, тем более
жесткие требования предъявляются к степени их коррелированности, тем ближе
они должны быть к ортогональным.
Рассмотрим преобразование (3) как суперпозицию двух преобразований:
(5)
Обозначим через
- линейное пространство, натянутое на множество эталонов. Тогда первое