"Е.М.Миркес. Учебное пособие по курсу Нейроинформатика " - читать интересную книгу автора

Коннекционизм и связанные с ним идеи однородности, избыточности и
голографичности еще ничего не говорят нам о том, как же такую систему
научить решать реальные задачи. Хотелось бы, чтобы это обучение обходилось
не слишком дорого.
На первый взгляд кажется, что коннекционистские системы не допускают
прямого программирования, то есть формирования связей по явным правилам.
Это, однако, не совсем так. Существует большой класс задач: нейронные
системы ассоциативной памяти, статистической обработки, фильтрации и др.,
для которых связи формируются по явным формулам. Но еще больше (по объему
существующих приложений) задач требует неявного процесса. По аналогии с
обучением животных или человека этот процесс мы также называем обучением.
Обучение обычно строится так: существует задачник - набор примеров с
заданными ответами. Эти примеры предъявляются системе. Нейроны получают по
входным связям сигналы - "условия примера", преобразуют их, несколько раз
обмениваются преобразованными сигналами и, наконец, выдают ответ - также
набор сигналов. Отклонение от правильного ответа штрафуется. Обучение
состоит в минимизации штрафа как (неявной) функции связей. Примерно четверть
нашей книги состоит в описании техники такой оптимизации и возникающих при
этом дополнительных задач.
Неявное обучение приводит к тому, что структура связей становится
"непонятной" - не существует иного способа ее прочитать, кроме как запустить
функционирование сети. Становится сложно ответить на вопрос: "Как нейронная
сеть получает результат?" - то есть построить понятную человеку логическую
конструкцию, воспроизводящую действия сети.
Это явление можно назвать "логической непрозрачностью" нейронных сетей,
обученных по неявным правилам. В работе с логически непрозрачными нейронными
сетями иногда оказываются полезными представления, разработанные в
психологии и педагогике, и обращение с обучаемой сетью как с дрессируемой
зверушкой или с обучаемым младенцем - это еще один источник идей. Возможно,
со временем возникнет такая область деятельности - "нейропедагогика" -
обучение искусственных нейронных сетей.
С другой стороны, при использовании нейронных сетей в экспертных
системах на PC возникает потребность прочитать и логически
проинтерпретировать навыки, выработанные сетью. В главе "Контрастер" описаны
служащие для этого методы контрастирования - получения неявными методами
логически прозрачных нейронных сетей. Однако за логическую прозрачность
приходится платить снижением избыточности, так как при контрастировании
удаляются все связи кроме самых важных, без которых задача не может быть
решена.
Итак, очевидно наличие двух источников идеологии нейроинформатики. Это
представления о строении мозга и о процессах обучения. Существуют группы
исследователей и научные школы, для которых эти источники идей имеют
символическое, а иногда даже мистическое или тотемическое значение.
В работе [56] доказана теорема, утверждающая, что с помощью линейных
комбинаций и суперпозиций линейных функций и одной произвольной нелинейной
функции одного аргумента можно сколь угодно точно приблизить любую
непрерывную функцию многих переменных.
Из этой теоремы следует, что Нейронные сети - универсальные
аппроксимирующие устройства и могут с любой точностью имитировать любой
непрерывный автомат