"Александр Лазаревич. Генератор желаний (Размышления об обратной дороге в бу" - читать интересную книгу автора

уверенности утверждать об этом нечто, это то, что оно будет
сверхсложной кибернетической системой и начало развитию этой
системы положат люди. Как я уже говорил, высшие формы
развиваются из низших, зачастую используя низших в качестве
своих элементов. Многоклеточные организмы, в том числе и люди,
состоят из огромного количества организмов одноклеточных, в
прошлом независимых, а ныне специализирующихся на выполнении
какой-либо функции необходимой для всего организма. Какова
будет функция человека в рамках будущей сверхсложной
кибернетической системы? Ясно, что она не будет состоять в
труде, если под трудом понимать непосредственную манипуляцию
материальными объектами - интеллектуальные,
самовоспроизводящиеся и развивающиеся роботы будущего будут
делать это гораздо лучше человека. Ясно также, что люди не
будут решать сложные логические задачи - ЭВМ уже сегодня делают
это лучше людей. Вполне возможно, что машины научатся решать и
так называемые творческие задачи - лишь бы их перед ними
ставили. Что же остается на долю людей? Ставить задачи? Но и
здесь все не так просто. Тому, у кого есть какая-то цель,
задачи ставит сам процесс достижения цели - всякая достаточно
сложная задача распадается на более простые подзадачи, и,
несомненно, машины научатся когда-нибудь эти подзадачи
распознавать, и, таким образом у них могут появиться свои,
особые цели, непредвиденные теми, кто задал им основную задачу,
поставил перед ними конечную цель. Но конечную цель сможет
поставить только человек - и не потому, что машина никогда не
сможет моделировать человеческие желания, которые лежат в
основе целеполагания. Наверное, когда-нибудь сможет. Но строить
такую сложную и дорогую модель никогда не понадобится, потому
что создать живого человека гораздо проще - все знают как это
делается.
Только человек, с его мечтами и фантазиями, с его неуемным
любопытством и желанием новизны, с его завистью и стремлением к
власти (если нельзя над себе подобными, то хотя бы над природой
или над техникой), с его несовершенным телом, сами
несовершенства которого постоянно порождают потребности во все
новых и новых способах лечения, с его несовершенным мозгом
подверженным неврозам и психозам, рождающим уж и вовсе
причудливые желания, только человек со всеми его
несовершенствами и слабостями, только такой человек (а отнюдь
не сознательный ангел, каким нам чаще всего изображают человека
будущего) способен будет занять место генератора желаний в
сверхсложной кибернетической системе. Только он сможет ставить
перед системой такие цели, которые не дадут ей придти в
состояние информационного равновесия со средой. Но все это при
условии, что он не разучится желать невозможного.
Разумеется, все это очень опасно. Развитие всегда сопряжено
с большим риском. Например, как я уже сказал, у кибернетической
системы могут появиться собственные цели и желания, и нет
гарантии, что в один прекрасный день она не пожелает избавиться