"Станислав Лем. История бит-литературы в пяти томах" - читать интересную книгу автора

мы лишены этого ощущения, понятие сознания было бы для нас пустым.
В ходе машинной эволюции оказалось, однако, что бездумный разум может
быть сконструирован: им, например, обладает обычная программа для игры в
шахматы, которая, как известно, "ничего не понимает", которой "все равно",
выиграет она партию или проиграет, и которая бессознательно, но логично
обыгрывает своих партнеров-людей. Больше того, обнаружилось, что
примитивный и наверняка "бездушный" компьютер, запрограммированный для
проведения сеансов психотерапии и задающий пациенту специальные вопросы
интимного свойства, чтобы на основании полученных ответов поставить
диагноз и указать методы лечения, - вызывает у собеседников-людей
непреодолимое ощущение, что перед ними, вопреки всему, существо живое и
чувствующее. Это ощущение настолько сильно, что нередко ему поддается сам
составитель программы, то есть специалист, прекрасно понимающий, что у
компьютера души столько же, сколько у граммофона. Но программист может
овладеть положением, разрушить нарастающую иллюзию общения с сознающей
личностью - поставив машине такие вопросы или давая ей такие ответы, перед
которыми она, ввиду ограничений программы, будет вынуждена спасовать.
Так кибернетика вступила на путь постепенного расширения и
совершенствования программ: чем дальше, тем труднее становилось "срывание
маски", обнаружение "бездумности" программ, болтающих почем зря из машины
и тем самым побуждающих человека невольно уподоблять машину себе самому
(бессознательно, в соответствии с усвоенной нами посылкой, что тот, кто
осмысленно отвечает на наши слова и сам нас осмысленно спрашивает, должен
обладать _сознающим разумом_).
Так вот: в битистике парадокс Cogito проявился
иронически-парадоксальным образом - как _сомнение_ машин в том, что люди
действительно мыслят!
Ситуация вдруг оказалась идеально и двусторонне симметричной. _Мы_ не
можем иметь совершенной уверенности (неоспоримых доводов), что машина
мыслит - и, мысля, переживает свои состояния как психические; ведь мы
всегда можем сказать себе, что это лишь имитация и, как ни совершенна она
внешне, внутри ей соответствует пустота абсолютной "бездушности".
Но и машины точно так же не могут найти доказательств того, что мы, их
партнеры, _мыслим_ сознательно - как они. Ни одна из сторон не знает,
какие психические состояния другая сторона подразумевает под словом
"сознание".
Следует заметить, что этот парадокс ведет нас в сущую бездну, хотя
поначалу он может показаться всего лишь забавным. Качество результатов
мышления само по себе ничего тут не значит; уже элементарные автоматы
прошлого века побеждали в логических играх собственных конструкторов, а
ведь эти машины были до крайности примитивны; поэтому мы совершенно точно
знаем, что результаты творческого мышления могут быть получены и иным -
бездумным - путем. Четвертый том нашей монографии открывается трактатами
двух бит-авторов - Ноона и Люментора, показывающими, сколь глубоко
укоренена эта загадка в природе мироздания.
Из антиматики, то есть "воздвигнутой на антиномиях", "кошмарной"
математики, мы возьмем лишь одно, для любого специалиста чудовищное,
ошеломительное, совершенно безумное суждение: "Понятие натурального числа
внутренне противоречиво". Это значит, что любое число необязательно равно
себе самому! Согласно доводам антиматиков (это, понятно, машины),