"Глаз разума" - читать интересную книгу автора

4 А. М. ТЬЮРИНГ Вычислительные машины и разум

Я предлагаю рассмотреть вопрос “Могут ли машины думать?”. Для начала необходимо определить значения терминов “машины” и “думать”. Мы можем попытаться составить определения, максимально приближенные к обычному значению этих слов, но это — опасный подход. Если проанализировать то, как обычно употребляются слова “машины” и “думать”, то придется заключить, что ответ на вопрос “Могут ли машины думать?” надо искать в результатах статистических опросов, вроде тех, что проводятся институтом общественного мнения Гэллапа. Но ведь это абсурд! Вместо того, чтобы пытаться дать подобное определение, я заменю вопрос на другой, тесно связанный с первым, но выраженный не такими двусмысленными словами.

В этой новой форме проблема может быть описана в терминах игры, которую мы будем называть “игра-имитация”. В ней принимают участие три человека: мужчина (А), женщина (Б) и экзаменатор (В), который может быть любого пола. Экзаменатор сидит в отдельной комнате. Цель игры заключается в том, что экзаменатор должен определить, кто из остальных двоих — женщина и кто — мужчина. Ему они известны как X и Y, и в конце игры он говорит либо “X это А, a Y — Б”, либо “X это Б, a Y — А” Экзаменатор может задавать вопросы, например:

Предположим, X — это А, тогда отвечать приходится А. Целью А является любым путем обмануть В. Ответом, следовательно, может быть что-нибудь вроде:

“Мои волосы коротко острижены и самые длинные прядки длиной около девяти дюймов.”

Чтобы тембр голоса не выдал отвечающих, ответы должны быть написаны или, еще лучше, напечатаны. Идеально было бы иметь телетайп для сообщения между двумя комнатами — или же вопросы и ответы могут передаваться с помощью посредника. Третий игрок, Б, старается помочь экзаменатору. Пожалуй, лучшая стратегия для нее заключается в правдивых ответах. Она может сказать, в дополнение к своим ответам, что-нибудь вроде “Не слушайте его, женщина — я!”; однако это мало поможет, поскольку мужчине ничто не мешает утверждать то же самое.

Теперь мы спрашиваем: а что произойдет, если вместо А в игре примет участие машина? Будет ли экзаменатор ошибаться так же часто, как и в игре с женщиной и мужчиной? Эти вопросы заменяют наш первоначальный вопрос о том, могут ли машины думать.

Вместо того, чтобы искать ответ на этот новый вопрос, вы могли бы спросить: “А стоит ли нам вообще тратить время на исследование этой проблемы?” Вот на этот вопрос мы ответим немедленно, предотвратив, таким образом, возможность бесконечного регресса.

Преимущество новой задачи в том, что она проводит четкую границу между физическими и умственными способностями человека. Ни один инженер или химик не возьмется утверждать, что может произвести материал, неотличимый от человеческой кожи. В будущем такое может стать возможным, но даже если подобное изобретение и будет сделано, мы, скорее всего, решим, что не стоит пытаться приблизить “думающие машины” к человеку, одевая их в человекообразную оболочку. Форма, в которую мы облекли нашу проблему, отражает этот факт, поскольку экзаменатор не может увидеть или прикоснуться к остальным участникам игры, не может услышать их голоса.

Некоторые другие преимущества предложенного критерия можно вывести из списка примерных вопросов и ответов:

Метод вопросов и ответов позволяет затронуть любую область человеческой деятельности, которую мы пожелаем включить. Мы не хотим наказывать машину за ее неспособность блистать на конкурсах красоты, или человека за то, что он не может соревноваться в быстроте с самолетом. Условия нашей игры делают подобное неравенство неважным. Играющие могут хвастаться, если сочтут это нужным, расхваливая собственную красоту, силу или героизм, но экзаменатор не может потребовать у них практического подтверждения.

Можно критиковать эту игру, утверждая, что шансы человека в ней значительно перевешивают шансы машины. Если бы человек должен был притвориться машиной, ему пришлось бы значительно труднее. Его сразу выдала бы медлительность и неаккуратность в арифметике. Могут ли машины делать нечто, что нам пришлось бы определить как мышление, но что сильно отличалось бы от того, на что способен человек? Это очень сильное возражение; тем не менее, мы можем утверждать, что если нам удастся сконструировать машину, способную играть в игру-имитацию, этот аргумент не должен нас тревожить.

Возможно, что в процессе игры лучшей стратегией машины вовсе не является рабская имитация человеческого поведения. Однако мне не кажется, что это окажет значительное влияние на исход игры. Так или иначе, мы не собираемся здесь изучать теорию данной игры; мы предполагаем, что наилучшей стратегией являются естественные ответы, которые дал бы человек.

Поставленный нами вопрос останется неопределенным, пока мы не поясним, что имеется в виду под “машиной”. Естественно, что мы допускаем в ней использование любой инженерной технологии. Мы допускаем и возможность того, что инженер или группа инженеров сконструируют машину, принцип действия которой они сами не смогут удовлетворительно объяснить, поскольку применяли в основном экспериментальный метод. Мы исключаем из класса машин людей, рожденных обычным способом. Трудно сформулировать определение, удовлетворяющее все три условия. Например, можно потребовать, чтобы все инженеры в команде были одного пола, но это условие не будет удовлетворительным, так как в принципе возможно создать полноценного индивида из единственной клетки кожи, взятой, скажем, у мужчины. Это было бы огромным достижением биологической техники, достойным наивысших похвал — но вряд ли это можно было бы назвать “конструированием думающей машины”. Следовательно, нам придется отказаться от того условия, что любая техника разрешена. Мы готовы на это еще и потому, что сегодняшний интерес к “думающим машинам” вызван определенным типом машины, обычно именуемым “электронным компьютером” или “цифровым компьютером”. В соответствии с этим предположением, мы допустим к нашей игре лишь цифровые компьютеры....

Цифровые компьютеры имеют особое свойство: они могут имитировать любую дискретную машину; поэтому они зовутся универсальными машинами. Существование машин с подобным свойством имеет важное следствие — чтобы выполнять разнообразные вычислительные операции, нет необходимости создавать множество новых машин (если, конечно, не принимать в расчет соображений скорости). Любая операция может быть выполнена одним и тем же компьютером, запрограммированным соответственно. Мы увидим, что вследствие этого все цифровые компьютеры в каком-то смысле эквивалентны.

Теперь, когда почва подготовлена, мы приступаем к обсуждению нашего основного вопроса: “Способны ли машины думать?”

…Мы не можем совсем отбросить первоначальную форму проблемы, поскольку мнения о правомочности замены могут разниться, и мы обязаны хотя бы выслушать то, что может быть сказано в связи с этим.

Для читателей будет проще, если я сначала изложу собственное мнение. Рассмотрим сначала наиболее аккуратную форму вопроса. Я считаю, что лет через пятьдесят удастся запрограммировать компьютеры с памятью примерно в 10⁹ так, что они смогут играть в игру-имитацию настолько успешно, что обычный экзаменатор после пяти минут опроса будет иметь не более чем 70% шансов на верную идентификацию. Первоначальный вопрос — “способны ли машины мыслить?” — я считаю слишком бессмысленным, чтобы его обсуждать. Тем не менее, я верю, что к концу столетия словоупотребление и общественное мнение среди образованных людей изменятся настолько, что разговоры о мыслящих машинах не вызовут протеста. Далее, я считаю, что сокрытие подобных взглядов не может принести никакой пользы. Многие ошибочно полагают, что ученые движутся от одного проверенного факта к следующему и никогда не попадают под влияние непроверенных гипотез. Если четко разграничивать установленные факты и гипотезы, никакого вреда от последних нет. Гипотезы чрезвычайно важны, так как они указывают на новые пути исследований.

Далее я рассмотрю мнения, противоположные моему.

1. Теологический аргумент. Мышление есть функция бессмертной души человека. Бог дал бессмертную душу всем мужчинам и женщинам, но не животным и не машинам, и посему ни одно животное и ни одна машина не способна думать.

Я не могу согласиться ни с чем из вышесказанного, но попытаюсь ответить в терминах теологии.

Я посчитал бы этот аргумент более убедительным, если бы животные были классифицированы вместе с людьми, ибо мне кажется, что между живой и неживой материей разница гораздо больше, нежели между человеком и животным. Произвольный характер ортодоксальных взглядов становится яснее, если взглянуть на них с точки зрения представителя иной религии. Что думают христиане о мусульманском убеждении, что женщины лишены души? Но давайте оставим это в стороне и вернемся к основному возражению. Мне кажется, что из приведенного выше аргумента вытекает серьезное ограничение всемогущества Господа. Мы признаем, что существуют некие вещи, на которые неспособен даже Всемогущий — например, сделать единицу равной двум — но должны ли мы верить, что Господь не волен дать душу слону, если Он этого пожелает? Мы могли бы ожидать, что вместе с душой Бог дарует слону и улучшенный мозг, способный соответствовать нуждам этой души. Точно такой же аргумент приложим и к машинам. Он может казаться иным, так как его труднее “переварить”. Но это всего лишь означает, что нам кажется менее вероятным, что Бог посчитает обстоятельства подходящими, чтобы даровать душу. Остаток этой статьи посвящен обсуждению данных обстоятельств. Пытаясь сконструировать подобные машины, мы не должны бесцеремонно узурпировать Его власть даровать души, подобно тому, как мы не делаем этого, производя на свет детей. В обоих случаях мы являемся скорее Его инструментами, создавая вместилища для созданных Им душ.

Тем не менее, все это не более чем домыслы. Меня не впечатляют теологические аргументы, какую бы гипотезу они ни поддерживали. В прошлом подобные аргументы были не раз сочтены неудовлетворительными. Во времена Галилея теологи говорили, что тексты “И солнце застыло на небе… и не торопилось спускаться в протяжение целого дня” (Иисус х. 13) и “Он заложил основы земли, и не шелохнутся они во веки веков” (Псалмы, 5) являются адекватным опровержением теории Коперника. С точки зрения современных знаний подобная аргументация выглядит несерьезной. Когда достаточных знаний у людей еще не было, эти аргументы производили совершенно иное впечатление.

2. Аргумент “голова в песке”. “Последствия машинного мышления были бы слишком ужасны. Давайте же надеяться, что машины ни на что подобное не способны.”

Этот аргумент редко высказывается в такой прямой форме. Но он влияет на каждого, кто хоть раз задумывался об этой проблеме. Нам нравится считать, что в той или иной форме человек превыше всех остальных созданий. Лучше всего, если будет доказано, что он выше всех по определению — ведь тогда он никак не сможет утерять своей главенствующей позиции. Очевидно, что популярность теологического аргумента напрямую связана с этим чувством. Вероятно, сильнее всего подобное чувство развито у интеллектуалов, так как они ценят способность мыслить превыше всего и более склонны считать человека выше остальных созданий именно по этому признаку. Я не считаю этот аргумент достаточно обоснованным, чтобы заслуживать опровержения. Здесь более уместно говорить об утешении; его можно попытаться найти в теории о переселении душ.

3. Математическое возражение. Некоторые результаты математической логики могут быть использованы для доказательства того, что мощь дискретных машин ограничена. Самый известный из этих результатов — теорема Гёделя. Она показывает, что в любой достаточно сложной непротиворечивой логической системе можно сформулировать высказывания, относительно которых нельзя средствами этой системы доказать, истинны они или ложны. Существуют и другие похожие результаты, полученные Чёрчем, Клини, Россером и Тьюрингом. Мы рассмотрим здесь последний из этих результатов, поскольку он прямо относится к машинам, тогда как остальные могут быть использованы только в косвенных аргументах. Так, чтобы использовать теорему Гёделя, мы должны найти способ описывать логические системы в терминах машин, а машины — в терминах логических систем. Результат, о котором мы говорим, относится к цифровому компьютеру с бесконечной памятью и утверждает, что существуют некие операции, которые этот компьютер не может выполнить. Если заставить такой компьютер играть в игру-имитацию, на некоторые вопросы он ответит неверно или же вообще не сможет дать ответа, сколько бы времени он ни затратил на поиски. Таких вопросов множество, и те из них, на которые не сможет ответить определенная машина, смогут быть благополучно решены другими машинами. Мы предполагаем, что на все вопросы можно ответить “да” или “нет” и пока не рассматриваем вопросы вроде: “Что вы думаете о Пикассо?” Машины не смогут ответить на вопросы следующего типа: “Представьте себе машину со следующими спецификациями… Сможет ли эта машина когда-нибудь ответить “да” на любой вопрос?” Точки должны быть заменены описанием некой машины, данным в стандартной форме. Когда описываемая машина в какой-то мере схожа с экзаменуемой машиной, можно доказать, что ответ будет либо неверным, либо мы его вообще не получим. Это математический результат, и многие утверждают, что он доказывает ограниченность возможностей машин по сравнению с человеческими возможностями.

Краткий ответ на этот аргумент таков: действительно, возможности каждой отдельной машины ограничены — но никто пока не пытался строго доказать, что подобных ограничений не существует для человеческого интеллекта. Но я не думаю, что от этого аргумента можно легко отмахнуться. Каждый раз, когда одна из этих машин дает определенный ответ на соответствующий критический вопрос, мы знаем, что этот ответ должен быть неправильным, и это знание дает нам некое чувство превосходства. Иллюзорно ли это чувство? Безусловно, оно вполне подлинно, но мне кажется, что ему не стоит придавать слишком много значения. Наша радость по поводу слабости машин неоправданна, поскольку мы и сами слишком часто даем неверные ответы на вопросы. Кроме того, наше превосходство приложимо лишь к той конкретной машине, над которой мы одержали нашу мелочную победу. Мы не можем одержать победу одновременно над всеми машинами. Короче говоря, некоторые люди умнее, чем определенные машины, но некоторые машины умнее этих людей… и так далее.

Я думаю, что большинство сторонников математического аргумента примут игру-имитацию в качестве основания для дискуссии. Те же, кто верит в два предыдущих возражения, не будут заинтересованы ни в каких критериях.

4. Аргумент от сознания. Этот аргумент прекрасно выражен в Листерской Речи профессора Джефферсона в 1949 году: “Пока машина не напишет сонета или концерта, вдохновленного чувствами, а не полученного в результате случайного сочетания символов, мы не сможем согласиться с тем, что машина равна мозгу. Никакой механизм не может почувствовать (а не просто показать при помощи какого-либо несложного ухищрения) удовлетворения от удачи, печали от того, что его контакты перегорели, испытать удовольствие от похвалы, расстроиться из-за своих ошибок, быть очарован сексом, сердиться или впадать в депрессию, когда он не может получить желаемого.”

На первый взгляд, этот аргумент ставит под сомнение пригодность нашего теста. Согласно крайней форме этого аргумента, единственный способ убедиться в том, что машина думает, — это стать машиной и почувствовать собственное мышление. Затем эти чувства можно было бы описать — но, разумеется, никто не обязан принимать это описание всерьез. Точно так же, чтобы убедиться в том, что человек мыслит, необходимо стать именно этим человеком. В действительности, это солипсистская точка зрения. Возможно, это наиболее логичная точка зрения, но она делает обмен идеями затруднительным. А расположен считать: “А думает, а Б — нет”, в то время, как Б считает: “Б думает, а А — нет”. Чтобы избежать вечных споров по этому поводу, принято считать, что каждый человек способен думать.

Я убежден в том, что профессор Джефферсон не придерживается крайней, солипсистской точки зрения. Вероятно, он согласился бы воспользоваться игрой-имитацией, как тестом на мышление. Вариант этой игры, в котором отсутствует игрок Б, часто используется на практике под именем viva voce, с тем чтобы выяснить, действительно ли кто-либо что-то понимает, или же это что-то затвержено им механически. Давайте взглянем на фрагмент игры viva voce:

И так далее. Что сказал бы профессор Джефферсон, если бы слагающая сонеты машина могла бы отвечать подобным образом в viva voce? Посчитал бы он, что машина “искусственным образом сигнализирует” свои ответы? Не знаю; но если бы ответы были такими удовлетворительными и аргументированными, как в приведенном отрывке, не думаю, что он назвал бы их “несложными ухищрениями.” Полагаю, что под этим он имел в виду нечто вроде заложенной в машину звукозаписи с сонетом, которая бы включалась и выключалась в нужные моменты.

Короче, я считаю, что большую часть сторонников аргумента от сознания можно убедить от него отказаться, не переходя при этом на позиции солипсизма. Тогда они, возможно, согласятся принять наш тест.

Я не хочу сказать, что в сознании нет ничего таинственного. Например, при попытках его локализовать каждый раз возникает нечто вроде парадокса. Но я не думаю, что все эти тайны должны быть непременно раскрыты прежде, чем мы сможем ответить на интересующий нас в этой статье вопрос.

5. Аргумент от различных ограниченных способностей. Вот как он выглядит: “Хорошо, я согласен, что вы можете создать машины, делающие все, о чем вы упомянули, но вы никогда не заставите машину проделать X”. В этой связи предлагалось множество вариантов X; я приведу здесь лишь некоторые из них:

Обычно все это — голословные утверждения. Мне кажется, большинство из них основаны на принципе научной индукции. Человек за свою жизнь видел тысячи машин. Из того, что он видел, он делает обобщающие выводы. Машины уродливы, каждая из них построена для выполнения определенного задания, другие задания они выполнять не умеют, вариативность поведения каждой из них крайне мала и так далее. Естественно, он заключает, что это общие свойства всех машин. Большинство перечисленных ограничений связаны с очень маленькой памятью большинства машин. (Я предполагаю, что понятие “памяти” здесь понимается широко и включает недискретные машины. Точного определения здесь не нужно, поскольку в подобных дискуссиях математическая аккуратность не требуется.) Несколько лет назад почти ничего не было известно о цифровых компьютерах и по этому поводу легко было вызвать большое недоверие, описав их свойства, но не упомянув об их конструкции. Предположительно это происходило из-за применения принципа научной индукции, подобного вышеизложенному. Это применение, разумеется, происходит в большой степени бессознательно. Когда обжегшийся ребенок боится огня и показывает свою боязнь, избегая его, я сказал бы, что он применяет принцип научной индукции. (Безусловно, я мог бы описать его поведение и множеством иных способов.) Творения и обычаи человечества — не самый подходящий материал для применения научной индукции. Чтобы получить достоверные результаты, необходимо исследовать огромный участок пространственно-временного континуума. Иначе мы можем (как делает большинство английских детей) решить, что все говорят по-английски и что учить французский глупо.

Тем не менее, о многих из упомянутых ограничений следует поговорить особо. Неспособность наслаждаться клубникой со взбитыми сливками может показаться читателю легкомысленной. Может быть, нам и удалось бы создать машину, способную наслаждаться этим восхитительным блюдом, но любая подобная попытка была бы идиотской. В упомянутой неспособности важно то, что она способствует другим ограничениям: например, возникновению дружеских отношений между человеком и машиной, подобных дружеским отношениям между двумя белыми или двумя черными людьми.

Утверждение, что машина не способна ошибаться, довольно интересно. На это хочется ответить: “Но разве они становятся от этого хуже?” Но давайте отнесемся к нему с большей симпатией и попробуем выяснить, что же оно на самом деле означает. Мне кажется, эта критика может быть объяснена с точки зрения игры-имитации. Утверждается, что экзаменатор сможет отличить машину от человека, просто задав обоим несколько арифметических задач. Машина будет безошибочна, благодаря своей мертвой аккуратности. Ответ на это прост. Машина, запрограммированная для подобной игры, не будет пытаться давать правильные ответы на арифметические вопросы. Она будет иногда нарочно ошибаться с тем, чтобы сбить экзаменатора с толку. Вероятно, механической неполадкой был бы вызван неверный тип ошибочных ответов. Мы еще не рассмотрели достаточно внимательно этот критический аргумент, но у нас нет места, чтобы углубляться в него еще больше. Мне кажется, что он зависит от неразличения между двумя типами ошибок. Мы можем называть их “ошибки функционирования” и “ошибки интерпретации”. Ошибки функционирования зависят от механических или электрических неполадок, из-за которых машина ведет себя не так, как хотели программисты. В философских дискуссиях подобные ошибки обычно не принимаются в расчет, и обсуждаются “абстрактные машины”. Эти абстрактные машины являются скорее математической фикцией, чем физическими объектами. Они по определению не способны на ошибки функционирования. В этом смысле мы можем правдиво сказать, что “машины никогда не делают ошибок”. Ошибки интерпретации могут возникнуть только тогда, когда выходным данным машины придается некое значение. Например, машина может выдать высказывание на английском языке или математическое уравнение. Когда высказывание ложно, мы говорим, что машина допустила ошибку интерпретации. У нас нет причины утверждать, что машина не может допустить подобную ошибку. Она может быть запрограммирована так, что будет все время печатать “0 = 1” — или, используя не такой крайний пример, она может иметь какой-нибудь метод для нахождения выводов путем научной индукции. Мы можем ожидать, что этот метод иногда приводит к ошибочным результатам.

Утверждение, что машина не может являться предметом своих собственных мыслей, можно опровергнуть, только доказав, что машина имеет какие-либо мысли с каким-либо предметным содержанием. Тем не менее, “предметное содержание машинных операций” в действительности имеет значение, по крайней мере для людей, имеющих с ним дело. Скажем, если машина пыталась найти решение уравнения x² − 40x − 11 = 0, соблазнительно представить это уравнение как часть предметного содержания машины в данный момент. В этом смысле машина несомненно может являться собственным предметным содержанием. Ее можно использовать, чтобы помочь составлять программы для нее же или чтобы предсказать эффект изменения в ее структуре. Наблюдая за результатами своего поведения, она может менять собственные программы с тем, чтобы более эффективно добиться поставленной цели. Все это не утопические мечтания, но возможности ближайшего будущего.

Критицизм, утверждающий, что у машины не может быть разнообразного поведения, по сути дела утверждает лишь то, что у нее не может быть большого объема памяти. До недавнего времени объем даже в 1000 знаков был редкостью.

Аргументы, которые мы здесь рассматриваем, часто лишь завуалированные формы аргумента от сознания. Как правило, человек, утверждающий, что машина способна сделать одну из этих вещей, и описывающий соответствующий метод, не производит большого впечатления. Считается, что метод (каким бы он ни был, поскольку он все равно будет механическим) всегда слишком прост. (Сравните со скобками в отрывке из речи Джефферсона, приведенной выше.)

6. Аргумент леди Лавлейс. Об Аналитической Машине Баббиджа нам лучше всего известно из мемуаров леди Лавлейс. Она пишет: “Аналитическая машина не претендует на создание чего-либо нового. Он может делать лишь то, что мы умеем ей приказать” (выделено автором). Хартри цитирует это высказывание и добавляет: “Из этого не следует, что невозможно сконструировать электронное оборудование, которое “думало бы само по себе”. Говоря языком биологии, в такое устройство был бы встроен некий условный рефлекс, который мог бы служить базой для “обучения”. Возможно ли подобное в принципе — это захватывающе интересный вопрос, который возникает в некоторых недавних исследованиях. Однако мне кажется, что машины, создаваемые или проектируемые во времена леди Лавлейс, этой особенностью не обладали.”

Здесь я полностью согласен с Хартри. Надо заметить, что он не утверждает, что рассматриваемая машина этой особенностью не обладала. Он лишь замечает, что имевшаяся у леди Лавлейс информация не позволяла ей предположить, что данная машина могла иметь эту особенность. Вполне возможно, что на самом деле она ее имела. Представьте себе, что некая дискретная машина этой способностью обладает. Аналитическая Машина была универсальным цифровым компьютером, поэтому, обладая достаточным объемом памяти и скоростью и будучи соответствующим образом запрограммированной, она могла бы уподобиться упомянутой машине. Вероятно, этот аргумент не пришел в голову ни леди Лавлейс, ни самому Баббиджу. Так или иначе, они не были обязаны заявлять все, что только возможно.

Этот вопрос снова будет рассмотрен нами, когда мы будем говорить об обучающихся машинах.

Сторонники леди Лавлейс утверждают, что “машина никогда не сможет создать ничего действительно нового”. Это высказывание можно парировать поговоркой “Под солнцем нет ничего нового.” Кто может с уверенностью утверждать, что “оригинальная работа” проделанная им, не является на самом деле ростком, выросшим из семечка обучения, или результатом следования общеизвестным принципам? Улучшенный вариант аргумента утверждает, что машина “не способна нас удивить”. Это утверждение является прямым вызовом, и на него можно прямо ответить. Машины удивляют меня очень часто. Это происходит потому, что я не делаю расчетов относительно того, что от них можно ожидать, а если и делаю, то торопливо и недостаточно аккуратно. Например, я говорю себе: “Наверное, напряжение здесь такое же, как и там; предположим пока, что так и есть”. Естественно, я часто ошибаюсь, и результат бывает для меня сюрпризом, поскольку к концу эксперимента я уже успеваю забыть о своих предположениях. Это признание делает меня уязвимым для критики моей небрежности, но не может служить основанием для сомнения в том, что я испытываю искреннее удивление.

Я не ожидаю, что мой ответ заставит критиков замолчать. Вероятно, они скажут, что мое удивление вызвано неким творческим актом с моей стороны, и что машина здесь совершенно ни при чем. Это возражение уводит нас в сторону от аргумента “от удивления” и возвращает к “аргументу от сознания”. Эту линию аргументации мы уже должны считать закрытой, но, пожалуй, стоит заметить, что для восприятия чего-либо как удивительного, будь это человек, книга, компьютер или что-нибудь иное, обязательно потребуется “творческое мысленное действие”.

Мнение о том, что машины не способны нас удивлять, обязано своим возникновением ошибочному убеждению, которое особенно свойственно философам и математикам. Это предположение, что едва некий факт становится нам известным, то в тот же момент становятся автоматически ясны и все его последствия. Во многих условиях это предположение полезно, но мы слишком легко забываем, что оно ложно. Естественным следствием этого является убеждение, что в вычислении результатов, вытекающих из неких данных и общих принципов, нет никакой особой заслуги.

7. Аргумент от непрерывности нервной системы. Разумеется, нервная система не является машиной дискретных состояний. Малейшая ошибка в интенсивности нервного импульса в одном из нейронов может вызвать значительную разницу в выходящем импульсе. Имея это в виду, можно утверждать, что невозможно имитировать поведение нервной системы с помощью какой-либо дискретной машины.

Безусловно, дискретная машина отличается от непрерывной. Но если мы будем соблюдать условия игры-имитации, экзаменатору не удастся получить от этой разницы никакой выгоды. Ситуация станет понятнее, если мы рассмотрим некоторые непрерывные машины попроще. Для этой цели отлично подойдет дифференциальный анализатор. (Дифференциальный анализатор — это недискретная машина, используемая для некоторых вычислений.) Некоторые из них дают ответы в напечатанной форме и, таким образом, годятся для нашей игры. Цифровой компьютер не сможет предсказать, какие ответы на определенные вопросы будет выдавать дифференциальный анализатор, но сам сможет решить задачу правильно. Например, если попросить его определить значение числа пи (около 3,1416), он может сделать выбор между 3,12, 3,13, 3,14, 3,15 и 3,16 с вероятностью, скажем, 0,05, 0,15, 0,55, 0,19 и 0,06. В этих условиях экзаменатору было бы очень трудно отличить дифференциальный анализатор от цифрового компьютера.

8. Аргумент от неформального поведения. Невозможно выработать свод правил, предписывающих человеку, что тот должен делать во всех возможных обстоятельствах. Можно, например, придумать правило, что человек должен останавливаться, когда он видит красный свет светофора, и идти на зеленый свет. Но что ему делать, если из-за технической неполадки оба зажигаются одновременно? Возможно, надежнее будет остановиться. Но из этого решения могут последовать затруднения в дальнейшем. Попытаться составить свод правил поведения, учитывающих любую возможность — даже сломанный светофор, — не представляется возможным. Со всем этим я согласен.

Исходя из этого, некоторые утверждают, что мы не можем быть машинами. Я попытаюсь восстановить здесь эту линию аргументации, но боюсь, что не смогу отдать ей должное. По-видимому, сторонники этой точки зрения рассуждают так: “Если бы у любого человека был свод правил, регулирующий его жизнь, то человек был бы не лучше машины. Но таких правил нет, а значит, человек не может быть машиной.” Здесь очевидна логическая ошибка. Не думаю, что этот аргумент выражен такими словами, но суть его именно такова. Однако иногда возникает путаница между “правилами поведения” и “законами поведения”. Под “правилами поведения” я понимаю предписания типа “Остановитесь, если вы видите красный свет”, согласно которым можно действовать и которые могут быть восприняты сознательно. Под “законами поведения” я понимаю законы природы в приложении к человеческому телу, как например: “Если его ущипнуть, он вскрикнет.” Если вместо “законов поведения, регулирующих его жизнь” мы скажем “законы природы, регулирующие его жизнь” логическая ошибка в вышеприведенном аргументе становится легко устранимой. Дело в том, что мы верим не только в то, что объект, чье поведение регулируется подобными правилами, является машиной (хотя и не обязательно дискретной), но и в то, что поведение машины обязательно должно регулироваться подобными правилами. Однако, нам труднее убедить себя в отсутствии свода законов природы, чем в отсутствии свода правил поведения. Единственная дорога к познанию этих законов лежит через научное наблюдение, и мы ни при каких обстоятельствах не можем сказать: “Довольно, мы искали достаточно. Таких законов не существует.”

Мы можем доказать, что любое подобное утверждение было бы неоправдано. Предположим, мы были бы уверены в том, что если эти законы существуют, мы бы могли их обнаружить. Тогда, имея в нашем распоряжении машину дискретных состояний, мы могли бы ожидать, что наблюдение помогло бы узнать о ней достаточно для того, чтобы предсказывать ее поведение — и все это в разумных временных пределах, скажем, в тысячу лет. Однако кажется, что это не так. Я снабдил Манчестерский компьютер небольшой программой, использующей только 1000 единиц памяти. Согласно этой программе, машина, получив некое шестнадцатизначное число, выдает в течение двух секунд другое шестнадцатизначное число. Я предлагаю любому попытаться выяснить на основании ответов компьютера достаточно об этой программе, чтобы научиться предсказывать будущие ответы на неопробованные числа.

9. Аргумент от экстрасенсорного восприятия. Я предполагаю, что читатель знаком с понятием экстрасенсорного восприятия и его четырех составляющих — телепатии, ясновидения, предвидения и телекинеза. На первый взгляд, эти тревожащие явления отрицают все наши обычные научные идеи. Как было бы хорошо, если бы нам удалось их дискредитировать! К несчастью, статистические свидетельства, по крайней мере в пользу телепатии, подавляют. Очень трудно перестроить идеи так, чтобы там нашлось место для этих новых фактов. Как только они приняты, отсюда уже недалеко и до веры в привидения и в домовых. В первую очередь пришлось бы распрощаться с идеей о том, что наши тела двигаются в соответствии с уже известными и некоторыми еще не открытыми, но схожими законами физики.

Этот аргумент кажется мне очень сильным. Здесь можно было бы ответить, что многие научные теории, по-видимому, продолжают действовать на практике, несмотря на то, что противоречат экстрасенсорному восприятию, и что мы могли бы прекрасно обходиться без него. Однако это слабое утешение, и мышление — как раз тот феномен, для которого экстрасенсорное восприятие очень важно.

Более конкретный аргумент, основанный на экстрасенсорном восприятии, звучит следующим образом: “Давайте сыграем в игру-имитацию с участием человека-телепата и цифрового компьютера. Экзаменатор может задавать вопросы вроде: “Какой масти карта в моей правой руке?” Человек при помощи телепатии или ясновидения даст 130 правильных ответов из 400 карт. Машина может лишь угадывать и, может быть, даст 104 правильных ответа. Таким образом, экзаменатор легко их различит.” Здесь возникает интересная возможность. Предположим, цифровой компьютер включает генератор случайных чисел. Тогда он, естественно, будет пользоваться им, чтобы решить, какой ответ дать. Но сам генератор случайных чисел будет под влиянием психокинетической энергии экзаменатора. Возможно, что телекинез заставит машину угадывает чаще, чем можно ожидать из теории вероятности, и тогда экзаменатору снова будет трудно верно идентифицировать игроков. С другой стороны, он сможет угадать безо всяких вопросов, используя способности ясновидения. С экстрасенсорным восприятием возможно все.

Если мы согласимся с существованием телепатии, нам придется ужесточить условия теста. Данную ситуацию можно рассматривать, как аналогичную той, которая возникает, когда экзаменатор разговаривает сам с собой, а один из испытываемых слушает его, прижав ухо к стене. Если бы удалось поместить испытуемых в комнату, непроницаемую для телепатии, все условия были бы выполнены.