Лем СтаниславЕстественный интеллект

Ст. Лем

Естественный интеллект

1. У нас есть Интернет и другие информационные сети с уже глобальным охватом. У нас есть их "узлы" - компьютеры самого последнего поколения, например, Intel Teraflop, которые выполняют биллион (по американскому счёту триллион) операций в секунду. Чемпион мира по шахматам был и будет битым. Это вполне несомненно. Так как, однако, высечь не единого следа интеллекта из компьютера (т.е. создать интеллектуальные программы) всё ещё не удалось, специалисты стараются этот существенный недостаток как-то заместить. И, таким образом, возникают подсистемы для классифицирования данных, для распознавания их хотя бы по синтаксису, раз пространство значений (n-мерная семантика) остаётся чаще всего недоступным; мы имеем серверы, провайдеры, браузеры, которые делают возможным сёрфинг в любой сети, имеем даже устройства, которые должны препятствовать доступу малолетних пользователей к тому, что является (или по местным нормам должно быть) неприличным или непристойным. Конгресс США принял "INDECENCY ACT" (Закон о непристойности), закон, объявляющий наказуемыми всякого рода непристойности, а говоря точнее - ПОРНОГРАФИЮ, но Верховный Суд признал этот закон недопустимым, так как он противоречит первой поправке к Конституции Соединённых Штатов (First Amendment), обеспечивающей полную свободу слова и изображений. Я - за этот закон, хотя очень хорошо отдаю себе отчёт в его небезопасных последствиях: если можно ВСЁ, то изображения и педофильские процедуры не ограничиваются, а они могут нанести юным умам значительный ущерб. Одновременно, однако же, я разделяю мнение одного американского публициста, который, будучи, видимо, рассержен неумолимой агрессивностью антипорнографов, написал, что ещё ни один типично порнографический текст или изображение не довели никого до смерти, не склонили к убийству, в то время как очень явно к актам насилия и преступлениям склоняют 90% всех мировых телепередач. Благодаря телевидению уже повсеместно известно, как следует (можно) людей (лучше всего детей, женщин) похищать, связывать, эффективно держать в заточении, финансово на этом наживаться, бить, пытать, кидать людей в ужасные катастрофы, связанные с огнём, эпидемиями, водой, расставлять на них ловушки, показывать в разных зрелищах, что преступниками и похитителями бывают также судьи, полицейские, шерифы; прекрасные и как будто невинные девушки обучат пользованию оружием, наручниками, пуленепробиваемыми жилетами - я считаю всё это вместе также НАСТОЯЩЕЙ ПОРНОГРАФИЕЙ, и нет на неё никакого закона, и ничего с ней не поделаешь. Но я говорил об этом "исключительно мимоходом"...

2. В шестидесятые годы, когда молодая КИБЕРНЕТИКА считалась "буржуазной лженаукой", я бывал в советской Москве, где участвовал в беседах с самыми серьёзными учёными, вынужденными в то время тайком заниматься кибернетикой. Такое запрещение кибернетики меня не огорчало, потому что я понимал, что, если она будет неизменно запрещена в Советах, то это, без сомнения, ускорит их глобальное поражение, не только в сфере военного соревнования, но и в астронавтике русским остались бы только заклёпки. В то время там, где кибернетика могла свободно развиваться (например, в США или во Франции), как и там, где она считалась "подрывной деятельностью", повсюду господствовала уверенность, что её развитие ДОЛЖНО привести к созданию конструкций, которые будут мыслить и соображать, то есть, короче говоря к AI (Artificial Intelligence - Искусственный Интеллект). Уже в то время были скептики, как, например, братья Дрейфус (Dreyfus), и даже такие, которые несколько позднее осмелились сомневаться в безусловной справедливости "теста Тьюринга", то есть тезиса гласящего, что собеседник, который не будет знать говорит ли он с человеком или с машиной, предоставит нам доказательство того, что машина ведёт себя ТАКЖЕ интеллектуально, КАК человек. В настоящее время мы уже подобной уверенности вовсе не испытываем, несмотря на то, что машины, с которой удалось бы побеседовать на разнообразные темы, как не было, так до сих пор и нет.

3. В этой странной ситуации с точки зрения надежд, которые господствовали почти полвека тому назад, следует, как я полагаю, несколько повнимательнее присмотреться к области явлений, из которых искусственный интеллект должен был быть per analogiam (по аналогии) выведен. Для упорядочивания я разобью рассуждение на три части. А именно, primum comparationis (здесь - пунктом первым) будет оригинал для возможного копирования, то есть ЧЕЛОВЕЧЕСКИЙ МОЗГ. Secundum comparationis (пунктом вторым) будут все центральные нервные системы животных, которые эволюционно предшествовали этому вышеназванному мозгу так, что его конструкция опирается (по крайней мере частично) на их принципы построения (я не буду, оговорюсь сразу, вступать на путь генной автоинженерии, потому что для того, чтобы об этом рассказать даже только в объёме доступного нам сегодня, весьма недостаточного, то есть НЕПОЛНОГО знания, потребовался бы целый толстый ТОМ). И наконец, tertium comparationis (пунктом третьим) будет просто "древо жизни" Линнея, в котором с самого начала, то есть от возникновения способных к обучению репликаторов типа ДНК, все началось. И это также, разумеется, в сильном сокращении. Весь мой, из-за ограниченности места сильно упрощённый, вывод происходит из того, что наивные инженеры, как, например, Эшби (Ashby) или Мак-Кей (McKay) (Джон фон Нейман уже тогда был более скептичен) считали, что явление, называемое интеллектом, "понимается посредством самого себя", а также полагали очевидной концепцию Алана Тьюринга: тот, кого не удаётся в беседе отличить от человека, eo ipso (тем самым) ЯВЛЯЕТСЯ равным человеку. Сомнительность этого положения даже им в голову не приходила

4. Следующие полстолетия породили, при полном отсутствии искусственного интеллекта (или хотя бы его первых ростков), поистине гигантскую библиотеку полную книжек и работ на тему AI. Некоторые из вышедших в Польше на эту тему работ мне случилось читать в прошлом году. Их можно разделить на инженерские, то есть "здравомыслящие", и тяготеющие к противоположному полюсу "герменевтически-когнитивистских глубин". Это возможно потому, что здесь можно только бродить и погружаться в виртуальные беспредельности языка, в его творческую производительность, или, если кто-нибудь захочет и ему кажется, что он даже умеет - перейти к математике, то есть к конструктивной формализации, в которой компьютеры чувствуют себя не самым плохим образом. И всё это потому, что "обыкновенная семантика разговорной речи" всё сильнее отделяется от математики. Между тем, самостоятельно и некоторым образом параллельно (хотя в этой параллельности можно, а пожалуй даже СЛЕДУЕТ сомневаться) развивались новые методы исследования мозга, о котором мы уже знаем, что всё больше НЕ ЗНАЕМ, не смотря на лучшее распознавание отдельных центров, роли отдельных участков серого вещества коры, а также расположенных в мозге, на разной его глубине, ядер и центров. Так возникают основанные, иногда в большей степени, иногда в меньшей, то на фактическом материале (гистологически-невральных препаратов), то на материале энцефалографии электрической, биохимической, позитронно-эмиссионной томографии и т.п., а иногда просто на творящем гипотезы воображении исследователей, различные концепции, которые должны в целом объяснить, как живой мозг делает так, что в нём образуется интеллект и увенчивается самосознанием. Здесь я уже сам начинаю сам использовать метафоры, ибо как не было почти ничего надёжно, то есть ОКОНЧАТЕЛЬНО, нам известно, так не известно и сейчас. Почему?

5. Ответ, данный в порядке вероятнее всего чисто конкретном, эмпирическом, или хотя бы стремящийся к статусу эмпирического, выглядит следующим образом. Мозг возник в процессе эволюции у целых миллионов различных видов животных. Возник в результате работы ("игры") генов, под разными влияниями и давлениями видового окружения: земного, то есть климатического, гравитационного и т.п., и т.д. При всех обстоятельствах "дело было в том", что ему в его возникновении никто разумный, и ничто разумно направленное не помогало: был отбор, селекция, мутации, а также экзогенетические влияния, но всё это вместе НИКАКОМУ, а если умереннее сказать, даже следам "понимания", то есть НАБЛЮДЕНИЯ, со стороны эволюционирующего субъекта вообще не подвергалось. Иначе говоря, это значит, что различные функциональные способности формировались в направлении изолированного так называемой КОНТИГЕНЦИЕЙ (непреодолимые ограничения, определяемые краевыми и начальными условиями) функционального оптимума, который должен быть достигнут для того, чтобы отдельный организм мог размножиться, а, стало быть, произвести потомство (если он был двуполым, то, разумеется, не самостоятельно), и чтобы дошёл до этого живым, то есть и живучесть является необходимым условием оптимизации, ведь мёртвые организмы не умеют размножаться. Во всей этой двойной работе присутствовал настройщик и конструктор организмов в высшей степени "безразличный" к тому, будут ли эти организмы, или скорее не будут уметь производить САМООПИСАНИЕ. Необходимо уметь, например, двигать руками, плавниками или крыльями, однако сведения о том, как каждый человек, птица или рыба это выполняет, ему (ей) с " эволюционной точки зрения " совершенно безразличны. Я спрошу: какие это должно иметь реальные последствия для человека? Да такие, что мы не имеем никакого понятия о том, как мы делаем так, что мы мыслим и как получается, что мы обладаем сознанием и являемся носителями "естественного" интеллекта, весьма неточно измеряемого при помощи IQ (коэффициент интеллекта), значения которого для большого количества людей ложатся на колоколообразную кривую нормального распределения (распределение Гаусса). Интеллект животных (мы к ним принадлежим, хотя не каждому от такой констатации приятно) можно различать по тому, что он не одинаков у разных видов: бывают мудрецы, "середняки" и глупцы, однако напрасно мы будем искать его среди, например, мух, потому что у насекомых недостаток инстинкта, программирующего поведение, сразу выносит особи смертный приговор. У людей всё намного более усложнено, и, однако, хотя мы познаём собственное строение и собственные функции способами обдумывания, фальсификации и проверки (которые всегда ненадёжны) конъектур (догадок), то есть всё более дерзких гипотез, мы всё еще не знаем, как это мы работаем "головой". В том, что мы делали это автоматически, бессознательно и в общем точно (а часто ошибочно) в бесчисленных жизненных ситуациях, мы убеждаемся только тогда, когда работа этих механизмов в старости начинает хромать. Тогда, когда верные движения не удаётся легко и "безмысленно" выполнять, когда всё дольше живя, фамилии и ситуации ЗАБЫВАЮТСЯ, и нет способа ВЫЗВАТЬ их внутренним желанием, мы только начинаем замечать, что сознание, пока оно от этих ослаблений не замутится окончательно, возникает и действует благодаря бесчисленным, совсем нам неизвестным, ибо ИНТРОСПЕКТИВНО В ПОЛНОТЕ НЕДОСТУПНЫМ, невральным механизмам, таким, которые поддерживают его, создают, составляют, питают запрошенной информацией память, могут направлять человека на то, что с ним, с его близкими, его общественной группой и, даже, со всем человечеством было, есть и, что когда-то будет. Но размеры (способность) всех этих умений ЗАДАНЫ нам структурой мозга, а не так, что чем больше кто-то хотел бы стать поэтом, или златоустым оратором, или харизматичным политиком, то он им и станет. Это не зависит ни исключительно, ни главным образом от личных желаний. Подобным образом, ведь, невеста, желающая быть красивой, к сожалению, красивой от этого желания не станет.

6. В связи с тем, что было до сих пор сказано, я склонен заменить на месте tertium comparationis "древо жизни" на "ДРЕВО НАШИХ ТЕХНОЛОГИЙ". Это древо всегда развивалось таким образом, что сперва создавались прототипы. За ними шли первые КОНКРЕТНЫЕ ПРОБЫ, а потом только наступала фаза таких усовершенствований "продукта", которая уже без значительного теоретически-математического вклада обойтись, пожалуй, не могла. Лично я уже несколько десятков лет назад настойчиво предлагал, чтобы стремились догнать и, даже, перегнать Природу, как Конструктора, и, хотя голос мой, как писк мыши, прикрытой метлой, далеко не доходил, именно в эту сторону начало направлять свои побеги наше "технологическое древо". Как живое дерево к Солнцу, так и наши технологии, не особенно прислушиваясь к моим советам, начали поворачиваться в сторону природы: биотехнология, с генной инженерией и микрохирургией клонирования, трансгенные трансплантации и, даже, целые новообразованные виды организмов. В мои намерения ни в коей мере не входит хвастовство, ибо если бы ни меня, ни моих прогнозов вовсе не было, всё пошло бы точно также. Я действительно предвидел, но этим предвидением de facto ничего не осуществил, так что люди, которые мои "замыслы будущих действий" реализовали и дальше реализовывают, ни малейшего понятия не имеют, что был кто-то, кто их начинания предвидел. Но и это было только лирическим отступлением "по дороге".

7. И здесь, когда было призвано в качестве tertium comparationis древо процветающих и разветвляющихся ТЕХНОЛОГИЙ, появляется видимая на первый взгляд разница между преследуемой, всё ещё тщетно, "ментальной технологией", то есть техникой производства машинного интеллекта, и действием человеческого разума. И это, потому что перед самолётом был китайский бумажный змей, перед космическим челноком американцев был фейерверк, перед автоматизированной производственной линией (конвейером под компьютерным управлением) была, начиная с палеолита, ручная слесарная и кузнечная работа, а перед компьютером были только счёты, позднее превратившиеся в арифмометр, но никакого следа технической имитации интеллектуальной жизни даже муравьёв или мух не появилось. Мы не умеем инженерно подражать тому, что полностью насмехается над попытками конструктивного исследования! Мы не знаем ни откуда, ни как возникает сознание, ни где рождаются наши мысли, ни как понятия превращаются в предложения языка, а скромные опыты механизации вместе с усилиями обучения машины, чтобы она печатала под нашу диктовку, дают такие результаты, что рентгенолог желает сам (или диктуя машинистке) составить описание просвечивания, а не исправлять потом текст, напечатанный компьютером с наилучшей программой. Так есть, но это вовсе не значит, что так должно быть. Были уже области, во главе с атомистикой, в которых осуществление теоретического скачка над незнанием, непреодолимым механическими шажками, оказалось и возможно и необходимо. И также приводило к желанным и нежеланным успехам. А о "множественности возможных искусственных интеллектов" мы поговорим, может быть, в другой раз.

Написано в июле 1997 г.,