"Калибан" - читать интересную книгу автора (Аллен Роджер Макбрайд)

14

– Благодарю вас, друзья! Сегодня я хочу представить вашему вниманию анализ Трех Законов роботехники. Но прежде чем мы углубимся в оценку собственно Законов и их взаимоотношений, я хотела бы провести небольшой экскурс в историю.

На прошлой лекции я говорила, что люди ставят роботов на низшую социальную ступень и что презрение и бестолковое использование роботов унижает и развращает и тех, и других. И о том, что, перекладывая на роботов все, даже самые простые обязанности, мы, люди, тем самым теряем способность к самостоятельным действиям. Есть нечто такое, что объединяет все эти вопросы в один, что красной нитью проходит через все, о чем я говорила.

Это, леди и джентльмены, Три Закона роботехники. Без них не обходится ничего, что касается роботов.

Фреда ненадолго замолчала, скользнула взглядом по залу и натолкнулась на взгляд Альвара Крэша, сидевшего в первом ряду. Фреда удивилась – он смотрел мрачно, почти злобно. Что же случилось? Крэш – человек рассудительный. Отчего же он так злится? Узнал что-то новое? От такой догадки Фреда почувствовала, что у нее начинают подгибаться колени. Нельзя сейчас об этом думать! Не сейчас! Надо продолжать лекцию.

– Прошлую лекцию я начала с вопроса: «Что для нас роботы?» Сейчас же я спрашиваю: «Что такое Три Закона роботехники? Для чего они нужны?» Когда я впервые задала этот вопрос себе самой, он меня поразил. Это почти то же самое, что спрашивать: «Что такое люди?» или «Для чего мы живем?» Эти вопросы затрагивают такие глубинные основы жизни, что на них практически нет вразумительного ответа. Люди – это люди. Жизнь – это жизнь. Какие еще нужны объяснения? И можно понимать это как нам угодно. Но в отношении роботов, господа, все обстоит несколько иначе. Еще раз напомню – и сами роботы, и Три Закона созданы людьми, и созданы, несомненно, с определенной целью. Поэтому мы можем ответить, для чего нужны Три Закона. Давайте же разберем этот вопрос!

Каждый из Трех Законов основан на нескольких важных правилах, очевидных или скрытых. Все исходные правила, на которых основываются Три Закона, вытекают из общечеловеческих моральных принципов. Это очевидно, хотя о математических выкладках относительно того, как Законы роботехники заложены в позитронный мозг, вряд ли кто из вас хотел бы сейчас послушать. Признаться, я сама очень долго не могла в этом разобраться.

В ответ на это признание в зале засмеялись. Хорошо. Они по-прежнему хотят ее слушать. Фреда глянула в свои заметки, немного нервно отхлебнула из стакана, и продолжила:

– Достаточно сказать, что эта технология приводит к результатам, которые от нее требовались. Таким образом, Три Закона означают примерно следующее. Первое – роботы не должны быть опасными. Второе – роботов можно использовать для любых нужд. И третье – они должны быть экономными, насколько это возможно.

Дальнейшие математические расчеты, если говорить терминами социологов, показывают, что такая иерархия требований типична для моральных норм любого человеческого общества. Если извлечь краткие выводы из правил поведения в идеальном обществе, мы получим ряд законов, каждый из которых вступает в противоречие с менее значимым. Получится примерно следующее: не вреди, помогай другим, заботься о собственной сохранности. Короче, Три Закона заключают в себе основные моральные установки людей, идеал, к которому они стремились во все времена, но которого так и не достигли. Все это звучит вполне обнадеживающе, вполне убедительно. Но на самом деле не все так просто.

Во-первых, нельзя забывать, что Три Закона заложены в саму сущность позитронного мозга как математические аксиомы, безусловные истины, без каких бы то ни было полутонов и условностей. Но жизнь полна условностей, случаев, когда жесткие рамки не всегда приводят к лучшим результатам. В реальной жизни зачастую важнее личная оценка ситуации.

Во-вторых, у нас, людей, законов гораздо больше, чем три. Вернемся снова к оценке Трех Законов. Они являются очень хорошим приближением к правилам поведения высокоморального человека. Но только приближением! Они слишком незыблемы, слишком просты! Они не охватывают всех случаев жизни, они не годятся для сложных и неординарных ситуаций, когда в первую очередь важно решение, принятое на основе личной оценки положения. Ни одно существо, строго следующее Трем Законам, не способно разобраться со всеми возможными ситуациями, которые могут встретиться в жизни. Другими словами, Три Закона лишают роботов возможности существовать как свободные личности. Несложный подсчет показывает, что роботы, действуя в рамках Трех Законов, но без жесткого контроля со стороны человека, быстро выйдут из строя, если попробуют вести себя в сложных ситуациях как люди. То есть из-за Трех Законов роботы не способны справиться без посторонней помощи со всем, с чем могут столкнуться в обществе, населенном не одними только роботами.

У них нет понятия об условностях жизни. Не ведая тысяч дополнительных законов и обычаев, правил поведения, моральных норм, которыми руководствуются люди в той или иной ситуации, роботы не способны принимать решения и выносить самостоятельные суждения, как мы, люди.

Представьте, что преступник стреляет в полицейского. Несомненно, полицейский станет защищаться и, не задумываясь, предпримет даже опасные для жизни преступника меры. Общественные нормы морали не запрещают – и даже рекомендуют – полицейскому ранить или убить опасного преступника. Потому что для общества жизнь полицейского, который защищает это самое общество, намного важнее, чем жизнь преступника. А теперь представьте, что рядом с полицейским оказался робот. Робот, несомненно, станет защищать полицейского от преступника – но он так же рьяно бросится защищать и преступника от полицейского! Робот, конечно же, постарается не дать полицейскому выстрелить в злодея. Потому что он обязан не допустить, чтобы человеку был причинен вред – неважно, какому человеку. Робот помешает полицейскому стрелять, загородив собой преступника, и даст злодею возможность удрать. Или попытается обезоружить обоих. Робот загородит собой от выстрелов обоих, несмотря на то что погибнет при этом сам. Несмотря на то, что после его гибели перестрелка все равно возобновится!

Собственно, у такой ситуации может быть множество исходов, и самых разных. Если рядом окажется робот, полицейский скорее всего не задержит преступника. Из-за этого робота может случиться и кое-что похуже – могут погибнуть и полицейский, и преступник, и робот. Или только полицейский и робот. Или только робот – но преступнику удастся скрыться. А может случиться и так, что погибнут полицейский и преступник, а робот уцелеет до тех пор, пока его не доконает противоречие Первого и Второго Законов. Короче, вмешательство робота в подобной ситуации привело бы к несчастью.

Теоретически роботы способны выносить независимые суждения и пережить без особых затруднений смерть преступника. Робот может прийти к выводу, что и для настоящего, и для будущего благополучия общества – то есть всех людей – необходимо, чтобы верх взял полицейский. И помощь преступнику или вмешательство в действия полицейского принесут людям только вред. Потому что если преступник избежит наказания, он обязательно снова начнет вредить людям, так или иначе. Тем не менее в действительности только самые высокоорганизованные роботы со специально отрегулированным соотношением напряжений Первого Закона способны справиться с такой ситуацией.

Все законы и правила поведения, согласно которым живут люди, предназначены как раз для того, чтобы разобраться в путанице таких вот сложных случаев. И мы, люди, настолько привыкли следовать этим правилам, что даже не замечаем их! Как войти в зал, когда обед уже начался, как вежливо обратиться к вдове своего дедушки, которая еще раз вышла замуж, когда надо и когда не надо цитировать источники в научном исследовании – мы так хорошо все это знаем, что даже не замечаем, что знаем. Для других, не таких повседневных, случаев тоже есть масса правил и условностей.

Например, все мы знаем, что убийство – это преступление. Тем не менее убийство при самозащите, при борьбе с преступником, посягающим на вашу жизнь, преступлением не считается. Но степень опасности преступника, соответствие защиты нападению, смягчающие и отягчающие обстоятельства, непреднамеренное убийство – все это полутона и оттенки серого в четком и ясном черно-белом законе против убийства. Но, как мы видим на моем примере с полицейским и преступником, ни одно из этих соображений не влияет на напряженность Первого Закона у роботов. Этот Закон не оставляет места оценке обстоятельств, вынесению самостоятельного суждения. Вместо этого у робота есть только оценка соотношения Первого, Второго и Третьего Законов – большего им не дано!

Так что же такое Три Закона? Чтобы ответить на этот вопрос, надо вспомнить, что Три Закона созданы как модель идеальной морали, чтобы обеспечить послушание и исполнительность роботов. Три Закона не рассчитаны на то, чтобы моделировать человеческое поведение! Но, как бы то ни было, им приходится это делать – хоть и упрощенно, и схематично.

Мы разобрали цели создания Трех Законов. Теперь коснемся их истории.

Все мы знаем Три Закона с пеленок. Мы относимся к ним как к природному явлению, неизменному и не зависящему от нас. И не видим причины делать что-то иное, кроме как просто принимать их, как они есть, вместе с миром, в котором живем.

Но это не единственный выход для нас. Повторю еще раз: Три Закона созданы людьми. Они основаны на человеческих суждениях и жизненном опыте, приобретенном в прошлом. В конце концов, эти Три Закона не менее поддаются оценке и преобразованию, чем все прочие изобретения человечества – такие, как колесо, космический корабль или компьютер. Все это изменилось со времени изобретения или вообще кануло в прошлое – уступив место новым открытиям, новым установлениям.

Мы можем понять, как и почему было создано все это, – и найти пути усовершенствования, изменения к лучшему, так чтобы оно соответствовало запросам настоящего. Времена ведь меняются! И точно так же, если будет нужно, мы можем изменить Три Закона!

Зал ахнул, как одно огромное существо, и буквально взорвался возмущенными криками. Фреде казалось, что эти выкрики обрушиваются на нее, как сокрушительные удары. Но она знала, что так все и будет. Она взяла себя в руки и ответила:

– Нет! Мы не станем вести себя так! Мы ведь пришли сюда, чтобы культурно обсудить важные вопросы. Как же можно называть наше общество самым развитым и цивилизованным в истории человечества, если простое предложение нового образа мыслей, небольшое отступление от общепринятых традиций превращает нас в толпу? Вы кричите так, будто мои слова – преступление против религии, которой, по вашему убеждению, у вас нет! Неужели вы в самом деле верите, что Три Закона – нечто вечное и незыблемое, что-то вроде магической формулы, заложенной в основу бытия?!

Это подействовало. Поселенцы раздулись от гордости за свое здравомыслие. По крайней мере, пока. В зале еще пошумели, покричали, но понемногу все успокоилось, они приготовились слушать дальше. Фреда еще немного подождала, пока шум утихнет, и продолжила:

– Три Закона – изобретение человечества. И, как любое такое изобретение, они отражают потребности того времени и места, когда и где были созданы. Хотя роботы, которых мы используем сейчас, во многом гораздо совершеннее тех, первых, моделей, но в главном они остались такими же, как и тысячи лет назад. Мозг наших роботов практически не изменился с тех пор, когда люди только начинали осваивать космос. Они – продукт культуры, исчезнувшей задолго до того, как были построены первые подземные города на Земле, до того, как первые колонисты заселили Аврору.

Я понимаю, что это кажется невероятным, но вы не можете этого не признать. Подумайте сами! Загляните в это отдаленное прошлое, и вы сами увидите! И не обязательно справляться у своих роботов. Все нужные сведения есть в справочнике. Посмотрите только, каким был мир, в котором создавались первые роботы. И вы увидите, что Три Закона придумали во времена, совсем непохожие на нынешнее.

Вам встретится часто повторяющееся словосочетание «комплекс Франкенштейна». Это ссылка на старинную легенду, ныне забытую, о том, как некий чародей сложил вместе части тел казненных преступников и оживил создание, которое получилось, – ужасающего монстра. В одних вариантах легенды этого монстра наделяют добрым и мягким характером, в других его выставляют закоренелым злодеем и убийцей. Но все варианты сходятся на том, что этого монстра все вокруг боялись и ненавидели. И в большинстве вариантов легенды и монстра, и его создателя убивает разъяренная толпа, боясь того, что вот-вот вся история повторится, когда еще один искусник откроет секрет оживления мертвой плоти.

С этим чудовищем, леди и джентльмены, часто сравнивали роботов, когда первые настоящие роботы только появились. Чудовище, сделанное из кусков мертвых тел. Извращенное, неестественное создание с самыми низкими и злобными порывами. И страх перед этим мифическим чудовищем, перенесенный на настоящих роботов, назывался «комплексом Франкенштейна». Я понимаю, что трудно в такое поверить, но к роботам относились не как к безупречно послушным слугам, а как к могучим, грозным, устрашающим чудовищам. Люди хватали своих детей и бежали прочь, завидев робота, настоящего, нормального робота с Тремя Законами, заложенными в позитронный мозг.

По залу пронесся ропот недоверия, но они по-прежнему слушали Фреду, увлеченные причудливым древним миром, о котором она рассказывала.

– Можно поведать еще очень и очень многое о тех незапамятных временах, когда создавались Три Закона. И нам трудно будет не то что понять – даже поверить в такое. Потому что первые роботы появились в мире, полном ненависти и страха, когда люди Земли сплачивались в могущественные военные организации и блоки. Они вооружались чудовищной силы оружием, способным разнести на куски саму Землю, и каждый боялся, как бы противники не начали войну первыми! Подумать только, ведь оружие тогда было главной политической силой, а все остальное – культура, мораль – играло второстепенную, незначительную роль. И чтобы не дать противнику себя опередить, каждая из сторон стремилась создать все более мощное, скоростное, совершенное оружие!

Вопрос был не в том, кто прав, а в том, у кого больше этих кошмарных машин разрушения! Все новейшие технологии были направлены в первую очередь на создание оружия, и только потом – мирных инструментов и приспособлений. Представляете, тогда исследователь, вставая из-за лабораторного стола, думал о своем открытии не «для чего бы лучше применить это новшество?», а «как бы перебить с помощью моей находки побольше врагов?». И все машины и приспособления, насколько возможно, превращались в машины смерти, бесконечно искажая общественную мораль. И первые подземные города на Земле стали наследием этих времен. Их придумали вовсе не из-за экономичности и удобства, а для того, чтобы защититься от ядерных бомб, которые в мгновение ока могли уничтожить жизнь на поверхности планеты.

В те же самые времена сумасшедшей, нескончаемой гонки вооружений, когда «комплекс Франкенштейна» цвел махровым цветом, общество сделало первые шаги к новой автоматике, и переход к ней оказался очень непростым. В те времена люди работали не потому, что им этого хотелось, не для того, чтобы реализовать потребность в творчестве или чувствовать себя нужными. Они работали, потому что должны были это делать! За работу они получали определенную плату и на это покупали себе еду и жилье. Автоматические машины, и роботы в том числе, брали на себя все больше и больше работы, и, как следствие, все меньше и меньше работы – и меньше платы за труд – доставалось людям. Роботы могли создать полнейшее изобилие, но это не было нужно их владельцам – роботов тогда могли себе позволить только очень богатые люди. И представьте теперь, как ненавидели и возмущались простые люди роботами, созданиями, которые вырывают у тебя изо рта последний кусок. Представьте, как бы вы злились, не имея возможности как-то бороться с этим грабежом!

И заметьте еще вот что: до самой эры Колонизации роботы были чрезвычайно редкими и дорогими. Сейчас мы ничуть не удивимся, видя человека, окруженного сотней собственных роботов. Но в первые несколько тысяч лет существования роботов их было во много тысяч раз меньше, чем людей. А к редким и дорогим вещам и отношение совершенно другое, чем к относительно дешевым и общедоступным. Человек, у которого был собственный робот, стоивший во много раз больше, чем все его остальное имущество, никогда бы не додумался использовать робота вместо якоря!

И вот в такой культурной среде формировались Три Закона роботехники. Расхожие байки о кошмарных бездушных чудовищах, слепленных из мертвой плоти; нависшая над миром смертельная опасность, готовая в любой момент выйти из-под контроля; глубокая неприязнь к разумным машинам, отнимающим у бедняков кусок хлеба; недостаток в роботах, из-за которого их воспринимали как дорогостоящую редкость. Заметьте, я говорю сейчас о том, как люди воспринимали роботов, а не о том, каковы были роботы на самом деле. Так вот, эти люди считали роботов жадными до чужого добра чудовищами!

Фреда перевела дыхание и окинула взглядом притихший зал. Ее слушатели потрясенно внимали невероятному рассказу. Фреда продолжила:

– Вот, говорят, что мы, колонисты, – слабые, никчемные людишки, порабощенные собственными роботами. Точно так же много чего поговаривают и о наших друзьях поселенцах, которые зарылись под землю и прячутся там, уверяя самих себя, что жить в пещерах куда лучше, чем под открытым небом, на вольном воздухе. Это их культурное наследие со времен подземных городов-убежищ Земли. Эти два взгляда на жизнь зачастую предстают как взаимоисключающие. Одна культура – слабая и ущербная, в то время как другая – здравая и разумная. Но мне кажется более разумным рассматривать сильные и слабые стороны каждой из них по отдельности. И, по-моему, обе они весьма далеки от совершенства.

Так или иначе, никто не станет возражать, что общество, временной период, в котором создавались Три Закона, гораздо ущербнее нашего. Маниакальная подозрительность, страх, ужасные войны – Земля была тогда кошмарным местом! И наши предки, улетевшие колонизировать новые миры, оставили все это позади. Именно из-за того, что наши предки колонисты не хотели признавать такого наследия, они долго избегали любых контактов с материнской планетой. Тысячелетия мы не желали признаться самим себе в том, что у нас с поселенцами на Земле – общие корни. Мы не допускали их в свои пятьдесят миров, считали неполноценными людьми, и отношения между двумя народами никак не могли наладиться. Другими словами, нас разделяла вражда давно забытых веков. Истоки подозрительности и недоверия между поселенцами и колонистами таятся в страхе и ненависти, доставшихся нам с тех незапамятных времен. Недостатки пережили общество, которое их породило.

Должна сказать еще раз, что все изобретения человечества – отражение своей эпохи. Если это так, то Три Закона – наследие довольно мрачных времен. Тех времен, когда машин боялись и ненавидели, когда новые технологии были направлены во зло, когда винтовка, сделанная роботом, ценилась только потому, что стоила дешевле сделанной человеком, тех времен, когда даже самые богатые люди жили, по нашим меркам, как нищие, а бедняки, по вполне понятным причинам, ненавидели богатых. Я могу сказать много нелицеприятного о нашей с вами культуре, основанной на труде роботов, но есть в ней и много светлых сторон, много непреложных достоинств. В нашем с вами мире сохранилось такое понятие, как «бедность». Но, по крайней мере, никто сейчас не может себе даже представить, что такое настоящая нищета на самом деле. Мы не боимся друг друга, и наши машины обслуживают нас, а не наоборот. Мы создали много прекрасного и величественного.

Но вся наша культура, весь наш мир построен на Трех Законах, созданных в мрачные времена всеобщей ненависти и жестокости. Формулировка Законов построена так, что они предназначены для умиротворения злобных, полудиких людей той эпохи. И, осмелюсь предположить, эти Законы даже в те времена, когда были созданы, предусматривали некий «запас прочности», излишнюю предосторожность. А уж сейчас они безнадежно отстали от действительности.

Итак: для чего нужны роботы? В самом начале ответ, конечно, был простым. Роботы нужны, чтобы выполнять всякую работу. Но сегодня из-за устаревших тысячелетия назад Трех Законов истинное назначение роботов почти забылось, превратилось во второстепенную задачу. Сейчас роботы заняты тем, что оберегают и защищают людей от буквально всего на свете.

Естественно, те, кто создал Три Закона, и подумать о таком не могли! Но для каждого Закона существует некий подтекст, который выработался за многие тысячелетия совместного существования людей и роботов. И этот подтекст очень непросто разглядеть с позиций общества, долго сосуществующего с роботами.

Давайте посмотрим с самого начала и начнем с Первого Закона роботехники: «Робот не может причинить вред человеку или своим бездействием допустить, чтобы человеку был причинен вред». Это, конечно, имеет смысл – во всяком случае, так мы привыкли считать. Поскольку робот гораздо сильнее человека, нужно запретить применение этой силы против людей. Точно так же строятся наши собственные, человеческие законы против насилия. Они запрещают человеку использовать робота как оружие против других людей – например, приказывать роботу убить врага. Поэтому мы можем так доверять роботам.

Однако этот Закон ставит существование любого робота в зависимое положение по отношению к жизни любого человека. Это имело смысл, когда роботы были практически не способны говорить и рассуждать отвлеченно, но почти все современные роботы гораздо совершеннее и могут выносить самостоятельные суждения. Этот закон имеет смысл в обществе, где много бедных, а робот – редкое и дорогое удовольствие отдельных богачей. Тогда богачи вынуждены были защищаться от толпы недовольных – они могли приказать охранникам уничтожить своих недоброжелателей. Если бы этими охранниками оказались роботы – результат получился бы поистине ужасающий. Но по сей день всегда и везде существование самых высокоразвитых, умных, утонченных, сильных роботов ничто по сравнению с жизнью самого презренного, отвратительного, жестокого преступника-убийцы!

Второй пункт Первого Закона означает, что в присутствии роботов людям нет нужды защищать свою жизнь. Если я сейчас направлю винтовку на шерифа Крэша, который сидит передо мной, он знает, что ему не о чем беспокоиться.

Фреда на неуловимый, краткий миг представила, с каким удовольствием именно так бы и сделала! Крэш опасен. Сомневаться в этом не приходится.

– Его личный робот, Дональд, защитил бы его. Ариэль, что стоит позади меня на сцене, забрала бы у меня оружие. Собственно, у шерифа Крэша не было бы даже возможности как-то самому позаботиться о своей жизни. Например, если бы он решил взобраться на гору, не думаю, что Дональд отпустил бы его без еще пяти-шести роботов, которые карабкались бы впереди и сзади, все время готовые подхватить шерифа, если вдруг тот сорвется. Кроме того, робот непременно постарался бы в первую очередь отговорить господина от такой рискованной затеи. А то, что такая чрезмерная опека сводит на нет все удовольствие от скалолазания, отчасти объясняет, почему никто из нас не любит ходить в горы.

Кроме того, жизнь в окружении роботов приучила нас всякий риск считать дурным делом и любой риск воспринимать одинаково. Потому что роботы обязаны нас защитить от опасности, какой бы призрачной она ни оказалась, и не должны своим бездействием допустить, чтобы человеку угрожала какая-нибудь опасность – все равно какая! Потому что мы им так велели.

Не будет преувеличением сказать, что роботы с равным рвением бросаются защищать нас и от малейшего риска получить какую-нибудь царапину, и от реальной угрозы неминуемой смерти. Поэтому мы не привыкли различать малую и большую опасности – они для нас одинаковы, роботы защитят нас в равной мере от всего. Мы с вами утратили способность реально оценивать опасность. Я совершенно уверена, что каждый в этом зале знает, что роботы иногда поднимают шум из-за самых обычных, самых невинных на первый взгляд происшествий, которые и опасностью не назовешь. Из-за такой излишней предусмотрительности роботов мы привыкли бояться и избегать любого риска. В общем, боязнь риска у нас перешла с физического уровня на психологический. Отвага и риск кажутся нам непристойными, чем-то таким, что делать не принято. Наша культура учит нас не использовать никакие сомнительные возможности, действовать только наверняка.

Мы убеждены, что риск делает любое занятие недостойным, никчемным. Когда скалолаз взбирается на гору, чтобы насладиться прекрасными видами, все равно постоянно есть опасность сорваться, неважно, сколько роботов ползут за ним и подстраховывают. Когда ученый пытается изобрести что-то новое, он рискует напрасно потерять время, ресурсы, свою репутацию. Когда один человек признается другому в любви, всегда есть риск нарваться на отказ. Элементы риска можно найти буквально в любом занятии!

Но роботы приучили нас к тому, что всякий, любой риск – зло. Их обязанность – охранять нас от опасности, не причинять нам зла, а вовсе не творить для нас добро! Ни в одном Законе не сказано, что робот должен помогать человеку воплотить его или ее мечты, помогать достичь счастья! Их касается только охрана нас от разных неприятностей, но они нисколько не заботятся о наших удовольствиях. Преувеличенная опека со стороны роботов, постоянная забота о нашей безопасности с малых лет приучают людей к мысли, что мудрее не рисковать – не то что понапрасну, а вообще не рисковать! И никто из нас никогда не рискует! И упускает возможность достичь успеха – из опасения провала, неудачи.

Гробовая тишина, стоявшая до сих пор в зале, нарушилась. Поднялся многоголосый шум, раздались отдельные невнятные выкрики – возмущенные, недовольные, протестующие. Люди переговаривались с соседями, качали головами, вздыхали. В воздухе повисла напряженность.

Фреда замолчала, глядя на слушателей. Ей внезапно показалось, что комната стала как будто меньше. Задние ряды придвинулись, стали заметно ближе. Люди, сидящие в передних рядах, казалось, были теперь в нескольких сантиметрах от кафедры.

Фреда посмотрела на Альвара Крэша. Ей показалось, что он так близко, что до него можно дотянуться рукой. Воздух чуть ли не светился от накала страстей, прямые линии комнаты как будто изогнулись, искажая реальную геометрию пространства. Свет засиял ярче, цвета стали насыщенней.

Фреда почувствовала, как колотится в груди сердце. Она кожей ощущала все эмоции собравшихся здесь людей. Возмущение, неуверенность, протест, раздражение, злость, любопытство, смущение – все это стало таким реальным, осязаемым. У нее получилось! Как ни мала была надежда на то, чтобы убедить их, превратить в единомышленников, у нее получилось главное – задеть их чувства, заставить взглянуть на самих себя со стороны. Фреда заинтересовала их, и теперь начнется обсуждение сказанного.

Теперь остается только закончить вечер без скандала. Фреда заглянула в свои записи и снова заговорила:

– Мы боимся рисковать. И что из этого получается? Во всех областях науки, кроме роботехники, мы уступили лидерство поселенцам. Да и то, я уверена, только потому, что поселенцы имеют глупость бояться роботов! – Фреда засомневалась, сумела ли она вложить в эти слова достаточно иронии? Трудно сказать. – Но не только наука у нас спит мертвым сном. Все, буквально все! Новые здания, которые возводят наши роботы, строятся по устаревшим проектам. Колонисты не создают больше новых моделей космических кораблей или аэрокаров. Нет новых лекарств и новых систем поддержания жизни. И мы больше не ведем исследований в открытом космосе. «Пятидесяти планет вполне достаточно» – это стало почти пословицей. Мы говорим это так же, как «лучшее – враг хорошего». Однако Солярия уже саморазрушилась, и у нас осталось сорок девять миров вместо пятидесяти. И если на Инферно все останется по-прежнему, у колонистов скоро будет только сорок восемь планет. Для всего живого прекращение роста и развития – это первый шаг к гибели! И если это так для человеческих цивилизаций – мы все в смертельной опасности!

По всем показателям человеческой жизнедеятельности среди колонистов линии графиков медленно, но неуклонно ползут вниз, хотя по-прежнему не выходят за пределы относительной нормы. Но мы теряем почву под ногами даже в самых жизненно важных областях! Рождаемость на Инферно еще два поколения назад перестала перекрывать смертность, естественный прирост населения уже много лет выражается в отрицательных цифрах! Мы живем долго, но не вечно! И колонисты умирают чаще, чем рождаются. Население планеты неуклонно уменьшается, уже много кварталов в городе пустуют. И тех детей, которые все же рождаются, воспитывают не любящие родители, а толпы роботов, которые неусыпной заботой и опекой отрывают юных колонистов от остального человечества!

Поэтому неудивительно, что многие из нас предпочитают общество роботов обществу себе подобных. С роботами мы чувствуем себя в безопасности, нам уютнее и приятнее в их окружении. Роботы, которые беспрекословно подчиняются нам, защищают нас от любой неприятности – и, конечно же, от самого опасного, что только можно представить, – от других людей! Да-да, мы негласно признаем, что самое опасное – это люди, такие же, как мы сами. Общение с людьми гораздо опаснее, рискованнее, чем общение с роботами. Представьте себе, сейчас все больше людей даже половые потребности удовлетворяют со специально приспособленными роботами! Это стало настолько распространенным явлением, что в некоторых кругах такие предпочтения даже не кажутся чем-то необычным! Люди предпочитают безоговорочную покорность роботов радостям общения с себе подобными! Но ведь они тем самым отказываются от настоящих, живых эмоций, естественных чувств, неразрывно связанных с риском отказа и обид. Вместо этого они попросту удовлетворяют телесные потребности.

Мы, инферниты, почти забыли, как надо держать себя друг с другом. Хочу заметить, что на других планетах колонистов с этим обстоит куда хуже. В иных мирах приверженность к отчуждению, которую мы себе только позволяем, стала чем-то вроде навязчивости, – они не могут иначе! Там люди ужасно страдают, находясь в одной комнате с кем-то еще. Они не в состоянии даже просто прикоснуться к другому человеку – из-за непередаваемого отвращения! На этих планетах вообще нет городов, только разбросанные далеко друг от друга отдельные дома, в которых люди живут поодиночке, окруженные тысячами роботов. Не стану даже упоминать, насколько плохо обстоит вопрос с рождаемостью в таких мирах.

Но прежде чем поздравлять друг друга с тем, что на Инферно все не так плохо, позвольте напомнить, что город все больше и больше пустеет, население Аида убывает значительно быстрее, чем может объяснить падение рождаемости. Все больше и больше людей селятся отдельно, подальше от остальных – как на тех планетах, о которых я говорила только что! Такие уединенные дома-крепости кажутся безопаснее, спокойнее. Наедине с самим собой человек лучше всего защищен от всяких волнений и опасностей.

Друзья мои, мы должны посмотреть в лицо фактам. Первый Закон приучил нас уклоняться от любых попыток что-то предпринять. Приучил нас к тому, что всякий риск есть зло, и единственный способ избежать опасности – ничего не делать самим, предоставить все свои заботы, каковы бы они ни были, роботам. И мало-помалу мы уступаем роботам все, чем должен быть человек, все, что должен человек делать. Мы позволяем роботам жить вместо нас!

Зал отозвался взрывом выкриков и перешептываний, из задних рядов, где сидели Железноголовые, послышались озлобленные, гневные вопли: «Поселенка, поселенка, поселенка!» Железноголовые не могли придумать худшего ругательства.

Фреда помолчала минуту-другую, давая им высказаться, выжидая, пока возмущенный зал не затихнет сам собой. Это сработало, в конце концов волнение улеглось. К Железноголовым оборачивались другие слушатели и шикали на них, чтобы те замолчали, полицейские Крэша подтянулись к задним рядам и пригрозили вывести самых ретивых возмутителей спокойствия. Наконец Железноголовые успокоились.

– Если позволите, я продолжу. Перейдем теперь ко Второму Закону роботехники: «Робот обязан подчиняться приказам человека, если эти приказы не противоречат Первому Закону». Этот закон обеспечивает покорность роботов и ставит их в подчиненное положение по отношению к любому человеку, хотя роботы во многом разумнее и сильнее людей.

Но, исходя из нашего анализа Первого Закона, мы видим, что люди, во всем полагаясь на роботов, попадают в зависимость от них. И Второй Закон только усиливает эту зависимость. Утратив желание и возможность самим заботиться о своем благополучии, люди перестали быть способными на любые решительные действия. Мы не можем ничего сделать для себя, кроме как приказать роботам сделать то, что нам нужно. И большая часть программы образования у нас – обучение тому, как правильно отдавать приказания роботам, чтобы они могли выполнять самые сложные задания.

Что из этого получается: кроме искусства, которое тем не менее пришло в невероятный упадок, мы сейчас не создаем ничего нового! Но если присмотреться, даже наше искусство не избежало влияния роботов.

Мы убеждаем себя, что стиль жизни колонистов позволяет создать высшую, лучшую культуру всех времен и народов, освобождает нас от необходимости тяжко трудиться, позволяет реализовать все лучшие порывы человеческой души. А что получается на самом деле?

Объясню на простом примере. Сегодня мы с вами встретились в одном из лучших залов планеты. Это Дворец искусства, гордый монумент созидательному творчеству. Но кто здесь сейчас работает? Для чего мы используем этот Дворец? Ответ очень прост. Здесь хранятся мертвые остатки нашей культуры, которые роботы собрали по нашему приказу.

Никто больше не ставит спектаклей – ведь это требует слишком много усилий! Я специально поинтересовалась – прошло двадцать лет с тех пор, как здесь последний раз ставили пьесу! С тех пор ни здесь, ни где-нибудь еще в Аиде ничего подобного не было! А представление, в котором участвовали только актеры-люди, давалось последний раз почти полвека назад! А потом все – и главные, и второстепенные роли в пьесах стали исполнять специальные роботы-актеры, подобные людям с виду и подготовленные для того, чтобы воспроизводить на сцене действия персонажей. И все равно это показалось слишком сложным: управлять роботами-актерами, задавать программы для их ролей. И мы сказали себе: стоит ли беспокоиться?

Мне кажется, что великие актеры прошлого ни за что не согласились бы отказаться от творчества. И ни один директор театра не допустил бы, чтобы все его творчество сводилось к выбору пьесы и подходящей группы роботов-исполнителей.

И когда роботы давали представления, зачастую они выступали перед пустым залом. Миллионы и миллионы зрителей, которые смотрели эти пьесы, предпочитали просто включить телевизор, а не идти в театр. Дома – привычнее и безопаснее. И очень редко случалось, что хотя бы двадцать мест в этом зале были заняты людьми. Но зал не казался пустым – остальные кресла занимали человекоподобные роботы, способные всего лишь смеяться и хлопать по команде в нужных местах пьесы. Их неподвижные пластиковые лица достаточно походили на человеческие, чтобы у тех, кто смотрел представление по телевизору, создавалось нужное впечатление, когда камера поворачивалась к залу. И вы, леди и джентльмены, сидели дома и смотрели на представление в зале, полном роботов, глядевших на сцену, где тоже были одни только роботы! Откуда же тогда взяться человеческому участию, человеческим чувствам, которые только и делают театр живым?! Сегодня этот зал наполнен настоящими эмоциями, реальными чувствами. Как можно было надеяться на такое, если бы вместо вас здесь сидели бездушные манекены, запрограммированные отвечать определенным образом на слова и действия других бездушных манекенов на сцене?!

В ответ – неловкая тишина. Фреда заметила, что некоторые слушатели даже начали оглядываться по сторонам, чтобы убедиться, что рядом сидят настоящие живые люди, а не роботы-манекены.

– И в остальных видах искусства – то же самое. В наших картинных галереях выставлены полотна, написанные роботами «по заданию» номинальных авторов-людей. Писатели надиктовывают примерные задумки своих книг роботам-«помощникам», которые потом выдают готовые произведения, несколько «расширив» наметки «авторов».

Должна сказать, что и по сей день есть еще истинные художники, скульпторы, писатели и поэты, которые творят сами. Но не знаю, как долго это будет продолжаться. Искусство вырождается. Признаюсь, мои исследования в этой области неполны. Прежде чем выступить здесь, я интересовалась, знают ли люди, которое из произведений искусства создано роботами, а которое нет. И должна признать, что мало кто обращает на это внимание. Это очень печально, друзья мои!

Я не узнала и не узнаю, читает ли кто-нибудь эти книги, любуется ли картинами. И не знаю, что хуже: пустые упражнения в никому не нужном псевдотворчестве или бессмысленная шарада, которая продолжается, хотя никому до нее нет дела. Вряд ли это знают и сами псевдохудожники и писатели. Как и во всем нашем обществе, в искусстве не может быть наказания за ошибку, как не может быть и награды за успех! Ведь поскольку успех приносит едва ли не больше переживаний, чем неудача, зачем вообще к нему стремиться? К чему все это, если есть роботы, которые в любом случае обо всем позаботятся?

Фреда отпила еще глоток воды и выпрямилась за кафедрой. Пока все идет как надо. Но что тут начнется, когда она перейдет к следующей части лекции?

– И Третий Закон: «Робот должен заботиться о своей безопасности, пока это не противоречит Первому и Второму Законам». Из всех Трех законов этот меньше всего касается отношений между людьми и роботами. Это единственный Закон, оставляющий роботам свободу действий; я снова к этому возвращаюсь. Согласно Третьему Закону роботы следят за собственной сохранностью, исправляют свои повреждения и неполадки, если только их вообще можно исправить. Это означает, что продолжительность существования роботов не зависит непосредственно от вмешательства человека. Сам Третий Закон – проявление заботы людей о роботах. По крайней мере, это выглядит так на первый взгляд.

Тем не менее Третий Закон так же непосредственно касается людей, как предыдущие два. Если роботы способны сами о себе позаботиться, значит, людям не надо беспокоиться об их сохранности. Таким образом, Третий Закон тоже ставит роботов в зависимое положение по отношению к людям. Если робота нужно зачем-то уничтожить, или робот должен неизбежно погибнуть, защищая человека от опасности, значит, этот робот будет уничтожен!

Обратите внимание, что большая часть положений Трех Законов предписывает, чего роботы не должны делать. Самостоятельные действия роботов почти не поощряются. Однажды мы провели в нашей «Лаборатории» один эксперимент. Мы создали высокоразвитого робота и встроили в его главную цепь временной переключатель. Мы усадили робота одного в пустой комнате и прикрыли дверь, но на замок не закрыли. Временной переключатель сработал, робот включился. Но рядом не было людей, и некому было отдавать приказания. И не пришел никакой другой робот, чтобы передать приказ человека. Мы просто оставили этого робота одного, чтобы проверить, как он будет себя вести. И робот просидел там два года, неподвижный, совершенно безучастный ко всему. Мы даже забыли о нем, пока нам зачем-то не понадобилась эта комната. Когда я туда вошла, то приказала роботу встать и найти себе какое-нибудь занятие. Он так и сделал! И он до сих пор остается в лаборатории, выполняет много полезной работы, и во всем остальном ведет себя совершенно нормально.

Дело в том, что в Трех Законах не заложено никаких побуждений к действию. Наши роботы так созданы, что не станут делать ничего, если им не прикажут. Я считаю, что это бессмысленная потеря огромных возможностей роботов. Представьте только, что можно создать еще один, Четвертый Закон: «Робот может делать все, что пожелает, кроме тех действий, что противоречат Первому, Второму или Третьему Законам»! Почему до этого еще никто не додумался? Или если не Закон, то почему мы хотя бы не отдаем такого приказа? Когда последний раз вы приказывали своим роботам: «Иди и делай что хочешь»?

В зале раздался дружный смех.

– Да, я понимаю, это звучит нелепо! Может, это и в самом деле нелепо. Я знаю, что большинство, если не все существующие ныне роботы просто не способны чего-то хотеть. И если бы кто-то и отдал такой приказ, то робот просто сидел бы на месте и не делал ничего из тех соображений, что, ничего не делая, он не сможет никому причинить никакого вреда. Но по крайней мере мой предполагаемый Четвертый Закон рассчитан на то, что роботы – мыслящие существа, которым нужно дать шанс выбрать, о чем размышлять. Потому что просто невероятно, чтобы вам больше нравились привычные спутники и собеседники, которые в свободное время только и делают, что торчат без движения, без мысли в своих нишах или возятся с какой-нибудь никому не нужной, бессмысленной работой.

У нас бытует выражение «работать, как робот», но насколько то, чем роботы обычно заняты, действительно необходимо? Толпы из тысяч роботов целыми месяцами возводят небоскребы, в которых никто никогда не будет жить. Эти дворцы годами стоят пустые, никому не нужные. А потом приходят другие толпы роботов, разбирают их и строят новые, еще более замысловатые дворцы, которые тоже никому не понадобятся. Роботы постоянно чем-то заняты, но их труд пропадает впустую – они делают ненужные вещи!

Каждый робот общего профиля сходит с конвейера со встроенными умениями и навыками любой домашней работы. Он умеет водить аэрокар, готовить пищу, подбирать своему господину одежду и украшения, следить за чистотой в доме, делать всевозможные покупки и вести счета хозяина, и тому подобное. Однако вместо того, чтобы предоставить делать все это одному и тому же роботу, мы для каждой из этих задач держим отдельного робота, а то и нескольких. И двадцать роботов заняты тем, что вполне под силу одному-единственному. Они выполняют самые незначительные задания, и, пока один занят, остальные вынуждены заниматься чем попало или скрываться в нишах и бездействовать, чтобы не мешать друг другу. А если роботов слишком много, нам приходится заводить специального робота-надсмотрщика, чтобы управлять всей этой толпой бездельников.

Поселенцы каким-то образом обходятся вообще без роботов, без личных слуг. Вместо этого они используют сложные машины, хотя иногда это доставляет им массу затруднений. Я считаю, что, совершенно отказываясь от роботов, они обрекают себя на целую кучу ненужной работы. Тем не менее их общество растет и развивается. На сегодняшний день, леди и джентльмены, на одного жителя Аида приходится в среднем девяносто восемь целых и четыре десятых робота. Включая всех личных роботов, промышленных и роботов общественных служб. За пределами города этот показатель гораздо выше. Это просто нелепо, леди и джентльмены, когда одного человека обслуживает целая сотня роботов! Это все равно, как если бы у каждого из нас было по сотне домов и сотне аэрокаров!

Я говорю вам, друзья мои, мы вплотную приблизились к тому, чтобы попасть в полную зависимость от своих слуг-роботов, а они все сильнее и сильнее деградируют от такого обращения. Полагаясь на роботов во всем, кроме творчества, мы обречены. И даже от творчества мы уже почти готовы отказаться! Тем не менее роботы тоже обречены, если по-прежнему будут полагаться только на наши приказания, на нас как на единственную причину их существования. Несмотря на то, что мы как народ угасаем, вырождаемся.

И снова в зале повисла мертвая тишина. Настало время. Она должна это сказать, здесь и сейчас!

– И чтобы остановить неуклонное загнивание, застой нашего общества, мы должны совершенно изменить взаимоотношения с роботами! Мы должны снова взяться за те дела, которые можем выполнять, замарать свои руки, снова связать себя с реальным миром, снова научиться что-то делать! Только так можно избежать духовного и физического опустошения, деградации.

И в то же время мы должны подумать, как лучше использовать свои превосходные мыслящие машины. Наш мир в опасности, планета на грани катастрофы. Нужно сделать очень многое, и работа найдется для всех желающих. Настоящая работа для роботов, которые сейчас служат подставками для зубных щеток. Если мы хотим использовать роботов на полную мощность, нужно позволить им, даже заставить их во всей полноте проявить свои способности. Мы должны превратить их из рабов в сотрудников. И тогда они разделят с нами тяжесть трудов, не отнимая того, что делает нас людьми.

И для этого мы должны изменить Три Закона.

Она сказала это. Зал замер, потом взорвался выкриками протеста, злобы и страха. Эмоции вышли из-под контроля! Фреда вцепилась в край кафедры и приготовилась заговорить громко и уверенно.

– Три Закона прекрасно нам послужили, – начала Фреда, понимая, что надо сказать что-нибудь приятное для слушателей. – С ними мы смогли достичь грандиозных свершений. Они – величайшее достижение цивилизации колонистов. Но не все достижения годятся во все времена, на все случаи жизни.

Снова возмущенный рев, крики, свист.

– Пришло время создать лучших роботов.

И зал затих. Ага! Они все внимание! В конце концов, даже девиз Железноголовых – «Больше лучших роботов!». И Фреда продолжила:

– Когда-то, давным-давно, в незапамятные времена, когда еще не было в помине никаких роботов, люди для скрепления самых разных конструкций пользовались двумя видами приспособлений – гвоздями и винтами. Для того чтобы забивать гвозди, применяли инструмент под названием молоток, а винты завинчивали инструментом, который назывался «отвертка». И не могло быть даже речи, чтобы самый лучший молоток использовали вместо самой плохонькой отвертки. Сегодня, когда мы не применяем ни гвоздей, ни винтов, оба эти инструмента никому не нужны. И самый распрекрасный молоток нам ни на что не сгодился бы. Мир меняется. Точно так же и с роботами. Сейчас нам нужны новые, лучшие роботы, с новыми, лучшими Законами.

Погодите возражать – те, кто хотел повторить то, что обычно говорят наши роботы. Что Три Закона вечны и неизменны, потому что заложены в саму основу позитронного мозга. Все мы, конечно, знаем, что Три Закона неразрывно связаны с позитронным мозгом. Мы убедились в этом за тысячи лет, тысячи попыток усовершенствовать позитронный мозг. И любой современный позитронный мозг в своей основе почти такой же, как самые первые, примитивные образцы, созданные на Земле многие тысячелетия назад. И всякое усовершенствование только накладывалось на прежнюю основу, а Три Закона по-прежнему оставались вплетенными в каждую цепь, каждую извилину позитронного мозга. Ни одно усовершенствование не задевало Трех Законов. Невозможно создать позитронный мозг без Трех Законов, как невозможен человеческий мозг без нейронов!

Все это так. Но моему коллеге Губеру Эншоу удалось изобрести нечто совершенно иное, новое, никак не связанное с прошлым, это чистый лист, на котором можно начертать любые законы, какие нам нужны. Губер Эншоу изобрел гравитонный мозг. Невероятные возможности, гибкость, чувствительность гравитонного мозга – это наш шанс начать все с начала!

Йомен Терах, еще один мой сотрудник, создал большую часть основных программ для гравитонного мозга, в том числе и программу введения Новых Законов в мозг новых роботов. Роботов с гравитонным мозгом. И эти роботы, леди и джентльмены, вскоре начнут работать над проектом преобразования климата «Лимб»!

Внезапно слушатели осознали, что слова Фреды Ливинг – не просто умозрительные рассуждения. Она рассказывала о реальных, уже существующих роботах, а не об отвлеченных научных изысканиях. В зале снова поднялся шум – кто-то бранился, кто-то недоумевал.

– Конечно, эти новые роботы – экспериментальные, – снова заговорила Фреда, стараясь привлечь внимание аудитории, пока взволнованные слушатели не стали совершенно неуправляемыми. – Они будут заняты исключительно на острове Чистилище. Их задача – восстановить и заново запустить климатическую станцию Лимба. Специальные приспособления – так называемые «ограничители диапазона» – не позволят новым роботам действовать за пределами острова. Если такой робот окажется вне острова, он просто отключится. Они будут работать под руководством специальной команды экспертов-поселенцев, вместе с добровольцами-колонистами, которые уже набраны.

Фреда понимала, что не стоит углубляться в подробности того, почему это стало возможным. Когда Тоня Велтон узнала о роботах с Новыми Законами – хотя сам черт ведает, как ей удалось про них разнюхать, она настояла на том, чтобы все новые роботы, созданные на Инферно, были оснащены гравитонным мозгом. Это было условием помощи в преобразовании климата со стороны поселенцев. Правитель Грег испробовал немало способов, чтобы разубедить поселенцев на этот счет, но все впустую. И теперь это не имеет уже никакого значения.

Фреда продолжала:

– Задача, которая стоит перед этой объединенной командой поселенцев, колонистов и роботов, грандиозна: ни больше ни меньше, чем спасение нашей планеты от экологической катастрофы. Им предстоит восстановить климатическую станцию на Чистилище. В давние времена роботы трудились бок о бок с людьми как товарищи, а не как рабы. И Новые Законы позволят возродить эти отношения.

А теперь позвольте рассказать, в чем же состоят эти Новые Законы.

Новый Первый Закон роботехники гласит: «Робот не может причинить человеку вред». Как видите, мы убрали пункт о бездействии. Согласно этому закону людям не придется защищаться от роботов. Однако на то, что роботы будут защищать людей, рассчитывать не стоит. Людям, как в прежние времена, придется полагаться только на собственную инициативу и уверенность в себе. Им придется самим о себе заботиться. И, что очень важно, этот Закон ставит роботов в относительно более высокое положение по сравнению с людьми, чем раньше.

Новый Второй Закон роботехники таков: «Робот должен сотрудничать с людьми, если это сотрудничество не противоречит Первому Закону». Роботы с Новыми Законами будут сотрудничать, а не подчиняться. Они больше не будут игрушками капризных людей. Вместо беспрекословного подчинения приказам новые роботы сперва осмыслят их и решат, стоит ли повиноваться. Заметьте однако, что сотрудничество по-прежнему осталось обязательным. Роботы должны стать партнерами людей, а не рабами. Люди должны нести ответственность за свои действия и не ждать, что будет исполнен любой, самый бессмысленный приказ. И не придется рассчитывать, что роботы согласятся разрушать самих себя или других роботов ради потехи какого-нибудь человека.

Новый Третий Закон роботехники: «Робот должен заботиться о собственной безопасности, пока это не противоречит Первому Закону». Заметьте, что Второй Закон здесь больше не упоминается, он теперь не доминирует над Третьим. Сохранность роботов так же важна, как и их полезность. И этим тоже повышается социальное положение роботов по отношению к людям по сравнению с тем, что было раньше. И одновременно люди освобождаются от своих рабов, перестают быть рабовладельцами, неспособными существовать без рабов.

И, наконец, Четвертый Закон роботехники, о котором мы только что говорили: «Робот может делать что пожелает, кроме тех действий, которые противоречат Первому, Второму или Третьему Законам». Этот Закон открывает двери свободе творчества для роботов. С таким совершенным, гибким мозгом, как гравитонный, роботы смогут приспособиться к окружающему миру, найдут пути для воплощения собственных мыслей и желаний, всех своих возможностей. Обратите внимание, что они «могут», а не «должны» делать что пожелают. Четвертый Закон дает право на свободу выбора. Свободу действий нельзя навязать в приказном порядке.

Фреда окинула взглядом зал. Вот и все. Она сказала все, что собиралась сказать, и сумела удержать толпу слушателей от…

– Не-е-ет!

Фреда повернулась туда, откуда раздался крик, и тут ее сердце замерло.

«Нет!» – раздалось снова. Голос – низкий, глубокий, звенящий от гнева – донесся откуда-то из задних рядов.

– Это неправда! – кричал он.

Из задних рядов? Точно. Один из Железноголовых. Их командир, Симкор Беддл. Толстый мужчина с побледневшим от гнева лицом.

– Посмотрите только на нее! Посмотрите, кто стоит за ней: наш Правитель-изменник и королева поселенцев Тоня Велтон! Они стоят за всем этим, ребята! Не может быть никаких роботов без Трех Законов! Мы целый вечер слушали, как Ливинг поливает роботов грязью. И как же она может желать им добра? Да она просто хочет подсобить своим дружкам-поселенцам сжить роботов со свету! Можем ли мы это допустить?!

Многоголосый хор тут же откликнулся:

– Нет!

– Что? Я вас не слышу! – требовал Беддл.

– Не-е-ет!!! – На этот раз зал буквально взревел. Казалось, крик потряс основы здания, и оно вздрогнуло.

– Еще раз! – не унимался толстяк.

– Не-е-ет!!! – взревели в ответ Железноголовые, потом еще и еще: – Нет! Нет! Нет!!! – Они встали с кресел и двинулись к центральному проходу.

– Нет! Нет! Нет!!!

Полицейские начали подбираться к ним – правда, несколько неуверенно. И Железноголовые не преминули воспользоваться этой заминкой. Да, они действительно поломали головы над этим планом. Не оставалось никаких сомнений относительно того, что Железноголовые заранее продумали, что и за чем будут делать. И весь вечер просто выжидали удобного случая.

Фреда смотрела со сцены, как они выстраиваются в проходе между рядами. «Они требуют самого простого и невозможного! – думала она. – Хотят, чтобы мир застыл, перестал меняться, навсегда остался прежним». Как много было в одном-единственном слове! Его значение с каждой минутой становилось все яснее и понятнее…

– Нет! Нет! Нет!!!

Железноголовые сбились в проходе плотной массой из тел и двинулись вперед, к ряду кресел, в которых сидели поселенцы.

– Нет! Нет! Нет!!!

Полицейские пытались остановить Железноголовых, но их было безнадежно мало! Теперь уже и поселенцы повскакивали со своих мест, кто-то попытался ускользнуть, выбраться из зала, другие были настроены более решительно и собирались дать Железноголовым отпор.

Фреда посмотрела на первый ряд, где был сейчас единственный во всем зале робот. Она хотела было уже подать сигнал тревоги, но, похоже, Альвар Крэш знал, что делать. Он протянул руку к спине Дональда, открыл заднюю панель и переключил тумблер. Дональд безвольно осел на пол. В конце концов, Фреда сама только что говорила, что роботам не место в людских сварах. Противоречие Первого Закона могло вызвать очень серьезные, даже фатальные повреждения и у специализированного полицейского робота, каким был Дональд. Крэш очень вовремя отключил своего верного помощника. Фреда смотрела на него, и Альвар тоже глянул в ее сторону. Их взгляды встретились, и каким-то невероятным образом обоим показалось, что они внезапно остались одни в этом забитом зале. Противники, приверженцы противоположных точек зрения скрестили лезвия-взгляды.

И Фреда Ливинг со страхом и удивлением осознала, как много в Альваре Крэше от нее самой, как они похожи!