"Владимир Пирожников. На пажитях небесных" - читать интересную книгу автора

часть того, что делали машины.
Считалось, что если машина исправна и оперирует верными данными, она не
лжет. И это было правильно до тех пор, пока один-единственный компьютер не
нацелился на выполнение такой задачи, в условии которой необходима была
этика. Но она отсутствовала, и компьютер пошел своим, чисто машинным
путем, ориентируясь не на порядочность, а на простоту и экономию усилий.
Дано: "истина есть нечто общепризнанное". Цель: "смоделировать стремление
(приближение) к истине". Решение: "приписать данным работам высший индекс
популярности". Такова была, как я подозревал, компьютерная логика.
Конечно, я мог лишь набросать схему, многие детали оставались неясными;
обратиться же к машине с расспросами я не имел права - нарушилась бы
чистота эксперимента. Вероятнее всего, думал я, мои компьютер
"договорился" с компьютерами Всемирного депонентского центра или
"организовал" (опять же через машины) ложные запросы на мои статьи. Во
всяком случае, такова была самая естественная, самая вероятная стратегия
поведения субъекта, наделенного понятием об истине, но не знающего, что
такое мораль.
Передо мной стояла дилемма: либо прекратить эксперимент, оставшись ни с
чем, либо продолжать его, не имея никакой уверенности в том, что
компьютер, который я сам впустил в свою жизнь, перестанет кроить ее по
своим примитивным меркам. Понимаете ли вы теперь, на что я себя обрек? Я
неосторожно призвал в слуги могучего, но тупого демона, который готов был
навязывать мне свои пошлые подарки, а я не мог ни избежать их, ни отличить
от подлинных наград судьбы!.. В науке тоже есть мода. В кругу специалистов
по человеко-машинному диалогу я вдруг сделался моден. Мои статьи без
задержки публиковались, их живо обсуждали коллеги, а я ведь еще не сообщил
главного, нигде не изложил всего, что сделал, ибо не был уверен в своей
правоте. В ужасе я подозревал, что, может быть, мои достижения, которые
постепенно накапливались, - не результат таланта, а всего лишь подтасовка,
что моя жизнь в науке теперь, возможно, вся "организована" по самым мелким
и дешевым стандартам! Конечно, я пытался разобраться. Постой, говорил
себе, если ты - бездарь, а компьютер протащил тебя на вершину славы, это
значит, наоборот, что твоя система работает, что машина пусть грубо,
по-своему, но выполняет условия эксперимента! И тут же какой-то ехидный
голос мне напоминал: так ведь раз машина работает, значит, твои идеи,
принципы, расчеты верны, ты - гений, совершивший открытие, и твои труды,
может быть, завоевали популярность сами по себе, без всяких "услуг" со
стороны компьютера, который, в таком случае, делает неизвестно что, никак
не проявляя своих выдающихся способностей... Я уперся в парадокс, в
замкнутый круг, в котором можно было сойти с ума. И порой мне казалось,
что это со мной происходит. Мысли одна безумнее другой приходили в голову;
я жил как во сне.
Однажды я вдруг вспомнил, что ранее ввел в сознание компьютера такое
размытое понятие, как "любовь". Вот, думал, средство, чтобы хоть что-то
выяснить. Терять мне теперь было нечего, и я решил усложнить эксперимент,
дав машине вводную задачу, - так, как это делают военные на своих
маневрах. За несколько психоинтеллектуальных сеансов я поставил перед
компьютером цель: понимая, что такое любовь, смоделировать соответствующее
поведение. Очевидно, машина должна была как-то изобразить стремление,
приближение к любви, и я уже примерно догадывался, что она предпримет. В