"Алексей Турчин. Структура глобальной катастрофы" - читать интересную книгу автора

Пунктами 4) и 5) мы могли бы пренебречь в нашем анализе, поскольку их
суммарный вклад меньше, чем уровень ошибок в оценке первых трех. Однако на
самом деле ими пренебрегать не стоит, так как возможна значительная ошибка в
оценке рисков. Далее, важно количество событий с малой вероятностью.
Например, если возможно несколько десятков разных сценариев с вероятностью
(0,1%; 10%), то все это множество имеет твердый интервал (1%; 100%). К
категории 1 относится только тот факт, что в течение XXI века мир
существенно изменится.
Должна ли сумма вероятностей отдельных глобальных рисков не превышать
100%? Предположим, что мы отправляем в поездку неисправный автомобиль.
Вероятность того, что он потерпит аварию из-за того, что у него проколота
шина, равна 90%. Однако, предположим, что у него, помимо этого, неисправны
тормоза, и если бы шины были исправны, то вероятность аварии от
неисправности тормозов тоже бы составляла 90%. Из этого примера видно, что
вероятность каждого глобального риска, вычисляемая в предположении
(очевидно, ложном), что нет других глобальных рисков, действующих в то же
самое время, не может просто складываться с вероятностями других глобальных
рисков.
В нашем примере шансы машины доехать до конца пути равны 1%, а шансы,
что причиной аварии стал каждый из двух рисков - 49,5%. Предположим, однако,
что первые полпути дорога такова, что авария может произойти только из-за
неисправных шин, а вторую - только из-за неисправных тормозов. В этом случае
до конца доедет тоже только 1% машин, но распределение вкладов каждого риска
будет иным: 90% машин разобьется на первом участке дороги из-за шин, и
только 9% на втором из-за неисправных тормозов. Этот пример показывает, что
вопрос о вероятности того или иного вида глобальной катастрофы некорректен,
пока не указаны точные условия.
В наших рассуждениях мы будем широко пользоваться Принципом
предосторожности, то есть мы будем предполагать, что события могут сложиться
наихудшим реалистичным образом. При этом под реалистичными мы будем считать
следующие сценарии: а) не противоречащие законам физики б) возможные при
условии, что наука и техника будут развиваться с теми же параметрами
ускорения, что и в настоящий момент. Принцип предосторожности соответствует
указанной Юдковски и проверенной на многих экспериментах закономерности, что
результат, который люди получают относительно будущего, обычно оказывается
хуже их самых худших ожиданий. При расширении вероятностных промежутков нам
следует уделять внимание в первую очередь расширению в худшую сторону - то
есть в сторону увеличения вероятности и уменьшения оставшегося времени.
Однако если некий фактор, например создание защитной системы, может нам
помочь, то оценки времени его появления следует увеличивать. Иначе говоря,
консервативной оценкой времени появления домашних конструкторов биовирусов
будет 5 лет, а времени появления лекарства от рака - 100. Хотя, скорее
всего, то и другое появится через пару десятков лет.
В экономике применяется следующий метод предсказания - опрос ведущих
экспертов о будущем некого параметра и вычисление среднего арифметического.
Очевидно, это не позволяет узнать действительное значение параметра, но
позволяет сформировать "best guess" - наилучшее предположение. Тот же метод
можно применить, с определенной осторожностью, и для оценки вероятности
глобальных катастроф. Допустим, в отношении глобального потепления из тысяч
экспертов только один говорит, что она наверняка приведет к полному