Миру пора системно думать о катастрофических и экзистенциальных рисках

Создание глобальных и национальных систем раннего предупреждения всегда было и остаётся лучшей идеей

2 сентября 1859 года К.Ф. Герберт искал золото на юго-востоке Австралии и увидел на вечернем небе удивительное явление, пишет The Economist (ред. - текст местами дополнен или переработан; оригинальный текст на англ. см. по гиперссылке выше). Это было очень красочное полярное сияние, которое совершенно нехарактерно для столь невысоких широт.

«Сцена была почти невообразимой красоты. Огни всех мыслимых цветов сверкали на южном небосклоне. Рационалисты увидели природу в её самых изысканных одеждах. У суеверных людей возникли ужасные предчувствия. Они посчитали это предзнаменованием конца света», - вспоминал позднее старатель.

Люди, которые приняли уникальное полярное сияния за предупреждение о катастрофе, во многом были правы. Просто их правота стала очевидна позднее. На уровне развития науки и техники XIX века даже лучшие ученые того времени не могли оценить всех угроз солнечной активности. Более-менее адекватное понимание возможной разрушительной силы геомагнитных бурь, вызванных вспышками на солнце, придёт в конце XX века.

Мистер Герберт в своих воспоминаниях описывает мощнейшую за историю наблюдений геомагнитную бурю, которая вскоре получила название «Событие Кэррингтона» в честь британского учёного Ричарда Кэррингтона (1826-1875). Знаменитый астроном многие годы наблюдал пятна на Солнце и 1 сентября 1859 года первым в истории зафиксировал солнечную вспышку. Кстати, в тот день разделить открытие с Кэррингтоном посчастливилось британскому астроному-любителю Ричарду Ходгсону.

Через примерно 18 часов после вспышки около 100 млн тонн заряженных элементарных частиц врезались в магнитное поле Земли - электромагнитный щит планеты, созданный её почему-то неостывшим жидким ядром (ред. - доктор физико-математических наук Сергей Богачев в двух лекциях для проекта Academia для телеканала «Культура» замечательно рассказывает о физике Солнца, геомагнитных бурях и гипотезе сохранения ядра Земли жидким). Визуальные эффекты столкновения протонов и электронов с верхними слоями атмосферы были уникальны. Полярное сияние наблюдалось даже над Карибами.

Но невизуальные эффекты «супершторма» были бы сегодня многократно важнее, чем за 20 лет до изобретения первой электрической лампочки. В результате эффекта индукции в 1859 году телеграфные сети по сути зажили собственной жизнью. Геомагнитная буря создавала ток в любых электрических проводниках, и телеграф на короткое время «перестал нуждаться» в аккумуляторах для генерации и передачи сигналов. Проще говоря, система связи отказала по всей Европе и Северной Америке.

В сегодняшнем электрифицированном мире сопоставимый по объёму натиск протонов и электронов, по некоторым оценкам, создал бы хаос. Индукционный ток, созданный электромагнитным штормом, вызвал бы отключение электричества. Похожее произошло в 1989 году, когда в результате мощной геомагнитной бури произошли масштабные сбои в энергосистеме канадской провинции Квебек.

За это буря 1989 года получила название «Квебекское событие». Напомним, что интенсивность геомагнитных бурь измеряется в том числе индексом Dst. С ростом интенсивности бури значение индекса уменьшается ( с учетом отрицательных значений). Если умеренные бури характеризуются интенсивностью от −50 до −100 нанотесла (нТл), то экстремальные до −200 нТл. Квебекское событие имело значение −589 нТл, а Кэррингтонское, видимо, превысило порог в −1700 нТл.

При мощности бури, сопоставимой с Кэрингтонским событием, искусственные спутники связи могут выйти из строя из-за перегоревших микросхем. Более того, земная атмосфера, раздутая энергией шторма, может сорвать их с низких орбит. Какими будут реальные последствия космического «супершторма», пока никто не знает. Мнения учёных сильно разнятся. Одни говорят лишь об угрозе многочасовых сбоев как в Квебеке. Другие предупреждают о квази-армагеддоне в течение нескольких дней. Тем не менее ни у кого не вызывает сомнений, что нашему миру рано или поздно предстоит на практике узнать истину. Физики оценивают шанс повторения События Кэррингтона примерно в 10% в ближайшие 10 лет. И вопрос здесь не столько в нормальной солнечной активности, сколько в удаче.

В июле 2012 года американская космическая обсерватория STEREO-A, которая производила соответсвующие измерения на гелиоцентрической орбите на удалении от Земли, оказалась в районе мощного коронального выброса массы, зачастую сопровождающего солнечную вспышку. Если бы подобное событие случилось рядом с магнитным полем нашей планеты, то обсерватория бы банально погибла из-за отказа электроники. Но солидное расстояние от планеты позволило ей продолжить космическую миссию и передать ценную информацию.

Сила выброса в 2012 году соответствовала магнитуде «супершторма» 1859 года. Породившая его активная область на Солнце не была направлена непосредственно в сторону Земли. Геомагнитная буря 2012 года была обусловлена только побочным влиянием выброса и была умеренной. Тем не менее по факту регистрации события в США и Китае прикинули возможный ущерб при гипотетическом нахождении планеты в активной области выброса. Американцы оценили потенциальные убытки для экономики США в $0,6-2,6 трлн. Китайцы предположили, что восстановление глобальной экономики после подобного удара заняло бы не менее четырёх-пяти лет.

Геомагнитные бури, к сожалению, не являются единственным риском для человечества. В исторических и геологических исследованиях и отчётах мы значительно чаще можем видеть опасность, исходящую от извержений вулканов и периодически повторяющихся вирусных пандемий. Когда многие страны, даже имея большой опыт борьбы с инфекциями, с трудом справляются с очередной пандемией, то невольно встаёт вопрос о готовности противостояния менее изученным рискам.

Повезёт ли нам, приятель?

Без всякого сомнения решающую роль в нивелировании и создании рисков сегодня играют технологии. С одной стороны, они могут искоренить болезнь, если ученые создадут эффективную вакцину, как уже не раз было в истории. С другой стороны, технологии сами порождают риски возникновения хаоса. Когда человечество стало очень зависимо от электричества, то пропала гарантия, что отсутствие электроэнергии в течение нескольких дней не вызовет разнообразные локальные катастрофы.

Список угроз, который создан технологиями, обширен. Наиболее очевидными и опасными проявлениями прогресса, пожалуй, являются сжигание углеводородов и ядерное оружие. Риск применения последнего не исчез, а сжигание углеводородов - даже без учёта экзистенциального риска глобального потепления - напоминает вредительское использование золота для создания унитазов. Намного более рациональным применением нефти, например, является создание пластиков. Однако создание пластиков, например, несёт прямую угрозу хрупкой экологии океанов.

В недавней книге «Обрыв» Тоби Орд, старший научный сотрудник Института будущего человечества при факультете философии Оксфордского университета, определяет экзистенциальный риск как угрозу, которая «разрушает долгосрочный потенциал человечества». Некоторые природные явления могут квалифицироваться как непосредственные экзистенциальные риски. Одним из исторических примеров можно по праву считать огромный 10-километровый астероид, который врезался в Землю и закончил эру динозавров около 66 млн лет назад. К счастью, события подобного масштаба очень редки.

Для возникших в результате прогресса непрямых экзистенциальных рисков вроде потепления или развития вооружений точной оценки их угрозы пока не существует. Но динамика появления новых рисков или роста старых зачастую пугает. Господин Орд в своей книге упоминает угрозы от появления передового биооружия или боевых роботов. Последние появились благодаря развитию искусственного интеллекта (ИИ). Страхи вокруг ИИ зачастую преувеличены. Но мы видим, что он изменяет мир стремительно и не всегда так, как предполагали его создатели.

Никто не может оценить непрямые риски, но близоруко считать опасность их реализации нулевой. Тоби Орд, прикидывая шансы на сохранение цивилизации в ближайшие 100 лет и суммируя риски, оценивает угрозу исчезновения человечества как один к шести. Это можно сравнить с одним патроном в револьвере во время опасной игры в русскую рулетку( господин Орд является членом общественного движения, которое считает подобные азартные игры непозволительными).

Институт будущего человечества, созданный шведским философом Ником Бостромом в 2005 году, объединяет учёных, которые видят в «долгосрочном потенциале человечества» нечто гораздо более грандиозное, чем жизнь миллиардов людей на Земле. Они пролонгируют развитие событий на тысячелетие и оперируют триллионами будущих жизней. В этой системе координат риски, кажущиеся сейчас мизерными, могут иметь колоссальное значение (ред. - по сути работа института очень напоминает футурологию; в частности, речь идёт о недопустимости реактивного реагирования на риски, о превентивном обнаружении новых типов рисков и готовности оплачивать моральную и экономическую цену за их нивелирование).

Риски, которые являются просто катастрофическими, а не экзистенциальными, не являются главным предметом работы института. Катастрофические риски в большей степени поддаются расчетам, исходя из существующих реалий. Возьмём для примера риск использования ядерного оружия террористами. По словам журналиста Рона Саскинда, в ноябре 2001 года вице-президент США Дик Чейни сказал, что Америке «необходимы новые способы противостояния событиям с низкой вероятностью наступления и высокой угрозой».

«Если есть хотя бы 1% вероятности того, что пакистанские ученые помогают «Аль-Каиде» создать или разработать ядерное оружие, то мы должны рассматривать это как определенность с точки зрения нашего ответа», - отметил Чейни.

Ответные меры США включали в себя развязывание новых войн, создание новых институтов госбезопасности (Министерство внутренней безопасности) и новые полномочия органов исполнительной власти, включая безосновательный надзор и даже незаконную слежку за людьми по всему миру, в том числе за высокопоставленными политиками среди союзников США. Если бы каждому однопроцентному риску противодействовали бы с подобной энергией, то мир сегодня был бы совсем иным.

Правда, он не обязательно был бы лучше или более безопасен. Но поразительно другое. Некоторые риски глобального масштаба сегодня не замечаются вообще. Господин Чейни оперировал ненулевой опасностью исчезновения американского города в течение 20-летнего периода, и правительство приняло экстренные меры. Событие Кэррингтона наступит с вероятностью 10% в течение 10 ближайших лет. Случись оно сегодня, оно повлекло бы человеческие жертвы в силу косвенных последствий полного отказа от электричества.

Наиболее разрушительный эффект пришелся бы на трансформаторы, которые понижают силу тока, поступающего из линий высоковольтных передач. Далее этот ток используется для нормальной работы электроприборов в больницах, домах, магазинах, заводах, госучреждениях и так далее. Сильный наведенный индукционный ток может уничтожить трансформатор. Его замена по американской статистике занимает 6-12 месяцев. На большей части планеты ситуация может быть ещё хуже. Лишь небольшое количество стран имеют промышленный потенциал, чтобы произвести трансформаторы и заменить вышедшие из строя в результате геомагнитной катастрофы.

«Если вы одновременно потеряете способность перекачивать воду, перекачивать топливо, вырабатывать тепло, регулировать транспортное движение и тому подобное, то вы довольно быстро окажетесь в совершенно незнакомой и катастрофической ситуации», - размышляет Дэн Бейкер, директор Лаборатории атмосферной и космической физики в Университете Колорадо в Боулдере.

Накопление резервных трансформаторов помогло бы смягчить возможный удар. Но трансформаторы большой мощности вовсе не являются ходовым товаром. «У производителей нет больших запасов. Они не готовы к масштабному развертыванию новых мощностей»,- напоминает Бейкер. Другим временным способом решения проблемы могли бы стать резервные генераторы электроэнергии. Но Бейкер совсем не уверен, что в мире достаточно таких резервных мощностей.

Раннее предупреждение

Американские ученые и политики сегодня подозревают, что энергетики не совсем готовы к мощной геомагнитной буре. Но здесь хотя бы есть определенный прогресс. Уильям Муртаг, коллега Бейкера из Центра космической погоды в Боулдере, говорит, что в настоящее время через Конгресс США проходят не вызывающие двухпартийных споров законопроекты. Согласно будущему закону, энергетики будут обязаны сертифицировать избыточное напряжение, с которыми их системы могут справиться.

В США уже принята Национальная стратегия и План действий по космической погоде, опубликованные в марте 2019 года. В силу этого Америка имеет систему раннего предупреждения. Национальное управление океанографических и атмосферных исследований, которое управляет Центром космической погоды в Боулдере, имеет спутник DSCOVR. Он вращается не вокруг Земли, а вокруг движущейся точки на линии между Землей и Солнцем, где их гравитационные поля уравновешивают друг друга.

Кроме прочих научных задач DSCOVR измеряет силу потока заряженных частиц, протекающих от Солнца к Земле. Если случится электромагнитный «супершторм», то у операторов спутника в Боулдере будет в распоряжении от 15 до 60 минут - в зависимости от скорости движения элементарных частиц в магнитном поле Земли - для предупреждения об опасности.

Большая опасность для жителей планеты исходит также от извержений вулканов. Сульфатные частицы, выбрасываемые в стратосферу, ранее не один раз вызывали малые ледниковые периоды. Так извержение Тамбора, вулкана в Индонезии, охладило Землю в 1815 году (ред. - Смутное время в России было вызвано в том числе чередой неурожайных лет из-за извержения вулкана Уайнапутина в Южной Америке 19 февраля 1600 года). Ученые регулярно находят и анализируют свидетельства других более ранних мощных извержений в ледниках по всему миру. Однако статистической закономерности извержений нет.

Удаленный мониторинг вулканов мира, в том числе дремлющих, может предупреждать об их пробуждении. И здесь спутники могут играть важнейшую роль. Радиолокационная интерферометрия позволяет поймать момент, когда горы начинают деформироваться в результате давления магмы. Ученые из Бристольского университета используют данные прошлых извержений для обучения машинного интеллекта, анализирующего поведение вулканов.

Есть также проекты, посвященные поиску потенциально опасных астероидов. Здесь угроза далеко не так очевидна. Люди начали беспокоиться о столкновениях с астероидами в 1980-х годах по мере развития научных знаний и околонаучных легенд. По состоянию на 2019 год из более 1000 предполагаемых опасных объектов учёные оставили только 43 космических тела, потенциально угрожающих при падении изменением климата наравне с крупным извержением вулкана.

Волнение в отношении больших астероидов в академическом сообществе уменьшилось. Однако интерес к возможности изменить их траекторию движения парадоксальным образом вырос. Уже в следующем году Америка запустит космическую миссию под названием DARTS, которая изменит орбиту небольшого астероида, продемонстрировав первый шаг к созданию системы «планетарной обороны». Это является очень и очень драматической идеей.

Но если бы целью инвестиций была идея реально уменьшить число погибших в будущих катастрофах, то вложения в DARTS в размере $300 млн, вероятно, лучше было направить в систему раннего предупреждения о пандемии. Можно представить себе и другие направления капиталовложений: от создания глобальной системы раннего предупреждения о солнечных бурях до наблюдения за вулканами. Этим список потенциальных полезных вложений не заканчивается. Существует множество антропогенных рисков, контроль за которыми налажен недостаточно. Так, на низком уровне находится контроль за выбросами метана и влажностью почвы. Даже развитые страны тратят недостаточно денег на организацию контроля за этими рисками.

С другой стороны, когда речь заходит о возможности тайного создания ядерного оружия, то страны, подписавшие Договор о всеобъемлющем запрещении ядерных испытаний, уже потратили огромные средства на развертывание очень плотной сети глобального мониторинга. Она объединяет сейсмометры, радиоизотопные датчики и детекторы низкочастотных звуковых волн. Тайное создание ядерного оружия сегодня представляется почти невозможным.

Наибольшую трудность представляет собой контроль будущих рисков. Сегодня они не существуют, но завтра могут стать большой проблемой. Разработка биооружия является подходящей мишенью для применения традиционных методов разведки. Но эти методы можно дополнить специальным мониторингом, направленным в том числе на обнаружение новых природных патогенов. Создание эффективных контрмер в отношении распространения биооружия можно построить и на принципах точной медицины (ред. - точная медицина оперирует генетической информацией для профилактики и лечения заболеваний; она появилась благодаря технологиям больших данных и секвенирования ДНК и РНК).

Развитие точной медицины связано с технологией ИИ. Многие сегодня опасаются последствий её развития. В прессе и интернете распространены разговоры о роботах-убийцах, автономных боевых машинах и массовой слежке. Популярным страхом является опасение, что ИИ захватит контроль над всей инфраструктурой и станет контролировать жизнь человечества. Но пока эти страхи сильно преувеличены. Сегодня ИИ не более опасен и разумен, чем кухонный нож. Кухонный нож обычно используется для нарезки колбасы. Но он также является основным бытовым орудием убийства по всему миру. Можем ли мы на этом основании запретить производство кухонных ножей?

Опасность ИИ сегодня заключается не в его возможностях, а в его применении людьми. Технология является мечом с обоюдоострым лезвием: можно повышать комфортность современной жизни, а можно строить государство всеобъемлющего контроля по примеру антиутопии Оруэлла; можно разрушать рабочие места, а можно освобождать людей от опасных или тяжёлых работ. Всё зависит от целеполагания и моральных принципов, царящих в обществе.

Возможно, ИИ когда-либо станет сколь-нибудь разумным. Эксперты и аналитики в среднем отводят на это около 75 лет. К счастью, мы при всём желании не сможем пропустить этот ключевой момент, так как в современном обществе развитие ИИ тесным образом связано с открытой академической культурой. Только широкий обмен мнениями позволяет поддерживать прогресс. Эксперты-практики по всему миру избегают закрытых публикаций и обсуждений, так как индустрия ИИ столкнулась с проблемой масштабирования. Обучение все более крупных нейросетей требует всё больше и больше вычислительных мощностей, но отдача от увеличения моделей становится всё менее значительной.

Сегодня совершенно очевидно в отношении информационных технологий, включая ИИ, только одно - они создают условия для повсеместного быстрого роста социально-экономического неравенства. И вот этот риск стоит воспринимать со всей серьёзностью. Разговоры же о многих других опасностях технического прогресса можно, наверное, отложить до той поры, пока будущие риски станут более понятными благодаря интеллектуальным изысканиям футурологов и философов.

Тем не менее не стоит забывать, что восприятие будущих рисков всегда было трудным делом. Оно в какой-то степени противоречит человеческой природе. Уинстон Черчиль как-то сказал, что генералы всегда готовятся к прошлой войне. Это высказывание актуально для любой профессии и деятельности. Люди интуитивно предполагают, что будущее будет похоже на прошлое. Они всегда готовятся к тому, в чём у них есть опыт. Так, энергетики в высоких широтах в среднем воспринимают солнечные бури более серьезно, так как они проецируют опыт Квебека на себя. Страны, сильно пострадавшие от SARS в 2003 году, в среднем лучше справлялись с пандемией Сovid-19. Но когда наступят настоящие будущие риски, никто не будет иметь должного опыта.

Люди часто смотрят в будущее как суеверные современники старателя Герберта. Странное небо после События Кэррингтона в XIX веке наполнило сердца людей «ужасными предчувствиями». Развитие науки и техники, плохо понимаемое неспециалистами, наполняет страхом сердца наших современников. Но давайте посмотрим на прогресс утилитарным взглядом - он неизбежен. И нам стоит сосредоточить внимание на тех угрозах, которые мы понимаем и с которыми мы можем справиться уже сегодня. Однако за это тоже придётся заплатить соответствующую цену.