Меню

Апокалипсис сегодня. 10 крупнейших угроз цивилизации. Часть I - ИИ и пандемия

11 июля 2017, вторник

Стражи Земли – это команда, которая состоит из высокообразованных ученых, юристов, ученых и философов. Они объединили свои усилия, чтобы оценить самые большие угрозы, с которыми сталкивается Земля, а также выработать варианты, которые помогут спасти цивилизацию от грядущего апокалипсиса.

1. Искусственный интеллект берет на себя управление миром

Машины, самостоятельно развивающие свой интеллект, превосходящий человеческий и, кроме того, независимые от людей, являются одной из самых важных проблем и значительным фактором риска для всего человечества.

Ник Бостром говорит, что, если мы испытаем изменение скорости прогресса, сопоставимое с промышленными и сельскохозяйственными революциями, то: «поезд ИИ может не остановиться или даже не замедлиться на станции Человечество». Он прогнозирует, что к 2075 году машины достигнут 90% интеллектуальных возможностей человека. Еще одна причина серьезно отнестись к проблеме ИИ заключается в том, что риск ИИ увеличивает все другие риски. Другими словами, существует риск того, что интеллектуальные роботы будут распространяться и распространяться, став причиной ухудшения окружающей среды или и вовсе станут причиной ядерной зимы. Таким образом, основная задача состоит в том, чтобы представить даже самый фантастический вариант из всех возможных, а потом разработать эффективный сценарий по его преодолению.

Исследования в этой области варьируются от философских (должны ли мы сопоставить моральные ценности ИИ с человеческими? В таком случае, каковы наши моральные ценности?) До практических (как именно должно регулироваться автономное оружие?). При этом, некоторые исследователи ИИ утверждают, что сам по себе искусственный интеллект не представляет экзистенциальной угрозы. А основная опасность для человечества исходит по-прежнему от самих людей

2. Пандемические заболевания

Пандемическая болезнь природного или искусственного происхождения является одним из наиболее изученных глобальных рисков. Это область, которая получила новую актуальность в связи с противоречивыми экспериментами по «усилению функции».

Суть которых связана с тем, что берется уже хорошо известный патоген, которому добавляются дополнительные, еще более разрушительные функции и возможности. Например, в 2011 году вирусологи Рон Фушиер и Йошихиро Каваока создали штамм вируса птичьего гриппа, который может передаваться между хорьками. Это было сделано, чтобы лучше понять условия, в которых вирус может развивать передаваемость в дикой природе. Такие эксперименты могут предотвратить определенные риски, но создать, возможно, еще большие, поскольку модифицированный организм может покинуть лабораторию и вызвать глобальную пандемию.

Риск здесь особенно велик, потому что вирус самовоспроизводится. В то время как ядерный взрыв носит локальный характер, в нашем мире огромных коммуникационных связей синтетический, неизлечимый вирус может распространиться по всей планете всего за несколько дней. Раньше природная пандемия, например, чума, убивала миллионы становясь причиной глобальных социальных изменений. В XXI веке биотехнология может создать нечто, что сделает черную смерть, по своим последствиям, больше похожую на неприятный сквозняк.

Поэтому комиссия изучает возможные пути распространения подобных вирусов. Одна из возможностей - недовольный человек, возможно, сотрудник лаборатории, который может создать или украсть вирус, и, путешествуя по всему миру, распространить его.

Исследователь и автор Андерс Сандберг изучает мотивы людей, которые могут в будущем захотеть уничтожить человечество. «Это тяжело проработать, потому что, на самом деле, относительно малое количество людей захочет сотворить нечто подобное. А отсюда и малое количество исходных материалов», - говорит Сандберг.

Это привело его к анализу того, в какой мере религии и культы могут санкционировать массовое убийство (большинство из них, по словам Сандберга, выступают против подобных действий). А когда Стражи Земли проводили аналогичные исследования, то они пришли к другому, не менее важному открытию того, что в настоящее время биотехнологические лаборатории не имеют возможности для психологического профилирования своих сотрудников. То есть, до конца мы все же не застрахованы от подобной ситуации.

Правда, Сандберг, считает, что из-за слишком большого количества различных условий, которые должны будут совпасть, сценарий «одинокого человека» гораздо менее вероятен, чем «недовольный доктор» или несчастный случай в лаборатории.