Світ непізнаного - Onua.org

В то время как одним сценариям вымирания мы можем приписать значительную вероятность, другие имеют шансы в тысячные или даже миллионные доли процента. Не проще ли пренебречь этими сценариями, так как погрешность более вероятных сценариев значительно перекрывает вклад маловероятных? Однако не только соображения «научной честности» могут побудить нас исследовать маловероятные сценарии. Нам нужны твердо обоснованные доказательства их маловероятности.

Я думаю, что наибольшая угроза глобальных катастроф исходит не со стороны того, что нам известно, а от абсолютно неведомых нам пока факторов. Не удивлюсь, если через несколько десятков лет список ожидаемых катастроф принципиально изменится и в нем на первое место выйдут факторы, о которых мы не можем сейчас даже помыслить. Я полагаю, каждый читатель без труда найдет примеры из своей жизни, когда он оказывался в ситуациях и обстоятельствах, возникновения которых он даже не предполагал; то же верно и для человеческой истории в целом. То есть речь идет не просто о фантастических ситуациях, поскольку фантастическим является то, что люди могут себе нафантазировать, а о ситуациях, находящихся за пределами фантастического, – именно потому что представить себе их заранее абсолютно невозможно.

Чем глубже мы проникаем в земную кору – сверлим ее, расплавляем или взрываем, – тем вероятнее возможность вызвать этим сильное искусственное вулканическое извержение.

В качестве одной из основных угроз человеческому выживанию выдвигается угроза гибели в результате падения крупного астероида. При этом, однако, происходит определенная подмена тезисов: далеко не любой астероид способен уничтожить человеческую цивилизацию, и тем более жизнь на Земле.

В проблеме глобального потепления слились все аспекты непредсказуемости, которые влияют на оценку рисков глобальной катастрофы. Разумеется, многие читатели сейчас воскликнут: я знаю, это нарочно придумали транснациональные корпорации, чтобы достичь того-то и того-то! Однако насколько вы можете быть уверены в том, что так оно и есть на самом деле? Безусловно, гораздо легче быть уверенным на 100 процентов, чем на 75, – такова человеческая природа. Тем более что уверенность, что кто-то делает что-то нарочно и назло, включает эмоциональный комплекс «борьбы с врагами», который резко повышает уверенность в себе и снижает критичность восприятия. Таким образом, тема глобального потепления является своеобразным «средством для прочистки» своей готовности воспринимать сложное и непонятное в условиях интенсивного информационного шума.

В 2008 году выходит очередной номер авторитетного журнала по прогнозированию Futures, посвященный рискам человеческого вымирания. Составитель этого выпуска Брюс Тонн объявил, что принимает на рассмотрение статьи любой тематики, связанные с рисками человеческого вымирания, за исключением темы «инопланетного вторжения». Но, собственно говоря, почему?

Doomsday men» – «Люди конца света» – таково название книги американского писателя П.Д. Смита, которую мы уже цитировали выше, о группе венгерских физиков, и в первую очередь о Лео Сциларде, стоявших за самыми значительными разработками атомного оружия – идеей о цепной реакции, водородной и кобальтовой бомбах. В этой главе мы постараемся ответить на естественно возникающий у читателя вопрос: «Хорошо, есть масса технических возможностей, чтобы уничтожить мир, но неужели найдется такой дурак, который захочет ими воспользоваться?!»

Правда состоит в том, что мы не знаем, когда закончится нефть, а цена такого знания очень велика. Отдельные крупицы этого знания рассеяны между разными людьми, группами и странами, которые в своих интересах могут увеличивать или уменьшать заявленные значения. Например, каждая из стран ОПЕК заинтересована преувеличивать свои запасы нефти, поскольку квоты на добычу пропорциональны запасам, однако при этом все эти страны вместе имеют интерес преуменьшать запасы нефти в мире, поскольку это способствует росту ее общей цены.

Вряд ли нам известна вся информация об атомном оружии: тема эта секретная, и наверняка секретность скрывает многие неприятные тайны, например, что какая-нибудь страна, притворяющаяся безъядерной, на самом деле имеет секретную ядерную программу.

Существует множество путей, которые ведут от биотехнологий и исследований мозга к возможности создания супернаркотиков. Один из сценариев распространения супернаркотика в будущем предложен Стругацкими в романе «Хищные вещи века»: мощнейший наркотик, вызывающий стопроцентное привыкание с первого раза, оказывается очень просто сделать из радиоприемника и ряда других общедоступных компонентов, которые непосредственно воздействуют на центр удовольствия в мозге. Этот сценарий связан не с распространением некого вещества, а с распространением «знаний массового поражения» – о том, как его сделать.

Слово «нанотехнологии» в последние несколько лет было настолько затаскано, что стало вызывать аллергию. С одной стороны, границы термина настолько растянули, что им стали называть любой коллоидный раствор, а с другой – распространилось представление, что нанотехнологии – это только способ отмывания денег. Появись даже агентства недвижимости, использующие в своем названии приставку «нано». Поэтому важно напомнить, что в основе понятия о нанотехнологиях лежит идея о молекулярном производстве, то есть об атомной сборке материальных объектов с помощью микроскопических манипуляторов, называемых ассемблерами.

Биотехнологии представляют собой не меньший риск для выживания человечества, чем искусственный интеллект. Положительные результаты развития биотехнологий гораздо медленнее доходят до потребителей, чем достижения в области компьютеров, поскольку клинические испытания новых лекарств требуют многих лет. В силу этого достигнутые результаты гораздо менее очевидны. Поскольку нашей целью является рассмотрение наихудшего возможного итога, мы опишем в начале несколько базовых фактов, которые достаточно общеизвестны, но которые в целом рисуют довольно устрашающую картину.

Вместо того чтобы сразу приступить к дискуссии, возможен ли искусственный интеллект, я хочу выдвинуть крайнюю точку зрения, состоящую в том, что в определенном смысле ИИ уже существует.

Термин «технологическая сингулярность» постепенно завоевывает признание, и по мере того как он все более широко становится известным в России, среди западных ученых, его породивших, нарастает разочарование из-за размытости этого термина. Тем не менее в ходе дискуссий возникло наиболее общее определение сингулярности, которое объединяет самое главное во всех более частных определениях, – сингулярность состоит в том, что через несколько десятков лет, а возможно и раньше, нас ждет внезапное решительное изменение всего мира, связанное с развитием новых технологий. Здесь слово «внезапное» подчеркивает скорость процессов во время сингулярности, «решительное» – масштаб изменений, при этом определяется время событий и их основная причина.

Вот как определяются эти два понятия у К. Кастанеды: «Неведомое в свое время становится известным. Непостижимое, с другой стороны, – это неописуемое, немыслимое, неосуществимое. Это что-то такое, что никогда не будет нам известно, однако это что-то есть там – ослепляющее и в то же время устрашающее в своей огромности».