В Кембриджском университете открылся «Терминатор-центр» для изучения угрозы для людей со стороны искусственного интеллекта

Кто бы мог подумать, что, замирая от страха и восхищения перед несокрушимой мощью экранного Терминатора почти тридцать лет назад, сегодня мы фантастического робота-убийцу будем бояться на самом деле. Ученые всерьез заговорили о грядущем восстании машин. Они уверены: искусственный интеллект развивается такими быстрыми темпами, что скоро - к концу этого века уж точно - начнет угрожать существованию человечества. Роботы и люди на одной планете не уживутся. И искусственный разум может поработить гомо сапиенс. Или уничтожить.

Оценить реальный риск такого жуткого развития событий взялись эксперты из Кембриджского университета. Они создали Центр по изучению глобальных рисков (Centre for the Study of Existential Risk — CSER, сайт cser.org), который за глаза уже окрестили «Терминатор-центром». Команда из 15 ученых будет изучать развивающиеся технологии и определять их степень опасности для человеческой цивилизации.

- Мы тоже хотели бы посмеяться над проблемой восстания машин, если бы точно знали, что оно невозможно, - уверяли ученые журналистов на состоявшейся в Кембридже пресс-конференции. - Но пока такой уверенности у нас нет. Поэтому мы хотим, чтобы над этим подумали серьезные ученые, а не только писатели-фантасты.

ПРОГНОЗЫ ЭКСПЕРТОВ

«ЛЮДИ ИСЧЕЗНУТ ЧЕРЕЗ СТО ЛЕТ»

Профессор Королевского научного общества Великобритании, космолог Мартин Рис:

- Согласно моим прогнозам, человечество может прекратить свое существование к 2100 году. Угроза для человечества кроется в том, что вычислительные мощности современных компьютеров постоянно наращиваются. Это может привести к появлению глобального искусственного интеллекта, который сможет сам себя программировать и производить механизмы и роботов без участия человека. В итоге электронные системы обзаведутся интеллектом, и гомо сапиенс больше не будет самым умным. Мы рискуем оказаться во власти машин, которые не злонамеренны, но чьи интересы не включают нас. Компьютеры возьмут в свои руки те сферы, которые определяют скорость и направление технологического прогресса. Последствия могут быть катастрофическими.

«ТАКОГО СЦЕНАРИЯ КОНЦА СВЕТА НИКТО НЕ ПРЕДВИДЕЛ»

Один из основателей всемирно известной интернет-компании Skype Ян Таллинн:

- Времена холодной войны прошли, риск ядерной катастрофы стал намного ниже. Однако теперь выживанию человечества угрожают компьютеры и искусственный интеллект. Когда они обгонят по уровню интеллекта людей, то неизвестно, чего захочется машинам, не знающим усталости и не наделенным какими-либо эмоциями. Люди рискуют потерять контроль над планетой, поскольку роботы равнодушны к нам и к тому, что мы считаем ценным. Например, централизованное управление уже сейчас разрабатывается американскими военными специалистами и это почти точный аналог того искусственного разума, что мы можем видеть в фильме «Терминатор».

«ИСКУССТВЕННЫЙ ИНТЕЛЛЕКТ - ЭТО ЯЩИК ПАНДОРЫ»

Профессор философии Кембриджского университета Хью Прайс:

- Уже сегодня существуют машины, которые превзошли человека в шахматах, полетах, вождении, в коммерческих операциях, речи. Есть и те, что уже способны распознавать рукописный текст. Пока роботы помогают нам справиться со сложными, но рутинными задачами. И в будущем зависимость человека от машин неизбежна. Но полагаться на милость кибернетических помощников людям не стоит. Изобретение искусственного интеллекта может стать новым ящиком Пандоры. Основная опасность заключается в том, что однажды компьютеры начнут распределять ресурсы в соответствии с собственными нуждами, в ущерб человеческим желаниям. Возможно даже, что человечеству придется сражаться за ресурсы с доминирующим видом. Возьмем, к примеру, горилл. Они вымирают не потому, что люди враждебны к ним, а потому что мы изменяем окружающую их среду в соответствии с нашими желаниями. Мы должны уже сейчас придумать, почему машинам будем мы нужны.

А В ЭТО ВРЕМЯ

ПЕНТАГОН ИЗДАЛ ПРИКАЗ ДЛЯ... РОБОТОВ-УБИЙЦ

Еще один безумный сценарий множества фантастических фильмов может стать реальностью. Когда человечество доверит свою безопасность и оборону искусственному интеллекту, то компьютерный разум может взбунтоваться и взорвать полмира. Тот факт, что угроза не надуманна, подтверждает обнародованная 27 ноября 2012 года Министерством обороны США новая директива под номером 3000,09.

В документе говорится, что любые виды автономного и полуавтономного оружия должны быть сконструированы таким образом, чтобы в случае необходимости контроль над ними мог взять человек, а не роботизированная система.

- Открыть или не открыть огонь - это должен разрешить человек, - пояснил заместитель министра обороны США Эштон Картер. - Более того, у человека всегда должна быть возможность отключать вооружение роботизированных систем. Кроме того, нужно свести к минимуму сбои, которые могут привести к непредвиденным обязательствам или к потере контроля вооруженных роботов во время боевого применения.

- Наша директива появилась не потому, что мы вдруг осознали, будто кто-то приблизился к созданию Терминатора, и решили отрегулировать этот вопрос, - на всякий случай решил откреститься от боевиков про роботов заместитель помощника министра обороны по политике Дэвид Очманек. - Это просто инструкция на будущее.

Однако специалисты облегченно вздохнули. Ведь полностью автономные боевые роботы, подчиняющиеся только закачанным в них компьютерным программам, во время военных действий при сбое в системе могут не отличить мирных жителей от военных. И, выйдя из под контроля, - перестрелять всех.

Но скептики сомневаются, что приказ будет выполняться. Эксперты правозащитной организацией Human Rights Watch и международной юридической клиникой Гарвардской школы юридических наук прогнозируют появление полностью независимых роботов, самостоятельно принимающих решения о том, когда убивать, в течение ближайших 20-30 лет.

ГДЕ И КАКИЕ РОБОТЫ ВОЮЮТ?

Компания Raytheon разместила на кораблях ВМФ США автоматические системы, которые могут искать и уничтожать противника, самостоятельно пуская снаряды.

Northrop Grumman X47B - беспилотные боевые летательные аппараты - могут сами взлетать и садиться на авианосцы, вести воздушные бои без пилота и даже совершать дозаправку в воздухе.

В Южной Корее границы с северным соседом уже несколько лет охраняют роботы-часовые, разработанные компанией Samsung. Они могут заметить необычные действия, побеседовать с вторгшимся нарушителем и по разрешению человека застрелить чужака.

Американская компания Foster-Mille снабдила боевых роботов крупнокалиберными пулеметами, после чего они успешно воевали в Ираке.

А ныне несколько американских компаний создают боевое подразделение многофункциональных боевых роботов. Их коллективный разум будет действовать по тем же законам, что и в общинах насекомых, например, муравьев. Главная задача таких боевых машин- обеспечение адекватных действий в случае потери ее контакта с боевой группой.

В России создан самоходный зенитный ракетно-пушечный комплекс Панцирь-С1, который может работать и в одиночку, и в составе подразделения из нескольких боевых машин.

А фирма IBM работает над проектом виртуального мозга - Blue Brain. Обещает, что продемонстрирует его в 2019 году.

Светлана Кузина