Военный искусственный интеллект: две книги

2017 год ознаменовался вспышкой интереса к применению искусственного интеллекта в военной области. Об этом актуальном направлении развития технологий говорили в прошедшем году все: от журналистов и экспертов до самих военных и президентов. Соответственно, данной «горячей» тематике посвящено множество статей и других материалов, но пока не так много объемных трудов. Тем не менее, они есть.

Летом этого года вышла книга Амира Хусейна (Amir Husain), основателя и главного исполнительного директора «СпаркКогнишн» (SparkCognition), одной из ведущих компаний США по разработке искусственного интеллекта, а весной следующего года будет опубликована книга Пола Скарре (Paul Scharre), директора программы исследований войн будущего вашингтонского Центра новой американской безопасности.

Амир Хусейн. «Разумная машина: грядущий век искусственного интеллекта» (The Sentient Machine: The Coming Age of Artificial Intelligence)

Амир Хусейн — среди тех 116 экспертов в области искусственного интеллекта, кто в этом году подписал открытое письмо в ООН, в котором говорилось, что «автономные системы летального оружия могут привести к третьей революции в приемах ведения войны» и что «мы осознаем особую ответственность за приближение этой грозы». Тем не менее, Хусейн отметил, что он выступает против любых действий, которые могли бы привести к замедлению технического прогресса. Письмо, по его мнению, преследовало своей целью обратить внимание международной общественности на «потенциальные опасности, которые могут таить в себе автономные системы летального оружия, и на отсутствие широкой международной дискуссии по данному вопросу». Хусейн — оптимист.

И книга Хусейна — это попытка рассмотреть с положительной стороны применение искусственного интеллекта в будущих войнах. Хусейн работал вместе с бывшим командующим силами США и НАТО в Афганистане генералом Джоном Алленом (John Allen) над созданием концепции «гипервойны» и считает тех, кто говорит о необходимости сохранения человека в цепочке принятия решений или полуавтоматических системах, «мягкотелыми» людьми, которые даже не понимают, что происходит. Сама суть автономности — это исключение человека из цепочки, когда решение надо принимать за кратчайшее время и у системы нет этого запаса долей секунд, чтобы советоваться с человеком, уничтожать, например, стремительно приближающаяся угрозу или нет. На поле боя выиграет тот, кто быстрее примет решение и отреагирует. Здесь нет равных машинам.

По словам Хусейна, автономные системы уже существуют и работают. Орудия «Фаланкс Гатлинг» (Phalanx Gatling) на кораблях ВМС США уничтожают как ракеты противника, так и пилотируемые самолеты, расценивая их как угрозу. Система «Иджис» (Aegis) также имеет автоматический режим, который позволяет ей открывать огонь не только по ракетам, но и по пилотируемым объектам, и при этом без всякого вмешательства операторов.

Так как Китай и Россия своими разработками военного искусственного интеллекта без оглядки на моральные ограничения, по мнению автора, это не оставляет шанса США и вынуждает Штаты самим активно работать в этом направлении, чтобы не проиграть новую гонку вооружений.

Хусейн считает, что не надо концентрироваться на ограничениях действий автономных систем человеком, а необходимо уже изначально программировать «моральные опции» в искусственный интеллект. Более того, если вдруг одна часть военной системы, один робот начинает принимать неэтичные решения из-за ошибки в программном обеспечении или из-за хакеров, то другая часть системы должны быть способна выключить или уничтожить «плохого» робота.

Хусейн уверен, что военные системы будущего будут более точными, чем сегодня. Это будут рои «умных пуль», которые будут убивать врага с фантастической точностью. С другой стороны, в небе и на море человек будет определять «сектора смерти», в которых, по его мнению, нет гражданских лиц, и уже внутри сектора давать полную автономию на поражение и свободу действий военным системам. Большие данные и прогресс в распознании объектов машинами позволят им выполнять задачи эффективно и с минимальным количеством ошибок.

При этом автор книги говорит о том, что применение искусственного интеллекта — это не что-то отдельно происходящее в вооруженных силах, это — общий тренд технологических изменений во всех сферах жизни общества, и глупо было бы игнорировать выгоду от участия автономных систем в боевых действиях. Джин уже выпущен из бутылки и с этим надо учиться жить.

Пол Скарре. Ничья армия: автономное оружие и будущее войны (Army of None: Autonomous Weapons and the Future of War)

Скарре, бывший армейский рейнджер, ветеран войн в Ираке и Афганистане, плотно работавший по теме военных роботов и искусственного интеллекта с бывшим заместителем министра обороны США Бобом Уорком (Bob Work), а ныне эксперт по вооружениям, в своей работе прослеживает развитие автономных систем, начиная от немецких торпед «Врен» (Wren, первая в мире серийная торпеда с акустической головкой самонаведения) времен Второй мировой войны и до концепта автономных роботизированных танковых армий будущего.

Его книга построена на десятках интервью с ведущими военными аналитиками, коммерческими разработчиками, психологами, политологами, а также на личных наблюдениях в развитии технологий за время прохождения службы в армии США.

Уже около тридцати стран, по данным Скарре, имеют на вооружении оборонительные автономные системы, которые пока еще работают под наблюдением человека, и сегодня в мире наблюдается гонка за создание наступательного автономного вооружения. Военных подталкивает развитие беспилотных автомобилей, машинного зрения и повышение точности в распознании изображений нейронными сетями. Скарре также обращает внимание и на то, что Россия и концерн «Калашников» работают над созданием боевых модулей, способных определять цель и автономно принимать решение об открытии огня.

Отдельный спектр вопросов — это этические проблемы, возникающие с автоматизацией оружия. До какой степени можно делегировать машинам решения о нанесении удара и огня на поражения живой силы противника? Может быть роботы с искусственным интеллектом смогут уничтожать противника с невероятной точностью, сведя на нет «побочные потери» в лице гражданских лиц? Или наоборот, ошибка в выборе целей искусственным интеллектом может стать катастрофой и приведет к массовой гибели неповинных людей? Должны ли ответственные страны с демократически-либеральным устройством развивать автономное вооружения? Что противопоставить странам, которые не ставят перед собой вопросы морали и будут любыми способами педалировать создание автономных военных систем? Легких ответов на эти вопросы нет.

Скарре активно использует термин «бойцы-кентавры», когда на поле боя будущего вместе будет работать и человеческий и искусственный интеллект. Возникновение термина берет начало от определения игры людей-шахматистов между собой при использовании компьютерной помощи, которое придумал Гарри Каспаров. В шахматах это называется «Сайборг-чес» (cyborg chess), «Центаур-чес» (centaur chess) или «цифровые/шахматные кентавры». По мнению Скарре, необходимо перестать думать только в рамках дилеммы «или люди, или роботы» и стараться найти применения технологий, когда человек и искусственный интеллект работают вместе. Наглядный пример — это испытания работы «Апачей» и беспилотников, когда пилоты вертолета вместе с компьютером контролируют полуавтономную деятельность дронов.

Бывший главнокомандующий силами НАТО в Европе Джеймс Ставридис (James Stavridis) в рецензии к этой книге подытожил: «Бойтесь! Очень-очень бойтесь!». Ставридис предупреждает, что мир стремительно идет к самому важному в истории войн перелому, когда войну будет вести искусственный интеллект, а общество, скорее всего, к этому просто не готово. По его мнению, книга Скарре будет обсуждаться и влиять на дискуссии об автономности войны еще десятки лет.

Илья Плеханов