Китайско-американская гонка интеллектуальных вооружений

Примечание редакции. Перевели для вас материал The Conversation о попытке Пекина обойти Вашингтон на повороте при разработке боевого искусственного интеллекта.

Когда AlphaGo от Google победила китайского гроссмейстера в игре го в 2017 году, Китай пережил собственный «спутниковый момент».

(Примечание переводчика. «Спутниковым» в англоязычных странах называют момент, когда какая-то страна осознаёт, что отстала в стратегически важной сфере и пора бы догонять. По аналогии с реакцией США на запуск СССР «Спутника-1» в 1957 году.)

Китай понял, что необходимо разрабатывать собственный искусственный интеллект. Соответственно, сейчас Пекин готовится к запуску общенационального «гражданско-военного» проекта по разработке ИИ. Это важный этап амбициозного пути китайцев к превращению в «научно-технологическую державу». Но, вместе с тем, и новый фронт во всё более тревожащей гонке вооружений.

В 2017 году китайский президент Си Цзиньпин призвал к ускорению военных разработок ИИ для того, чтобы быть готовыми к возможному конфликту с сильным врагом — таким, как США. Китайский подход к ИИ всегда испытывал влияние американских военных инициатив. В данном случае речь идёт о Третьей стратегии замещения (Third Offset Strategy) Пентагона — плана времён Обамы, который позволил бы Пентагону экспериментировать с новейшими оружейными технологиями, включая искусственный интеллект.

Пекин всё ещё не сформулировал общие стратегические рамки своего проекта, но, как и Россия, он продолжает разрабатывать ряд военных ИИ-технологий как часть более широкого проекта по использованию слабых мест в американских военных мощностях.

Хотя у США (пока что) есть явное преимущество в разработках искусственного интеллекта, Китай догоняет. Он вообще довольно сильный конкурент во всех аспектах военных инноваций, и перегнать США по этой части может в относительно недалёком будущем. А пока Китай и США пытаются состязаться друг с другом, их прорывы и неудачи могут изменить — и, потенциально, дестабилизировать — мировой стратегический баланс.

Здесь много рисков. Американский и китайский подходы к военным инновациям различаются. Представим, что их критерии о том, когда можно и этично использовать летальную силу, «вошьют» в их оружие с искусственным интеллектом. Представим, что эти разумные машины будут действовать на основе небезупречной человеческой логики, человеческих предпосылок (что уже наблюдается в алгоритмах, работающих на предупреждение преступлений). В итоге когнитивные искажения могут усилить взаимное недоверие и подозрительность между двумя странами, подталкивая их к крупному конфликту.

Нос к носу

Китай обладает несколькими структурными, политическими и социальными преимуществами в грядущей гонке искусственных интеллектов. Его национальное стратегическое планирование много более последовательно, чем американское, а его национальные базы данных несравнимо больше. Инициатива Си «Один пояс, одна дорога» (план построения развитой международной сети торговых и инфраструктурных связей) включает и виртуальную составляющую, так называемый «Цифровой Шёлковый путь», подразумевающий не только ИИ, но и квантовые компьютеры, нанотехнологии, big data и облачные хранилища.

В США же ситуация неопределённая. Между администрацией Трампа и Кремниевой долиной нарастает напряжение, что не способствует совместной работе над технологиями искусственного интеллекта для американских военных. Если американские частные инновации в сфере ИИ будут продолжать опережать медленный Пентагон, они не смогут поддерживать друг друга так, как стоило бы — позволяя Китаю вырваться вперёд.

США, похоже, осознают эти проблемы и пытаются исправить ситуацию. Невзирая на краткую паузу в разработке стратегического плана по искусственному интеллекту, Белый дом недавно анонсировал создание нового комитета ИИ-специалистов для советов в этой сфере. В 2017 году Дональд Трамп не позволил китайской фирме приобрести Lattice Semiconductor, американскую компанию, производящую чипы, принципиально важные для разработок ИИ.

Это указывает на растущие опасения того, что китайская стратегия слияния гражданских и военных инициатив может позволить передавать американские технологии, навыки и интеллектуальную собственность от китайских коммерческих фирм к военным странам.

Дилемма Терминатора

Похоже, что Китай — как и Россия — не особо сдерживается законом, этикой или моралью в разработке летальных автономных вооружений. Согласно последним данным, Китай уже начал внедрять технологии искусственного интеллекта в новое поколение конвенционных ракет и сопутствующих систем разведки и наблюдения, чтобы увеличить точность и летальность оружия.

США же явно будут много более сдержаны в разработке таких вооружений. Нежелание Пентагона внедрить ИИ в существующие вооружения проистекает из либерально-демократических норм применения военной силы. А также из опасения того, что в Пентагоне называют «дилеммой Терминатора» — вероятности, что военные роботы в какой-то момент сами начнут решать, отнимать человеческую жизнь или нет.

Таким образом, учитывая быстрое развитие технологий ИИ — и агрессивную разработку этих направлений соперничающими странами — нынешние попытки США ставить во главу угла права человека могут поколебаться. Если удержится нынешний тренд, Китай скоро сможет состязаться с Америкой в ряде новейших стратегических отраслей военных технологий. Это же, в свою очередь, должно ускорить попытки Пентагона разработать ассиметричные оборонные концепции. Всё указывает на то, что гонку высокотехнологических вооружений будет всё сложнее сдержать.

Перевод Виктора Трегубова.