В чём правы Путин и Маск

Примечание редакции. Мы так часто рассуждаем об опасности искусственного интеллекта, взбунтовавшегося против человечества, что забываем о более близкой и реалистичной угрозе — искусственном интеллекте, попавшем не в те руки. Грегори Аллен, сотрудник Центра новой американской безопасности и специалист по искусственному интеллекту, опубликовал на CNN колонку, в которой рассматривает такую возможность. Считаем нужным её перевести.

1 сентября миллионы российских школьников смотрели телевизионное обращение Владимира Путина. «Искусственный интеллект — это будущее не только России, это будущее всего человечества, — сказал Путин. — Тот, кто станет лидером в этой сфере, будет властелином мира». Почитав заявления Путина, генеральный директор SpaceX и Tesla Илон Маск твитнул: «Попытка наций стать первыми в гонке за искусственным интеллектом — самая вероятная причина Третьей мировой».

Несмотря на то, что лидеры государств обычно избегают настолько прямых заявлений, воззрения Путина относительно искусственного интеллекта разделяют лица, ответственные за национальную безопасность в США, Китае и по всему миру. Как я уже писал в отчёте, опубликованном Центром Бельфера по науке и международным делам Гарвардского университета, исследования в сфере искусственного интеллекта, скорее всего, произведут революцию в военных технологиях, сравнимую с изобретением авиации и ядерного оружия. Другими словами, Маск прав, что каждая страна будет стараться достичь первенства в этих разработках, и эта гонка несёт в себе новые риски.

Но при всех амбициях Путина российские попытки доминировать в этой сфере вряд ли примут форму технологического прорыва. Как в США, так и в Китае отрасль цифровых технологий больше, сложнее и развивается быстрее, чем в РФ.

Однако Россия может стать лидером в превращении искусственного интеллекта в оружие в рамках своей глобальной стратегии, направленной на окончание гегемонии США в международном сообществе и новом утверждении влияния РФ на постсоветском пространстве. Россия никогда не была лидером в интернет-технологиях, но, тем не менее, смогла создать крупную и мощную сеть хакеров, способную отключить значительную часть украинской электрогенерации, проникнуть на ядерные объекты США и внести хаос на президентских выборах 2016 года.

Действительно, даже до заявлений Путина поведение России свидетельствовало о хорошем понимании того, насколько искусственный интеллект усилит военных и разведки — особенно те, которые не против уничтожить международные законы и нормы. За последние пять лет Россия агрессивно инвестирует в военную роботехнику и беспилотные системы, проверяя эти проекты в конфликтах на востоке Украины и в Сирии. В 2015 году командующий войсками США в Европе заявил, что когда украинцы видят российские беспилотники, они знают, что через 10–15 минут последует ракетная атака.

Сегодня российские военные роботы и беспилотники управляются удалённо. Но в будущем РФ планирует ввести в бой  «разумные роботехнические комплексы», то есть военную технику, управляемую искусственным интеллектом и способную сражаться и убивать без участия человека-оператора. Российский Военно-промышленный комитет утвердил агрессивный план, согласно которому к 2030 году 30% российской военной мощи должно состоять из управляемых удалённо и/или контролируемых искусственным интеллектом боевых платформ. (При всём уважении, господин Аллен, вам ещё многому нужно научиться — например, значению слов popil и deriban. — Прим. ред. ПиМ).

Вне поля боя Россия надеется использовать искусственный интеллект для усиления шпионажа и пропаганды. Российские разведывательные агентства уже используют тысячи сотрудников, которые трудятся днём и ночью, создавая фальшивые новостные статьи и посты в социальных медиа. Десятки миллионов ботов, притворяющихся реальными людьми в социальных сетях, продвигают эту пропаганду в России и за рубежом. Специалисты Проекта исследования компьютерной пропаганды Оксфордского института Интернета выявили, что почти половина всех Twitter-аккаунтов, комментирующих российские политические темы, — боты.

Согласно свидетельству перед Конгрессом, данному бывшим спецагентом ФБР Клинтом Уоттсом, российские боты уже поднаторели в раскрутке фальшивых новостей через американские медиа и влиянии на цены акций американских компаний. И этого РФ достигла, используя лишь ботов с примитивной цифровой автоматизацией. Используя искусственный интеллект, они могли бы сделать много худшее. Исследователи Университета Вашингтона продемонстрировали технологию искусственного интеллекта, способную генерировать реалистичное видео и аудио с использованием голоса и внешности любого лица. В руках путинских спецслужб подобная технология способна залить мир потоком пропаганды и дезинформации эффективнее, чем когда-либо в истории.

Соединённые Штаты всё ещё являются ведущими в сфере разработки искусственного интеллекта и роботехнологий, хотя это лидерство несколько поблекло за последние десять лет. Но США демонстрируют также вызывающие уважение самоограничение и осторожность. В последних новостях о призывах «запретить роботов-убийц» упустили тот факт, что Министерство обороны США недавно вернулось к политике запрета на любое автономное оружие, способное само принять решение об использовании смертельной силы.

Примет ли когда-либо подобный запрет Россия? Вряд ли. Путин — авторитарный лидер нации с сокращающимся населением и падающей экономикой. Несложно понять, почему он стремится обрести технологию, позволяющую сосредоточить больше власти в руках меньшего количества людей. Путин знает, что его страна вряд ли станет мировым лидером за счёт первенства в разработке искусственного интеллекта, но, возможно, надеется, что Россия преуспеет в беспощадности его применения.

Перевод Виктора Трегубова.

Источник: CNN.