DeepFake и обесценивание лица

Вам звонит начальник и требует в срочном порядке закрыть не такую уж и важную сделку. Сумма хорошая, и что с того? Бояться ведь нечего: все доказательства оригинальности человека присутствуют, деньги обычно с его благословения и рассылаются, и даже дурацкий, но такой знакомый акцент дребезжит в телефонной трубке. Времени мало, тон не терпит возражений, корпоративная этика работает: деньги таки уходят. Казалось бы, все беспокойства позади. Выдыхай, офисный человек.

Тем не менее, через пару часов звонок повторяется. Начальник требует столько же, и по тому же адресу. Здесь явно что-то не так — обычно он за копейку удавиться способен, а риски и необходимые суммы просчитывает специальный отдел аналитиков. Наперёд просчитывает, Карл. Теперь приходится допускать, что первый транш ушёл куда-то не туда, быстро собрать тестикулы в кулак и таки позвонить тому самому боссу для уточнений.

Звонок получился удачным: вас таки обманули. Но теперь все хотя бы в курсе, и проблема, как минимум, вскрылась. Здесь начинается самое интересное. Звонки начинают сыпаться горой: то звонит встревоженный руководитель, то его крайне удачная копия. Голоса и акцент совпадают, разные лишь номера и общий смысл. Будто бы один и тот же человек одновременно требует денег, а через минуту кричит «Никому ничего не отправляй!» Если память хорошая, от таких ситуаций и спиться можно, причем задолго до наступления счастливой старости. Надо посочувствовать обманутому менеджеру: он стал первой в истории жертвой преступления, которое ещё обязательно о себе напомнит в ближайшие годы и десятилетия. Дебютный скальп в кладовке маньяка. Возможно, именно сейчас мошенники окучивают другую фирму, испытывая новую стратегию.

Это DeepFake, и это новая чума XXI века. 

Слишком долго технология подмены лиц считалась смешнявкой, которая может подсунуть лицо вашей любимой актрисы в порноролик. Действительно, может. А приклад снайперской винтовки может сделать хорошую отбивную, хоть это и неудобно. Но может ведь. Граната может открыть пиво (вместе с вашими внутренностями и парой стеклопакетов за спиной), автомобиль может использоваться как портативный mp3-плеер с пепельницей. Все может быть, просто люди забыли об основном инструментарии новинки.

Кстати, вот ещё один неплохой способ развлечься.

Некоторое время в США пытались решить проблему оригинальной технологии DeepFake традиционным, государственно-бронелобым способом: Минобороны угрохал целые состояния за два года, стараясь добиться хотя бы незначительного успеха. Пока что не особо получается. 

У властей бомбило? Ха! Это понятно, но куда больше новинка ужаснула компании, завязанные по самые уши на сборе личных данных. Вы работаете с миллионами или миллиардами пользователей. Настраиваете индивидуальные рекламные кабинеты под каждого потребителя. Осторожно работаете с таргетологами, иногда продаёте эти данные налево — и тут вся малина может накрыться медным тазом. И годы твоей работы над постепенным порабощением лица каждого пользователя вылетят в трубу.

Обидно, да? Прошло не так много времени, и ради борьбы с DeepFake объединяются уже Microsoft, Amazon и Facebook. Пока они пытаются решить проблему путем общей работы и щедрых вознаграждений, в сторонке курит Google: он оценивает ситуацию и последствия своего вмешательства. Кстати, из специального призового фонда вы можете получить или часть, или все 10 миллионов долларов. Надо всего лишь создавать реалистичные фейковые ролики, чтобы механизмы соцсетей могли постепенно учиться их распознавать.

Тем не менее, как бы кавалерия ни размахивала шашкой, обесценивание лица, голоса, даже определённых уникальных фишек человека уже началось. Кстати, в интернете новинке перекрыли кислород более правильно: раз программу не удастся удалить, ей нельзя давать раскрутку. Reddit заблокировал страницу r/deepfakes, Gfycat отказался публиковать искусственно созданные порноролики. Мол, пусть себе дальше развлекаются, но агитировать новых соучастников стало гораздо сложнее. Блицкриг уже невозможен, началась позиционная война.

Да и обычные потребители глубже копать не хотели. Пока большие шишки выкладывали деньги и искали пути отступления, земляне качали тонны безымянных приложений от неизвестных разработчиков: ха-ха, смотри, моё лицо подставили вместо Тони Старка. Я теперь Железный человек, пыщ-пыщ. «Пыщ-пыщ» наверняка спокойно собрал уникальные данные и отправил своим владельцам, которые получили достойное поле для экспериментов.

По данным Deeptrace, в декабре 2018 года в сети насчитывалось около 8000 таких роликов, к осени их прибавилось — пройдена отметка в 14 678. Суммарное количество просмотров переплюнуло 134 миллиона. Можете не удивляться такому частому упоминанию порно: та же контора подсчитала, что именно контент 18+ составляет 96% видеофайлов с применением DeepFake. Да, остальные проценты — это смешные видео с Николасом Кейджем и Томом Хэнксом.

Но политика в это дело ещё не вмешивалась (временно), и нынешняя причина для беспокойства понятна. В 2020 году США ожидают президентские выборы, и чистотой они точно славиться не будут. В принципе, любители хайпа уже могут расчехлять фантазию. А ведь ещё год не закончился, к часу Х сеть наполнят такими материалами от всей пиратской души.

Если Дональд Трамп к постоянному давлению со стороны демократов и отдельных, альтернативно развитых республиканцев уже привык, то о его соперниках такого не скажешь. Они растут в теплице. Разве что Байден, конечно же, выгребает по полной — здесь и постоянный троллинг от нынешнего президента США, и упоминания в скандалах, связанных с тем же президентом. А что поделать, если точек соприкосновения у них больше, чем у старых любовников? Но допустим, на праймериз Джо пролетит, и президентскую гонку возглавит Элизабет Уоррен. По кому больше ударят провокации с DeepFake — неужто и без того скандальный республиканец получит больший урон? Нет, конечно.

Потому проблему хотят решить до 2020 года. Получится или нет — другой вопрос. Пока что скепсис перебивает все аргументы оптимистов. Обесценивание лица, которое так долго считалось главным критерием аутентичности, произойдёт гораздо быстрее. Ну и пусть, таков закон прогресса: нет смысла объявлять себя луддитом, крушить сервера и требовать возвращения каменного века.

Только жаль, что столь интересный процесс происходит в настолько глупых условиях.

P.S. Пока что нас это никак не задевает, а американцы со своими выборами разберутся сами. Лично меня тревожит другое. Украинское общество не избавляется от своих багов, заложенных на стадии проектирования, но всё же растет. Да, соцсети стали основным источников информации, и это плохо — однако раньше эту функцию удерживал бог-телевизор, который и сам непредвзятым качеством никогда не отличался. В общем, шило на мыло, зато рост наблюдается. Жаль только, что не в сторону качества.

Я прекрасно помню уже удалённые ролики, компрометирующие ныне бывшего народного депутата Олега Ляшко. Понятное дело, что чёрный пиар, но тогда подобная работа требовала какого-никакого профессионализма. И если американцы найдут нетипичные детали в поведении своего любимого политика на скандальном видео, выделив их для себя, у нас такой роскоши ожидать не следует. Вы разве уверены, что наши политики это не используют? Я считаю, с руками оторвут и ещё попросят.