Насколько реален интернет? Ненамного

В конце ноября Департамент юстиции опубликовал расследование двух мошеннических схем, в результате которых восьми обвиняемым удалось выманить около 36 миллионов долларов у фирм, размещавших рекламу в интернете. Те, кто заказывает рекламу, интересуются двумя вещами: количеством людей, которые просматривают объявления, и «премиумностью» (то есть известностью и репутацией) веб-сайтов, где эти объявления размещены. Соответственно, мошенники создали две схемы, чтобы закрыть оба направления. Ботнет 3ve состоял из 1,7 млн инфицированных машин, которые слали запросы на «сайты, специально организованные для ботов». Там, в свою очередь, показывалась реклама, заказанная у рекламных бирж. Кроме того, некоторые запросы делались таким образом, что «у рекламодателей создавалось впечатление, что реклама размещена на известных сайтах», вроде Vogue или The Economist. Машины из ботнета Methbot «подделывали клики и движения мыши», а также использовали информацию из социальных сетей для логина, чтобы быть похожими на обычных пользователей. Некоторые из них ходили по интернету и собирали файлы-куки с других сайтов, чтобы лучше имитировать человеческое поведение. Результат — фальшивые люди, с фальшивыми куками и фальшивыми аккаунтами соцсетей фальсифицируют движения мышью и клики на фальшивых веб-сайтах. Фактически мошенники создали свой поддельный интернет, единственной подлинной вещью в котором были рекламные объявления.

Насколько распространена фальшивая активность в интернете? Исследования показывают, что из года в год меньше 60% траффика инициируется людьми. Были периоды, когда больше половины всех запросов приходило от ботов. Согласно отчёту Times, в 2013 году половину траффика YouTube составляли «боты, притворяющиеся людьми»; их было настолько много, что исследователи боялись, что антифрод-системы YouTube переобучатся до противоположности и станут засчитывать человеческие запросы ненастоящими. Это гипотетическое событие назвали «Разворот» («the Inversion»).

В будущем, когда блоггер PweDiePie станет президентом и посадит меня в высокотехнологичную тюрьму для геймеров, я в своих мемуарах опишу 2018 как год, в котором произошёл Разворот. Не в каком-то количественном смысле — ботов уже давно больше, чем людей; но в смысле восприятия. В тёмных уголках интернета всегда хватало места для нигерийских принцев и прочей нечисти, но в последнее время их стало слишком много. Всё, что раньше казалось определённым и незыблемым, теперь кажется подделкой. И наоборот, казавшиеся ненастоящими вещи обрели силу реальности. В мире после Разворота «подлинность» не является чем-то, что можно вычислить, она переходит в область ощущений: вещь может выглядеть реальной, или нет, или впечатление изменится через минуту.

Метрики подделывают

Возьмём, например, счётчики — они должны быть простыми и надёжными. Вроде бы посещения можно пересчитать, отследить и подтвердить. Принцип подсчёта посещений лежит в основе бизнеса цифровой рекламы, за счёт которой существуют социальные и поисковые гиганты. Но даже Facebook не может это толком реализовать, несмотря на его колоссальную машину, предназначенную для сбора данных. В октябре ряд небольших рекламодателей подал иск к корпорации, которая годами выдавала переоценённые отчёты о показах видео (с ошибкой на 60-80%, если верить Facebook, или 150-900%, по оценкам истцов). По сообщению MarketingLand, за последних два года Facebook выдавал завышенные данные, касающиеся охвата Facebook Pages, частоты просмотра рекламных видео, среднего времени чтения «Instant Articles», объёма реферального траффика из соцсети на другие сайты, количества просмотров видео на мобильных устройствах и в Instant Articles.

Можем ли мы и дальше доверять счётчикам? И есть ли в них смысл после Разворота? Даже если попробовать отбросить сомнения, всё равно останутся некоторые нюансы. Больше всего в статистике Facebook мне понравилось сообщение о том, что 75 миллионов людей просматривали как минимум одну минуту видео каждый день; дело в том, что потом соцсеть признала, что это статистический показатель, и секунды в этой минуте не идут последовательно. Настоящие люди, настоящие минуты, а вот секунды — уже подделка.

Людей подделывают

Не факт, что людей можно считать настоящими. Согласно опубликованному в августе расследованию Times, бизнес покупки и продажи видео на YouTube «процветает». Компания утверждает, что только небольшая часть траффика является поддельной. Правда, поддельные подписчики стали настолько значительной проблемой, что в середине декабря пришлось проводить массовые зачистки. По данным Times, можно купить 5000 просмотров на YouTube за пятнадцать долларов. Клиенты склонны думать, что это настоящие просмотры, но, скорее всего, траффик генерируется ботами. Для некоторых платформ просмотр видео и скачивание приложений организовывается в промышленных масштабах. Погуглите «click farm»: можно найти видео, снятое в нормальном офисе, где на сотнях смартфонов крутится один и тот же ролик или загружается одно и то же приложение.

Понятно, что просмотры нельзя считать реальными. Но что тогда считать? Эпоха Разворота порождает странные философские вопросы. Например, русский тролль с фото бразильца на аватарке притворяется сторонником Трампа и смотрит видео в Facebook. Можно ли учитывать такой просмотр как реальный? В наше время встречаются не только боты, выдающие себя за людей или люди, выдающие себя за других людей. Ещё есть люди, которые выдают себя за «персональных помощников на основе AI» (как в Facebook M) чтобы подделать успехи корпораций в развитии этого самого AI. А в Instagram существует инфлюенсер Lil Miquela: это фальшивая девушка, у которой реальное тело, подделанное лицо и реальное влияние. Даже люди, которые никем не притворяются, чувствуют себя не очень уверенно, запутываясь в слоях реальности. В статье Atlantic рассказывает о всамделишных (а не сгенерированных компьютерной графикой) инфлюенсерах, вынужденных подделывать рекламный контент. То есть они пишут посты, которые выглядят как рекламные, которые пытаются выглядеть, как настоящие — чтобы привлечь внимание реальных рекламодателей с их реальными деньгами.

Организации подделывают

Деньги обычно настоящие. В этом году энтузиасты криптовалют к сожалению для себя узнали, что так бывает не всегда, но в целом у денег достаточно реального веса, чтобы приводить в движение всё остальное. А кроме денег, нужно ли что-то ещё? Писательница и художница Дженни Оделл провела расследование, касающееся реселлеров на Amazon: выяснилось, что некоторые продавцы покупают товары на Amazon и тут же их продают, но по более высокой цене. Оделл обнаружила целую сеть фирм, которые занимались играми с ценами: все они так или иначе были связаны с Евангелистской церковью (которая скорее похожа на культ). Церковь, в свою очередь, известна тем, что купила в 2013 году домен Newsweek и превратила его в зомби-ферму для поисковой оптимизации. Дженни даже нашла офлайновый магазин этих реселлеров в Сан-Франциско — оказалось, что это реализация всё тех же странных полупустых амазоновских магазинов, заполненная ненужными перекупленными товарами. По её словам, «в какой-то момент возникло ощущение сна... Будто я наполовину проснулась и не могу отличить реальность от нереальности, местное от глобального, вещи и сфотошопленные изображения, искренность и фальшь».

Контент подделывают

Для меня лидером среди ломающих мозг явлений стали сериалы Amazon, которые некоторые деятели загружают на YouTube в отзеркаленном виде, чтобы обмануть системы автоматической защиты авторских прав. Таким образом создаются недели развороченного, нечеловеческого контента. Другим источником странного являются непонятно кем созданные видео, ориентированные на детей. Мультик, в котором Человек-Паук или Эльза из Frozen ездят на тракторе, вроде бы настоящий. Кто-то поработал над анимацией и озвучкой, и я не сомневаюсь, что какое-то количество (десятки? сотни? может, даже миллионы? Почему бы и нет) детей посмотрели его и получили странное, мистическое удовлетворение. Но такие мультики совершенно точно не являются «официальными». Будучи взрослым, сложно понять, что происходит и почему счётчик просмотров этих видео всё время увеличивается.

Это пример самопальной подделки популярных выдуманных персонажей, то есть подделка нереальности. Поддельная реальность пока что редко встречается. В январе 2018-го анонимный пользователь Reddit создал относительно лёгкую для использования программу, реализующую технологию «deepfakes». Она известна тем, что позволяет на основе ИИ организовать замену лиц на видео. Например, заменить политика на порнозвезду. С другой стороны, недавнее исследование Nvidia описывает метод генерации изображений человеческих лиц, которые выглядят невероятно похожими на реальных людей. (В следующий раз, когда русские будут создавать очередную группу ботов в Facebook, им даже не придётся воровать фото реальных американцев). В будущем мир заполнится такими сгенерированными изображениями и видео. Проблемой станет то, что настоящие изображения будут принимать за фейк, а не наоборот. Впрочем, в мире Разворота всё равно не будет никакой разницы.

Политику подделывают

Люди ощущают потерю реальности и в результате спрос на неё растёт. Политика пропадает точно так же, как и всё остальное. Остаётся только ощущение, что нас обманули и что по-настоящему реальные вещи оказались где-то далеко. На подростков пытаются влиять с помощью видео на YouTube, которые обещают показать правду, скрывающуюся за «призраками» феминизма и divercity. Они называют это «красной таблеткой» — отсылка к сцене в «Матрице», где главный герой получает таблетку и симуляция уступает место реальному миру. В политических спорах в интернете одни говорят о том, что либералы изображают деятельность ради большего рейтинга; в ответ звучат обвинения в использовании русских ботов. Единственное, с чем все согласны — всё в интернете является фейками и ложью.

Мы сами себя подделываем

Начнём с того, что все сайты, на которые я пытался зайти в этом году, требовали доказать, что я человек. Не могли бы вы восстановить это слово? Распознать номер дома? Выбрать изображения, где есть мотоцикл? Ладно, я развил у себя способность распознавания образов, совпадающую с мышлением роботов (кстати, а можно ли считать Vespa мотоциклом?) и теперь могу попасть куда угодно. Оказавшись внутри, я скроллю ленту сообщений в погоне за допаминовым вознаграждением; эмоционально заряженные заголовки принуждают меня кликнуть и прочитать ненужную мне новость; алгоритмы заманивают и склоняют меня к аргументам, отношениям и заказам настолько странным, что их сложно назвать реальными.

Что в итоге? Я не думаю, что у нас получится вернуть подлинность — нет никакой «красной таблетки». Дело не в «правде», а в доверии: нам нужно чувство, что люди и явления, которые мы встречаем, действительно являются такими, какими кажутся. Современная система была создана в погоне за показателями счётчиков, под действием систем для манипулирования и ничем не ограниченных законов рынка. В результате здесь выгоднее представлять поддельную версию себя: быть зазнайкой и циником, лгать и мошенничать, создавать ложное впечатление и напускать таинственности. Чтобы это исправить, необходимо провести культурную и политическую реформу Кремниевой долины и всего остального мира, и в этом наша единственная возможность. Иначе придётся жить в мире с поддельными людьми, поддельными кликами, поддельными веб-сайтами и компьютерами; в мире, где единственной настоящей вещью является реклама.