Гибридные грабли Фейсбука

«Когда ко мне вернулась память о прошлых несчастьях, я начал размышлять об их причине — о чудовище, которое я создал, о гнусном демоне, которого я выпустил на свет на свою же погибель».

Виктор Франкенштейн,
Мэри Шелли «Франкенштейн, или Современный Прометей»

Мой предыдущий текст был посвящён такому обидному явлению как политическая безответственность, когда люди (осознанно или нет) не хотят оценивать последствия своих действий в контексте вреда/пользы для государства, а равно и нести ответственность за такие действия. Сегодня мы посмотрим на нашего слегка эволюционирующего покемончика уже на более глобальном, общемировом уровне, когда принцип «nothing personal, just business» ведёт если пока не к катастрофическим последствиям, то хотя бы закладывает большую болячку на будущее. Вы же уже успели заметить, что обещание Цукерберга выполнено и лента новостей опять поменялась?

Ладно, начну с трёх забавных фактов.

Ноябрь 2017-го — первый президент Facebook Шон Паркер раскритиковал соцсеть за её непредсказуемое влияние на человека. А бывший вице-президент Facebook Чамат Палихапития заявил, что соцсети «разрушают основы общества», и извинился за участие в создании таких инструментов.

Февраль 2018-го — Джим Керри пишет в своем Twitter: «Я продаю свои акции Facebook и удаляю свою страницу, потому что компания получила выгоду от вмешательства России в наши выборы, и они до сих пор не сделали достаточно, чтобы остановить это. Я призываю всех других инвесторов, которые заботятся о нашем будущем, делать то же самое».

Конечно, касательно первых двоих одни могут сказать, что они бывшие, вот и бесятся, а касательно Керри сказать, что писать в одной соцсети, что он удаляется из другой соцсети — это двойные стандарты.

Однако факт остаётся фактом — против Facebook начинается какая-то кампания, к которой уже присоединяются Джордж Сорос и Кофи Аннан. Последние, правда, не делают акцент на Facebook, а в принципе на феномене соцсетей в контексте мировой безопасности. Насколько такая позиция может быть оправданной?

Цукерберг однозначно невиновен в том, что создал свою Мордокнигу. Тогда это было большим благом для человечества, которое повысило уровень коммуникации, создало новый рынок, поменяло правила маркетинга, пиара, политтехнологий. Однако наивно было не допускать того, что новым инструментом воспользуются всякие разные Докторы Зло, дабы заполучить умы людей в свою власть. Это пока осторожное предположение, но я допускаю, что именно манипуляции в соцсетях и Интернете — одна из тех самых отличительных черт, которая превращает «обычную» войну в гибридную.

С вашего позволения, не буду здесь расписывать уже многократно везде распространённую информацию о влиянии РФ на выборы в США через социальные сети. Это уже практически доказанный факт — начиная от признания самого Цукерберга о покупке политической рекламы русскими, заканчивая недавними событиями, когда спецпрокурор Роберт Мюллер заявил о предъявлении обвинений 13-ти свинороссиянам.

Кстати, в США сейчас обвинения предъявляются больше по факту манипуляций в Twitter, чем в Facebook. Не могу пока сказать, с чем это связано — может, боты и тролли в Щебетуне повлияли больше на выборы, а может, это связано с тем, что администрация Twitter идёт на контакт лучше, чем Цукерберг, и находят и блокируют русские аккаунты эффективнее. Пока я склоняюсь ко второму варианту, но об этом позже.

Итак, Facebook в своём цивилизационном и техническом потенциале действительно имеет удивительные и доселе невиданные возможности по манипуляции. Ни одна газета, радио, телевидение раньше не давали такого объёма данных о целевой аудитории, как современные соцсети. Даже вы, не имея отношения ко внутренней кухне Facebook, спокойно можете по тем данным, которые выставляет человек, многое понять о нём. Скажи мне, что ты лайкаешь, и я скажу, кто ты — где-то так теперь можно говорить. По подпискам, лайкам можно понять предпочтения человека. В начале войны мы так баловались во Вконтактике, ища сепаров среди знакомых из Луганска. Кроме того, (не знаю, зачем мне эта информация) я знаю политические предпочтения почти всех, например, актёров одного моего любимого театра кукол в Харькове. Можно найти и определить круг родственников и близких лиц. Об OSINT-разведке я уже вообще молчу.

А это только для обывателя и технического кретина, как я. Более обученные люди могут собрать на пользователя Мордокниги хорошее досье. А администрация обладает колоссальными данными — то, что называют сейчас Big Data. Фактически, соцсеть запоминает каждое наше движение в ней, время, уделённое просмотру одного поста, количество комментариев, «эмоциональность» лайков… В итоге, алгоритм данной платформы выдаёт вам то, что вам нравится, закупоривая вас в вашем идеальном мире. Это опасно с двух точек зрения:

• Вы начинаете жить в своём идеальном манямирке, не видя альтернатив, и так как нас таких особенных тьма, то нам сложнее договариваться. Вечная борьба порохоботов со зрадофилами тому яркий пример. Первые видят, что всё вокруг идеально, а все агенты Кремля, повторяют мантры Пономаря о горящей сковородке и витрине, а вторые кричат (за один день я увидел два ярких примера) прямо капслоком НИЧЕГО НЕ МЕНЯЕТСЯ, всё плохо, система, нас предали, где реформы, хочу завтра быть владычицею морскою, все агенты Кремля, репостят грустного клоуна Касьянова. С каждым днём таких людей примирить будет всё тяжелее, а поляризация общества может только нарастать. Есть ещё отдельное болото — «мывнеполитики», которые заблуждаются, думая, что они действительно вне её, но это отдельная история.

• Facebook платный. У кого много денег, тот рекламу и покупает. И чем больше у вас денег, тем больше вы можете охватить аудиторию, разгоняя вашу страничку ботами, платной рекламой и пр. Причём, если у вас толковые пиарщики, меняя определённые слова-триггеры и параметры аудитории, вы сможете достичь своих целей у совершенно разной аудитории. Собственно, это так и выходит, когда слышишь «Враг не в Кремле, враг в Киеве». Причём эта фраза может быть написана и українською мовою від людини з вишиванкою на аватарці, может быть сказана с грузинским акцентом, с добавлением «Любі мОї», или звучать от алкаша Васи с Горловки. Не столько важна сама фраза, как её контекст. В ней должно быть что-то близкое выбранному кругу лиц, что люди быстренько ассимилируют и будут репродуцировать, считая это своими мыслями.

Не хочу быть параноиком и сторонником антиутопических теорий, но, шлифуя все эти механизмы по сбору Big Data, мы можем ещё при нашей жизни застать контролируемое поведение отдельных особо внушаемых пользователей соцсети.

Эх, товарищи Геббельс и руководители советского Агитпропа сейчас в аду, наверное, никак не могут успокоиться, что у них не было такого инструментария. Но у них есть верные последователи. Грех было не воспользоваться, правда? Вот русские и решили попробовать.

Причём это же так удобно — зная американскую систему выборов, не надо тратить энергию на всю страну, надо взять только колеблющиеся штаты, и поменять в них электоральные предпочтения. А дальше, в зависимости от результатов, либо продолжать поляризовать население, чтоб люди, пардон, срались между собой, либо же продвигать идею «мирной, доброй и пушистой эрэфии».

В апреле 2017 года, по горячим следам, служба безопасности Facebook издаёт аналитический доклад под названием «Информационные операции и Facebook». Если коротко: ах, представляете, действительно, мы честные, добрые и наивные, а у нас тут, оказывается всякая срань господня информационные операции проводят. Короче, у нас тут есть странные ситуации: 1) плохие люди собирают чужую информацию и потом используют её плохо (targeted data collection), 2) к нам тут набежали несуществующие люди, которые координированно и слаженно разгоняют и популяризируют фейки и не совсем фейки (но так как мы Facebook, и мы особенные, то будем называть фейки false news). Это всё плохо, мы озабочены, но мы будем работать в этом направлении. Что с этим делать? Повторяем, мы будем активно работать в этом направлении. Ах, и да, мы не виноваты. Ответственность за это должны нести государство, журналисты, общественники тоже — учите людей информационной грамотности.

Когда уже Цукерберг был вынужден признать, что была политическая реклама, этот отчёт в сентябре немного дополняют. Описывают, что они закрыли некоторые аккаунты явно несуществующих людей, и описывают некоторые механизмы по борьбе с вышеуказанными проблемами.

Но что происходит сейчас? Последнее нововведение меня удивило, когда решили поменять ленту, уменьшив в ней долю СМИ. Цукерберг объяснил это тем, что теперь акцент с публичной плоскости (бренды, компании и СМИ) переходит в сторону друзей, близких и семьи, так как это улучшат самочувствие. Чуть позже он ещё заявил о том, что местных новостей будет больше. И вот тут у меня есть опасения. С одной стороны, теперь, когда в ленте не выпадает «тому-то понравилось то-то» — это плюс, так как боты лайкали нужные им вещи постоянно, и это накручивало популярность поста, который надо разогнать.

С другой стороны, как можно уменьшать влияние СМИ и отдавать предпочтения друзьям, если вы сами в апреле признавали наличие сети скоординированных несуществующих лиц? Любой пост новостной страницы вы всё равно увидите у себя в ленте, если его репостнет себе ваш друг-бот. Контент и так формируется за пределами Facebook, но боты-друзья будут продолжать его разгонять именно в нём.

Более того, Facebook ещё и заработает на этом, так как теперь надо платить больше, чтобы вас видели. Джаст бизнес. Таким образом, администрация пытается исправить следствие, но не причину.

Кстати, на нашу украинскую ленту это может даже повлияет хорошо, пока у нас многие СМИ очень непрофессионально себя ведут или просто-напросто косвенно финансируются агрессором или его коллаборационистами. Да вот только всё равно обидно — я, например, не подписан на те СМИ, которые кричат о стандартах ВВС, а сами занимаются чернухой, Мальдивами и прочей упячкой. Но у меня стали реже выпадать и те, на которые я подписан, даже если смотреть новости в формате «новейшее». А вот для западных СМИ это может быть плохим решением, так как именно большие СМИ чаще всего доносят опровержение на российскую пропаганду.

Новые правила так же должны усилить позиции ЛОМов (лидеров общественного мнения). Но, вот тут опять странно. Помните, как совершенно отвратительный вброс о «частном самолёте офшорной компании, который увёз нашего Мишу» набрал тысячи лайков и репостов? А опровержение сколько набирало?

Итак. Что же ждёт Facebook в будущем, если он реально не начнёт исправлять ошибки?

Ну, во-первых, он и дальше будет площадкой для манипуляции, подрыва демократий, внутренней дестабилизации и пр. Русские тролли тоже не сидят на месте, они шлифуют своё мастерство с каждым новым днём. А если к ним прибавятся другие?

Во-вторых, как это уже говорил Кофи Аннан, при таком раскладе государство захочет увеличить контроль над Facebook. Если администрация будет сопротивляться введению жёсткого контроля, то сайт начнёт блокировать и закрывать каждая отдельно взятая страна.

Закрытие повлечёт убытки, а значит тот объём «персональных» данных может стать предметом торга на каком-нибудь чёрном рынке.

В-третьих, если администрация не начнёт сопротивляться государственному контролю, то это может стать относительно либеральным аналогом Вконтакте. Но, если государство получит доступ к таким данным, где гарантия того, что даже самая стабильная демократия останется ею при таких возможностях. Моя фантазия рисует уже какое-нибудь произведение 2084, где пролы-айтишники (других профессий нет) с рождения получают учётную карточку в соцсети всесоюзной Океании, а чтоб зайти в неё используют идентификационные номера и паспорт (а лучше по образцу ДНК для надёжности), дабы поставить лайк своему вождю.

Ну и никто не отменял возможность повторить путь Чудовища Франкенштейна — уйти на север, чтобы покончить с собой. Соцсеть может взять, и перестать существовать в один день.

Основоположных проблем же у Facebook, как и у других соцсетей, две — немного, но они труднорешаемые:

1. фейковые страницы, разгоняющие враньё или манипулирующие правдой;
2. фейковая информация.

И вот когда удастся создать иммунитет для Facebook от всего фейкового, тогда он перестанет быть инструментом гибридного политического противостояния.

В любом случае, знал ли Цукерберг, что создаёт монстрика? Не знаю, но допускаю, что он сейчас осознаёт, что перед соцсетью стоит выбор между плохим и ещё хуже: либо побороть те две проблемы и понести убытки (ввести систему идентификации пользователей, запретить создавать много страниц на одного человека, подтверждать комментарии, лайки/репосты какими-нибудь антиботскими капчами, оставить только ленту «новейшее», а не популярное, сделать отдельную ленту для страниц СМИ), либо понести ещё большие убытки в связи с государственным контролем и/или от наплыва фейков.

Причём именно фейковая информация — это и есть первопричина, так как с каждым днём поток информации увеличивается, мы не в состоянии самостоятельно отслеживать, где правда, а где ложь. И для её разгона не всегда нужны боты. Я люблю такой пример, у нас уже несколько лет подряд по сети «профессионалы» выдают новость «в Украине отменено зимнее/летнее время», люди делятся ею, обсуждают, и только когда видят соответствующее постановление понимают, что это всего лишь фраза такая и никто ничего не отменял. А надеяться на тотальную грамотность пользователя, что он не будет добавлять себе сисястых друзей-ботов, фильтровать самостоятельно фейки, формировать правильную ленту – это утопия. Это та ситуация, когда соцсеть должна делать шаги первой.

Фейки становятся основой пропаганды в гибридной войне. Ну, вы же помните, что в книге Бисмарка «Франкенштейн» главный герой говорит: «Ставьте моему чудовищу лайки, подписывайтесь на его канал в YouTube, и находите его в Instagram».