работа в ИТ

$2,2 млн, 100 человек, более 6 млн подписчиков и охват до 70 млн в неделю: журнал РБК выяснил, как «фабрика троллей» из Санкт-Петербурга пыталась влиять на исход выборов президента США

22 октября 2016 года, город Шарлотт, штат Северная Каролина. В солнечную субботу в центральный парк вышли несколько десятков человек. Но не на прогулку, а на митинг афроамериканского населения против «полицейского насилия». Протестующие скандируют лозунги у фонтана в парке, потом мирно шествуют до входа в местный департамент полиции: на крыльце отделения они несколько раз выкрикивают Black Lives Matter — популярный лозунг и название организации, выступающей за права чернокожего населения США.

Мероприятие в Шарлотте раскручивалось в Facebook от имени сообщества BlackMattersUS, которое не имеет ничего общего с Black Lives Matters. Связи организации уходят далеко за пределы США — Россия, Санкт-Петербург, ул. Савушкина, 55.

Улица Савушкина, 55 Фото: сервис «Яндекс.Карты»

Этот адрес в Приморском районе города давно стал именем нарицательным. Около трех лет назад в четырехэтажное здание на ул. Савушкина переехали несколько сотен человек, основная задача которых — пропаганда патриотических ценностей. Работа сотрудников «фабрики троллей» (далее — «фабрика»), предположительно созданной и спонсируемой петербургским бизнесменом Евгением Пригожиным, сводилась к написанию нон-стоп-комментариев под вымышленными именами в блогах и соцсетях в Рунете — в защиту действующей власти, с критикой оппозиционеров и в поддержку политически угодных общественных событий.

Вскоре «фабрика» начала перерастать свои изначально примитивные методы работы. Примерно в то время появились первые порталы, которые впоследствии стали ядром медийной части организации — так называемая «фабрика медиа», целый патриотический холдинг, о котором журнал РБК писал в марте 2017-го и аудитория которого сейчас превышает 50 млн человек в месяц. После публикации про «фабрику медиа» главное СМИ холдинга — Федеральное агентство новостей (ФАН) — зарегистрировало портал Fabricmedia.ru, следует из данных сервиса WhoIs.

К середине 2015-го «фабрика» разрослась до 800–900 человек, расширился и арсенал инструментов — в ход пошли видео, инфографика, мемы, репортажи, новости, интервью, аналитические материалы и собственные сообщества.

А уже в январе 2017-го вместе с телеканалом RT Агентство интернет-исследований, одно из первых предположительных юрлиц «фабрики троллей» (прекратило свою деятельность в 2015-м; в конце 2016-го исключено из реестра), упоминалось в докладе американских спецслужб о вмешательстве России в выборы президента США. А вскоре после избрания Дональда Трампа было создано несколько комиссий в конгрессе и сенате, которые ведут расследования этого инцидента.

Американские корпорации — Facebook, Twitter, Google — сотрудничают с властями, разыскивая следы «троллей» на своих площадках. Западные СМИ — The Wall Street Journal, The New York Times, CNN, The Daily Beast и др. — почти ежедневно публикуют новые факты о возможном российском вмешательстве в президентскую кампанию: находят новые сообщества, работавшие до и после выборов, связанные с ними объявления и мероприятия. В основу статей ложатся даже отдельные иллюстрации и видео, связанные с заблокированными сообществами.

Журнал РБК провел свое расследование: нам удалось найти и подтвердить причастность сотрудников с улицы Савушкина минимум к 120 сообществам и тематическим аккаунтам, проанализировать их содержание и посчитать совокупные расходы на кампанию. Соизмерим ли масштаб работы «фабрики троллей» за рубежом с вызванным в США ажиотажем вокруг этой истории?

Навстречу США

Весна 2015 года, перед монитором собрались несколько человек. На экране компьютера довольно монотонная картина: люди подходят на площадь в Нью-Йорке, озираются, смотрят в телефоны, снова осматривают окружающее пространство и через некоторое время уходят.

Несколько дней до этого с таргетингом на жителей Нью-Йорка в Facebook раскручивалось мероприятие, суть которого сводилась к получению бесплатного хот-дога — нужно только прийти в назначенное время в обозначенное место. Никаких бутербродов приходившие не получали. Зато другие люди получали удовольствие: с помощью городских уличных веб-камер за событиями на площади в режиме онлайн наблюдали из Санкт-Петербурга, из кабинета на втором этаже «логова троллей».

Акция должна была проверить работоспособность гипотезы — можно ли удаленно организовать мероприятие в городах США. «Просто тестирование возможностей, эксперимент. И он удался», — не скрывая радости, вспоминает один из сотрудников «фабрики». С этого дня, то есть почти за полтора года до выборов президента США, началась полноценная работа «троллей» в американском сообществе.

В марте 2015-го на портале SuperJob появилась вакансия «интернет-оператор (ночь)». На оклад 40–50 тыс. руб. с графиком работы 2/2 (с 21:00 до 09:00) в офис в Приморском районе искали сотрудника, в чьи должностные обязанности входит написание материалов «по заданной тематике», «новостных информационных и аналитических». В списке требований к соискателю — «свободный английский», в том числе «уверенное владение» письменным языком, и креативность.

Вакансия была опубликована от петербургской компании «Интернет Исследования» (в конце 2015-го присоединилась к фирме «Тека»): владельцем компании тогда числился экс-начальник УМВД Московского района Санкт-Петербурга Михаил Быстров — он же руководил Агентством интернет-исследований и до сих пор возглавляет «Главсеть», зарегистрированную на ул. Савушкина, 55 (данные «СПАРК-Интерфакса»). В вакансии на SuperJob работодатель — «Интернет Исследования» — описывался как «крупная и стабильная компания» с численностью до 50 сотрудников.

Через такие объявления в штат на Савушкина набирали людей, которые возьмут на себя работу с американскими сообществами в режиме реального времени, рассказал журналу РБК экс-сотрудник «фабрики».

Другой бывший работник добавляет, что как раз с начала весны 2015-го стали «выдавать задания по дискредитации образа кандидатов», которые пойдут на президентские выборы в США.

Однако работать в открытых «фабрикой» сообществах вскоре стало невозможно: 2 июня 2015-го в New York Times Magazine вышел материал The Agency («Агентство») Адриана Чена, и уже на следующий день после публикации Facebook заблокировал все группы «фабрики» на английском языке, аккаунты вымышленных администраторов и даже частично личные страницы сотрудников с Савушкина, вспоминает собеседник журнала РБК в организации. Но «троллям» было не впервой: они пошли на новый круг — в итоге основная часть сообществ, которые были закрыты соцсетью в августе 2017-го, созданы уже после публикации расследования Чена.

Адриан Чен (слева) и Алексей Максимов (справа). Фото kompromat1.info

Когда Facebook блокирует аккаунты «троллей», ИТ-департамент организации закупает прокси-сервера, выдает новые IP-адреса, виртуальные «операционки», и работа начинается заново, рассказывает экс-сотрудник «фабрики». Также приобретаются новые сим-карты или облачные номера, открываются новые платежные счета, а иногда и пакеты документов для регистрации аккаунтов, добавляет собеседник журнала РБК на «фабрике». На IT-обеспечение тратится до 200 тыс. руб. в месяц, уточняет источник, знакомый с деятельностью организации.

Гораздо более масштабная статья расходов — зарплаты. За год, к лету 2016-го, число сотрудников «американского департамента» на Савушкина выросло почти втрое, до 80–90 человек. Это примерно одна десятая общего штата людей, связанных с «фабрикой».

Удаленный десант

«Они всегда сами знают, что делать. Остается только заслушивать отчеты о результатах и говорить, что надо лучше работать», — так отвечает источник журнала РБК в окружении Пригожина на вопрос о том, как выглядит структура управления «фабрикой». Внутри организации используется классическая схема: единый руководитель и кураторы направлений. Ответственные за разные «отделы» в работу соседних подразделений не вмешиваются, иногда они и вовсе не знакомы друг с другом и не знают, кто чем занимается, рассказывает собеседник, знакомый с деятельностью организации.

Фактическим руководителем всей «фабрики» считается, как писал журнал РБК, 31-летний Михаил Бурчик, ранее — владелец собственных ИТ-компаний VkAp.ru и GaGaDo, издатель газет для муниципальных округов. Сам Бурчик никогда официально не подтверждал, что управляет «фабрикой» или работает в офисе на Савушкина, но в разговоре с журналом РБК говорил, что консультирует СМИ «как специалист по продвижению и развитию интернет-проектов». Бурчик лично общается примерно с 20–30 людьми, которые в свою очередь руководят штатом от 10 до 100 человек в зависимости от направления, описывает модель работы источник с «фабрики».

Главой «американского отдела» собеседники журнала РБК единогласно называют 27-летнего уроженца Азербайджана Джейхуна Асланова. Сам он опроверг в разговоре с корреспондентом РБК эту информацию. Но помимо слов трех источников журнала — нынешнего сотрудника «фабрики», экс-работника «американского департамента» и источника, знакомого с деятельностью организации, — в распоряжении журнала РБК есть сообщение из Telegram-чата, созданное Аслановым и посвященное промежуточным итогам работы «фабрики» в США.

В Санкт-Петербург Асланов приехал в конце 2000-х годов из города Усть-Кут Иркутской области — учиться на экономиста в Гидрометеорологическом университете. В 2009-м он провел несколько месяцев в США, посетив Нью-Йорк и Бостон, в 2011-м ездил в Лондон, следует из открытой информации на странице Асланова во «ВКонтакте». Сейчас вероятному руководителю иностранного отдела «фабрики» принадлежат две фирмы, специализация — рекламная деятельность и работа в интернете. Одна из них, «Азимут», создана в июне 2016-го, то есть за три месяца до выборов в США, и за полгода показала выручку 29 млн руб. (данные «СПАРК-Интерфакса»). На «фабрике» практикуется регистрация юрлиц на собственных сотрудников: так, несколько новостных порталов «фабрики медиа» были записаны на журналистов изданий (например, «Народные новости» и «Экономика сегодня»).

«Азимут» оказывает услуги по раскрутке аккаунтов в соцсетях, рассказал сам Асланов, который даже предложил корреспонденту журнала РБК помощь в продвижении его личных страниц. У самого Асланова помимо профиля во «ВКонтакте» был аккаунт и в Facebook, но сейчас он заблокирован. В американской корпорации не ответили на вопрос журнала РБК, был ли этот аккаунт закрыт в рамках кампании по вычищению следов вмешательства «троллей». Асланов не стал обсуждать блокировку своей страницы.

Значительная часть контента в англоязычных сообществах публиковалась через отложенный постинг в том же Facebook. Примерно 10 человек из общего штата «иностранного отдела» работали в ночную смену, остальные — по обычному графику (пять рабочих дней, два выходных). Зарплатный фонд «американского департамента» на Савушкина достигает 60–70 млн руб., или около $1 млн в год: «тролли» низшего звена получают около 55 тыс. руб. (плюс премии за реакцию участников в сообществах), администраторы — 80–90 тыс. руб., руководство — от 120 тыс. руб., приводят цифры бывший и нынешний сотрудники «фабрики».

Все работники оформлены официально в одно из юрлиц организации — всего их около десяти. Выручка компании «Главсеть», зарегистрированной на Савушкина, 55, в 2016 году составила 86,4 млн руб. — при себестоимости проданных «товаров, продукции, работ, услуг» в 83,1 млн руб. (почти $1,4 млн; данные «СПАРК-Интерфакса»).

Работа внутри «американского отдела» строилась «от креатива», или так называемыми кустами, рассказывает собеседник с «фабрики». В первом случае из общей массы выделились люди, которым лучше удается придумывать и создавать свой контент — например, картинки и мемы для калифорнийского сервиса обмена фото Imgur (аудитория — более 30 млн). А под «кустами» подразумеваются тематические сообщества, которые стали популярными сразу на нескольких платформах — например, то же BlackMattersUS. На одну группу в Facebook приходилось до пяти администраторских аккаунтов — например, Stop A.I. вели Bertha Malone и David Waddell.

В распоряжении журнала РБК есть список почти 120 сообществ и тематических аккаунтов Facebook, Instagram, Twitter, которые работали до августа 2017-го. Подлинность подтверждается скриншотами с постами групп и отдельных аккаунтов, сделанными из внутренней панели администраторов (тоже заблокированы). Причастность «троллей» к имеющемуся списку подтвердил также источник журнала РБК, близкий к руководству «фабрики». Кроме того, больше половины аккаунтов в Twitter зарегистрированы на номера с префиксом +7, следует из данных сервиса восстановления пароля.

Журнал РБК также попросил лингвистов проанализировать 7 публикаций из сообществ, указанных в списке. Авторы постов во многих случаях были русскими — «достаточно доказательств» этого нашли адъюнкт-профессор Колумбийского университета Рональд Мейер и его коллега, директор программы по изучению русского языка Алла Смыслова. Они указали на прямые кальки с русского (например, sitting on welfare — «сидеть на пособии») и огрехи в пунктуации вроде запятых перед союзом that («что»), на отсутствие артиклей и в целом «странные» формулировки.

При этом исполнительный директор школы иностранных языков Star Talk Екатерина Чегнова и преподаватель английского Дмитрий Булкин отметили, что публикации написаны «на довольно чистом английском», поэтому можно сделать вывод, что авторы — носители языка. Отчасти это может быть связано с тем, что тексты для своих постов «тролли» периодически заимствовали у настоящих американцев.

Менее чем 100 человек создавали и постили более 1 тыс. единиц контента в неделю. Охват, например, в сентябрьские недели 2016-го составлял в среднем 20–30 млн. Как «троллям» удалось заинтересовать пользователей «фабричным» контентом?

Пикет в городе Шарлотт, штат Северная Каролина. 22 октября 2016 года Фото: blackmattersus.com

Буквы на экспорт

28 февраля 2017-го старший советник президента США Келлиэнн Конуэй на официальном приеме в Овальном кабинете Белого дома присела на диван, поджав ноги. Ее фотография на фоне президента Трампа, позирующего в этот момент перед камерами вместе с руководителями исторически черных вузов (HBCU; созданных специально для обучения афроамериканского населения), вызвала бурю негодования в соцсетях. Конуэй обвиняли в неуважении к Овальному кабинету, народу США и его президенту, писал BBC.

В тот же день блогер Дженна Абрамс опубликовала два твита — свой ответ на критику поведения Конуэй. На одном было фото экс-президента Барака Обамы, на котором он запечатлен с закинутыми на стол ногами, на втором — другой бывший глава США Билл Клинтон в обнимку с Моникой Левински. Оба снимка были сделаны в Овальном кабинете. Эти две публикации Абрамс собрали около 1 тыс. ретвитов и почти 1,3 млн лайков, пост в своей статье использовал британский Independent. Сообщения Абрамс журнал РБК нашел на сайтах Aljazeera, Elle, Business Insider, BBC, USA Today, Yahoo и др. Сейчас аккаунт @Jenn_Abrams (зарегистрирован на номер с префиксом +7) и сайт Jennabrams.com заблокированы.

Аккаунтов, подобных «Дженне Абрамс», у «фабрики» были десятки. Около десяти сотрудников «американского отдела» занимались соцсетью Twitter: их задачей была не предвыборная гонка как таковая, а создание аккаунтов и проведение флешмобов, которые будут подхватывать крупные СМИ и ключевые медиаперсоны, рассказывает сотрудник «фабрики».

В качестве примера результативных проектов он приводит акцию #2016ElectionIn3Words, якобы стартовавшую 7 ноября, накануне выборов: хештег предлагал пользователям Twitter в трех словах описать, чем запомнились предвыборные кампании кандидатов, рассказать об ожиданиях. Собеседник журнала РБК уверяет, что хештег попал в мировые тренды, а 8 ноября шоу @midnight (шло на американском кабельном канале Comedy Central до августа 2017-го) использовало аналогичный хештег в эфире — к игре подключились и телезрители. Найти в Twitter посты с #2016ElectionIn3Words от 7 ноября журнал РБК не смог.

Флешмобы проводились силами нескольких аккаунтов — к примеру, @WorldOfHashtags, @GiselleEvns, @ChrixMorgan, @LoraGreeen и др. (все сейчас заблокированы), писал в своем Twitter аноним Mort d’Trolls. О наличии ряда «центровых» аккаунтов, использовавшихся для посева и раскрутки, рассказывал журналу РБК и сотрудник «фабрики».

Но основная часть работников «иностранного департамента» из Петербурга занималась не игровыми хештегами и флешмобами, а вполне серьезными темами. По словам источника, близкого к руководителям «фабрики», почти весь американский контент «фабрики» был не столько за конкретного кандидата, сколько на «остросоциальные темы»: якобы случайным образом они уложились в риторику Трампа — собеседник называет это «корреляцией», а не прямой поддержкой. «Не было задачи «поддерживать Трампа». Все текущие проблемы были напрямую связаны с действиями правящей в тот момент партии [демократы]. Хиллари [Клинтон] — ее представитель, а значит, тоже виновата», — говорит другой. Анализ сотен публикаций, проведенный журналом РБК, показал, что Клинтон фигурировала в постах «троллей» гораздо чаще Трампа.

«Поделитесь, если вы верите, что мусульмане ничего не делали на 9/11. Посмотрите, сколько людей знают правду» (United Muslims of America, 11 сентября 2016-го), «Клинтон настаивает: «Мы не потеряли ни одного американца в Ливии». Четыре гроба, накрытые флагами, не были пустыми, Хиллари» (Being Patriotic, пост об отношении Клинтон к национальной трагедии от 8 сентября 2016-го). В одном из заявлений Facebook указывал, что большая часть заблокированных объявлений «проходит по всему идеологическому спектру», затрагивая темы ЛГБТ, расовые вопросы, вопросы иммигрантов и отношения к оружию.

Совокупное число подписчиков примерно 120 заблокированных сообществ и аккаунтов — почти 6 млн человек, из которых более половины приходилось на Facebook, около трети — на Instagram, посчитал журнал РБК. Мы разбили заблокированные группы по тематикам и выяснили: чаще всего «тролли» поднимали конфликты разных национальностей, преимущественно связанные с проблемами чернокожих, и политические. Именно на раскрутку этих тем уходил и рекламный бюджет в соцсетях.

Известная дорога.

Вопросы, связанные с шифрованием, уже давно беспокоят западных законодателей. Некоторые страны – среди них, например, Австралия – обязали разработчиков приложений предоставлять дешифрованные данные пользователей по запросу правоохранителей (по сути, запретив e2e). Два года назад похожий законопроект начали обсуждать в Великобритании, и теперь его рассматривают на уровне парламента.

Против предложения политиков уже выступили крупнейшие мессенджеры. Представители компаний рассказали, что не будут менять систему защиты или внедрять бэкдоры и примут последствия блокировки на территории страны. При этом часть разработчиков просто закроет доступ к своим сервисам для английских пользователей, чтобы не нарушать закон.

Но несмотря на критику со стороны правозащитных организаций, телекомов и ИТ-компаний, которой регулярно подвергаются подобные инициативы, в Евросоюзе тоже решили пойти по этому пути. В мае прошлого года Еврокомиссия предложилаобязать крупнейшие сервисы искать запрещённый контент, сканируя устройства пользователей – электронные письма, загружаемые в интернет файлы и даже сообщения в чатах компьютерных игр.

Перед отправкой сообщения или файла его хеш предлагают сличать со специальной БД запрещённого контента. Какой-либо специфики по этому вопросу пока нет, но учитывая объемы данных, можно предположить, что для этих целей придется использовать машинное обучение и системы ИИ.

Серьезная критика.

Идею практически сразу раскритиковали в Совете ЕС и Европейском надзорном органе по защите данных. Там посчитали, что предлагаемые меры несут угрозу неприкосновенности частной жизни и несоразмерны потенциальным угрозам. В марте 2023 года против инициативы также выступил парламент Германии. Политики заявили, что не поддержат вторжение в частную жизнь граждан.

Одна из главных проблем предложенного закона – чрезвычайно размытые формулировки критериев запрещенного контента и методов его поиска. Они могут создать возможности для злоупотреблений, повысят риск взлома ИТ-сервисов и пользовательских устройств хакерами.

В то же время системы автоматизированного поиска на базе искусственного интеллекта могут ошибаться. Эксперты оценивают погрешность на уровне 10-20%. Чтобы избежать случайных срабатываний, контент придётся проверять вручную. Такой подход, опять же, ставит под угрозу приватность.

У экспертов также есть вопросы к эффективности подхода. Если ПО будет находить нарушителей закона по хэшам, злоумышленники со временем научатся обходить алгоритмы (например, с помощью специальных хеш-фильтров). Но усиление защиты может привести к увеличению числа ложных срабатываний.

Наконец, сторонники нового законопроекта заявляют, что шифрование покрывает лишь небольшую часть взаимодействий в интернете. И алгоритмы уже сейчас анализируют открытые данные на предмет нарушений. Однако они забывают, что результате закручивания гаек условные разработчики мессенджеров просто перестанут работать на территории ЕС официально, как это обещают сделать крупные мессенджеры в Великобритании.

Дальнейший маршрут.

Некоторые эксперты считают использование ИИ-инструментов развитием существующих тенденций в модерации. Сервисам уже сейчас приходится искать компромиссы между конфиденциальностью пользователей и соблюдением законов, и вряд ли это изменится в ближайшем будущем.

Впрочем, новый законопроект ещё могут доработать или вообще отменить. Но пока все выглядит так, что политики не планируют отказываться от идеи. Есть шанс, что новая норма будет принята, а технические детали доработают позже. Так уже произошло в Австралии в 2018 году с запретом на end-to-end шифрование. Там местные сервисы работают совместно с правительством, чтобы оставаться в правовом поле.

Источник:  "Хабр", "VAS Experts".