ФБР съобщи за унищожаването на руска ферма за ботове в Twitter. То беше координирано от служители на ФСБ
Вътрешният човек
11 юли 2024 г. 11:01
Министерството на правосъдието на САЩ обяви операция, по време на която американските правоприлагащи органи разкриха ферма за ботове, разпространяващи дезинформация. По време на атаката бяха конфискувани две имена на домейни и 968 акаунта в Twitter. Акаунтите са използвани за разпространение на пропагандни фалшификати, по думите на Министерството на правосъдието на САЩ, „съответстващи на целите на руското правителство“ в САЩ, Полша, Германия, Холандия, Испания, Украйна и Израел. За създаването им са използвани инструменти за „изкуствен интелект“: текстът на публикациите и прикачените изображения са генерирани с помощта на невронни мрежи. Зад схемата стоят неназовани служители на Russia Today и ФСБ. ФБР успя да установи самоличността им благодарение на факта, че организаторите и координаторите на фермата за ботове не се притесняваха от анонимността и разкриха истинските им телефонни номера, IP адреси и имейл адреси.
Снимка: Мартен Бьорк / Unsplash
Почетни мелиоратори на Русия днес
По време на разследването ФБР стигна до заключението, че ръководителят на отдела за цифрови медии на телевизионния канал Russia Today (името му не беше споменато в показанията, които агентът на ФБР даде в съда) предложи да се организира ферма за ботове в началото на 2022 г. , който се смяташе за нов канал за разпространение на RT информация. Това решение вероятно се дължи на блокирането на ресурсите на RT в Европейския съюз и Съединените щати през февруари-март същата година след началото на пълномащабното нахлуване на Русия в Украйна. Споменатият топ мениджър на RT се съгласи да ръководи разработването на софтуер за създаване на бот ферма и запълване на нейните акаунти със съдържание. Разработването на програмата за него беше извършено директно в отдела за цифрови медии на RT. Програмата беше наречена „Рекултивация“.
С помощта на "Reclamation" неговите оператори ("бригадири" в терминологията на програмата) биха могли:
създават огромен брой фалшиви акаунти в социалните мрежи и тези акаунти изглеждат като автентични потребители;
публикувате съдържание, което е неразличимо от съдържанието на реалните потребители;
разпространявате фалшификати, публикувани преди това от други ботове;
увеличаване на обхвата на съществуващите фалшификати с цел увеличаване на вредното им въздействие;
автоматично създава съобщения въз основа на темата и фалшивия бот „персона“.
Ботовете в програмата бяха наречени „души“, а идеите, които разпространяваха, бяха наречени „мисли“. ФБР предоставя фрагменти от кода, използван за автоматизиране на фермата за ботове. По-конкретно, показва как точно се влиза в социалната мрежа и се публикуват публикации от името на „мъртви души“.
Схема на действие на програма "Мелиоратор".
Схема на действие на програма "Мелиоратор".
Илюстрация: Съвместна работна група за киберсигурност
Публикации, потребителски снимки и илюстрации в профили на ботове бяха генерирани с помощта на библиотеката Faker. Обикновено тази библиотека се използва, когато разработчиците на приложения или уебсайтове трябва да генерират изкуствени данни за тестване на софтуер.
ФБР посочва, че въпреки че Reclamation изглежда е бил използван само за разпространение на фалшиви новини в Twitter, той теоретично е имал потенциала да разпространява дезинформация в други социални мрежи.
Домейнът mlrtr.com е закупен за работата на „Мелиоратор”. По-специално, върху него беше поставен контролен панел за „бригадири“. Лицето, на което е регистриран домейнът, се представи за жител на Литва Милан Блохин, но това име най-вероятно е измислено. Той се опита по всякакъв начин да скрие факта, че е в Русия, но агент на ФБР успя да го проследи. Факт е, че при закупуване на име на домейн той посочи прясно създаден имейл в платформата Gmail. Когато създава имейл и купува име на домейн, той използва литовски VPN, но влиза в имейла си без VPN от своя московски телеком оператор.
Google предава информация за това на агент на ФБР, а също така съобщава, че при регистрация лицето е въвело името си на кирилица. За да възстанови акаунтите, предполагаемият служител на RT посочи своя имейл адрес в Yandex и руски телефонен номер, а като информация за плащане акаунт в услугата Qiwi, регистрирана в Русия. Този телефонен номер и имейлът на Yandex позволиха на ФБР да определи по-точно самоличността на това лице, тъй като те съществуват и се използват дълго време. ФБР не разкрива името на мъжа, докато разследването продължава.
Верига от имейл адреси, зад които се криеше разработчикът на ферма за ботове, разположена в Москва.
Верига от имейл адреси, зад които се криеше разработчикът на ферма за ботове, разположена в Москва.
Източник: ФБР, Министерство на правосъдието на САЩ
ФСБ се намесваhet
Според ФБР в началото на 2023 г. офицер от ФСБ, с одобрението на администрацията на руския президент, е създал „частна разследваща организация“ и е получил финансиране от нея. Той включваше ръководителя на отдела за цифрови медии на телевизионния канал Russia Today, други служители на неговия отдел и други служители на ФСБ. Компанията, създадена от офицера от ФСБ, започна да „предоставя разследващи услуги“ на телевизионния канал Russia Today, но това беше само прикритие за съвместната им работа във ферма за ботове. Според американските разузнавателни служби по време на това сътрудничество създателите на фермата за ботове са получили инструкции от ФСБ какви кампании за дезинформация да провеждат. Тяхната цел е била „да посеят раздор в Съединените щати“, каза агентът на ФБР.
По-специално, американските правоприлагащи органи смятат, че след сигнал от ФСБ ботове са започнали да публикуват видеоклипове, които оправдават руската инвазия в Украйна, цитират Владимир Путин и критикуват американската политика спрямо Украйна и Израел. В същото време те, като правило, се преструваха, че са жители на Съединените щати.
......
През май OpenAI (разработчикът на най-популярните невронни мрежи за генериране на текстово съдържание) обяви „прекъсването на тайни операции за влияние“, зад които стоят Русия и редица други страни. Потребителите на Twitter многократно са забелязвали, че ботовете на Кремъл използват ChatGPT, продукт на OpenAI, за генериране на съдържание. Това става известно, когато в акаунтите им свършат платените заявки и вместо фраза от уж реално лице, акаунтът публикува автоматично съобщение за необходимостта от зареждане на сметката. Организацията NewsGuard, специализирана в борбата с дезинформацията, обаче установи, че руските ботове използват всички популярни услуги за генериране на текстове и изображения. По-специално, това са Grok (разработен от Elon Musk), Copilot (Microsoft), Meta AI, Gemini и други.
"Информационна война - можете да се забавлявате"
Публикуваните от ФБР резултати от разследването потвърждават техническата връзка между Russia Today и фермата за ботове в Twitter. Въпреки това, главният редактор на RT Маргарита Симонян не скри факта, че служителите на нейния телевизионен канал създават ботове. Очевидно това беше схемата, разкрита от ФБР, която тя описа в предаването „Живот и съдба“ на канала „Россия“ през февруари 2024 г.:
„Ние създаваме голям брой източници на информация, които не са свързани с нас. И докато ЦРУ открива, че са свързани с нас, те [тези източници] вече имат огромна аудитория. Понякога се вкопават и се срутват. Понякога се събуждате сутрин и 600 канала веднага се затварят. Но докато ги затворят, ние вече направихме нови. Ето как тичаме един около друг през цялото това време - дори е забавно. Войната не е забавна, но информационната война може да бъде забавна.
В същото интервю пропагандистът спомена, че американските разузнавателни служби през 2017 г. са стигнали до заключението, че тя и телевизионният канал RT са замесени в руска намеса в изборите в САЩ и че оттогава тя „само си почива у дома, не ходи никъде в спешен случай."
ФБР объявило об уничтожении российской ботофермы в Twitter. Ее координировали офицеры ФСБ
11 июля 2024 11:01
Минюст США сообщил об операции, в ходе которой правоохранительные органы США раскрыли ботоферму, распространяющую дезинформацию. В ходе нее были изъяты два доменных имени и 968 аккаунтов в Twitter. Аккаунты использовались для распространения пропагандистских фейков, по формулировке американского Минюста, «соответствующих целям российского правительства», в США, Польше, Германии, Нидерландах, Испании, Украине и Израиле. Для их создания использовались инструменты «искусственного интеллекта»: текст постов и приложенные изображения генерировались с помощью нейросетей. За схемой стояли неназванные сотрудники Russia Today и ФСБ. ФБР удалось установить их личности благодаря тому, что организаторы и координаторы ботофермы не озаботились анонимностью и выдали свои настоящие номера телефонов, IP-адреса и адреса электронной почты.
Фото: Marten Bjork / Unsplash
Заслуженные мелиораторы «России сегодня»
В ФБР в ходе расследования пришли к выводу, что руководитель департамента цифровых медиа телеканала Russia Today (его имя не называется в показаниях, которые агент ФБР дал в суде) предложил в начале 2022 года организовать ботоферму, которая рассматривалась как новый канал распространения информации RT. Вероятно, это решение было связано с блокировками ресурсов RT в Европейском союзе и США в феврале–марте того года после начала полномасштабного вторжения России в Украину. Указанный топ-менеджер RT вызвалсяруководить разработкой программного обеспечения для создания ботофермы и наполнения ее аккаунтов контентом. Разработка программы для нее велась непосредственно в департаменте цифровых медиа RT. Программа получила название «Мелиоратор».
С помощью «Мелиоратора» его операторы («бригадиры» в терминологии программы) могли:
- создавать огромное количество фейковых аккаунтов в социальных сетях, причем эти аккаунты выглядели как аутентичные пользователи;
- публиковать контент, неотличимый от контента настоящих пользователей;
- распространять фейки, которые были ранее опубликованы другими ботами;
- увеличивать охват уже существующих фейков, чтобы усиливать их вредоносное влияние;
- автоматически создавать сообщения, основываясь на теме и фейковой «персоне» бота.
Ботов внутри программы назвали «душами», а идеи, которые они распространяли, — «мыслями». ФБР приводит фрагменты кода, который использовался для автоматизации ботофермы. В нем, в частности, показано, как именно осуществлялся вход в социальную сеть и публиковались посты от имени «мертвых душ».
Посты, юзерпики и иллюстрации в профилях ботов были сгенерированы с помощью библиотеки Faker. Обычно эта библиотека используется, когда разработчикам приложений или сайтов нужно сгенерировать искусственные данные для тестирования программного обеспечения.
ФБР указывает, что, хотя «Мелиоратор» применялся, по всей видимости, только для распространения фейков в Twitter, теоретически у него были возможности и для распространения дезинформации в других социальных сетях.
Для работы «Мелиоратора» был приобретен домен mlrtr.com. На нем, в частности, разместили панель управления для «бригадиров». Человек, на которого был зарегистрирован домен, представился жителем Литвы Миланом Блохиным, однако это имя, скорее всего, выдуманное. Он пытался всячески скрыть, что находится в России, но агенту ФБР удалось его вычислить. Дело в том, что, покупая доменное имя, он указал свежесозданную почту на платформе Gmail. Создавая почту и покупая доменное имя, он пользовался литовским VPN, однако логинился в свою почту и без VPN, со своего московского оператора связи.
Корпорация Google передала информацию об этом агенту ФБР, а также сообщила, что при регистрации человек вводил свое имя кириллицей. Для восстановления аккаунтов предполагаемый сотрудник RT указал почту на сервисе Yandex и российский номер телефона, а в качестве платежной информации — аккаунт в сервисе Qiwi, зарегистрированный в России. Этот номер телефона и почта на Yandex позволили ФБР более точно установить личность этого человека, так как они существовали и использовались давно. Имя человека ФБР не раскрывает, так как следствие продолжается.
В дело вступает ФСБ
Согласно информации ФБР, в начале 2023 года сотрудник ФСБ с одобрения Администрации президента России создал «частную расследовательскую организацию» и получил от нее финансирование. В ней работали руководитель департамента цифровых медиа телеканала Russia Today, другие сотрудники его департамента и иные сотрудники ФСБ. Созданная офицером ФСБ компания стала «оказывать расследовательские услуги» телеканалу Russia Today, однако это было лишь прикрытием для их совместной работы над ботофермой. По мнению американских спецслужб, в ходе этого сотрудничества создатели ботофермы получали от ФСБ указания о том, какие именно кампании по дезинформации проводить. Их целью было «посеять раздор в США», считает агент ФБР.
В частности, американские правоохранительные органы полагают, что по наводке из ФСБ боты стали публиковать видео, которые оправдывали российское вторжение в Украину, цитировали Владимира Путина и критиковали американскую политику в отношении Украины и Израиля. При этом они, как правило, притворялись жителями США.
ФБР установило, что в операции по распространению фейков были задействованы как минимум 968 Twitter-аккаунтов, зарегистрированных с июня 2022 года по март 2024-го. Установить эти аккаунты оказалось несложно: агент ФБР направил в управляющую Twitter компанию X Corp запрос об адресах регистрации нескольких аккаунтов, распространявших фейки в соцсети, и оказалось, что все они зарегистрированы на почтовые адреса на одном и том же домене — mlrtr.com. На тот момент агент уже знал, что домен был зарегистрирован из Москвы сотрудником Russia Today.
В итоге ФБР выписало ордер на предоставление данных о других аккаунтах, зарегистрированных на почтовые адреса на том же домене, а также на домене otanmail.com, который был куплен тем же человеком, якобы находящимся в Литве (а на самом деле — в Москве). Американское ведомство опубликовало все почтовые адреса, которые были связаны с сетью ботов, даты их регистрации, а также постановило, что X Corp обязана заморозить эти аккаунты и предоставить ФБР сведения об их владельцах.
Илон Маск против ботов
Все Twitter-аккаунты, в отношении которых ведется расследование, были зарегистрированы на однотипные адреса. Несмотря на это, в соцсети, по всей видимости, не считали, что аккаунтами оперирует ботоферма. Американский бизнесмен Илон Маск, купивший Twitter в апреле 2022 года, назвал борьбу с ботами своей главной целью. Однако, по данным исследователей, за полтора года фейковых аккаунтов на платформе стало только больше. Опрошенные The Insider эксперты также сошлись во мнении, что в первый же год управления компанией Илоном Маском ботов и дезинформации в соцсети стало больше, чем за всю историю наблюдений.
В заявлении Совместной рабочей группы по кибербезопасности, в которую входят ФБР, спецслужбы Канады, Нидерландов и других стран, приводится фрагмент кода «Мелиоратора», позволяющий обходить процедуру верификации пользователей Twitter (он занимает всего несколько строк). Таким образом координаторам ботофермы удавалось регистрировать сотни аккаунтов и управлять ими. Совместная рабочая группа призвала социальные сети противостоять подобным атакам — в частности, прикладывать больше усилий для верификации и модерации пользователей.
В апреле 2024 года X Corp опубликовала очередной отчет о прозрачности. В нем она сообщила, что с октября 2023 года по 31 марта 2024-го платформа удалила 115 и приостановила 26,5 тысячи аккаунтов с «фейковыми идентичностями».
В декабре 2023 года Евросоюз начал проверку X Corp в связи с распространением дезинформации, однако о каких-либо результатах этой проверки до сих пор неизвестно. В мае 2024 года компанию попросили уточнить подробности процедур модерации на платформе.
The Insider уже рассказывал о связанной с Кремлем сети ботов Doppelgänger, использующей Twitter в качестве основной площадки для распространения фейков на разных языках. Аналитики проекта «Блокировщик Ботов / antibot4navalny»подсчитали, что ее охват на начало июня составлял более 1,6 млн пользователей в сутки.
В мае компания OpenAI (разработчик самых популярных нейросетей для генерации текстового контента) сообщила о «срыве тайных операций влияния», за которыми стоят Россия и ряд других стран. Пользователи Twitter неоднократно замечали, что кремлевские боты пользуются ChatGPT, продуктом OpenAI, для генерации контента. Это становится известно, когда на их аккаунтах заканчиваются оплаченные запросы и вместо фразы якобы настоящего человека аккаунт публикует автоматизированное сообщение о необходимости пополнить счет. Впрочем, организация NewsGuard, специализирующаяся на борьбе с дезинформацией, установила, что российские боты пользуются всеми популярными сервисами для генерации текстов и изображений. В частности, это Grok (разработка компании Илона Маска), Copilot (Microsoft), Meta AI, Gemini и другие.
«Информационная война — можно и повеселиться»
Результаты опубликованного ФБР расследования подтверждают техническую связь Russia Today с ботофермой в Twitter. Однако главный редактор RT Маргарита Симоньян и не скрывала, что сотрудники ее телеканала занимаются созданием ботов. По всей видимости, именно вскрытую ФБР схему она описала в передаче «Жизнь и судьба» на канале «Россия» в феврале 2024 года:
«Мы создаем большое количество информационных источников, которые не связаны с нами. И пока ЦРУ докапывается, что они связаны с нами, у них [этих источников] уже огромная аудитория. Иногда докапываются, схлопывают. Бывает, просыпаешься утром — у тебя 600 каналов сразу закрыты. Но пока они их закрывают, мы уже новые сделали. Вот такая у нас беготня продолжается друг за другом все это время — это даже весело. Война — это не весело, а вот информационная война — можно и повеселиться».В этом же интервью пропагандистка упомянула, что американские спецслужбы в 2017 году пришли к выводу об участии ее и телеканала RT в российском вмешательстве в выборы в США и что с тех пор она «отдыхает только дома, никуда не ездит на всякий пожарный».