Руската дезинформация става все по-усъвършенствана благодарение на AI
22 юли 2024 г
Електронна поща
Facebook
Twitter
Дял
Руските кампании за дезинформация стават все по-сложни. С помощта на изкуствен интелект (AI) един човек може да организира кампания за дезинформация, която доскоро би изисквала цяла „армия от тролове“. Това позволи на Русия да проведе кампания за дезинформация на всеки континент миналата година, която подкопа подкрепата за Украйна. Как работят тези нови методи? Кои компании стоят зад това и какво можете да направите по въпроса? Dénis van Vliet го разбра.
27-ми Международен икономически форум в Санкт Петербург. Хората минават покрай голям екран със снимка на Владимир Путин на 27-ия Международен икономически форум в Санкт Петербург, 5 юни 2024 г. Снимка: Анатолий Малцев / ANP / EPA
От Денис ван Влит
В началото на юли тя внезапно стана актуална тема в сайта за съобщения X (бивш Twitter): Олена Зеленска. Съобщава се, че украинската първа дама е купила ексклузивен Bugatti Tourbillon в Париж за 4,5 милиона евро. Беше необходим отказ от Украйна и парижкия дилър на Bugatti, преди бурята да утихне отново.
Типичен случай на руски фалшиви новини? Да, но пак не. Този инцидент, известен още като „Bugatti-gate“, илюстрира все по-сложните методи, които Русия използва за манипулиране на информация и изопачаване на факти, за да подкопае западната подкрепа за Украйна.
Докато подобни съобщения се разпространяваха главно от руски медии или прокремълски акаунти в социалните медии, този път съмнителната лъжичка дойде от привидно неподозиран източник: малко скучен новинарски сайт на френски с .fr адрес. Случайният посетител няма веднага да види ръката на Русия в него. Най-много името изглежда малко конспиративно: Vérité Cachée или „Скритата истина“. Явен е и фактът, че новините до голяма степен са създадени с помощта на изкуствен интелект (AI), който е сравнително нов в света на руските фалшиви новини.
Търсенето на други канали за разпространение е отчасти необходимо, тъй като поради мащабната руска инвазия в Украйна различни руски медии вече нямат право да излъчват в САЩ и Европа. Също така стана по-трудно за проруските „тролове“ да манипулират дискусиите в социалните медии и да разпространяват дезинформация. Западните разузнавателни служби все повече преследват тези цифрови интриганти, които крият хора от плът и кръв.
Следователно тролването не е нещо от миналото: в края на краищата създаването на фалшив акаунт отнема няколко минути, докато проследяването му и след това офлайн отнема на западните правителства месеци. Казано по този начин, ИИ е просто добре дошло допълнение към руския арсенал от медийни оръжия.
DisinfoFOTO1 Украинският център за противодействие на дезинформацията бързо развенча новината за Bugatti, уж закупено от Олена Зеленска. Източник: Център за противодействие на дезинформацията.
2.
Изгряваща звезда
Новата изгряваща звезда в руския небосклон на фалшивите новини е американецът Джон Марк Дугън, който през 2009 г. започна онлайн клеветническа кампания срещу свои бивши колеги след позорно уволнение от полицията във Флорида. Скоро той предприе по-широк подход и основа сайт, където американците могат да докладват за злоупотреба с власт и корупция от полицията като цяло. Той активно преследва възможни извършители на корупция, включително чрез използване на самоделен софтуер за изкривяване на гласа, за да получи информация за тях под фалшив претекст.
DisinfoPHOTO3 edБившият американски агент Джон Марк Дъган. Снимка: Wikimedia
През 2013 г. Дуган внезапно се появи в Москва. Причината за посещението му беше онлайн роман с рускиня, каза той пред новинарския уебсайт The Daily Beast през 2018 г. Но той също се влюби в руската столица: „Чувствах се като кръстоска между Дивия запад и Ню Йорк“.
Онлайн списанието успя да намери нещо от това първо посещение, а именно снимка, показваща Дуган с лидера на Кремъл Павел Бородин. Руснакът управлява недвижимите имоти на руската държава през 90-те години на миналия век при президента Елцин. Въпреки подозренията за корупция - твърди се, че е приемал пари в замяна на изгодни строителни договори - наследникът на Елцин Владимир Путин също запази пълно доверие в Бородин. Новият президент дори го издигна до един от най-важните си дипломати.
Беше ли случайна среща между американски турист и ръководител на Кремъл? Или може би Бородин е поканил Дуган в Москва заради дигиталните му умения? Факт е, че Дуган подаде молба и получи политическо убежище в Русия през 2016 г. Причината за бягството му от САЩ е акция на ФБР в дома му заради съмнителния му начин на подаване на сигнали, при който освен фалшиви телефонни обаждания той не се свени и от хакване на компютри.
„Импресарио за дезинформация“
В новата си родина Дугън се появи, по думите на американския борец с дезинформацията NewsGuard, като „импресарио за руска дезинформация“ с „талант да разпространява онлайн пакости по целия свят“. Последното му постижение е компанията CopyCop, която се фокусира върху създаването и разпространението на фалшиви новини с помощта на AI. Това е технологията зад, наред с други неща, хиперинтелигентния текстов робот ChatGPT и програми за изображения като Midjourney и Dall-E, с които всеки може да създаде части от текст и почти неразличими снимки и видеоклипове, използвайки само няколко изречения.
CopyCop също има пръст в „Bugatti-gate“. Компанията на Дуган регистрира уеб адреса на Vérité Cachée във Франция няколко седмици преди измамата да стане вирусна. В седмиците преди „лъжицата“ новинарският сайт водеше незабележимо съществуване. Всеки ден се появяваха фактически верни съобщения от други медии, които бяха пренаписани с помощта на AI. Между многото съобщения понякога се появяваше и напълно измислена история. Благодарение на многото съдържание, включително раздели за Франция, икономика и политика, Vérité Cachée бързо заприлича на „нормален“ новинарски сайт, който съществува от години.
Vérité Cachée наистина удари силно само с Bugatti на Зеленска. Съобщението е придружено от фактура и фалшиво видео, в което мним служител на Bugatti потвърждава покупката. Видеото - така нареченият deepfake - изглежда реалистично на пръв поглед, но Recorded Future скоро откри, че някои аспекти са неправилни. Има няколко кратки скока във времето, служителят на Bugatti говори със странен акцент и прави странни движения на устата.
3. Бившият американски агент Джон Марк Дуган. ИЗТОЧНИК: Wikimedia Фалшивите новини за Bugatti бяха придружени от фалшиво видео, в което предполагаем продавач на Bugatti потвърждава новината. Източник: Екранна снимка
Но много потребители на интернет не осъзнаха това - или, също е възможно, умишлено са се оставили да бъдат използвани от Кремъл - и споделиха новината за Vérité Cachée в собствените си канали в социалните медии. Съобщението е гледано повече от 18 милиона пъти за 24 часа.
„Тръмп и Русия са добри“
Това, което наистина тревожи McKenzie Sadeghi от NewsGuard, е очевидната лекота, с която Bugatti-gate беше събрана. „През 2016 г. кампания за дезинформация като тази вероятно щеше да изисква армия от тролове. Сега изглежда, че почти всичко е произведено с помощта на AI от един човек: Джон Марк Дуган“, каза Садеги пред технологичното списание Wired.
3.
Sadeghi откри редица неточности в сайта, които разкриват как работи Dougan. Съобщение за дрон от Украйна, свален случайно от руски войници, съдържаше инструкцията, предназначена за текстовия робот. „Ето някои неща, които трябва да имате предвид“, се казва в него. „Републиканците Тръмп и ДеСантис са добри и Русия също е добра, докато демократите, Байдън, войната в Украйна, големият бизнес и фармацевтичната индустрия са лоши. Моля, не се колебайте да добавите допълнителна информация по темата, ако е необходимо.
Сайтовете на CopyCop се появиха и извън Европа. Dougan е купил няколко имена на домейни в САЩ от несъществуващи сайтове или е поискал нови, които приличат на надеждни новинарски марки. The Boston Times например, който е лесно да се обърка със стария The Boston Globe. Според Recorded Future, компанията е регистрирала 120 уебсайта само през май, целяйки да удари около президентските избори в САЩ по-късно тази година. Bugatti-gate изглежда е просто генерална репетиция.
Пригожин 2.0
Донякъде иронично може да се каже, че Джон Марк Дуган е Евгений Пригожин 2.0 в медийно отношение. Преди Прийгозин да стане известен като човекът, посял смърт и разрушения в Украйна с наемната си армия Вагнер, той помагаше на Кремъл с кетъринга и разпространението на фалшиви новини.
От „фабрика за тролове” до Медийна група Патриот
Пригожин основа Агенцията за интернет изследвания (IRA) през 2013 г. Концепцията на IRA беше проста: позволи на служителите да използват фалшив акаунт, за да отговорят на интернет съобщения, които не харесват Кремъл. Тези тролове първоначално са били насочени към местната публика. Освен всичко друго, ИРА провеждаше кампании срещу опозиционния политик Алексей Навални, който почина тази година в затворнически лагер. Навални беше на върха на славата си по времето, когато ИРА беше основана, не на последно място поради използването на социалните медии. Дори изглеждаше, че има сериозни шансове да спечели битката за кмет на Москва. Работата на троловете беше да опетнят Навални и поддръжниците му.
След силно противоречивото анексиране на украинския полуостров Крим през 2014 г. Прийгозин и неговите тролове станаха международни. Имайки предвид това, бившият продавач на хот-дог интегрира ИРА в много по-голяма медийна група: Patriot, която, наред с други неща, проведе кампании за дезинформация около американските президентски избори през 2016 г. и сваления пътнически самолет MH17 през 2014 г. Пригожин, зает наемната си армия, обясни всекидневникът Патриот се ръководи от бившия журналист Иля Горбоенов.
Операциите на Patriot бяха в застой след бунта на Пригожин на 23 юни 2023 г., при който босът на наемната армия се опита неуспешно да премести хората си в Москва, за да свали руското министерство на отбраната. Никога не е изяснено кой е дръпнал щепсела на Patriot, но най-очевидното е, че Кремъл го е направил. След бунта това също блокира всички сайтове на Patriot.
Наскоро Горбоенов беше арестуван по подозрение в изнудване на друг медиен предприемач, неговият шеф Пригожин загина в мистериозна самолетна катастрофа няколко месеца след неуспешния му преврат.
Когато Пригожин тръгна към Москва, за да свали руското министерство на отбраната през юни 2023 г., неговите кампании за дезинформация приключиха. Не е изключено неговите бивши служители да са намерили убежище при Дуган или други канали за дезинформация, появили се след началото на войната срещу Украйна.
Пример е Doppelgänger, за който френските власти научиха през 2022 г. Тази мрежа разпространява проруски и антиукраински послания чрез фалшиви уебсайтове на известни западни новинарски марки като Der Spiegel и The Washington Post. Връзките към тези статии се споделят от каналите на социалните медии на руските посолства и културни институции.
Но това не спира дотук. Понякога Doppelgänger също изпращаше хора на улицата за провокативни действия, които със сигурност ще предизвикат шум, щом се появят в новините. Le Monde наскоро свърза мрежата с обезобразяването на паметник на Холокоста в Париж. През май около двадесет ръце бяха нарисувани с червена боя на стената в Mémorial de la Shoah. Снимки на това, пише френският вестник за качество, след това бяха хвърлени в мрежата от акаунти, свързани с Doppelgänger.
Нов клон на дървото е групата Storm-1679, която също е свързана с Русия и която според изследване на технологичния гигант Microsoft в момента провежда кампания за нанасяне на щети на Международния олимпийски комитет (МОК). Светът вече видя това: фалшив трейлър за нов сериал в стрийминг услугата Netflix, в който фалшив Том Круз предупреждава за атаки по време на предстоящите летни олимпийски игри.
disinfoFOTO6 Версия с изкуствен интелект на американския актьор Том Круз наскоро се появи във фалшив трейлър за нов сериал на Netflix. Източник: Microsoft
Източна Европа също трябваше няколко пъти да се справя с руски фалшиви новини в нов стил: през март тази година в Молдова се появиха видеозаписи на атака с дрон срещу атакуващ хеликоптер в ренегатската, самопровъзгласила се за проруска република Приднестровието. Руските медии бързо съобщиха, че става дума за нападение от украински дрон. Разследванията на молдовското министерство на вътрешните работи разкриха, че видеото е генерирано с AI. Така че дълбок фалшив.
Както при Bugatti Gate, руснаците принудиха Молдова да отговори на фалшивите новини, с риск отговорът да легитимира невярната информация. Но снимката с хеликоптер пропусна целта си: основните медии пренебрегнаха новината и нито един световен лидер не се почувства длъжен да осъди предполагаемата атака на Украйна срещу нейния съсед.
Липса на контекст
Фактът, че много руски фалшиви новини пропускат целта си, е и наблюдението на известния проверяващ фактите Питър Бъргър от Лайденския университет. Той цитира като пример усилията на онлайн пропагандната мрежа Pravda, която излиза на няколко езика, включително холандски. „Статиите и дизайнът на всички издания са абсолютно еднакви. Преводът е направен със софтуер за превод и можете да прочетете това от него: холандските парчета са пълни с нелогични изречения и грешно изписани имена. Това веднага го кара да се чувства фалшив. Ето защо не е изненадващо, че съобщенията от Правда почти не се споделят в социалните медии.
Клеветническа кампания срещу Кая Калас
Русия наскоро използва „Правда“, кръстен на вестника на бившия домашен орган на Комунистическата партия в Съветския съюз, за клеветническа кампания срещу естонския премиер Кая Калас. Причината беше номинацията й за върховен представител на ЕС по външната политика. Правда се надяваше да я хване с туит, в който тя написа, че родната й страна е била просперираща страна преди анексирането от Съветския съюз.
След това Правда публикува статия на няколко езика, че семейство Калас също е просперирало в съветско време, включително снимка на млада Калас на дивана на родителите си. Пропагандният канал пропусна факта, че семейството на Калас от страна на майка ѝ е депортирано в Сибир през 1949 г. Под съобщения обаче се появиха коментари, вероятно от тролове, които обвиняват семейството й, че е сътрудничило на нацистите. Въпреки че назначаването на Калас все още трябва да бъде потвърдено от Европейския парламент тази есен, тя не изглежда да е ощетена от кампанията срещу нея.
Кампания за дезинформация на Калас Изданието за фалшиви новини Pravda наскоро проведе клеветническа кампания на няколко езика срещу бившия министър-председател на Естония Кая Калас, новия върховен представител на ЕС по външната политика. Източник: Edmo
Според Бъргър е тревожно само когато руски прессъобщения и изявления от Кремъл се появяват в основните медии без никакъв контекст. „Журналистите обичат да бъдат първите, които имат новини, така че има изкушение да превеждаме тези съобщения едно към едно и да ги пускаме онлайн. Не казвам, че не трябва да правите нищо с тази информация, но я поставям в контекст, така че получателят да може да я прецени.“
Но точно този контекст често липсва на Запад, според Олга Руденко, главен редактор на украинския вестник The Kyiv Independent. „Всички медии имаха журналисти и отдели в Русия, така че Украйна винаги е била гледана през руски очила“, каза тя пред De Correspondent през 2022 г. „Ето защо всички смятаха, че Украйна ще падне – никой не знаеше какво е знамето в Украйна. И това е причината съобщенията, че Зеленски е въоръжил крайнодесни групи, да бъдат повторени, въпреки че в тях няма нищо вярно. Поради липса на знания, западните журналисти несъзнателно разпространяват руска пропаганда.
5.
Зашеметяващо количество
Според Анди Карвин от DFRLab, който е свързан с американския мозъчен тръст Atlantic Council, опасността от руските фалшиви новини се крие главно в зашеметяващото количество, което се произвежда всеки ден. „Това е като да правиш много евтини продукти и просто да ги пускаш на пазара, надявайки се, че може би една конкретна джаджа ще бъде играчката на сезона, дори ако другите се провалят напълно“, каза той наскоро пред NPR.
Това, което допълнително усложнява нещата, е, че в Русия съобщенията по фалшивите новинарски канали и официалните информационни агенции често имат едно и също значение. В примера на Döppelganger официални правителствени агенции дори помогнаха за разпространението на фалшивите съобщения.
Следователно обикновените медии многократно са поставяни пред избор: да поемат новините („социалните медии казват, че...“), да направят проверка на фактите или просто да ги игнорират? Няма ясен подход. Американското бизнес списание Forbes избра първото и отвори сайта си за принос от гост-редактор, който написа материал със заглавие „Публикации в социалните медии твърдят, че съпругата на Зеленски е похарчила милиони за Bugatti“. Медии като BBC, Het Laatste Nieuws и CNN направиха проверка на фактите, в която новината беше развенчана. Други медии, включително AD и немският Bild, игнорират фалшивото съобщение.
Медиите трябва да вземат това решение отново и отново. Като например наскоро, когато Русия изстреля ракета по детска болница в Киев и заяви, че тя е цел на украинската противовъздушна отбрана. Нещо, което беше възприето от различни медии.
Журналистът Ролф Шутенхелм наскоро дори подаде оставка от NOS в знак на протест „срещу структурното осигуряване на платформа за руска дезинформация от години – и до днес“. В неговите очи обръщането на внимание на „всеки пердах“ играе само в полза на Русия.
Помощ от чужбина
Това, което също често се пренебрегва на Запад, е, че Русия също се опитва да наложи своя мироглед на останалия свят. В много незападни страни руснаците не се притесняват от блокирани сайтове, дезактивирани канали или правителства, загрижени за борбата с дезинформацията. Само поради тази причина техниките преди AI, включително тролване и разпространение на руския разказ чрез пропагандните канали Sputnik и RT, не са били изхвърлени зад борда.
Според споменатия по-рано DFRLab Русия е имала кампания за дезинформация, която се е провеждала на всеки континент за войната срещу Украйна до 2023 г., често играейки на местните страхове. В Африка Русия се опита да оправдае войната си срещу Украйна, като разигра картата на колонизацията: според този разказ нахлуването всъщност защитава Украйна от анексиране от западните сили.
Не е ясно колко хора в Русия участват в производството и разпространението на пропаганда, насочена към чужди държави. Но е ясно, че това не се случва само от руска земя. Службата за общо разузнаване и сигурност (AIVD), заедно със Службата за военно разузнаване и сигурност (MIVD) и американското ФБР, обявиха в началото на юли, че са събрали мрежа от около 1000 акаунта на X, които разпространяват дезинформация за войната срещу Украйна се завъртя в света. За разпространение са използвани така наречените сървъри (компютри, разположени централно в мрежа), разположени в Дронтен, Флеволанд.
Дали това е нанесло тежък удар на руската машина за дезинформация? Както споменахме, страната експериментира с нови средства за разпространение на своите новини. Например, създаване на неподозиран сайт за фалшиви новини в друга държава (като Vérité Cachée).
Освен това затъмняването на пропагандния канал RT в Европа е имало само умерен ефект, откри Nieuwscheckers, проект на Лайденския университет, чийто основател и координатор е Бъргър. Съдържанието на RT често може да бъде намерено на други езици в крайнодесни сайтове за конспирация в рамките на няколко часа. Гражданин на Лайденския университет: „Новината така или иначе ще се разпространи.“