Руснаците крадат частни видеоклипове във Фейсбук и ги превръщат в пропагандни филми с изкуствен интелект
Видеозаписите на обикновени хора сега се крадат, манипулират и използват за разпространение на дезинформация за ситуацията в Европа.
Хелън Бейли е заместник-ректор на Лондонския университет „Куин Мери“. На 29 януари тя пожела на своите китайски студенти Честита Нова година във Facebook (вляво). Две седмици по-късно тя внезапно стана главният герой в пропагандно видео за Путин, Тръмп и Германия (вдясно).
Снимка: Лондонският университет Queen Mary - Международен офис / TV 2
(Снимките са достъпни чрез линка към оригиналната статия)
Днес в 06.30 ч
Питър Мьолер, Кореспондент по въпросите на цифровото разузнаване
Датският информационен канал nyheder tv2.dk
Всъщност британската лекарка Сам Хан просто искаше да намери лекарство против рака.
Тя е изследовател в областта на медицинското лечение на рак в университета в Лестър във Великобритания и работата й зависи от частни дарители.
"Осъждам терористичните атаки, но приветствам ефекта, който те могат да имат върху Германия"р съобщава в манипулирано от руски хакери видео.
Глас, създаден с изкуствен интелект
Така че нямаше нищо необичайно в това, когато нейното предприятие публикува видео във Facebook през ноември миналата година, в което Сам Хан говори за кариерата си и благодари на своите дарители.
"Здравейте, казвам се Сам Хан и съм доцент по медицинско лечение на рак", казва тя в началото на видеото и след това разказва как е събрала пари за изследване на стволови клетки, докато е обикаляла с велосипед из Обединеното кралство.
Постът не се отличаваше от хилядите подобни видеа от училища и университети, публикувани всеки ден в социалните мрежи, а кадрите със Сам Хан събраха 1900 гледания, 18 вдигнати палеца, осем сърца и два коментара във Facebook.
Сам Кан говори за кариерата си на лекар онколог.
Но все пак видеото с младата лекарка беше избрано от руските хакери за фалшификация.
От рак до терор
На 15 февруари 2025 г. това видео на Сам Хан се появи в социалните медии X.
На пръв поглед приличаше на себе си.
Новата вече фалшифицирана публикация със Сам Кан беше публикувана на X на 15 февруари 2025г..
Но сега тя вече не говори за лечение на рак.
Вместо това тя действаше като експерт по ефектите от стреса.
„Моите изследвания показват, че тежкият стрес може да излекува почти всяка нелечима болест“, казва глас, който звучи точно като този на Сам Хан във видеото.
" Терористичните атаки причиняват силен стрес. Осъждам терористичните атаки, но аплодирам ефекта, който те могат да имат върху Германия“, казва гласът на Сам Хан във видеото, след което започва да критикува германските политици и призовава зрителите на видеото да гласуват за AfD за смяна на властта в Германия.
Новото видео беше възнаградено много по-щедро от алгоритъма на X от оригинала във Facebook и преди да бъде свалено, то беше гледано 106 200 пъти, получи 557 сърца и беше споделено от 336 профила със съмнителни имена и анонимни профилни снимки.
Във видеото клонирана версия на гласа на Сам Хан казва, че стресът под формата на терористични атаки може да накара германците да гласуват за промяна на изборите за Бундестаг.
Но Сам Хан от Лестър няма нищо общо с новото видео.
Без да знае, самоличността й е била открадната от хора в интернет, гласът й е бил клониран и използван за създаване на филм с послание, което тя не би могла да приеме.
И тя не е единствена.
Как да открием фалшиво съдържание?
Ако си зададете правилните въпроси, е по-малко вероятно да станете жертва на манипулирани изображения и истории.
Кой е източникът?
Проучете кой е подателят. Вижте какво още споделя източникът и проверете дали е застанал зад информацията с името и лицето си.
Защо материалът беше споделен?
Манипулираният материал често е предназначен да създаде емоционална реакция и да играе с предразсъдъците на хората.
Има ли признаци на AI?
Изображенията, генерирани от изкуствения интелект, все още често могат да бъдат разкрити чрез увеличаване на детайлите. Понякога детайли като пръстите на ръцете и краката липсват или са твърде много.
Подходяща ли е датата?
Наистина ли сте на стар пост?
Проверете дали времето, сезонът и часът от деня съответстват на събитието, от което подателят твърди, че е снимката.
Кой го сподели пръв?
Използвайте програма за търсене на изображения като Google Lens, за да разберете дали други хора също споделят изображението и в какъв контекст то се споделя.
Руската мрежа
В момента социалните медии са пълни с публикации, в които обикновени хора се използват за разпространяване на пропаганда относно изборите за германския Бундестаг и ситуацията със сигурността в Европа.
TV 2, в сътрудничество с изследователската група Antibot4Navalny, която наблюдава руските кампании за влияние, откри голям брой примери за това как ежедневните публикации в социалните медии завършват като боеприпаси в пропагандна война срещу Германия и други страни в Европа.
В едно от манипулираните видеа покойната британска кралица Елизабет е използвана за критика срещу европейски лидери.
По информация на ТВ 2, лицето, което стои зад посегателството, е руска медия "Матрьошка".
Френските власти публикуваха доклад за мрежата през лятото на 2024 г. и тогава разследването им показа, че съдържанието от мрежата "Матрьошка" идва от Русия.
В момента мрежата се фокусира върху Европа и особено Германия преди изборите за германския Бундестаг в неделя, 23 февруари.
Той е активен и в Съединените щати, където извършителите преди това са използвали изображения на известни хора, за да разпространяват фалшиви истории.
Така например един от постовете в мрежата, в който актьорите Анджелина Джоли, Шон Пен и Бен Стилър бяха обвинени, че са получили милиони помощ за развитие, в крайна сметка беше споделен от богаташа Илон Мъск на 5 февруари тази година.
Но хората, които мрежата използва, за да повлияе на хората в Европа, сега идват от най-различни държави и професии.
Руски теми
В данните, с които разполага TV 2, има например студент по биология от Париж, професор по сценични изкуства от Лондон, член на борда на френската лига по хандбал и ректор на университет в Шотландия.
Вероятно кампанията има за цел да подкопае доверието в германските избори сред международната публика.
Институт за стратегически диалог
Почти всички видеоклипове са структурирани по един и същи начин.
Първо, главният герой се представя, докато го виждате на снимката.
След това преминава към някои други изображения, докато главният герой продължава да говори, но сега вече не говори истинският човек, а по-скоро глас, който е клониран с изкуствен интелект.
В същото време видеоклиповете често са с воден знак, което го прави да изглежда така, сякаш идва от утвърдена медия, властите или институция за висше образование.
Темите във видеоклиповете, които TV 2 видя, се въртят около една и съща тема.
Например руснаците са манипулирали записи на Хелън Бейли, заместник-канцлер на университета „Куин Мери“ в Лондон, която казва, че европейските лидери са тотален провал, защото се противопоставят на плановете на Доналд Тръмп и Владимир Путин за Украйна и че обединена Европа означава пълен крах.
Университетът Queen Mary в Лондон потвърждава пред TV 2, че работят по премахването на видеоклиповете с Хелън Бейли.
Кадрите на френския архитект Сирил Ханап са били модифицирани, така че той да казва, че работи за възстановяване на къщи след терористични атаки и че терористичните атаки всъщност са нещо добро за Германия, защото могат да донесат промяна на предстоящите избори.
Кадрите със Сирил Ханап бяха манипулирани, след като той ги публикува в профила си в Instagram на 30 януари. Снимка: TV 2
Гретхен Паскалис, учител по йога в Гренобъл, се използва, за да провокира зрителите, които са критични към имиграцията. В манипулирания видеоклип с нея тя е преправена като защитник на въвеждането на шериата в Германия и допускането в страната на колкото се може повече мюсюлмански мигранти.
Гретхен Паскалис е учителка по йога, американска гражданка и политически активен демократ. Манипулираните кадри с нея се използват за провокация на десни националистически сили.
И тогава на помощ идва Бенджамин Депорте, който изследва изкуствения интелект в Тулуза.
Той казва, че е "отприщил алгоритъм" за разследване на терористични атаки в Германия и че изследването убедително е показало, че фалшификациите са насочени към склоняване на германците да гласуват за дясната националистическа партия AfD.
Бенджамин Депорте е експерт по киберсигурност и стана мишена на руски агенти за влияние.
Действието
Обикновено търсене в Google на имената на замесените хора в повечето случаи бързо ще доведе до оригиналните видеоклипове, но мрежата зад манипулациите вероятно се опитва да използва факта, че малко потребители в социалните медии проверяват кой всъщност е подателят.
По-голямата част от профилите, споделящи манипулираните видеоклипове, които TV 2 е видяла, имат анонимни профилни снимки и обикновено нито имат много последователи, нито са написали много публикации.
Селекция от профили, споделящи манипулираните видеоклипове.
Те често имат номер в края на името на профила си.
След като манипулираните видеоклипове са споделени за първи път, извършителите стартират нова мрежа от анонимни профили на X, които споделят и харесват видеоклиповете в опит да накарат алгоритъма на X да вярва, че видеоклиповете са толкова популярни, че трябва да бъдат представени на по-широк кръг потребители.
Проучване на Института за стратегически диалог, организация, която следи дезинформацията във връзка с изборите в Германия, установи на 13 февруари 2025г., че мрежата, споделяща манипулираните видеоклипове, се състои от над 6000 различни профила.
Голяма част от манипулираните видеа се опитват да акцентират върху германската партия AfD.
Според експерти от Института за стратегически диалог мрежата споделя видеоклипове на английски, испански, немски, френски и арабски, но не и на немски, въпреки че:
Изборите в Германия са повратна точка.
"Вероятно кампанията има за цел да подкопае доверието в германските избори сред международната публика. Това е в съответствие със стратегиите за манипулиране на информация, използвани от режима в Кремъл на изборите за Европейски парламент", пише в изследването си Институтът за стратегически диалог.
Като част от създаването на тази статия, TV 2 се свърза с хората, които са малтретирани в манипулираните видеа.
Повечето или нямат коментари, или не са отговорили на нашите запитвания.
Алън Рийд, професор по театрални науки и директор на Performance Foundation King's College в Лондон, който е малтретиран в едно от видеата, пише в имейл до TV 2, че „няма нищо общо с изкривените истини и речта на омразата, които се правят“ и че намира качеството на видеопродукцията за „аматьорско“.
Клонираната версия на Алън Рийд казва във видеото, че само партията AfD може да спаси Германия от превръщането й в ислямско общество. Снимка: TV 2
Той добавя, че е притеснен, тъй като видеото уронва неговия професионализъм и доверие като преподавател във висше учебно заведение.
"Подозирам, че това е само скромна версия на епидемия от кражба на самоличност и злоупотреба, която трябва да удари другите много по-тежко", пише Алън Рийд в своя имейл.
Журналистически принципи
TV 2 публикува новини, базирани на журналистически принципи на етика и баланс. Това означава, наред с други неща, че ние проверяваме фактите, интервюираме източници и винаги се опитваме да оставим участващите страни да си кажат мнението. Можете да прочетете нашите етични насоки тук. TV 2 също е регистрирана в Датския съвет по пресата и спазва правилата за етика в пресата.