AI-kampanj uppmanar till protester i flera europeiska länder

Anonyma Tiktok-konton sprider AI-genererade bilder och videor med uppmaningar till demonstrationer i Järvaområdet i Stockholm. Materialet påminner om kampanjer som förekommit i flera andra europeiska länder. Det är fortfarande okänt vem eller vilka som ligger bakom spridningen.

Mustafa Ahmed, samordnare på Fryshuset i Järva, uppger att liknande metoder har använts i flera EU-länder. När han undersökte hur ungdomar i området reagerade på materialet märkte han att de inte kände till kampanjen. Det gjorde att han bedömde att initiativet inte kom från personer i området.

Bakom spridningen i Järva står flera Tiktok-konton utan tydliga namn eller profilbilder. Ett av kontona publicerade först bilder med protestuppmaningar och följde senare upp med AI-manipulerade videoklipp. I filmerna framställs kända personer med afrikansk bakgrund som om de själva uppmanar till demonstrationer. Rösterna är också AI-genererade.

Personen bakom ett av kontona har inte gått att nå. Polisen och andra myndigheter har däremot informerats om nätkampanjen. Mustafa Ahmed säger att han inte tror att människor i Järva kommer att påverkas av budskapen.

Liknande material har spridits i Spanien. Den 27 oktober identifierade faktagranskningsredaktionen EFE Verifica ett nätverk med tiotals konton på Tiktok, Telegram och WhatsApp. Kontona spred AI-genererade affischer med uppmaningar till demonstrationer den 31 oktober i bland annat Madrid, Barcelona, Valencia, Bilbao och Almería.

Cybersäkerhetsexperten Marcelino Madrigal, som intervjuades av EFE Verifica, uppmärksammade att vissa konton hade återanvänts och fått nya identiteter. Han kunde inte fastställa om protestuppmaningarna var samordnade, men konstaterade att de byggde på liknande metoder.

Även RTVE:s faktagranskningsredaktion VerificaRTVE har undersökt spridningen. Där upptäcktes uppmaningar inför demonstrationer den 24 oktober på Tiktok-konton med namnen @blocus.madrid och @manifestaciones.bcn. Publiceringarna berörde även Zaragoza, Palma de Mallorca, Bilbao och Alicante.

De spanska bilderna hade QR-koder som ledde vidare till krypterade chattar. Där förekom diskussioner om demonstrationer med inspiration från protesterna i Frankrike. Det fanns även uppmaningar om att råna och plundra butiker som tillhör olika lyxvarumärken. Flera av Tiktok-kontona har senare försvunnit eller tagit bort sina inlägg. Inte heller RTVE har kunnat fastställa vilka som låg bakom publiceringarna.

Euronews faktagranskningsredaktion The Cube har samtidigt identifierat AI-genererade protestvideor riktade till användare i Portugal, Frankrike, Tyskland, Irland, Italien och Storbritannien. Några av klippen hade fått över 300 000 visningar.

I ett av fallen förekom en journalist i en AI-genererad video med grafiska inslag som påminde om portugisiska nyhetsmedier. Portugisiska public service-bolaget RTP bekräftade för Euronews att journalisten inte arbetade för bolaget och att RTP saknade koppling till videon.

Även falskt material med anknytning till protesterna i Frankrike har granskats av flera organisationer. Spanska Maldita.es har dokumenterat AI-genererade bilder och filmer som framställts som verkliga händelser, bland annat påstådda demonstrationer vid Eiffeltornet och plundringar i Lille. Brittiska Full Fact har också granskat falska bilder och videor. Organisationen identifierade bland annat ett viralt klipp som påstods visa personer som hissade palestinska och jordanska flaggor på Eiffeltornet, men som i själva verket hade skapats med generativ AI.

Den franska myndigheten Viginum, som arbetar mot utländsk digital påverkan, har också undersökt aktiviteten kring protestuppmaningarna i Frankrike. Myndigheten uppgav till Le Monde att aktiviteten från utländska aktörer varit mycket begränsad, haft liten räckvidd och bedömts vara opportunistisk.

TikTok uppgav till Euronews att plattformen tagit bort de videor och konton som The Cube granskat och som bröt mot riktlinjerna. Företaget uppgav även att merparten av innehåll som tas bort på grund av regelbrott upptäcks innan användare hinner anmäla det.

Det är fortfarande inte klarlagt om samma aktörer ligger bakom materialet som sprids i Järva och de olika europeiska länderna. En skillnad är att publiceringarna om Järva inte innehåller länkar vidare till chattar där protester organiseras eller diskuteras.