AI-verktyg för att skapa nakenbilder av barn ökar snabbt

Appar som omvandlar vanliga bilder till nakenbilder har blivit ett växande problem, barnrättsorganisationen Ecpat rapporterar. Fler barn hör av sig till organisationens stödlinje med rapporter om spridning av fejkade bilder skapade med hjälp av AI-verktyg.

Jonas Karlsson, utredare på Ecpat, beskriver att effekten på barnen är densamma som vid andra former av kränkningar: de känner skam, upplever sig angripna och oroar sig för framtiden. De så kallade nudify-apparna har fått stor uppmärksamhet i länder som Spanien och USA, där flera barn har blivit utsatta för spridning av AI-genererade nakenbilder samtidigt.

Dessa appar och verktyg tillåter användare att ladda upp vilken bild som helst och omvandla den till en naken- eller pornografisk bild. De saknar ofta skydd som förhindrar att barn används i dessa sammanhang, säger Jonas Karlsson.

I en ny rapport har Ecpat undersökt vad svenska barn vet om dessa appar och om de själva har blivit utsatta. Resultaten visar att det fortfarande är få barn som är medvetna om att de har drabbats, men antalet samtal till stödlinjen ökar snabbt. Jonas Karlsson nämner att de nu får några kontakter i veckan om detta och att både organisationen och barnen tror att problemet kommer att växa.

Företaget Meta har förbjudit marknadsföring av dessa appar på sina plattformar, men på andra plattformar som Telegram sker marknadsföring öppet. Där används ofta formuleringar som riktar sig till unga, trots att apparna påstås vara för vuxna.

En majoritet av barnen som svarat på Ecpat-enkäten anser att dessa appar borde förbjudas. Ett sådant arbete pågår även inom EU, enligt utredaren.

Rapporten visar också att fler barn än tidigare är beredda att vända sig till vuxna om de utsätts för kränkningar på nätet. Jonas Karlsson ser detta som ett positivt tecken, men påpekar samtidigt att barnen är trötta på att nya verktyg ständigt gör deras digitala miljö mindre trygg.

Förutom att ge stöd till utsatta barn betonar Ecpat vikten av att vuxna informerar om vad som är lagligt. Jonas Karlsson framhåller att barn som själva sprider AI-genererade nakenbilder kan bli föremål för åtal för barnpornografibrott.

Ecpat genomförde sin enkät om nudify-verktygen under två veckor i mars 2026. Undersökningen bestod av både korta frågor och vinjetter där barnen fick ta ställning, samt möjlighet att lämna öppna svar. Totalt deltog 880 barn och besvarade minst en vinjett.

Resultaten visar att 80 procent av pojkarna och 75 procent av flickorna kände till dessa verktyg. Drygt 20 procent av pojkarna uppgav att de antingen sett sådana bilder eller själva skapat dem, medan motsvarande siffra för flickor var drygt 10 procent.

Två procent av flickorna uppgav att någon hade skapat AI-genererade nakenbilder av dem, medan det för pojkar var under en procent. Bland flickorna ansåg 55 procent att spridning av AI-skapade nakenbilder är lika allvarligt som spridning av vanliga nakenbilder, jämfört med 47 procent av pojkarna.

I Sverige är all hantering av barnpornografiskt material i princip brottslig, vilket gäller även för AI-genererade bilder.