Stay Informed
Join our newsletter to receive updates about our mission, impact stories, and ways you can help make a difference.
ChatGPT och barnmisshandel
Written by
Lena Kyony
•
Klockan tickar. Varje dag vi väntar med att ta itu med AI-genererat sexuellt utnyttjande av barn är ytterligare en dag då förövare får ett försprång gentemot rättsväsendet.
OpenAI meddelade nyligen att ChatGPT kommer att tillåta erotiskt innehåll för vuxna med åldersverifiering. Företaget har presenterat beslutet som ett sätt att respektera vuxnas autonomi. Men detta beslut öppnar en dammlucka som kan påskynda ett av de mest akuta hoten mot barn idag: explosionen av AI-genererat sexuellt utnyttjande av barn (AI-CSAM).
Siffrorna är redan skrämmande. Och de blir värre för varje dag.
Krisen är redan här!
Detta är inte ett hypotetiskt framtidshot. Här är fakta och siffror! Enligt Internet Watch Foundation (IWF) juli 2024-rapport dök över 3 500 nya AI-genererade bilder av sexuellt utnyttjande av barn upp på ett enda forum på dark web mellan 2023 och 2024. Det mest oroande med denna upptäckt är att bilderna blir alltmer extrema, där fler visar den mest allvarliga kategorin A-övergrepp.
Under 2024 ökade rapporter om AI-genererat CSAM med 380 %, från 51 bekräftade rapporter 2023 till 245 2024. Varje rapport kan innehålla tusentals individuella bilder. National Center for Missing & Exploited Children tog emot 67 000 rapporter om AI-genererat CSAM under hela 2024, och fick sedan 485 000 rapporter under endast första halvan av 2025. Det är en ökning på 624 % på sex månader.
Detta är ett stort problem eftersom rättsväsendet inte längre kan avgöra vad som är verkligt. I 193 av 245 undersökta rapporter var AI-genererade bilder så realistiska att de behandlades som om de föreställde faktiska barn som blev våldtagna. Problemet är att det är svårt att åtala dem som skapar dessa bilder, eftersom de inte involverar riktiga personer utan artificiella framställningar.
Vi förlorar denna kamp. Och att luckra upp restriktioner för sexuellt AI-innehåll kommer att göra situationen exponentiellt värre.
Det mänskliga priset av försening
Detta är inte bara statistik. Verkliga förövare använder redan AI för att utnyttja barn:
Hugh Nelson (Storbritannien, 2024)
En brittisk man dömdes till över 20 års fängelse för att ha använt AI-ansiktsförändringsprogram för att omvandla vanliga fotografier av riktiga barn till grafiska sexuella övergreppsillustrationer. Han sålde sedan album med dessa bilder i onlinechattrum på öppna webben. Nelson riktade sig mot verkliga barn och förvandlade oskyldiga foton till mardrömsmaterial som kommer att plåga dessa offer för alltid.
Steven Anderegg (Wisconsin, 2025)
Första federala åtalet för att skapa CSAM helt genom AI. Anderegg åtalas för att producera bilder som aldrig föreställde ett verkligt barn, men åklagare argumenterar (korrekt) att sådant material ändå skadar barn genom att normalisera övergrepp och öka efterfrågan på exploatering.
Europol-operation (februari 2025)
Dussintals arresterade i hela Europa efter att en dansk man enligt uppgift drev en betald plattform som distribuerade helt AI-genererat sexuellt utnyttjande av barn. 273 misstänkta identifierades. Användare betalade för att få tillgång till innehåll som visade "barn som utnyttjades". Plattformens administratör producerade enligt uppgift innehållet med hjälp av AI-verktyg.
Kaliforniens åtta förlorade fall
Mellan december 2024 och september 2025 var åklagare i Ventura County, Kalifornien, tvungna att lägga ner åtta fall som involverade AI-genererat CSAM eftersom statlig lag krävde bevis på att bilderna föreställde ett verkligt barn. Åtta förövare gick fria eftersom lagen inte kunde hålla jämna steg med teknologin.
Kaylin Hayman (Disney Channel-skådespelerska)
En 17-årig skådespelerska från Disneys "Just Roll with It" blev offer för AI-genererade "deepfake"-sexbilder. "Jag kände att en del av mig hade tagits ifrån mig," sa hon. "Även om jag inte blev fysiskt kränkt." Hennes engagemang hjälpte till att driva igenom Kaliforniens uppdaterade lag — men miljontals barn är fortfarande oskyddade.
Varför tillåten vuxenerotik förvärrar problemet med barnmisshandel
När AI-system tränas och optimeras för att producera sexuellt innehåll för vuxna följer fem förödande konsekvenser:
1. Utbudet exploderar
Modeller som är designade för att generera vuxenserotik kan manipuleras genom smarta kommandon, "jailbreaks" eller direkt missbruk för att skapa sexualiserade bilder av minderåriga. Även med filter hittar dåliga aktörer lösningar. Den tekniska kapaciteten att skapa erotik för vuxna är samma kapacitet som skapar AI-CSAM.
2. Syntetiskt övergrepp är verkligt övergrepp
En farlig myt kvarstår: "Det är inte verkligt, så det är inte skadligt." Detta är falskt.
AI-CSAM normaliserar sexuella övergrepp mot barn.
Det kan användas som ett grooming-verktyg för att avtrubba verkliga barn.
Det återtraumatiserar överlevande som ser att samhället skapar nya sätt att avbilda deras övergrepp.
Det tränar och repeterar förövare, vilket sänker deras hämningar.
Studier visar att det kan stimulera kriminellt beteende.
Varje barnskyddsorganisation på jorden är överens: syntetiskt sexuellt utnyttjande av barn är övergrepp, punkt slut.
3. Åldersverifiering räcker inte
OpenAI säger att vuxeninnehåll kommer att vara "åldersbegränsat", men:
Åldersverifieringssystem kan luras eller kringgås.
De skapar nya integritets- och datasäkerhetsrisker.
De kan inte stoppa verifierade vuxna från att skapa och sprida AI-CSAM.
Även Disney Channel-skådespelerskor kan deepfakas — verifiering skyddar inte offren.
4. Detektionssystemen är redan överväldigade
Traditionella barnskyddsverktyg bygger på "hash matching" som jämför nya bilder med databaser av kända övergrepp. AI-genererat innehåll kringgår dessa system helt eftersom varje bild är ny och unik.
Rättsväsendet drunknar:
98 % av AI-genererat CSAM föreställer flickor, vilket förstärker våld mot kvinnor och flickor.
Undersökare slösar tid på att försöka identifiera och rädda barn som inte existerar.
Den enorma volymen hotar att kollapsa detektions- och rapporteringssystem.
"Vi spelar ikapp en teknik som rör sig mycket snabbare än vi gör," säger Kaliforniens åklagare Erik Nasarenko.
5. Grooming och tvång får en AI-uppgradering
Sexuella chattbotar kan användas som grooming-verktyg:
Förövare kan rollspela övergreppsscenarier och finslipa sina metoder.
AI kan generera personligt sexualiserat innehåll med en specifik barns likhet.
Chattbotar kan normalisera olämpliga relationer och gränsöverskridande beteenden.
Gränsen mellan fantasi och handling suddas ut när AI gör övergrepp "tillgängligt".
Vad som måste hända nu
Varje dag vi dröjer skapar förövare tusentals fler bilder. Följande åtgärder behövs omedelbart:
1. Rättslig tydlighet: All AI-CSAM är CSAM
AI-CSAM är sexuellt utnyttjande av barn-material genererat av AI.
Varje jurisdiktion måste entydigt kriminalisera AI-genererat sexuellt utnyttjande av barn, oavsett om det föreställer ett verkligt barn eller inte, oavsett om det är fotorealistiskt eller tecknat. Lagen måste hinna ikapp teknologin nu. I slutet av 2025 har många amerikanska delstater fortfarande juridiska luckor. Barn kan inte vänta på att lagstiftare ska känna sig bekväma.
2. Stark åldersverifiering
Åldersverifiering bör vara robust, integritetsrespektfull och oberoende granskad. Men det är bara en fartgupp, inte en permanent lösning. Verifierade vuxna kan fortfarande begå brott. Vi behöver flera skyddslager, inte en enda grind.
3. Obligatorisk vattenmärkning och ursprung
Varje AI-genererad bild bör bära manipulationssäker metadata eller forensiska vattenmärken. Detta stoppar inte övergrepp, men gör det svårare att förneka och lättare att spåra. Utredare behöver verktyg för att skilja verkliga foton från AI-skapelser och för att spåra vem som gjorde vad.
4. Nästa generations detektion, finansierad nu
Traditionell hash-matching är värdelös mot nytt AI-innehåll. Vi behöver maskininlärningssystem som kan upptäcka mönster, stilar och innehåll i AI-genererade bilder. Den teknologin finns. Den behöver finansiering, implementering och obligatorisk användning av plattformar.
5. Obligatorisk rapportering och transparens
Plattformar måste rapportera misstänkt CSAM och AI-CSAM till nationella hotline-tjänster (som National Center for Missing & Exploited Children i USA). De måste dela underrättelseinformation med rättsväsendet och publicera transparensrapporter som visar hur mycket övergrepp de upptäckte, hur mycket de missade och vad de gjorde åt det.
6. Finansiera stöd till offer och civilsamhället
Överlevande behöver resurser. Advocacy-grupper behöver finansiering. Forskare behöver tillgång. Vi kan inte lämna barnskydd åt teknikföretag och rättsväsendet ensamma. Civilsamhället måste ha en plats vid bordet och resurser att bekämpa detta.
Slutsatsen: Detta är en nödsituation
Att behandla vuxna som vuxna är ett rimligt princip, men inte när verktyget i fråga är en maskin som kan generera oändligt med sexuellt utnyttjande av barn på begäran.
OpenAI och alla andra AI-företag måste förstå: att luckra upp restriktioner för sexuellt innehåll utan stenhårda skydd är vårdslöst. Vi står vid ett vägskäl. Vi kan agera nu med tydliga lagar, starka skydd, obligatorisk detektion och verkliga konsekvenser, eller vi kan se på när AI blir historiens största accelerant av sexuellt utnyttjande av barn.
Det finns ingen mellangrund. Tiden att agera är nu.
För mer information, se:
Internet Watch Foundation: IWF AI-CSAM Research
National Center for Missing & Exploited Children: NCMEC
ECPAT International: ECPAT
U.S. Department of Justice Child Exploitation Section: DOJ
Recent Articles
Det tysta arbetet som faktiskt skyddar barn
Kampanjer syns och är förhållandevis billiga. Det som minskar skada är varken eller. En genomgång av vad forskningen faktiskt stöder.
Written by Aya WaheedAugust 3, 2026
Vad som händer med en gåva
Vart pengarna tar vägen, vem som kontrollerar, och varför svensk insamlingsreglering gör det svårare än det ser ut att lägga en gåva på fel sak.
Written by Hamson PhilipsJuly 27, 2026
Vad EU:s barnskyddsregler ändrar 2026
Flera EU-regelverk som rör barn på nätet når milstolpar i år. En begriplig genomgång av vad som faktiskt gäller, vad som fortfarande förhandlas, och vad det betyder i praktiken.
Written by Lena KyonyJuly 20, 2026