Miljontals besök på övergreppssajter stoppades
Över fyra miljoner försök att komma åt sajter med övergreppsmaterial på barn blockerades av Tele2 i fjol. Ökningen är explosionsartad och förklaras delvis av bättre blockeringslistor. Samtidigt pekas AI-genererat övergreppsmaterial ut som en stor utmaning framåt – men kanske kan AI också vara lösningen.
Operatörens drygt 4 miljoner blockeringar av försök i Sverige att nå webbplatser med material innehållande sexuella övergrepp på barn är en kraftig ökning från 2022, då cirka 1,5 miljoner försök stoppades.
— Det är en indikation på att problematiken ökar och det är ett samhällsproblem som vi alla måste hantera, säger Jonas Lindström, koncernsäkerhetschef på Tele2, ett av flera telekombolag som samverkar med barnrättsorganisationen Ecpat.
Utöver vad som Tele2 bedömer är en reell ökning av faktiska försök kan de stigande blockeringssiffrorna förklaras med att blockeringslistor från polisen och Interpol kompletterats med en lista från kanadensiska Project Arachnid. Den listan stod 2023 för en fjärdedel av alla blockeringar.
Ytterligare en förklaring är att polisen nu uppdaterar sina listor av webbplatser som bör blockeras mer frekvent.
AI-problem
En nytillkommen problematik som tog fart i fjol och som man i år ska fokusera på att försöka motarbeta är övergreppsmaterial som tas fram med hjälp av AI, säger Jonas Lindström.
— Det finns AI där man kan skriva vad man önskar så kan en bild skapas. Eller så kan man återanvända tidigare övergreppsmaterial för att skapa nya bilder med barn som är utsatta sedan tidigare. Man kan även ta in helt andra individer och sätta ihop ett sådant här material, säger han.
— Så det är otroligt integritetskränkande både för dem som drabbats tidigare och för dem som kan drabbas bara för att det finns en bild av dem på internet.
Förekomsten av fejkat material försvårar även polisens arbete att identifiera barn som utsätts på riktigt och hitta deras förövare.
Nya verktyg
Problemet är något som väntas fortsätta öka då AI:n blir allt mer avancerad, och Tele2 ska försöka nyttja egen AI-kompetens för att hitta nya verktyg mot det. Exempelvis använder man i dag AI för att stoppa bedrägliga massutskick av sms.
— Där har vi en AI-motor som lär sig allteftersom vilka beståndsdelar som de sms:en innehåller. Finns det något vi kan använda utifrån den tekniken eller den logiken så hoppas vi kunna bidra med det. Vi kan kanske inte komma med hela lösningen men vi är ju en aktör i detta, då vill vi se var vi kan hjälpa till.
