Sexuella övergrepp mot barn är ett växande problem i hela EU och om EU-länderna agerar på egen hand eller på ett okoordinerat sätt, blir insatserna mindre effektiva. Inget enskilt EU-land kan förhindra barnpornografiskt material från att cirkulera på internet utan att samarbeta med privata internetföretag som är verksamma i flera EU-länder. Vi behöver ett sammanhållet system för hela EU.
Det är frivilligt att anmäla sexuella övergrepp mot barn och de olika internetföretagen gör på olika sätt. Vissa vidtar kraftfulla åtgärder, andra gör inget alls. De här skillnaderna i anmälningsrutiner innebär att övergrepp kan fortsätta utan att upptäckas. Eftersom frivillighet råder kan företagen besluta sig för att ändra sin policy när som helst, vilket försvårar för myndigheterna att bekämpa sexuella övergrepp mot barn.
Med den här nya lagstiftningen vill EU-kommissionen trygga ett effektivt samarbete mellan offentliga och privata aktörer i EU för att freda barn från förövare på nätet, lagföra gärningspersonerna och ge ett snabbt och adekvat stöd till brottsoffren.
Internetföretagen är ofta de enda som kan hitta övergreppen, eftersom de äger rum i det fördolda, bland nätverk av förövare som kan omfatta hundratusentals personer. Om internetföretagen väljer att blunda för det här kommer troligtvis ingen att kunna identifiera och hjälpa brottsoffren. I vissa EU-länder inleds redan nu 80 procent av utredningarna efter anmälningar från internetföretagen.
Internet har gett förövarna nya sätt att ta kontakt med barnen. De kontaktar barnen på sociala medier och spelplattformar och i chattar och lurar dem att ta komprometterande bilder på sig själva eller förmår dem att träffas i verkliga livet. Våra barn tillbringar mer tid online än någonsin tidigare, vilket ökar risken för att de kommer i kontakt med förövare på nätet. Ändå gör de flesta företag ingen skillnad mellan vuxna och minderåriga användare utan behandlar barn som om de är internetkunniga vuxna som kan skydda sig själva – vilket de självklart inte kan. Många företag blundar för att deras plattformar olagligt används till att dela barnpornografiska bilder och filmer.
Arbetet med att uppdaga sexuella övergrepp mot barn kommer att följa gällande dataskyddsregler och integritetsregler för kommunikation. Personuppgifter kommer att behandlas i enlighet med den allmänna dataskyddsförordningen. Den föreslagna lagstiftningen har inbyggda skyddsmekanismer i enlighet med EU:s stadga om de grundläggande rättigheterna och EU-domstolens rättspraxis.
Enligt förslaget ska den data som behandlas för att upptäcka övergrepp mot barn på nätet begränsas till vad som är nödvändigt. I princip raderas datan omedelbart och för evigt, om den inte är helt nödvändig för de ändamål som anges i förordningen.
Förordningen innehåller skyddsmekanismer som ska se till att systemen används enbart för att hitta och anmäla övergrepp och som ska garantera öppenhet och rättslig prövning. EU-centrumet för att förebygga och bekämpa sexuella övergrepp mot barn är en viktig garant för öppenhet i det arbetet och ska underlätta tillgången till den teknik som minst inkräktar på integriteten.
Att förhindra spridningen av material som skildrar sexuella övergrepp mot barn skyddar offrens integritet och undanröjer en ständig källa till trauma för dem.
The companies that receive a detection order by a court will be required to use state-of-the-art technologies that are the least privacy-intrusive, limiting the error rate of false positives to the maximum extent possible.
Technologies that can ensure effective detection without substantially undermining the privacy of electronic communication exist. As there are 3 types of child sexual abuse material to be detected, we will list examples down below for: known material, new material, grooming.
- Detection of known child sexual abuse material relies on Photo DNA technology.
Photo DNA technology consists of converting a previously flagged image into a unique (and non-recoverable) identifier. This process is built on the similar concept of digital fingerprinting as originally developed for application in the detection of malware and copyrighted content. - Detection of new child sexual abuse and grooming relies on artificial intelligence classifiers.
These classifiers are trained on databases of known child sexual abuse material and confirmed grooming conversations and develop the capacity to identify analogous images, videos or conversations. Artificial intelligence classifiers are set to detect material that corresponds to new child sexual abuse material or grooming with a predetermined rate of likelihood. Therefore, it is perfectly possible to instruct them to only detect material that has an extremely high chance of being CSA. - The flagging of potential grooming conversations would occur based on artificial intelligence classifiers trained on confirmed grooming.
Grooming detection exists already and has proven reliable. Grooming detection will be subject to strict performance safeguards in particular in terms of the accuracy rate. Technologies are currently at the basis of content moderation and are already widely used, for example on gaming sites, where adult offenders often target children.
All reports sent by service providers would be reviewed at the level of the EU Centre, so that providers are given feedback on inaccurate detection and can further refine their detection tools.
EU-centrumet mot sexuella övergrepp mot barn ska samarbeta med företag och brottsbekämpande myndigheter för att hjälpa dem att utbyta information och bästa praxis och dessutom skapa överblick och garantera transparens och ansvarsskyldighet. Centrumet ska stödja
- företagen genom att förse dem med en databas över indikatorer för att lättare upptäcka sexuella övergrepp mot barn på nätet
- de brottsbekämpande myndigheterna så att de kan följa upp anmälningar och rädda barn
- EU-länderna i deras arbete med att förhindra sexuella övergrepp på barn på nätet och hjälpa offren.
Centrumet ska samarbeta med partner utanför EU, bland annat liknande centrum i USA, Kanada och Australien.
Syftet med direktivet är att harmonisera EU-ländernas straffrättsliga lagstiftning, medan den föreslagna förordningen är direkt tillämplig och slår fast internetföretagens ansvar. I detta avseende överlappar de båda rättsakterna inte varandra.
Det nya förslaget stöder genomförandet av direktivets förebyggande insatser och stödåtgärder. Det kommer att bli en av de viktigaste uppgifterna för EU-centrumet för att förebygga och bekämpa sexuella övergrepp mot barn.
EU-kommissionen kommer att arbeta tillsammans med relevanta intressenter från den privata och den offentliga sektorn för att stärka samarbetet och utbytet av bästa praxis inom ett nätverk av experter och yrkesverksamma. EU-centrumet ska också bidra till att främja det förebyggande arbetet. Det ska samarbeta med expertnätverket men också fungera som en kontaktpunkt för liknande centrum världen över.
Vi strävar också efter att bättre skydda barn mot sexuella övergrepp genom att samarbeta med WeProtect Global Alliance.
Dessutom kommer vi att fortsätta att finansiera initiativ för bättre förebyggande insatser.
Parallellt med lagförslaget kommer kommissionen också att anta en förnyad strategi för ett bättre internet för barn för att ytterligare hjälpa och skydda barnen på nätet.
Om rättsakten om digitala tjänster antas kommer den att skapa en enhetlig baslinje mot olagligt innehåll i allmänhet. På grund av sin generella och övergripande natur kommer rättsakten bara att i viss utsträckning gälla sexuella övergrepp mot barn. Material som visar sexuella övergrepp mot barn och olagligt webbinnehåll bör åtgärdas på ett reaktivt sätt som kan skilja sig åt från fall till fall. Att förebygga spridningen av känt barnpornografiskt material kräver ett mer systematiskt och målinriktat tillvägagångssätt.
Det är uppenbart att frivillighet inte fungerar. Ett enda företag står för 95 procent av alla anmälningar och fem företag för 99 procent av alla anmälningar. Det finns emellertid över 1 600 företag registrerade enbart hos det amerikanska nationella centrumet för försvunna och utnyttjade barn.
Ett obligatoriskt system ska stärka kampen mot sexuella övergrepp mot barn på nätet inte bara i EU utan i hela världen. Det ger också möjlighet att slå fast vilka uppgifter som minst måste finnas med i en anmälan för att de brottsbekämpande myndigheterna ska kunna agera. Därmed kan standarden på anmälningar förbättras i hela världen.