Seksualno zlostavljanje djece sve je veći problem koji države članice ne mogu učinkovito riješiti ako djeluju samostalno ili nekoordinirano. Samo jedna država članica EU-a ne može spriječiti kruženje materijala sa seksualnim zlostavljanjem djece na internetu bez suradnje s privatnim pružateljima internetskih usluga / internetskim poduzećima koja posluju u više država članica. Potreban nam je usklađen sustav za cijeli EU.
U različitim poduzećima pružatelji internetskih usluga u različitoj mjeri dobrovoljno prijavljuju seksualno zlostavljanje djece. Neki pružatelji usluga poduzimaju sveobuhvatne mjere, dok drugi ne poduzimaju nikakve mjere. Zbog tih neusklađenosti zlostavljanje se i dalje ne otkriva. Budući da je otkrivanje dobrovoljno, poduzeća mogu odlučiti promijeniti svoje politike u bilo kojem trenutku, što otežava napore nadležnih tijela u suzbijanju seksualnog zlostavljanja djece.
Tim novim zakonodavstvom Europska komisija nastoji osigurati učinkovitu javno-privatnu suradnju u cijelom EU-u kako bi se djecu zaštitilo od predatora na internetu, počinitelji priveli pravdi te žrtvama pružila pravovremena i primjerena potpora.
Pružatelji internetskih usluga često su jedini koji, među mrežama počinitelja koje mogu uključivati stotine tisuća korisnika, mogu otkriti zlostavljanje koje se odvija skriveno od pogleda javnosti. Ako pružatelji usluga to zanemare, vjerojatno je da nitko neće moći identificirati žrtve niti im pomoći. U nekim se državama članicama već danas na temelju prijava pružatelja usluga pokreće do 80 % istraga.
Internet je počiniteljima pružio novi način približavanja djeci. Predatori se obraćaju djeci na društvenim mrežama, platformama za igranje, putem razgovora na chatu te ih mame da naprave kompromitirajuće slike sebe ili da pristanu na izvanmrežne sastanke. Djeca provode više vremena na internetu nego ikad prije, čime se povećava rizik od kontakta s predatorima na internetu. Međutim, u većini se slučajeva ne razlikuje između djece i odraslih korisnika pa se s djecom postupa kao da su iskusni odrasli korisnici interneta. Mnogi ignoriraju činjenicu da se njihove platforme zloupotrebljavaju za dijeljenje slika i videozapisa seksualnog zlostavljanja djece.
Seksualno zlostavljanje djece otkrivat će se strogo u skladu s važećim pravilima o zaštiti podataka i pravilima o privatnosti komunikacije. Osobni podaci obrađuju se u skladu s Općom uredbom o zaštiti podataka. Predloženo zakonodavstvo sadržava zaštitne mjere u skladu s Poveljom Europske unije o temeljnim pravima i sudskom praksom Suda Europske unije.
Podaci obrađeni radi otkrivanja seksualnog zlostavljanja djece na internetu ograničeni samo na ono što je nužno. U načelu se brišu odmah i zauvijek, osim ako ih je nužno zadržati u svrhe navedene u Uredbi.
Uredba uključuje zaštitne mjere kako bi se osiguralo da se sustavi za otkrivanje upotrebljavaju samo za otkrivanje i prijavljivanje seksualnog zlostavljanja djece na internetu te za osiguravanje transparentnosti i sudske zaštite. EU-ov centar za sprečavanje i suzbijanje seksualnog zlostavljanja djece ključna je zaštitna mjera kojom će se osigurati transparentnost postupka otkrivanja i olakšati pristup tehnologiji za otkrivanje koja najmanje narušava privatnost.
Sprečavanjem kruženja materijala sa seksualnim zlostavljanjem djece nastoji se zaštititi privatnost i ukloniti stalan izvor traume za žrtve.
The companies that receive a detection order by a court will be required to use state-of-the-art technologies that are the least privacy-intrusive, limiting the error rate of false positives to the maximum extent possible.
Technologies that can ensure effective detection without substantially undermining the privacy of electronic communication exist. As there are 3 types of child sexual abuse material to be detected, we will list examples down below for: known material, new material, grooming.
- Detection of known child sexual abuse material relies on Photo DNA technology.
Photo DNA technology consists of converting a previously flagged image into a unique (and non-recoverable) identifier. This process is built on the similar concept of digital fingerprinting as originally developed for application in the detection of malware and copyrighted content. - Detection of new child sexual abuse and grooming relies on artificial intelligence classifiers.
These classifiers are trained on databases of known child sexual abuse material and confirmed grooming conversations and develop the capacity to identify analogous images, videos or conversations. Artificial intelligence classifiers are set to detect material that corresponds to new child sexual abuse material or grooming with a predetermined rate of likelihood. Therefore, it is perfectly possible to instruct them to only detect material that has an extremely high chance of being CSA. - The flagging of potential grooming conversations would occur based on artificial intelligence classifiers trained on confirmed grooming.
Grooming detection exists already and has proven reliable. Grooming detection will be subject to strict performance safeguards in particular in terms of the accuracy rate. Technologies are currently at the basis of content moderation and are already widely used, for example on gaming sites, where adult offenders often target children.
All reports sent by service providers would be reviewed at the level of the EU Centre, so that providers are given feedback on inaccurate detection and can further refine their detection tools.
Centar će surađivati s poduzećima i tijelima kaznenog progona kako bi im pomogao u razmjeni informacija i najboljih praksi te osigurati nadzor, transparentnost i odgovornost. Centar će podupirati:
- poduzeća tako što će im pružiti bazu podataka s pokazateljima za otkrivanje seksualnog zlostavljanja djece na internetu
- tijela kaznenog progona kako bi mogla postupati po prijavama i spasiti djecu
- državama članicama u sprečavanju seksualnog zlostavljanja djece i pružanju pomoći žrtvama.
Centar će također surađivati s partnerima izvan EU-a, uključujući slične centre u SAD-u, Kanadi i Australiji.
Doznajte više o EU-ovu centru za sprečavanje i suzbijanje seksualnog zlostavljanja djece.
Direktivom se nastoji uskladiti kazneno zakonodavstvo država članica EU-a, dok će se predložena Uredba izravno primjenjivati i definirati odgovornosti pružatelja digitalnih usluga. U tom pogledu nema preklapanja između dvaju instrumenata.
Novim se prijedlogom podupire provedba mjera prevencije i potpore iz Direktive. To će biti jedna od glavnih uloga EU-ova centra za sprečavanje i suzbijanje seksualnog zlostavljanja djece.
Doznajte više o EU-ovu centru za sprečavanje i suzbijanje seksualnog zlostavljanja djece.
Europska komisija surađivat će s relevantnim dionicima iz javnog i privatnog sektora kako bi se povećala suradnja i razmjena najboljih praksi među stručnjacima i istraživačima u okviru mreže za prevenciju. EU-ov centar za sprečavanje i suzbijanje seksualnog zlostavljanja djece imat će presudnu ulogu u jačanju preventivnih mjera. Centar će surađivati s mrežom za prevenciju, ali i djelovati kao pandan sličnim centrima u cijelom svijetu.
U suradnji s globalnim savezom WeProtect radimo i na poboljšanju zaštite djece od seksualnog zlostavljanja na globalnoj razini.
Osim toga, nastavit ćemo financirati inicijative za poboljšanje prevencije.
Komisija će uz zakonodavni prijedlog donijeti i obnovljenu strategiju za bolji internet za djecu kako bi se dodatno poduprla i zaštitila djeca na internetu.
Ako se donese, Akt o digitalnim uslugama nastojat će uspostaviti usklađenu osnovu za rješavanje problema svih nezakonitih sadržaja općenito. Međutim, zbog njegove opće i horizontalne prirode, samo se djelomično rješava pitanje seksualnog zlostavljanja djece. Problem sadržaja sa seksualnim zlostavljanjem djece i nezakonitog internetskog sadržaja treba se rješavati žurno i na pojedinačnoj osnovi. Za sprečavanje širenja i kruženja poznatih materijala sa seksualnim zlostavljanjem djece potreban je sustavniji i usmjereniji pristup.
Jasno je da dobrovoljan pristup ne funkcionira. Jedno poduzeće predstavlja 95 % svih prijava seksualnog zlostavljanja djece na globalnoj razini, a pet poduzeća predstavlja 99 % svih prijava. Samo je u Nacionalnom centru za nestalu i iskorištavanu djecu registrirano više od 1 600 poduzeća.
Obveznim otkrivanjem nastoji se poboljšati suzbijanje seksualnog zlostavljanja djece ne samo u EU-u nego i u cijelom svijetu. To je i prilika za određivanje minimalnih informacija koje treba uključiti u prijave kako bi ih se moglo upotrijebiti za kazneni progon. Time bi se mogli poboljšati standardi prijavljivanja na globalnoj razini.