Kako će novi propis EU-a osnažiti borbu protiv seksualnog zlostavljanja djece

Europska unija (EU) radi na mjerama za sprečavanje i suzbijanje seksualnog zlostavljanja djece. Propis EU-a kojim se pružateljima usluga omogućuje da nastave dobrovoljno otkrivati i prijavljivati seksualno zlostavljanje djece na internetu te uklanjati materijale sa seksualnim zlostavljanjem djece prestat će važiti 3. kolovoza 2024.

Usluge nisu uvijek osmišljene imajući na umu sigurnost djece, a mnoga tehnološka poduzeća ne provjeravaju materijal povezan sa seksualnim zlostavljanjem djece niti ga prijavljuju kad ga pronađu. To je tako jer je odluka o tome prepuštena svakom pojedinom poduzeću. Za učinkovito rješavanje problema zlouporabe internetskih usluga u svrhu seksualnog zlostavljanja djece potrebna su jasna pravila. EU namjerava sprečavanje, otkrivanje, prijavljivanje i uklanjanje takvih materijala učiniti obveznim. Time će se policiji pomoći da pronađe više dokaza o seksualnom zlostavljanju djece i osigura brzo uklanjanje takvih materijala.

Tko treba provoditi provjere?

Ukratko, svaki pružatelj usluga na internetu provodit će provjere kako bi utvrdio postoji li visok rizik od seksualnog zlostavljanja djece u njihovim sustavima. Predloženim propisom taj će postupak slijediti stroge pravne korake.

Ako se otkrije visok rizik, tehnološka poduzeća prvo će smanjiti rizik od štete mjerama ublažavanja. U tu svrhu moraju dostaviti procjenu rizika koordinacijskom tijelu (npr. nacionalnoj vladi) kako bi se provjerilo predstavljaju li njihove usluge znatan rizik od zlostavljanja djece. Ako je rizik dovoljno visok, koordinacijsko tijelo sastavit će zahtjev za nalog za otkrivanje, kojim se od poduzeća zahtijeva da pripremi plan za uvođenje mjera kako bi se otkrilo seksualno zlostavljanje djece uz maksimalno poštovanje privatnosti korisnika.

Nadalje, tehnološko poduzeće izradit će plan za izvršenje tog naloga, za što će morati provesti procjenu učinka na zaštitu podataka. To moraju preispitati i nacionalno tijelo za zaštitu podataka i nadležno tijelo. Naposljetku, pravosudno tijelo odlučit će o nalogu za otkrivanje. U odluci se mora uzeti u obzir nužnost naloga (razina rizika od seksualnog zlostavljanja djece na određenoj platformi) i učinkovitost zaštitnih mjera za ograničavanje invazivnosti mjera.

Kako se otkriva seksualno zlostavljanje djece?

Tehnološka poduzeća sama će se baviti otkrivanjem primjenom specijalizirane tehnologije, kojoj bi EU-ov centar mogao olakšati pristup. Centar će također imati ulogu u procjeni svih budućih tehnologija i jamčenju njihove sigurnosti za upotrebu. Tehnologija djeluje na isti način na koji pas tragač otkriva drogu ili eksplozive prepoznavanjem određenog mirisa. U ovom slučaju tehnologija prepoznaje posebne identifikacijske kontrolne brojeve i pokazatelje umjetne inteligencije za otkrivanje slučajeva seksualnog zlostavljanja djece.

Kako se prijavljuje?

Američki Nacionalni centar za nestalu i iskorištavanu djecu (privatna neprofitna organizacija) trenutačno prima i provjerava prijave. Novim propisom uspostavit će se novi EU-ov centar koji će to činiti. Tehnološka poduzeća bit će obvezna EU-ovu centru prijaviti svaki otkriveni sadržaj koji predstavlja zlouporabu. EU-ov centar provjeravat će te prijave i filtrirati sve materijale koji nisu nezakoniti kako bi do policije došle samo potvrđene prijave.

Tko definira što se mora ukloniti i koliko brzo?

Uklanjanje sadržaja trenutačno može biti dugotrajan proces i često ovisi o dobroj volji pojedinačnih tehnoloških poduzeća. U budućnosti, ako se takav sadržaj ne ukloni dobrovoljno, pravosudno tijelo izdat će nalog za uklanjanje na temelju kojeg će tehnološko poduzeće u roku od 24 sata morati ukloniti nezakoniti materijal.

Što možete učiniti?

Propis je ključan korak prema daljnjoj zaštiti djece od opasnosti seksualnog zlostavljanja. On će pomoći u zaštiti djece, potpori žrtvama i spašavanju života. Niz organizacija za prava djece već je pohvalio obvezni zahtjev da tehnološka poduzeća aktivno otkrivaju takve sadržaje, prijavljuju ih i uklanjaju. Budimo uz njih – proširite informacije o važnosti novog propisa