Les abus sexuels commis contre des enfants constituent un problème croissant. Les pays de l'UE ne peuvent y remédier efficacement s'ils agissent seuls ou de manière non coordonnée. Un pays de l’UE ne peut empêcher seul la diffusion de contenus pédopornographiques, sans coopérer avec des fournisseurs privés de services en ligne et des entreprises de l’internet travaillant dans plusieurs pays de l’UE. Nous avons donc besoin d’un système cohérent pour l’ensemble de l’UE.
Le signalement, sur une base volontaire, d'abus sexuels commis contre des enfants varie selon les fournisseurs de services en ligne. Certains prestataires de services prennent de larges mesures. D'autres ne font rien. En raison de ces lacunes dans les signalements, des abus continuent à ne pas être détectés. Étant donné que la détection se fait sur une base volontaire, les entreprises peuvent décider de modifier leur politique à tout moment, ce qui entrave les efforts déployés par les autorités pour lutter contre ce phénomène.
Avec cette nouvelle législation, la Commission européenne vise à garantir une coopération efficace entre les autorités publiques et le secteur privé dans l’ensemble de l’UE afin de protéger les enfants des prédateurs sexuels en ligne, de traduire les auteurs en justice et d’apporter un soutien adéquat et en temps utile aux victimes.
Les fournisseurs de services en ligne sont souvent les seuls à pouvoir détecter les abus, commis à l’abri des regards, au sein de réseaux criminels pouvant comprendre des centaines de milliers d’utilisateurs. Si les prestataires de services ne font rien, il est probable que personne d'autre ne soit en mesure d’identifier et d’aider les victimes. Aujourd’hui déjà, dans certains pays de l’UE, jusqu’à 80 % des enquêtes sont lancées à la suite de signalements émanant de prestataires de services.
Internet a offert aux auteurs d'abus un nouveau moyen d’entrer en contact avec des enfants. Ces prédateurs sexuels entrent en relation avec les enfants sur les réseaux sociaux, les plateformes de jeux et les chats, les incitent à produire des images compromettantes ou leur proposent des rencontres hors ligne. Les enfants n'ont jamais passé autant de temps sur internet, et sont donc plus à risque d'être exposés à des prédateurs en ligne. Or, la plupart des services ne font pas de distinction entre les utilisateurs mineurs et les utilisateurs majeurs, et traitent les enfants comme s’ils étaient des adultes maîtrisant parfaitement internet et capables de se protéger, ce qui n’est évidemment pas le cas. De nombreux services ferment les yeux sur l’utilisation abusive de leurs plateformes en vue de partager des images et des vidéos pédopornographiques.
La détection des abus sexuels commis contre des enfants respectera les règles en vigueur en matière de protection des données, ainsi que les règles relatives au respect de la vie privée dans les communications. Les données à caractère personnel seront traitées conformément au règlement général sur la protection des données (RGPD). La législation proposée prévoit des garanties conformes à la charte des droits fondamentaux de l’Union européenne et à la jurisprudence de la Cour de justice de l’Union européenne.
La nouvelle proposition prévoit que les données traitées pour détecter les abus sexuels commis contre des enfants en ligne soient limitées au strict nécessaire. En principe, ces données sont supprimées immédiatement et indéfiniment, sauf si elles sont strictement nécessaires aux fins énumérées dans le règlement.
Le règlement prévoit des garanties assurant que les systèmes de détection ne soient utilisés que :pour repérer et signaler les abus sexuels commis contre des enfants en ligne, ainsi que la transparence et l'accès aux voies de recours judiciaires. Le centre européen de prévention et de répression des abus sexuels commis contre des enfants offre une garantie essentielle en matière de respect de la transparence du processus de détection. Il facilitera l’accès aux technologies de détection les moins attentatoires à la vie privée.
Enfin, la prévention de la circulation de contenus pédopornographiques vise à protéger la vie privée des victimes et à éliminer une source permanente de traumatisme pour elles.
The companies that receive a detection order by a court will be required to use state-of-the-art technologies that are the least privacy-intrusive, limiting the error rate of false positives to the maximum extent possible.
Technologies that can ensure effective detection without substantially undermining the privacy of electronic communication exist. As there are 3 types of child sexual abuse material to be detected, we will list examples down below for: known material, new material, grooming.
- Detection of known child sexual abuse material relies on Photo DNA technology.
Photo DNA technology consists of converting a previously flagged image into a unique (and non-recoverable) identifier. This process is built on the similar concept of digital fingerprinting as originally developed for application in the detection of malware and copyrighted content. - Detection of new child sexual abuse and grooming relies on artificial intelligence classifiers.
These classifiers are trained on databases of known child sexual abuse material and confirmed grooming conversations and develop the capacity to identify analogous images, videos or conversations. Artificial intelligence classifiers are set to detect material that corresponds to new child sexual abuse material or grooming with a predetermined rate of likelihood. Therefore, it is perfectly possible to instruct them to only detect material that has an extremely high chance of being CSA. - The flagging of potential grooming conversations would occur based on artificial intelligence classifiers trained on confirmed grooming.
Grooming detection exists already and has proven reliable. Grooming detection will be subject to strict performance safeguards in particular in terms of the accuracy rate. Technologies are currently at the basis of content moderation and are already widely used, for example on gaming sites, where adult offenders often target children.
All reports sent by service providers would be reviewed at the level of the EU Centre, so that providers are given feedback on inaccurate detection and can further refine their detection tools.
Ce centre collaborera avec les entreprises et les services répressifs pour les aider à échanger des informations et des bonnes pratiques, en assurant la surveillance, la transparence et la responsabilité. Le centre soutiendra:
- les entreprises en leur fournissant une base de données d’indicateurs permettant de détecter les abus sexuels commis contre des enfants en ligne;
- les services répressifs afin qu’ils puissent agir en cas de signalement et sauver des enfants;
- les pays de l’UE, afin de les aider à prévenir les abus sexuels commis contre des enfants en ligne et à soutenir les victimes.
En outre, le centre collaborera étroitement avec des partenaires extérieurs à l’UE, y compris des centres du même type situés aux États-Unis, au Canada et en Australie.
En savoir plus sur le centre européen de prévention et de répression des abus sexuels commis contre des enfants.
Cette directive vise à harmoniser la législation pénale des pays de l’UE, tandis que le règlement proposé sera directement applicable et définira les responsabilités des fournisseurs de services numériques. Il n’y a donc pas de chevauchement entre les deux instruments.
La nouvelle proposition appuie la mise en œuvre des mesures de prévention et de soutien prévues dans la directive. Ce sera l'un des principaux rôles du centre européen de prévention et de répression des abus sexuels commis contre des enfants.
En savoir plus sur le centre européen de prévention et de répression des abus sexuels commis contre des enfants
La Commission européenne collaborera avec les parties prenantes concernées des secteurs public et privé afin de renforcer la coopération et l’échange de bonnes pratiques dans le cadre du réseau de prévention rassemblant des spécialistes et des chercheurs. Le centre européen de prévention et de répression des abus sexuels commis contre des enfants jouera un rôle essentiel dans le renforcement des efforts de prévention. Il coopérera avec le réseau de prévention, et sera aussi l'homologue de centres du même type dans le monde entier.
Nous nous employons également à améliorer la protection des enfants contre les abus sexuels à l’échelle mondiale en coopérant avec l’alliance mondiale WeProtect.
En outre, nous continuerons à financer des initiatives visant à renforcer la prévention.
Parallèlement à la proposition législative, la Commission adoptera également une stratégie renouvelée pour un internet mieux adapté aux enfants, afin de soutenir et de protéger davantage les enfants en ligne.
Si elle est adoptée, la législation sur les services numériques mettra en place une base de référence harmonisée pour lutter contre tous les contenus illicites en général. Toutefois, en raison de sa nature générale et horizontale, elle ne traite que partiellement la question des abus sexuels commis contre des enfants. Les contenus à caractère pédopornographique et les contenus illicites en ligne devraient être traités de manière réactive, au cas par cas. La prévention de la diffusion et de la circulation de contenus à caractère pédopornographique connus nécessite une approche plus systématique et ciblée.
Il est évident que l’approche volontaire ne fonctionne pas. 95 % de tous les signalements d’abus sexuels commis contre des enfants dans le monde sont le fait d'une seule entreprise et cinq entreprises totalisent 99 % de tous les signalements, alors que le centre national américain pour les enfants disparus et exploités enregistre à lui seul plus de 1 600 entreprises.
La détection obligatoire vise à améliorer la lutte contre les abus sexuels commis contre des enfants non seulement dans l’UE, mais aussi dans le monde entier. Elle offre également la possibilité de déterminer quelles informations minimales doivent figurer dans les signalements, afin que les délits signalés puissent faire l'objet de poursuites. Cela pourrait améliorer les normes en matière de signalement à l’échelle mondiale.