Comment la nouvelle législation de l’UE visant à lutter contre les abus sexuels commis sur des enfants va changer les choses

L’Union européenne (UE) travaille à l’élaboration de mesures visant à prévenir et combattre les abus sexuels commis sur des enfants. Le 3 août 2024, la législation de l’UE permettant aux fournisseurs de services de continuer à détecter, signaler et supprimer volontairement le matériel pédopornographique en ligne expirera.

À l’heure actuelle, les services concernés ne sont pas toujours conçus en tenant compte de la sécurité des enfants, et de nombreuses entreprises technologiques ne vérifient pas la présence de matériel pédopornographique et ne la signalent pas le cas échéant. En effet, la décision est laissée à l’appréciation de chaque entreprise. Pour lutter efficacement contre l’utilisation de services en ligne pour commettre des abus sexuels sur des enfants, des règles claires sont nécessaires. À présent, l’UE a l’intention de rendre obligatoires la prévention, la détection, le signalement et la suppression du matériel pédopornographique. Cela aidera la police à trouver davantage de preuves d’abus sexuels commis sur des enfants et permettra la suppression rapide du matériel concerné.

Qui doit effectuer les contrôles?

En résumé, tout fournisseur de services en ligne effectuera des contrôles pour vérifier si le risque d’abus sexuels commis sur des enfants sur ses systèmes est suffisamment élevé. Ce processus suivra des étapes clairement définies par la législation proposée.

En cas de détection d’un risque élevé, une entreprise technologique réduira d’abord le risque de préjudice en prenant des mesures d’atténuation. Pour ce faire, elle devra soumettre une évaluation des risques à l’autorité de coordination (le gouvernement, par exemple) afin de vérifier si le risque d’abus commis sur des enfants est significatif dans le cadre de ses services. Si ce risque est suffisamment élevé, l’autorité de coordination émettra une demande d’injonction de détection, imposant à l’entreprise concernée d’élaborer un plan visant à prendre des mesures pour détecter les abus sexuels commis sur des enfants, tout en respectant la vie privée des utilisateurs dans toute la mesure du possible.

Ensuite, l’entreprise élaborera un plan de mise en œuvre de l’injonction, qui l’obligera à procéder à une analyse d’impact relative à la protection des données. Celle-ci devra être examinée à la fois par l’autorité nationale chargée de la protection des données et par une autorité compétente. Enfin, une autorité judiciaire se prononcera sur l’injonction de détection. Sa décision devra tenir compte de la nécessité de l’injonction (en fonction du niveau de risque d’abus sexuels commis sur des enfants sur la plateforme concernée) et de l’efficacité des garde-fous visant à limiter le caractère invasif des mesures.

Comment les abus sexuels commis sur des enfants sont-ils détectés?

Les entreprises technologiques effectueront elles-mêmes la détection à l’aide d’une technologie spécialisée, dont l’accès pourrait être facilité par un centre spécialisé de l’UE. Celui-ci jouera également un rôle dans l’évaluation de toute nouvelle technologie et veillera à ce que son utilisation soit sûre. La technologie en question fonctionne de la même manière qu’un chien renifleur détecte de la drogue ou des explosifs en reconnaissant une odeur particulière. Dans ce cas, la technologie reconnaît des «hachages» et des «indicateurs d’IA» particuliers permettant de déceler les cas d’abus sexuels commis sur des enfants.

Comment se fait le signalement?

Actuellement, le Centre national des enfants disparus ou victimes d’abus (NCMEC) des États-Unis, un organisme privé à but non lucratif, reçoit et traite les signalements. Avec la nouvelle législation, un nouveau centre de l’UE sera créé pour ce faire. Lorsqu’une entreprise technologique trouvera du matériel pédopornographique, elle devra le signaler à ce centre. Celui-ci analysera ce signalement et exclura tout matériel qui n’est pas illégal, de sorte que seuls les signalements confirmés parviendront à la police.

Qui définit ce qui doit être retiré? et à quelle vitesse?

Actuellement, la suppression de contenus peut être un processus long, qui dépend souvent de la bonne volonté des entreprises technologiques concernées. À l’avenir, si ces contenus ne sont pas retirés volontairement, une autorité judiciaire émettra une injonction de suppression obligeant l’entreprise technologique concernée à retirer le matériel illicite dans les 24 heures.

Que puis-je faire?

Cette législation constitue une étape cruciale vers une protection accrue des enfants contre les dangers liés aux abus sexuels dont ils peuvent être victimes. Elle contribuera à protéger les enfants, aider les victimes et sauver des vies. L’obligation imposée aux entreprises technologiques de détecter, signaler et supprimer activement les contenus a déjà été saluée par une série d’organisations de défense des droits de l’enfant. Soyez à leurs côtés: faites connaître la nouvelle législation et expliquez comment elle va changer les choses