El abuso sexual de menores es un problema cada vez mayor y, si los países de la UE actúan solos o de forma descoordinada, no pueden abordarlo eficazmente. Los países de la UE por sí solos no pueden impedir que el material relacionado con el abuso sexual de menores circule por internet sin cooperar con los proveedores de servicios en línea privados o las empresas de internet que operan en varios países de la UE. Necesitamos un sistema coherente para toda la UE.
La denuncia voluntaria de abusos sexuales a menores por parte de los proveedores de servicios en línea varía de una empresa a otra. Algunos proveedores de servicios toman medidas exhaustivas. Otros no toman ninguna medida. Estas lagunas en la denuncia hacen que los abusos prosigan sin ser detectados. Dado que la detección tiene carácter voluntario, las empresas pueden decidir cambiar sus políticas en cualquier momento, obstaculizando los esfuerzos de las autoridades por luchar contra el abuso sexual de menores.
Con esta nueva legislación, la Comisión Europea pretende garantizar una cooperación pública y privada eficaz en toda la UE, a fin de proteger a los menores frente a los depredadores en línea, llevar a los delincuentes ante la justicia y proporcionar un apoyo oportuno y adecuado a las víctimas.
Los proveedores de servicios en línea son a menudo los únicos capaces de detectar los abusos que se producen a escondidas de la mirada pública, entre redes de delincuentes que pueden incluir a cientos de miles de usuarios. Si los proveedores de servicios ignoran esto, es probable que nadie sea capaz de identificar y ayudar a las víctimas. Hoy día, en algunos países de la UE, hasta el 80 % de las investigaciones que se inician obedecen a las denuncias de los proveedores de servicios.
Internet ha proporcionado a los delincuentes una nueva forma de acercarse a los niños. Los depredadores sexuales se ponen en contacto con los niños en las redes sociales, las plataformas de juego y los chats, y les inducen a ofrecer imágenes comprometedoras de ellos mismos o a quedar fuera de línea. Los niños pasan más tiempo en línea que nunca, lo que aumenta el riesgo de que entren en contacto con depredadores en línea. Sin embargo, la mayoría de los servicios no distinguen entre menores o adultos, y tratan a los niños como si fueran usuarios avezados de internet capaces de protegerse, algo que evidentemente no son. Muchos servicios hacen la vista gorda sobre el uso indebido de sus plataformas para compartir imágenes y vídeos de abusos sexuales a menores.
La detección de abusos sexuales a menores respetará escrupulosamente las normas vigentes en materia de protección de datos y la privacidad de las comunicaciones. Los datos personales se tratarán de conformidad con el Reglamento General de Protección de Datos. La legislación propuesta cuenta con salvaguardias integradas en consonancia con la Carta de los Derechos Fundamentales de la Unión Europea y la jurisprudencia del Tribunal de Justicia de la Unión Europea.
La nueva propuesta establece que los datos tratados para detectar abusos sexuales a menores en línea se limiten exclusivamente a lo necesario. En principio, se suprimen inmediata y permanentemente, a menos que conservarlos sea estrictamente necesario para los fines enumerados en el Reglamento.
El Reglamento incluye salvaguardias para garantizar que los sistemas de detección se utilicen únicamente para detectar y denunciar abusos sexuales a menores en línea, así como para garantizar la transparencia y el recurso judicial. El centro de la UE para prevenir y combatir el abuso sexual de menores es una salvaguardia clave que garantizará la transparencia del proceso de detección y facilitará el acceso a la tecnología de detección menos intrusiva para la privacidad.
Por último, la prevención de la circulación de material relacionado con el abuso sexual de menores tiene por objeto proteger la privacidad de las víctimas y eliminar una fuente constante de trauma para ellas.
The companies that receive a detection order by a court will be required to use state-of-the-art technologies that are the least privacy-intrusive, limiting the error rate of false positives to the maximum extent possible.
Technologies that can ensure effective detection without substantially undermining the privacy of electronic communication exist. As there are 3 types of child sexual abuse material to be detected, we will list examples down below for: known material, new material, grooming.
- Detection of known child sexual abuse material relies on Photo DNA technology.
Photo DNA technology consists of converting a previously flagged image into a unique (and non-recoverable) identifier. This process is built on the similar concept of digital fingerprinting as originally developed for application in the detection of malware and copyrighted content. - Detection of new child sexual abuse and grooming relies on artificial intelligence classifiers.
These classifiers are trained on databases of known child sexual abuse material and confirmed grooming conversations and develop the capacity to identify analogous images, videos or conversations. Artificial intelligence classifiers are set to detect material that corresponds to new child sexual abuse material or grooming with a predetermined rate of likelihood. Therefore, it is perfectly possible to instruct them to only detect material that has an extremely high chance of being CSA. - The flagging of potential grooming conversations would occur based on artificial intelligence classifiers trained on confirmed grooming.
Grooming detection exists already and has proven reliable. Grooming detection will be subject to strict performance safeguards in particular in terms of the accuracy rate. Technologies are currently at the basis of content moderation and are already widely used, for example on gaming sites, where adult offenders often target children.
All reports sent by service providers would be reviewed at the level of the EU Centre, so that providers are given feedback on inaccurate detection and can further refine their detection tools.
El centro de la UE trabajará con las empresas y los cuerpos y fuerzas de seguridad para ayudarles a intercambiar información y las mejores prácticas, proporcionando supervisión, transparencia y rendición de cuentas. El centro apoyará a:
- las empresas, proporcionándoles una base de datos de indicadores para detectar abusos sexuales a menores en línea
- los cuerpos y fuerzas de seguridad, para que puedan actuar sobre la base de las denuncias y salvar a los niños
- los países de la UE, en la prevención del abuso sexual de menores en línea y la ayuda a las víctimas
El centro también colaborará estrechamente con socios de fuera de la UE, incluidos los centros afines de Estados Unidos, Canadá y Australia.
Más información sobre el centro de la UE para prevenir y combatir el abuso sexual de menores
La Directiva tiene por objeto armonizar la legislación penal de los países de la UE, mientras que el Reglamento propuesto será directamente aplicable y definirá las responsabilidades de los proveedores de servicios digitales. A este respecto, no existe solapamiento entre ambos instrumentos.
La nueva propuesta apoya la aplicación de las medidas de prevención y apoyo incluidas en la Directiva. Esta es una de las funciones principales del centro de la UE para prevenir y combatir el abuso sexual de menores
Más información sobre el centro de la UE para prevenir y combatir el abuso sexual de menores
La Comisión Europea colaborará con las partes interesadas pertinentes de los sectores público y privado para aumentar la cooperación y el intercambio de las mejores prácticas en el marco de la red de prevención de profesionales e investigadores. El centro de la UE para prevenir y combatir el abuso sexual de menores desempeñará un papel clave a la hora de impulsar los esfuerzos de prevención. Cooperará con la red de prevención, pero también actuará como el centro homólogo de otros centros afines de todo el mundo.
También estamos trabajando para mejorar la protección de los niños frente a los abusos sexuales a escala mundial cooperando con la Alianza Mundial WeProtect.
Además, seguiremos financiando iniciativas para mejorar la prevención.
Junto con la propuesta legislativa, la Comisión también adoptará una Estrategia europea renovada en favor de una Internet más adecuada para los niños, a fin de seguir apoyando y protegiendo a los niños en línea.
Si se adopta, la Ley de Servicios Digitales tiene por objeto crear una base de referencia armonizada para hacer frente a todos los contenidos ilícitos en general. Sin embargo, debido a su carácter general y horizontal, solo aborda parcialmente la cuestión del abuso sexual de menores. El material relacionado con el abuso sexual de menores y los contenidos ilícitos en línea deben abordarse de manera reactiva, caso por caso. Prevenir la difusión y circulación de material conocido de abuso sexual de menores requiere un enfoque más sistemático y específico.
Es evidente que el enfoque voluntario no funciona. Una única empresa representa el 95 % de todas las denuncias de abusos sexuales a menores en todo el mundo, y cinco empresas representan el 99 % del total de las denuncias. Sin embargo, solo en el Centro Nacional de Niños Desaparecidos y Explotados hay más de 1 600 empresas registradas.
La detección obligatoria tiene por objeto mejorar la lucha contra el abuso sexual de menores no solo en la UE, sino también en todo el mundo. También es una oportunidad para determinar la información mínima que debe incluirse en las denuncias, de modo que puedan ser justiciables para los cuerpos y fuerzas de seguridad. Esto podría mejorar las normas en materia de denuncia a escala mundial.