Cómo marcará la diferencia la nueva legislación de la UE para luchar contra el abuso sexual de menores

La Unión Europea (UE) está trabajando en medidas para prevenir y combatir el abuso sexual de menores. El 3 de agosto de 2024 expirará la legislación de la UE que permite a los proveedores de servicios seguir realizando, con carácter voluntario, labores de detección, denuncia y eliminación de material de abuso sexual de menores en línea.

En la actualidad, los servicios no siempre se conciben teniendo en mente la seguridad infantil, y muchas empresas tecnológicas no verifican la existencia de material de abuso sexual de menores ni lo denuncian cuando lo encuentran. Esto se debe a que la decisión de intervenir se deja en manos de cada empresa. Para abordar eficazmente el uso indebido de los servicios en línea con fines de abuso sexual de menores, se necesitan normas claras. Ahora, la UE tiene la intención de hacer obligatorias las labores de prevención, detección, denuncia y eliminación. Esto ayudará a la policía a encontrar más pruebas de la comisión de abuso sexual de menores y garantizará que estas pruebas se retiren rápidamente de internet.

¿Quién debe llevar a cabo los controles?

En resumen, cualquier proveedor en línea llevará a cabo controles para comprobar si el riesgo de abuso sexual de menores en sus sistemas es suficientemente elevado. Con la legislación propuesta, este proceso constará de una serie de trámites legales estrictos.

Si se detecta un riesgo elevado, las empresas tecnológicas reducirán, en primer lugar, el riesgo de daños mediante la mitigación. Para ello, deben presentar una evaluación de riesgos para que la autoridad de coordinación (por ejemplo, el Gobierno nacional) compruebe si el riesgo de abuso infantil es considerable en sus servicios. Si el riesgo es lo suficientemente elevado, la autoridad de coordinación redactará una solicitud de orden de detección, en la que se exigirá a la empresa que elabore un plan para introducir medidas que detecten el abuso sexual de menores, respetando al mismo tiempo la privacidad de los usuarios en la mayor medida posible.

A continuación, la empresa tecnológica creará un plan para ejecutar la orden, lo que la obligará a llevar a cabo una evaluación de impacto relativa a la protección de datos. Esto debe ser revisado tanto por la autoridad nacional de protección de datos como por una autoridad competente. Por último, una autoridad judicial se pronunciará sobre la orden de detección. La decisión de la autoridad judicial debe tener en cuenta la necesidad de la orden (el nivel de riesgo de abuso sexual de menores en una plataforma determinada) y la eficacia de las salvaguardias para limitar el carácter invasivo de las medidas.

¿Cómo se detecta el abuso sexual de menores?

Las empresas tecnológicas se encargarán de la detección utilizando tecnologías especializadas, cuyo acceso podría facilitar el Centro de la UE. El Centro también desempeñará un papel en la evaluación de cualquier tecnología futura y en la garantía de que su uso sea seguro. La tecnología funciona del mismo modo que un perro olfateador que detecta drogas o explosivos al reconocer un determinado olor. En este caso, la tecnología reconoce determinados «hashes» e «indicadores de IA» para detectar casos de abuso sexual de menores.

¿Cómo se denuncia?

En la actualidad, el Centro Nacional para Niños Desaparecidos y Explotados (NCMEC) de Estados Unidos (organización privada sin ánimo de lucro) recibe y comprueba las denuncias. Con la nueva legislación habrá un nuevo Centro de la UE que se ocupe de ello. Cuando las empresas tecnológicas encuentren material relacionado con abusos deberán denunciarlo al Centro de la UE. El Centro de la UE comprobará estas denuncias y filtrará cualquier material que no sea ilegal, de modo que solo lleguen a la policía las denuncias confirmadas.

¿Quién establece qué debe retirarse y con qué rapidez?

En la actualidad, la eliminación de contenidos puede ser un proceso largo que depende a menudo de la voluntad de cada empresa tecnológica. En el futuro, si los contenidos no se retiran voluntariamente, una autoridad judicial emitirá una orden de retirada para que la empresa tecnológica retire el material ilegal en un plazo de 24 horas.

¿Qué puedo hacer yo?

La legislación supone un paso crucial para seguir protegiendo a los menores de los peligros del abuso sexual. Ayudará a proteger a los niños, a apoyar a las víctimas y a salvar vidas. El requisito obligatorio de que las empresas tecnológicas detecten, denuncien y eliminen activamente este tipo de contenidos ya ha recibido la acogida favorable de una serie de organizaciones de defensa de los derechos de la infancia. Defiéndalos: corra la voz sobre cómo la nueva legislación marcará la diferencia