La Comisión Europea ha anunciado que está estudiando la posibilidad de tipificar como delito las imágenes generadas por inteligencia artificial (IA) y los deepfakes que representan abusos sexuales a menores, con el fin de actualizar la legislación en respuesta a los avances tecnológicos.
La propuesta incluye la introducción de un nuevo delito penal por retransmitir en directo abusos sexuales a menores. También busca criminalizar la posesión e intercambio de "manuales pedófilos". La propuesta también menciona los chatbots de inteligencia artificial utilizados para abusar de menores.
La Comisión Europea ha anunciado que está estudiando la posibilidad de tipificar como delito las imágenes generadas por inteligencia artificial (IA) y los deepfakes que representan abusos sexuales a menores, con el fin de actualizar la legislación en respuesta a los avances tecnológicos.
La propuesta incluye la introducción de un nuevo delito penal por retransmitir en directo abusos sexuales a menores. También busca criminalizar la posesión e intercambio de "manuales pedófilos". La propuesta también menciona los chatbots de inteligencia artificial utilizados para abusar de menores.
Con la propuesta, la comisión pretende actualizar las normas de 2011, sugiriendo cambios en la notificación obligatoria de delitos. Estas medidas forman parte de un paquete más amplio destinado a prevenir los abusos sexuales a menores, aumentar la concienciación sobre los riesgos en línea, facilitar la denuncia de delitos a las víctimas y proporcionarles apoyo, incluido el derecho a una compensación económica.
Child sexual abuse is a heinous crime which has evolved significantly over the past years.
— European Commission (@EU_Commission) February 6, 2024
Today, we are adopting a proposal to update the criminal law rules on child sexual abuse and sexual exploitation.
Learn more → https://t.co/mtz68GuEJJ#SecurityEU pic.twitter.com/QF7TsFX7cy
El abuso sexual infantil es un delito atroz que ha evolucionado mucho en los últimos años.
Hoy aprobamos una propuesta para actualizar las normas penales sobre abuso sexual infantil y explotación sexual.
La evaluación de impacto realizada por la Comisión antes de la propuesta destacaba el aumento de la presencia en línea y los "últimos avances tecnológicos" como factores que crean nuevas oportunidades de abuso sexual infantil. Para hacer frente a los riesgos de seguridad en línea para los niños, la propuesta anima a los Estados miembros a invertir en "sensibilización".
Preocupa que la tecnología se utilice indebidamente para crear material de abuso sexual infantil (CSAM, por sus siglas en inglés), por lo que se teme que estos contenidos artificiales puedan complicar la identificación de las víctimas reales a las autoridades policiales y judiciales, lo que pone de relieve la necesidad de revisar la normativa vigente.
Relacionado: UE: aprueban un acuerdo político para impulsar la Ley de IA
No obstante, la forma final de las propuestas será decidida por el Parlamento Europeo y el Consejo Europeo. Según la Comisión, una vez alcanzado un acuerdo sobre la modificación de la actual directiva de lucha contra el ASN, ésta entraría en vigor 20 días después de su publicación en el Diario Oficial de la UE.
Según el procedimiento legislativo ordinario, cuando la Comisión Europea presenta una propuesta, el Parlamento Europeo y el Consejo de Ministros pueden aprobarla o modificarla. Si persisten los desacuerdos, ambos pueden proponer enmiendas. A continuación siguen las negociaciones y, una vez concluidas, ambas instituciones pueden votar a favor o en contra de la versión final.
En mayo de 2022, la Comisión propuso legislación adicional centrada en la obligación de los servicios digitales de emplear tecnologías automatizadas para detectar y denunciar el CSAM e identificar las actividades de captación de menores. Según la comisión, la propuesta actual complementa la propuesta de reglamento de 2022.
Sin embargo, se ha producido un aumento significativo de la concienciación sobre los peligros de los deepfakes y las imágenes generadas por IA en menos de dos años desde que se presentó la propuesta de escaneo de mensajes privados.
- Magazine: 'La IA ha matado al sector': El jefe de EasyTranslate se adapta al cambio