La UE aprueba la propuesta de España para prohibir los 'deepfakes' sexuales hechos con IA

El Consejo de la Unión Europea ha aprobado este viernes, a propuesta de España, el texto para fijar la posición de los Veintisiete y prohibir la generación de contenido sexual realista mediante Inteligencia Artificial (IA), también conocidos como deepfakes, sin consentimiento explícito. 

La propuesta española, que contó con el apoyo de países como Francia, Alemania o Bélgica, entre otros, se enmarca dentro de la iniciativa de la Comisión Europea para reformar la ley de Inteligencia Artificial a raíz de la reciente polémica provocada por la herramienta Grok -la IA de la red social X-, que generó numerosas imágenes de desnudos de mujeres y menores a petición de sus usuarios.

En este sentido, fuentes del Ejecutivo confirman a Público que el texto pactado por el Consejo de la UE propone prohibir aquellos sistemas de IA con la capacidad de "generar, manipular o reproducir" contenido audiovisual realista de carácter sexual, en las que pueda identificarse a personas que no hayan dado su consentimiento explícito; así como aquellas herramientas que puedan generar pornografía infantil.

Según adelantan las mismas fuentes, el pacto también incluye otras propuestas como "la recuperación del registro de sistemas de alto riesgo que cumplieran determinados requisitos" y otras medidas de implementación de IA que tienen el objetivo de "reducir burocracia no necesaria".

El texto, no obstante, todavía debe pasar una fase de negociación entre el Consejo y los distintos órganos legislativos europeos (la Comisión y el Parlamento Europeo), antes de su aprobación definitiva.