Bruselas aplaza regular la IA que identifica ciudadanos por sus rasgos: "Hay presión de la industria"

Bruselas ha decidido frenar una de las piezas más sensibles de su nueva Ley de Inteligencia Artificial. La Unión Europea ha acordado este jueves retrasar la entrada en vigor de las normas sobre sistemas de identificación biométrica, tecnologías capaces de reconocer o verificar la identidad de una persona a partir de sus rasgos físicos -como el rostro o la voz- y que afectan a ámbitos especialmente delicados como la vigilancia policial, el control de fronteras, la educación, el empleo o los servicios públicos esenciales.

Según el acuerdo, estas obligaciones no empezarán a aplicarse hasta el 2 de diciembre de 2027, ampliando así 16 meses el plazo. Para entonces, estos sistemas deberán contar con supervisión humana y ser suficientemente precisos para su finalidad, reduciendo al máximo los posibles errores o riesgos. También será obligatorio que los datos utilizados para entrenarlos sean de calidad y estén libres de sesgos importantes, y que todo el funcionamiento del sistema esté correctamente documentado y sea transparente.

Además, algunos sistemas de IA relacionados con componentes de seguridad, como los usados en sectores regulados por normas europeas específicas, tendrán todavía más tiempo y no deberán cumplir plenamente la ley hasta agosto de 2028.

Este aplazamiento viene impulsado por un paquete de reformas impulsado por la Comisión Europa denominado "AI Omnibus". La UE sostiene que el objetivo es dar más tiempo a empresas y administraciones para adaptarse a un marco regulatorio complejo. Sin embargo, las organizaciones y expertos advierten de que en la práctica se trata de una reducción de las protecciones para los ciudadanos frente a sistemas de IA de alto riesgo.

Sandra Molina, especialista del departamento jurídico de la empresa de protección de datos Grupo Atico34, explica que los usos más peligrosos de la identificación biométrica son el reconocimiento facial en cámaras de videovigilancia sin consentimiento, la categorización de personas por atributos sensibles inferidos de sus rasgos físicos (raza, orientación sexual, religión), el scraping masivo de imágenes de internet para construir bases de datos faciales, y el reconocimiento de emociones en entornos laborales o educativos. "En todos estos casos la ley impondrá la prohibición o control máximo porque el riesgo de discriminación, persecución o pérdida de anonimato en el espacio público es estructuralmente irreversible: una vez que alguien ha sido identificado o categorizado, ese dato no podría 'devolverse'", señala.

Por ello, considera que con este aplazamiento de la aplicación de la ley "la ciudadanía queda desprotegida durante más tiempo frente a decisiones automatizadas que pueden afectar a su empleo, acceso al crédito o servicios públicos". No obstante, recuerda que las prohibiciones absolutas previstas en el artículo 5 del reglamento, como el reconocimiento facial en tiempo real o el social scoring, continúan vigentes desde febrero de 2025.

Itxaso Domínguez, asesora de políticas de European Digital Rights (EDRi) reconoce que existen dificultades reales relacionadas con la estandarización técnica de las normas, aunque considera que la solución a los problemas técnicos debería pasar por una "orientación clara, recursos adecuados y una aplicación efectiva", y no por retrasar la entrada en vigor de las protecciones. El aplazamiento, a su juicio, refleja "una presión sostenida de la industria, algunos gobiernos y actores políticos para ralentizar o suavizar la aplicación de la Ley de IA antes incluso de que sus partes clave hayan empezado a aplicarse".

Relacionado con este tema

Uno de cada 20 estudiantes está en riesgo de desarrollar una dependencia problemática a la IA

Público / EFE

"En la práctica, esto significa debilitar salvaguardas, retrasar obligaciones y dar a los actores poderosos más margen para evitar responsabilidades. Este marco está favoreciendo una carrera hacia abajo en términos de respeto a los derechos de las personas, además de generar altos niveles de inseguridad jurídica que solo los actores más grandes, normalmente las Big Tech, pueden permitirse gestionar", denuncia Domínguez.

La eurodiputada Leila Chaibi, del grupo de La Izquierda, ha señalado que "se está enviando un mensaje extremadamente preocupante" al ceder ante los intereses de las grandes compañías. "Parece que cuando las regulaciones afectan a los intereses de las multinacionales digitales, pueden retrasarse, vaciarse de contenido o reescribirse incluso antes de aplicarse. La inteligencia artificial ya está transformando el trabajo, el acceso a los derechos y nuestras democracias y ante esto, Europa debería reforzar las protecciones colectivas y la supervisión democrática, no organizar la desregulación", denuncia.

Relacionado con este tema

La UE prohíbe la creación de imágenes sexualizadas generadas con inteligencia artificial

EFE

Prohíbe 'deepfakes' sexuales

El acuerdo alcanzado este jueves también incluye como novedad la prohibición de sistemas de inteligencia artificial cuyo único propósito es el de generar imágenes sexualizadas sin el consentimiento de las personas afectadas o de abuso sexual infantil. En el caso de fotografías de este tipo que se puedan emplear para otros propósitos, también se prohibirán si no tienen "medidas de seguridad razonables" para evitar la propagación de este contenido.

"Desde el punto de vista jurídico, la medida es necesaria pero no es novedosa en España, ya que este tipo de contenido ya es constitutivo de delito bajo la Ley Orgánica 10/2022 de garantía integral de la libertad sexual, que tipifica la difusión no consentida de imágenes íntimas. Lo que hace la Ley de IA es extender la prohibición al nivel europeo y añadir responsabilidad para los desarrolladores y plataformas, no solo para quien genera o difunde el contenido", señala Molina.

Estas obligaciones comenzarán a aplicarse el 2 de diciembre de este año, junto con las medidas relacionadas con la transparencia de contenidos generados por IA, como el marcado digital o watermarking, una herramienta destinada a identificar y rastrear material sintético.

"Hemos logrado dos avances importantes: la prohibición de las aplicaciones de ‘desnudez no consentida’ y el mantenimiento del requisito de registro para ciertos proveedores de IA de alto riesgo. Pero, por lo demás, este texto debilita claramente las garantías destinadas a proteger a los ciudadanos europeos. Bajo el pretexto de la ‘simplificación’, la Unión Europea vuelve a ceder ante la presión de las grandes empresas tecnológicas y los intereses de la industria", apunta la eurodiputada Leila Chaibi.