Del veto en Asia al pulso con Europa: Grok y Musk están en el punto de mira por los 'deepfakes' sexuales

La falsificación de imágenes es casi tan antigua como la fotografía, pero el problema se vuelve prácticamente global en cuanto una herramienta de IA se ha puesto al servicio de cualquier persona. Sin límites, ni frenos, ni fronteras, la herramienta de inteligencia artificial (IA) de la red social X (antes Twitter),  Grok, ha inundado la red de imágenes sintéticas de desnudos infantiles.

El movimiento de Musk, que simplemente ha restringido la edición de fotos para hacer desnudos sin permiso a las cuentas premium, ni siquiera funciona. Según la publicación especializada The Verge, la máquina de desnudar a personas seguía funcionando incluso para quienes no pagan por la suscripción a X, pese al anuncio del dueño de la red social.

Mientras países como Indonesia y Malasia han prohibido el acceso al servicio de inteligencia artificial Grok -y La India baraja la posibilidad-, Europa encara el enésimo enfrentamiento con la administración de Trump, dada la cercanía del presidente de EEUU con Silicon Valley y, especialmente, con Musk. Según apunta Politico, el portavoz digital de la Comisión Europea, Thomas Regnier, calificó el asunto de los deepfakes sexuales de "ilegal", "atroz" y "repugnante". Mientras que la UE ha ordenado a X conservar toda la documentación interna relacionada con Grok para investigar supuestas medidas de moderación.

Futuras medidas para proteger a la infancia

El Consejo de Ministros ha aprobado el Anteproyecto de Ley de protección civil del derecho al honor, a la intimidad personal y familiar y a la propia imagen. Esta nueva normativa, que aún debe recorrer una larga tramitación parlamentaria dado que reforma una Ley Orgánica de 1982, se incluyen las ultrafalsificaciones y manipulación de imágenes como delitos contra el honor, y refuerza el consentimiento en el uso y difusión de la propia imagen. 

Además, en el Congreso de los Diputados se encuentra en tramitación la Ley para la protección de las personas menores de edad en los entornos digitales [PDF]. Este texto, que actualmente se encuentra en fase de enmiendas parciales y plantea reformas en el Código Penal, recoge que las personas menores de edad podrán conceder autorización para el tratamiento de sus datos personales a partir de los 16 años (lo que implica, por tanto, el acceso a redes sociales) o medidas contra el 'grooming'.

 Y va más allá: se podrá prohibir mediante testamento la utilización futura de la propia imagen o voz para fines comerciales o similares una vez fallecido el interesado, informa Miguel Muñoz desde La Moncloa.  

En España la ministra de Juventud e Infancia, Sira Rego, ha asegurado que llevará ante la justicia a Grok "todas las veces que haga falta" después de que esta haya limitado su generador de imágenes a suscriptores.

"El cumplimiento de la ley no depende de ninguna suscripción, ni nuestros derechos de los intereses de ningún millonario. Lo llevaremos ante la Justicia todas las veces que haga falta", señala Rego. Así lo ha puesto de manifiesto después de haberle pedido esta semana a la Fiscalía investigar a Grok por presuntos delitos de difusión de material de violencia sexual contra la infancia tras los casos de desnudos de menores.

  "El señor Musk pretende erigirse en dictador mundial"  

Para el Gobierno, "hay que actuar con determinación cuando se producen flagrantes vulneraciones de derechos, como consideramos que ha ocurrido en las últimas semanas con la herramienta de inteligencia artificial de X, la red social propiedad de Elon Musk".  

Relacionado con este tema

¿Cómo pueden defender sus obras los autores frente a la inteligencia artificial?

Pablo Romero

La ministra lamenta en declaraciones a Público que "la falta de regulación y, en algunos casos, la laxitud con respecto al cumplimiento de la legislación vigente, han permitido que grandes multimillonarios, como Elon Musk, hayan hecho caja a costa de nuestros derechos y, en particular, de niños, niñas y adolescentes".  "El señor Musk", remarca la ministra, "que utiliza su poder para intervenir en las democracias europeas y que es uno de los principales financiadores de Trump, investigado en el caso Epstein y que pretende erigirse en dictador mundial".

De entrada, es ilegal

El jurista especializado Borja Adsuara Varela comenta a Público que "las deepfakes, si son graves, podrían constituir un delito contra la integridad moral de una persona (art. 173.1 CP) y si son desnudos de un menor en los que se ven los genitales o está participando en actos sexuales explícitos sería pornografía infantil (art. 189 CP)".

Este experto también recuerda que podría demandarse por la vía civil y exigir una indemnización por daños y perjuicios morales, por una intromisión ilegítima en el derecho al honor, la intimidad y la propia imagen, así como plantear una denuncia ante la Agencia Española de Protección de Datos (AEPD) porque la imagen es un dato personal (el que más nos identifica) y nadie puede hacer un tratamiento de ella sin nuestro consentimiento. 

De hecho, la propia AEPD cuenta con una completa guía [PDF] para identificar qué protección cuentan las imágenes personales frente al uso de las mismas por parte de terceros mediante una IA. La regla de oro es la siguiente: "Subir, reenviar a plataformas, redes o sistemas de IA, transformar o generar contenidos visuales a partir de la imagen de una persona supone un tratamiento de datos personales". Por tanto, dichas actividades tienen consecuencias dependiendo del "uso concreto", el "alcance y finalidad" de su uso, la "persistencia y posibilidad de retirar el contenido" y, específicamente, la "sexualización y el contenido íntimo sintético".

Por último, Borja Adsuara alude a las redes sociales (más allá de la denuncia de una víctima concreta), "que pueden ser sancionadas por la Comisión Europea en aplicación del Reglamento de Servicios Digitales (DSA), por permitir mensajes que atentan contra Derechos Fundamentales". 

La DSA conlleva la amenaza de multas de hasta el 6% de los ingresos anuales globales y podría, llegado a un extremo, imponer una prohibición temporal de X en toda Europa.