Reino Unido abre una investigación a X por imágenes sexualizadas de mujeres y niñas creadas con Grok

El regulador británico de seguridad en línea, Ofcom, ha anunciado este lunes la apertura de una investigación formal contra X, propiedad de Elon Musk, para determinar si ha cumplido sus obligaciones legales en Reino Unido tras la circulación de imágenes sexualizadas creadas con su herramienta de inteligencia artificial Grok.

La investigación se inició tras recibir quejas de que la cuenta Grok AI en X se ha utilizado para crear y difundir imágenes de personas desnudas. 

"Ha habido informaciones profundamente preocupantes según los cuales la cuenta del chatbot Grok AI en X se utiliza para crear y compartir imágenes de personas sin ropa -que pueden equivaler a un abuso de imágenes íntimas o pornografía- e imágenes sexualizadas de niños que pueden equivaler a material de abuso sexual infantil", señala Ofcom en un comunicado.

Además, a través del comunicado, el regulador británico afirma que el pasado 5 de enero contactó a X y fijó un plazo hasta el 9 de enero para que explicara las medidas adoptadas para proteger a sus usuarios en el Reino Unido.

Tras recibir una respuesta, el regulador decidió abrir la investigación para determinar si la red social ha evaluado los riesgos de exposición a contenido ilegal, tomado medidas para prevenirlos y protegido la privacidad de los ciudadanos.

En caso de incumplimiento, puede exigir medidas correctivas o imponer multas de hasta 18 millones de libras (casi 21 millones de euros) o el 10% de los ingresos mundiales. De la misma forma, en situaciones graves, Ofcom podría pedir a un tribunal que obligue "a los proveedores de pago o a los anunciantes a retirar sus servicios de una plataforma", o que obligue a los proveedores de servicios de internet a bloquear el acceso a un sitio en Reino Unido.

Un portavoz de Ofcom ha declarado que las denuncias de que Grok genera y comparte imágenes no consensuadas y material sexual infantil son "profundamente preocupantes". Además, asegura que irá informado sobre el avance de la investigación, que podría llevar semanas.

Por su parte, la ministra británica de Tecnología, Liz Kendall, que se mostró muy crítica con la plataforma de Musk, comparecerá ante el Parlamento para exponer la posición del Gobierno. 

X ha sido condenado en otros países por esta función, que puede generar imágenes de mujeres y menores con poca ropa. Así, las autoridades francesas han denunciado a la plataforma ante la fiscalía y los organismos reguladores, calificando el contenido de "manifiestamente ilegal", mientras que las autoridades indias también han exigido explicaciones.

En España, la ministra de Juventud e Infancia, Sira Rego, remitió un escrito a la Fiscalía General del Estado para solicitar que investigue si Grok puede estar cometiendo delitos de difusión de material de violencia sexual contra la infancia.

Relacionado con este tema

Bruselas ordena a X guardar los documentos de la IA de Elon Musk a raíz de las imágenes de mujeres y menores sexualizadas

EFE

Para el Ministerio, se trata de prácticas que vulneran gravemente la dignidad, la intimidad y los derechos fundamentales de niñas, niños y adolescentes en el entorno digital, además de incurrir en delitos contra la integridad moral y de pornografía infantil, recogidos en el Código Penal.