Ocho estados de EEUU demandan a OpenAI por "causar daños a niños" e infringir la ley con ChatGPT

Los fiscales generales de ocho estados de Estados Unidos, dos de ellos gobernados por el Partido Republicano, han demandado este miércoles a la empresa de inteligencia artificial OpenAI, acusando a la impulsora de ChatGPT de "causar daño a niños, engañar a padres" e infringir leyes de protección al consumidor.

"La fiscal general (de Iowa), Brenna Bird, ha anunciado este jueves en una rueda de prensa que va a demandar a OpenAI por causar daño a los niños de Iowa, engañar a los padres e infringir la Ley contra el Fraude al Consumidor de Iowa", reza el comunicado difundido por la Fiscalía estatal, con una formulación replicada por sus pares en Arizona, Idaho, Nebraska y Virginia Occidental, que han presentado sendas demandas junto a los estados de Arkansas, Kansas y Montana.

El grupo, que incluye a responsables colocados por ambos partidos estadounidenses, alega que OpenAI ha seguido adelante con el desarrollo de sus productos de inteligencia artificial a pesar de saber que estos requerían medidas de seguridad, así como que ha violado las leyes de protección al consumidor de sus respectivos estados y que fabrica un producto que pone en peligro a usuarios vulnerables como los niños.

Relacionado con este tema

La IA de Anthropic envió una pista falsa sobre un homicidio a la Policía de Filadelfia

Público

En concreto, son varias las fiscalías que, en sus respectivas comunicaciones acerca de la demanda, alertan del uso de ChatGPT para obtener instrucciones para la autolesión e, incluso, el suicidio.

Así lo ha denunciado, entre otros, el fiscal general de Arkansas, el republicano Tim Griffin, que agrega que, en múltiples casos, algunos usuarios "lograron eludir las medidas de seguridad de OpenAI y generar respuestas que, según la propia empresa, sus mecanismos de protección estaban diseñados para evitar".

A su vez, la fiscal general de Arizona, la demócrata (aunque republicana hasta 2019) Kris Mayes, ha manifestado que "OpenAI puso en riesgo la seguridad de los habitantes de Arizona al no implementar protecciones adecuadas para los usuarios ni medidas de transparencia, a pesar de existir claros indicios de que los menores interactuaban habitualmente con su chatbot". Por ello, ha afirmado que su oficina buscará con la demanda en cuestión "proteger a los niños de Arizona y exigir responsabilidades a la empresa por sus reiteradas infracciones".

Estas demandas se suman a una serie de desafíos legales que enfrenta OpenAI, mientras los tribunales evalúan si los desarrolladores de IA y sus sistemas son responsables de ciertos episodios relacionados con la salud mental. En Canadá, la familia de una joven gravemente herida en un tiroteo escolar demandó a la empresa de inteligencia artificial, alegando que esta estaba al tanto del tiroteo planeado por el sospechoso pero no alertó a las autoridades.

Relacionado con este tema

Pagar más que tu vecino por la misma hamburguesa: la IA ya calcula lo que estás dispuesto a gastar

Laura Anido

Actualmente, ChatGPT permite el uso a personas mayores de 13 años, pero los menores de 18 requieren el permiso de un padre o tutor. Según OpenAI, la empresa intenta verificar la edad de los usuarios mediante una combinación de la edad declarada por el usuario, señales de comportamiento y, si es necesario, una verificación de edad.

El portavoz de la firma, Drew Pusateri, ha afirmado en un comunicado distribuido a medios estadounidenses que la empresa ha incorporado en sus productos "protecciones específicas por edad líderes en el sector", de las cuales carecen otras empresas.

Relacionado con este tema

¿Hasta dónde puede mirar la Policía?: la UE alerta de los riesgos del reconocimiento biométrico para la privacidad y la igualdad

Laura Anido

"Si bien ningún sistema puede ser perfecto, seguiremos colaborando con expertos para orientar nuestra labor y desarrollar salvaguardias adicionales, como los controles parentales, los recordatorios de descanso y las protecciones del modelo adaptadas a la edad que ya existen", ha defendido el representante de OpenAI, cuyos responsables están, según ha asegurado, "comprometidos a trabajar con los estados para promover políticas pragmáticas sobre IA que se apliquen a toda la industria, y no solo a una empresa".