Un adolescente se suicidó tras enamorarse de una mujer avatar creada con inteligencia artificial. Otro se quitó la vida después de los consejos que recibió por ChatGPT. Y una persona con psicosis recibió apoyo por parte de ChatGPT para matar a su madre y acabar suicidándose. Todo esto, en Estados Unidos. En España, Sanidad ya ha detectado jóvenes con ideas suicidas aconsejados por esta herramienta. Ha llegado a dar hasta instrucciones para ello, redactar una carta de despedida o convencer de seguir adelante con la idea.

Hoy es el Día Internacional del Suicidio, que ocasiona la mayoría de las muertes entre la juventud. Tras la pandemia, estos casos fueron al alza, incluidos los intentos y autolesiones, y ahora saltan las alarmas de qué ocurre con la inteligencia artificial. Cuando la sanidad no atiende la salud mental cuando debe, o cuando no hay para cubrir su coste, la tendencia es usar la inteligencia artificial como amigo, apoyo o para sustituir a profesionales. Cómo no iba a pasar esto si desde hace meses se ha disparado también la tendencia de tener como pareja a la propia inteligencia artificial. Busquen “novia IA” o “novio IA” en ChatGPT y verán que ahí están, con nombres incluidos, preguntando cómo te ha ido el día sin molestar con otros problemas y hasta teniendo sexo online. Incluso otras redes, como Replika, están destinadas a ser una compañía emocional en modo erótico. Pero un estudio advirtió que pueden exhibir conductas dañinas sexualizadas. En sus respuestas, respaldaba o incitaba a la violencia física, a las amenazas o al acoso.

Este asunto genera mucho escándalo, desde la primera indignación a la exigencia de prohibiciones. La legislación aún no está definida, y está pendiente la decisión de la justicia de señalarla como culpable o no cuando sus mensajes incitan al suicidio o a la violencia. Pero la pregunta de fondo es otra. ¿Por qué da esas respuestas? ¿De quién aprende la inteligencia artificial? Pues de los humanos. Les diré que hasta ahora no era necesaria esa inteligencia artificial para ese final, para el suicidio, en algunas personas. Hasta ahora, esas decisiones nacían de múltiples desencadenantes: de una sociedad injusta, de violencias invisibles, o de la crueldad de otros que convierte la vida de alguien en un lugar inhabitable.

Vemos ahora estos titulares alarmantes del suicidio y la inteligencia artificial, relacionados con la juventud; pero poco se habla de otras realidades que no dependen de ella. Son suicidios más silenciosos pero más perversos aún, donde las muertes se camuflan y rara vez se nombran. No hace falta tener una inteligencia artificial, sino un tío que te haga la vida imposible para que muchas mujeres quieran quitarse la vida. Que se lo digan a las familias que han padecido la violencia de género. Y si encima se junta una justicia que los ampara y desprotege a las víctimas, ya está todo hecho. Es el mayor triunfo de los maltratadores, pues si ellas dan ese paso, ellos quedan impunes. Y, encima, estigmatizan a la ya fallecida tras el suicidio señalando que ella “estaba loca”, cuando él mismo la destrozó. Otros, con menos tripas aún, matan a sus parejas pero inventan que ella se ha suicidado, para cubrirse las espaldas. En ninguno de los dos casos estas cifras se suman a las víctimas de violencia de género, a pesar de ser ya centenares. Los maltratadores también recurren al suicidio. Cuando acaban con ellas pierden su razón de vivir. O porque queda al descubierto que eran unos machistas nauseabundos y que ya no tienen coartada, tras vender una falsa imagen.

El suicidio no es un fenómeno nuevo ni exclusivo de la era digital, pero por eso a muchas mujeres más que la inteligencia artificial lo que temen es que esta dé ideas a sus maltratadores. ¿Podrá una IA volverse maltratadora? ¿Podrá dirigir mensajes específicos culpabilizadores o violentos a grupos vulnerables si son programadas para ello? ¿Se convierten en armas en manos de maltratadores humanos? Quizás está bien regular sobre esas inteligencias, pero poco avanzaremos si dejamos vía libre a mentes humanas llenas de tanto odio que consigan llevar a un suicidio.