Redes sociales en fase de desintoxicación… o no

La AI slop, o basura de la Inteligencia Artificial (IA), está comenzando a irritar a las grandes plataformas y redes sociales, a pesar de que han sido ellas las que han favorecido su expansión. Se trata de ese contenido generado con IA, tanto en formato audiovisual como texto, por lo general poco fiable, que ha inundado internet. El fenómeno no es nuevo, pero se ha descontrolando a unos niveles que ya afecta al bolsillo de los magnates tecnológicos y quieren atajarlo.

El año pasado, Merriam-Webster, editora del diccionario de referencia en EEUU, ya eligió slop como la palabra del año. Las grandes tecnológicas pretenden ahora distanciarse de ‘su pequeño monstruito’. Con este propósito, algunas de ellas están eliminando el contenido de muy baja calidad y etiquetando las publicaciones generadas con IA. Además, en muchos casos se otorga a los usuarios y usuarias la posibilidad de que sean ellas mismas quienes restrinjan su visualización de contenido generado por IA.

Podríamos decir que se les ha ido de las manos. Lo que un buen día les pareció que captaría la atención de las personas, reteniéndolas por más tiempo en su red, ha terminado por generar cierto rechazo y confusión, provocando el efecto contrario. El hartazgo de ver creaciones tan similares entre sí que se antojan repetitivas, así como la dificultad para encontrar el contenido que se busca entre tanta basura de IA ha encendido las alarmas en Silicon Valley. El pasado mes de julio, Reddit compartía el fruto de sus medidas activas para detener esta avalancha generativa, destacando la detección de cerca de 25.000 publicaciones y comentarios no deseados nuevos al día.

Este fenómeno no sólo se da en plataformas como YouTube o TikTok, también en otras que, por su perfil profesional, a priori no parecerían candidatas a ello, como LinkedIn. Pues bien, esta red de contactos profesionales ha llegado a incluir una opción para que sean sus usuarios quienes denuncien contenido basura de IA. Tal y como indicaba su propio responsable de Producto, Hari Srinivasan, hace menos de un mes, "estamos aumentando la capacidad de los miembros para decirnos si creen que una publicación o comentario parece basura de IA. La AI slop es difícil de definir y la definición cambia; esto nos permite afinar nuestros modelos".

Un reciente artículo de The New York Times aborda este intento de las plataformas por desintoxicarse. Se ha convertido en una auténtica epidemia, puesto que este contenido se propaga en páginas web de documentos académicos, en reseñas de restaurantes o, incluso, en las populares aplicaciones móviles (apps) de citas. También en la música, tal y como indica el reportaje al revelar que la propia Deezer admitió que casi la mitad de las pistas actualizadas a diario en su sistema era generada artificialmente y muchas de ellas ni siquiera se escuchan, o que la IA genera más de un tercio de lo que se sube a Apple Music.

Llegados a este punto de desmadre, la solución no es sencilla, porque eliminar todo el contenido generado con IA puede restar mucho tráfico en la red y, por otro lado, las herramientas de detección no son infalibles, no sólo porque se les escapa contenido de IA sino porque, aún peor, creaciones legítimas se toman como generadas por IA.

Tiene un toque de justicia poética que quienes un día se lucraron con esta bazofia digital ahora se vean entre la espada y la pared. El problema es que por el camino se nos lleva a todas y todos por delante, habiendo generado una crisis de confianza generalizada en las redes o, todavía peor entre los más crédulos, un impacto peligroso. Ya no es sólo el riesgo de retraso cognitivo que esta basura de IA puede provocar en los menores, es que un reciente estudio de Global Network on Extremism and Technology (GNET) alarma de que cómo la radicalización en línea (on-line) está apareciendo a través de formatos que inicialmente parecen absurdos, humorísticos o inofensivos. Como ejemplo de ello, GNET señala los vídeos virales de frutas con forma humana en los que se insertan narrativas melodramáticas sobre romance, traición, infidelidad y conflictos domésticos. Algunos de estos vídeos, que aparentemente se crearon sólo para optimizar la interacción algorítmica, "normalizan formas exageradas de agresión y violencia emocional mediante patrones narrativos repetitivos e hiperestimulantes", advierte GNET.

La bazofia de IA se ha convertido en un activo más para los extremistas (neonazis, terrorismo islámico...), que utilizan vídeos pegadizos que aprovechan tendencias o fenómenos virales para propagar su peligrosa ideología. Ver a una zanahoria hacer explotar a una patata con una estética histriónica es tan absurdo como estimulante para una parte de los usuarios. Ideal, pues, para el algoritmo, que lo repite terminando por erosionar gradualmente los límites emocionales de quienes lo ven que, a la larga, demandan material cada vez más extremo para mantener su interés. El AI slop no es, ni mucho menos, para tomárselo a broma.