La doble cara de la industria de la IA: vende el apocalipsis mientras hace negocio con su omnipotencia

Los seres humanos son capaces de emplear las herramientas tecnológicas para lo mejor y lo peor. Desde la creación del teléfono hasta el desarrollo del espionaje o las ciberestafas. Esta ambivalencia se amplifica con la irrupción de la inteligencia artificial. La pasada semana un equipo científico ha empleado la IA para crear un atlas del genoma humano que permite predecir cómo afectan las mutaciones genéticas a la biología molecular. Pero también esta última semana un exempleado de Anthropic advertía de que estas infraestructuras podrían "matarnos a todos" para finales de la década. En este contexto, cabe preguntarse por cómo las sociedades nos hacemos cargo de estos peligros y quién propone las soluciones a los mismos.

Son riesgos que a priori pueden materializarse en el largo plazo, aunque parecen lejos de ser una realidad palpable en poco tiempo. Tras las polémicas declaraciones sobre Anthropic del extrabajador Jacob Coxon, la compañía anunció este jueves 10 de septiembre que frustró varios intentos de uso indebido de sus tecnologías. En concreto, afirmó que identificó y bloqueó posibles complots para desarrollar armas biológicas con su IA. De hecho, este sábado, Anthropic y OpenAI pidieron "bajar el ritmo" de desarrollo de la IA por el riesgo a "perder el control". El domingo, Anthropic insistió en la idea al decir que "la industria mintió" sobre el peligro de la IA y asegurar que el Gobierno y los ciudadanos deben intervenir.

En realidad, de los cinco casos de estudios que presenta el informe, ninguno tenía una intención explícita de fabricar armamento. Los ejemplos que expone la firma están relacionados con la prestación de servicios a virólogos, la realización de experimentos adaptados, elaboración de programas nacionales o negocios. De los que recoge el estudio, quizás el caso más cercano a un arma biológica es el de un investigador financiado por EEUU, que "creó un atlas de péptidos de veneno y un sistema de optimización generativa de moléculas dirigidas a objetivos paralizantes y analgésicos".

Aumento de los cibermalhechores

Estos escenarios extremos son especulativos, ya que Anthropic no puede determinar la intención real detrás de estos casos. Pero sin llegar a plantear panoramas apocalípticos, la realidad es que la digitalización trae consigo múltiples riesgos. "Sistemas actuales facilitan determinadas tareas de ciberataque, fraude, vigilancia o búsqueda y procesamiento de información sensible", explica a Público Itxaso Domínguez, miembro de European Digital Rights (EDRi).

De hecho, pone de relieve que no hace falta imaginar futuros distópicos para ver los estragos que provoca ya el avance de la IA y su implantación en mercados, políticas y vidas cotidianas. "Centrarnos demasiado en escenarios extremos puede hacernos olvidar daños que ya existen: discriminación automatizada, vigilancia, precarización laboral, concentración de poder, desinformación, costes ambientales o adicción", ejemplifica.

El abogado y experto en estrategia digital, Borja Adsuara, también destaca en conversación con este medio que las estafas se han "perfeccionado" gracias a la IA. Si bien antes podían ser más fáciles de identificar, "ahora no las puedes detectar" porque "incluso pueden ser con el audio y el vídeo de tu propio jefe", comenta. Según recoge la Memoria Anual de la Fiscalía General del Estado 2025, "la ciberdelincuencia se va expandiendo progresivamente alcanzando a múltiples y variadas manifestaciones criminales".

Este tipo de sucesos suponen ya "el 19,85% de la actividad delictiva en nuestro país, con un índice de crecimiento del 5,3% respecto del año 2024", en referencia a los datos proporcionados por el Balance de Criminalidad del Ministerio del Interior correspondiente al cuarto trimestre del año 2025. "Es incuestionable, por tanto, que una buena parte de la actividad criminal se está desplazando inexorablemente al entorno digital", avisa el documento.

Relacionado con este tema

La carrera de la IA genera pánico entre sus creadores por el riesgo de perder el control: "Podría matarnos"

Adhik Arrilucea

Dependencia de la IA (y de la tecnología)

A la luz de estos datos, existe una preocupación por la fragilidad de los sistemas que sustentan las infraestructuras críticas de los Estados y que dependen de la inteligencia artificial. Aunque Domínguez recuerda que estas inquietudes tienen que ver con los procesos de digitalización en los que las sociedades llevan tiempo inmersas, de manera que no son nuevas. "Nuestras infraestructuras de agua, energía, transporte o sanidad llevan años dependiendo de sistemas informáticos", señala. "Por eso los ciberataques contra infraestructuras críticas son un problema anterior a la actual ola de IA".

Para Adsuara, esta dinámica ha sucedido siempre. El desarrollo de tecnologías que permiten externalizar un esfuerzo cognitivo a la postre se convierten en esenciales para realizar actividades comunes. "Cuando se inventó la calculadora, nos hicimos dependientes de este aparato, y ya la gente no sabe ni siquiera devolver el cambio de una compra", comenta. Sería también el caso de los relojes digitales –por los que se pierde la capacidad de leer relojes analógicos o averiguar la hora por la posición del sol– o del GPS –por el que disminuye el sentido de orientación–.

Relacionado con este tema

Cuando la IA dejó de obedecer: estos son los ataques que han reavivado el miedo a perder el control

Adhik Arrilucea

Según el experto en estrategia digital, estas dependencias no son necesariamente problemáticas en sí mismas, siempre que se aprenda a usarlas. "El aprendizaje está en el viaje", recalca. Y en ese sentido, valora que la IA es una herramienta positiva y útil en calidad de asistente. En cambio, sí advierte del riesgo de que se deleguen todas las tareas en esta herramienta. En dicho caso, las personas no llevarían a cabo ese "viaje" mediante el que se adquieren las competencias sociales, formativas y técnicas requeridas para integrarse en el mercado laboral o, de manera más general, en la sociedad.

Un mercado concentrado

Si bien este tipo de riesgos son inherentes al propio avance tecnológico, "la IA puede añadir nuevas vulnerabilidades si empezamos a introducir sistemas poco fiables o difíciles de auditar en funciones críticas", reconoce Itxaso Domínguez. Y esta inseguridad se acrecienta cuando esta dependencia cobra un cariz político: y es que el control de estas herramientas está concentrado en "unas pocas empresas privadas". Estas son las encargadas de administrar "modelos, infraestructura y capacidad computacional".

Un grupo de expertos independientes publicaron en enero de 2025 el Informe internacional sobre la seguridad de la IA. "La investigación y el desarrollo en la IA de propósito general se concentra en unos pocos países occidentales y en China", recoge el documento. Para los autores del estudio esto puede aumentar las desigualdades globales.

Pero esta concentración no es solo de carácter geográfico, sino también empresarial. "Esta concentración del mercado podría hacer que las sociedades sean más vulnerables a varios riesgos sistémicos", avisan. En consecuencia, un fallo o un error en alguno de los escasos sistemas de IA disponibles "podría causar fallos y disrupciones simultáneas a gran escala". Sobre esta cuestión, Domínguez defiende que "la pregunta debería ser también qué ocurre cuando una administración o un hospital ya no puede prestar correctamente un servicio sin tecnología controlada por otra empresa".

Huir de los catastrofismos

Se trata de aplicar una mirada crítica a las aparentes bonanzas que las tecnologías traen consigo. Por este motivo, tanto Domínguez como Adsuara observan con recelo las expresiones vertidas por Coxon acerca de OpenAI y Anthropic y que esta última secunda. "Las mismas empresas que venden estos sistemas tienen interés en presentarlos como tecnologías casi todopoderosas", considera la miembro de EDRi. "Eso puede servir tanto para atraer inversión como para reivindicar que solo ellas tienen capacidad para controlarlas".

El experto en estrategia digital hace un análisis similar. Admite que escucha estos discursos "con cierta desconfianza". Esto, matiza, no significa que no se los crea. "Sí me creo que puede tener mucho peligro", admite. Sin embargo, sospecha que "se está recurriendo a mensajes apocalípticos". Con esta política comunicativa, "buscan decir: contratadnos para libraros de los que os pueden atacar con nuestra inteligencia artificial", analiza Adsuara.

"Yo creo que estamos en un momento fascinante de la historia donde todo es posible, lo mejor y lo peor, pero todo es posible", valora. Así, más que aumentar las dependencias y vulnerabilidades de nuestras infraestructuras críticas implantando la IA en todas ellas, Domínguez incide en que "hay que decidir primero dónde queremos usar estos sistemas y dónde el riesgo es demasiado alto". Esto debe a su vez venir acompañado de regulaciones independientes, transparencia en los procesos y capacidad de auditar todos los sistemas instalados.

Asimismo, antes de llenar el mundo con inteligencia artificial y, a posteriori, comprar a las mismas empresas las garantías de seguridad, Itxaso Domínguez plantea hacerse preguntas preventivas. "Antes de preguntarnos cómo hacer segura una aplicación de IA, deberíamos preguntarnos si realmente necesitamos introducirla ahí", concluye.