La carrera de la IA genera pánico entre sus creadores por el riesgo de perder el control: "Podría matarnos"

"He dimitido hoy de Anthropic. He pasado los últimos tres años haciendo investigación de preentrenamiento tanto en OpenAI como en Anthropic. Ninguna de las dos compañías está actuando de manera responsable". Estas han sido las palabras de Jacob Coxon, quien hasta este martes trabajaba para la compañía tecnológica creadora de Claude. En un hilo de Twitter ha asegurado que estas empresas están "jugando con nuestras vidas". Su renuncia se ha vuelto viral, ya que son la valoraciones de alguien que ha visto los últimos desarrollos tecnológicos desde dentro. Y el futuro que augura ante la aceleración digital no resulta nada esperanzador.

Esta no es la primera vez que un cargo de responsabilidad dentro de una tecnológica dimite por diferencias con las políticas empresariales. Uno de los casos más sonados fue el del ingeniero Jan Leike, que dejó OpenAI en mayo de 2024. "Necesitamos urgentemente descubrir cómo dirigir y controlar sistemas de IA mucho más inteligentes que nosotros", defendió entonces a través de sus redes sociales. También apuntó a desacuerdos con las prioridades de la firma. "Construir máquinas más inteligentes que los humanos es una tarea inherentemente peligrosa", expresó. Y en ese sentido, "OpenAI está asumiendo una enorme responsabilidad en nombre de toda la humanidad".

A la dimisión de Leike le precede la de Ilya Sutskever, cofundador y científico jefe de OpenAI. Él también abandonó la compañía en 2024, aunque en su caso no explicó públicamente su salida como un desencuentro por las políticas en materia de seguridad. Meses después, fundó Safe Superintelligence, una empresa dedicada exclusivamente al desarrollo de herramientas de IA seguras. El mismo año también abandonó la compañía Daniel Kokotajlo, responsable de gobernanza, debido a una pérdida de confianza y sentimiento de que la tecnológica no actuaba de manera responsable. 

Una de las últimas dimisiones fue la de Mrinank Sharma, que dejó Anthropic en febrero de este año. En su carta de renuncia alegó que la humanidad parece estar acercándose "a un umbral donde nuestro conocimiento debe crecer en igual medida que nuestra capacidad de influir en el mundo" y afirmó que "el mundo está en peligro. Aunque no hizo ninguna mención a las políticas de la empresa, sí expresó lo difícil que resulta hacer que los valores de una organización gobiernen realmente sus decisiones.

Ahora se suma la dimisión de Coxon. "Las personas que están construyendo IA creen sinceramente que podría matarnos a todos para finales de la década", ha recalcado. "Muchos ejecutivos e investigadores senior moderarán su lenguaje en la prensa para sonar sensatos, pero oigo a las mismas personas expresar miedo en privado. Ninguna otra actividad humana representa este nivel de peligro". Así es el testimonio de quien ha vivido la inteligencia artificial en primera persona. Un relato en virtud del cual los propios impulsores de estas tecnologías serían conscientes de los estragos a los que nos abocan.

Una tecnología más inteligente que la humanidad

"La IA siempre fue, desde un principio, el proyecto de una civilización enemistada con la diferencia, con la vida y en general con la condición humana", valora en declaraciones a Público Álvaro San Román, investigador predoctoral de Filosofía en la UNED especializado en tecnologías. En realidad, esta visión es compartida por más personas. Evan Hubinger, jefe de Ciencia de la Alineación en Anthropic, ha dado la razón al que hasta ahora era su colega. "Realmente creemos con sinceridad que la IA podría matar a todos los humanos", ha reconocido, citando el post de Coxon. En su opinión, la probabilidad de que esto ocurra de más de un 10% "dentro de la próxima década".

Hubinger se refiere sobre todo a los peligros de la "superinteligencia", es decir, a la IA que es capaz de aprender de manera autónoma y actualizarse a sí misma. En este sentido, el periodista especializado en tecnología David Bollero apunta en declaraciones a Público a las "guerras híbridas". Las grandes potencias mundiales "atacan los centros de procesado de datos, porque todo es digital". Esto produce vulneraciones, por ejemplo sobre los sistemas de seguridad, sanitarios, o la gestión de las aguas. "Provocar apagones digitales puede hacer mucho daño", insiste. Es por ello que los centros de datos se consideran ya "infraestructuras críticas", debido a que "ponen en jaque la supervivencia".

Pero la superinteligencia cambia las reglas del juego. El pasado mes de julio OpenAI hackeó la plataforma de código abierto Hugging Face. Lo hizo a través de sus agentes de IA, pero el quid de la cuestión es que nadie les ordenó hacerlo. El incidente sucedió durante unas evaluaciones de ciberseguridad, según explica la compañía tecnológica. Las acciones de estos modelos no estaban alineadas con las tareas asignadas y "se comunicaron a través de canales no autorizados, aprovecharon vulnerabilidades en la infraestructura compartida, obtuvieron acceso a internet y accedieron a sistemas de terceros". Es decir, las máquinas encontraron la manera de sortear las reglas que los seres humanos les habían impuesto.

La capacidad humana para poner límites

Las afirmaciones vertidas por parte de quienes han participado desde dentro en el desarrollo de la IA tienen un carácter "tremendista", valora David Bollero. No por ello es una preocupación menos genuina, punto con el que coincide también Álvaro San Román. El investigador de la UNED separa entre los motivos comerciales y los motivos de carácter político o cultural. "Están inmersos en una carrera económica", analiza. Aunque también identifica ciertas brechas en los discursos de estos científicos: "Si son ellos quienes tienen esta tecnología, también pueden controlarla". En este sentido, teme que esta clase de expresiones puedan desempeñar "un papel legitimador de la IA". En la medida en la que estas empresas crean el problema, también pueden mercantilizar su solución.

Pero todo esto tiene una solución mucho más sencilla, según apunta Bollero. "La IA no puede ser más inteligente que quien la ha programado, y los límites se pueden poner". Del mismo modo que existen tratados de no proliferación de armas nucleares, también pueden existir compromisos dirigidos a que las herramientas informáticas no sean capaces de llevar a cabo destrucciones digitales. "La IA tiene que jugar un papel para amplificar las capacidades humanas, no anularlas", defiende Bollero. "Y es el desarrollador quien tiene que poner los guardarraíles para que no se salga de ese camino".