Anthropic pide "una pausa" global de la IA ante la posibilidad de que se desarrolle a sí misma

La empresa estadounidense Anthropic advirtió este jueves de que la Inteligencia Artificial (IA) será capaz de crear "su propio sucesor" de manera completamente autónoma en los próximos años. Ante ello, sugirió una "pausa" global en su desarrollo para que la sociedad y la investigación puedan "seguir el ritmo". 

En una entrada de su blog, la compañía señaló que cada vez confía más tareas de investigación y desarrollo a sus propios sistemas de IA. Por ejemplo, detalló que hoy más del 80% del código que Anthropic incorpora en su código base fue creado por Claude, cuando hace poco más de un año, en febrero de 2025, la cifra era menos del 10%. Si esta tendencia continúa y la capacidad de computación sigue creciendo, podría alcanzarse la llamada "automejora recursiva": un punto en que la IA diseñe y desarrolle a su sucesor, de forma cada vez más autónoma. De esta manera, vaticina que en el futuro agentes como el suyo, Claude, podrán entrenarse solos. 

Si bien indicó que la automejora recursiva "no es inevitable", también "puede llegar antes de que muchas instituciones estén preparadas". Así, puede ser beneficiosa para la ciencia y la salud al tiempo que puede "incrementar los riesgos de que los humanos pierdan el control de los sistemas de IA", apuntó la startup. "Si los sistemas son capaces de crear por completo a sus propios sucesores, los modos de hacerlos seguros, supervisarlos y dar forma a su comportamiento se vuelven mucho más importantes", agregó.

Relacionado con este tema

La IA toma las aulas y ya la usa el 92% del alumnado: "Ahora mismo mandar algo para casa es complicado"

Adhik Arrilucea

Es por ello que Anthropic cree que "probablemente sea bueno" ralentizar el desarrollo de la IA para abordar con más tiempo sus "inmensas implicaciones". También reclamó la colaboración de las empresas de todo el mundo con su rama investigadora, The Anthropic Institute, para establecer un marco. "Creemos que sería bueno para el mundo tener la opción de frenar o pausar temporalmente el desarrollo de la IA de frontera para permitir a las estructuras sociales y la investigación en alineamiento puedan mantenerse seguir el ritmo del avance de la tecnología", sostuvo la firma.

Anthropic propone ayudar a construir los sistemas que serían necesarios para esa pausa con maneras de "verificar" que otros realmente se detienen para evitar favorecer a un "mal actor". Además, destacó que laboratorios "bien financiados" en varios países deberán "aceptar detenerse bajo las mismas condiciones".