Anthropic y OpenAI piden "bajar el ritmo" de desarrollo de la IA por el riesgo a "perder el control" 

El consejero delegado de Anthropic, Dario Amodei, ha abogado por "bajar el ritmo" de desarrollo de la inteligencia artificial y ha advertido de que se corre el riesgo de "perder el control" de esta tecnología y provocar "ataques informáticos", "bioterrorismo" o "graves problemas económicos graves". Ante estas declaraciones, el director ejecutivo de OpenAI se ha mostrado favorable a la propuesta de su principal competidor.

"Debemos bajar el ritmo al que mejoramos las capacidades de los modelos de IA. Los avances seguirían siendo rápidos y aprovecharíamos sabiamente el tiempo que ganaríamos", ha afirmado Amodei en un texto publicado este sábado en su blog.

Musk coincide con sus rivales

El magnate Elon Musk coincidió este sábado con sus rivales, Dario Amodei de Anthropic y Sam Altman, en la necesidad de desacelerar el desarrollo de la inteligencia artificial por los riesgos de seguridad que representa.

Musk, creador de la compañía xAI de inteligencia artificial, respaldó en X el pronunciamiento de Amodei, quien publicó un ensayo en el que pidió a la industria "un ritmo más lento" en el desarrollo de esta tecnología.

"Dario tiene razón", escribió Musk en su red social, X. Con ello, el fundador de Tesla se sumó a Altman, quien este sábado también apoyó el llamado de Amodei.

Los líderes de OpenAI y Anthropic anunciaron que sus compañías permitirán que evaluadores independientes auditen sus sistemas, algo que Musk no indicó de manera expresa para su empresa.

Amodei, CEO de la empresa responsable de Claude cita en concreto dos motivos para su petición. El primero es la "automejora recursiva" de la IA, es decir, su capacidad para desarrollarse a sí misma que ha propiciado "avances drásticos" durante el verano, y que si no se controla "podría superar nuestra capacidad de comprender y controlar estos sistemas".

El segundo es el denominado "incidente de Hugging Face de OpenAI", en el que un grupo de IA realizaron ataques informáticos en equipo sin que hubiera una petición inicial al respecto "sacrificándose por el bien del grupo" y que "podría haber causado un daño catastrófico", según Amodei. Además, alerta de que han ocurrido incidentes similares en otras empresas, incluida Anthropic.

Medidas contra el desarrollo "imprudente" de la IA

Además de estos ataques informáticos, "bioterrorismo" o "graves problemas económicos" podrían producirse si hay un desarrollo "imprudente" de la IA. Por ello propone medidas de seguridad y normativa sin dejar de tener "éxito comercial". "Hay que dar prioridad a la cautela sobre la velocidad y a la prudencia sobre el beneficio", ha remachado.

En concreto plantea medidas tales como una "evaluación incorporada" por parte de actores independientes, "coordinación democrática" con las instituciones públicas y "coordinación global" que aúne los esfuerzos de los países democráticos y los autoritarios a nivel mundial.

"Las medidas que propongo para empujar hacia adelante la frontera a un ritmo seguro no serán fáciles, pero creo que le debemos a la humanidad intentarlo", ha recalcado Amodei, quien ha sido acusado de alarmismo por sus anteriores advertencias sobre el desarrollo de la IA y sus riesgos.

OpenAI adhiere a la propuesta

El director ejecutivo de OpenAI, Sam Altman, respaldó este sábado el llamamiento de Amodei, y anunció que su compañía también permitirá que evaluadores independientes auditen sus sistemas.

"Coincido con Dario en que debemos avanzar a un ritmo adecuado en la frontera tecnológica. Este ha sido un tema central en las conversaciones que hemos mantenido en OpenAI durante las últimas semanas", publicó Altman en la red social X poco después de conocerse la postura de Amodei.

Altman calificó de "excelente idea" la iniciativa de abrir las puertas a auditores externos: "Comprometerse a contar con evaluadores independientes que tengan un nivel de acceso similar al de los empleados es una excelente idea, y nosotros haremos lo mismo. Pronto tendremos más información que compartir", añadió.