El papa avisa de que la IA "no es neutral" y alerta del peligro de que "se concentre en pocas manos"

La inteligencia artificial "no es neutral", advierte el papa León XIV en su primera encíclica Magnifica Humanitas, dedicada a la protección de la dignidad humana en la era de la IA, donde alerta del peligro de que esta tecnología "se concentre en pocas manos".

En el primer gran documento de su pontificado, publicado este lunes, León XIV, matemático y canonista, sigue los pasos de la Rerum Novarum de León XIII para actualizar la Doctrina Social de la Iglesia ante uno de los principales retos de la época contemporánea: la inteligencia artificial.

Ante esta nueva revolución, el papa reclama "un orden social justo en la era digital", "marcos jurídicos adecuados", "reglas justas" y "mecanismos de protección eficaces".

Entre sus primeras reflexiones en las 110 paginas del documento sostiene que "las innovaciones tecnológicas -incluida la inteligencia artificial- no son neutrales; pueden aumentar la participación y la justicia, o ampliar las desigualdades, el control y la exclusión".

Sobre la IA advierte de "usos evidentemente antihumanos, como la manipulación de la información o la violación de la privacidad", y también de un engaño más sutil cuando los sistemas, "presentándose como neutrales y objetivos, reflejan y refuerzan estereotipos o posiciones ideológicas de quienes los han diseñado y programado".

El pontífice estadounidense subraya que las nuevas tecnologías "quedan concentrados en las manos de unos pocos, sin adecuadas formas de intercambio y de acceso". Son empresas y plataformas que absorben esas competencias, datos y capacidad decisional quienes definen "condiciones de acceso, reglas de visibilidad, formas de relación e incluso oportunidades económicas".

"Cuando un poder de tal magnitud se concentra en pocas manos, tiende a hacerse opaco y a eludir el control público, y crece el riesgo de un desarrollo distorsionado que provoca nuevas dependencias, exclusiones, manipulaciones y desigualdades", advierte.

Considera que "los estados y las instituciones supranacionales están llamados a garantizar reglas justas y mecanismos de protección eficaces para que las comunidades locales, los cuerpos intermedios, las escuelas y las universidades, así como las realidades eclesiales y asociativas puedan tener voz y contribuir al discernimiento de las decisiones que inciden en la vida de las personas: trabajo, acceso a los servicios, gestión de los datos y ambientes digitales".

Y aboga por "un orden social justo en la era digital" que garantice "acceso igualitario a las oportunidades, proteja a los más pequeños y a los más frágiles, se oponga al odio y a la desinformación, y someta a control público el uso de los datos y de las tecnologías, de modo que el criterio no sea sólo el beneficio sino la dignidad de cada persona y el bien de los pueblos".

Indica el peligro de que "la imitación artificial de una comunicación humana positiva -palabras de consejo, de empatía, de amistad, de amor- puede resultar gratificante e incluso útil, pero en usuarios poco conscientes puede inducir a engaño y dar la falsa impresión de estar en una relación con un auténtico sujeto personal".

Marcos regulatorios contra las "lógicas tecnocráticas"

Para que la IA respete la dignidad humana, el papa reclama "responsabilidades" claras de quienes la crean y también "marcos jurídicos adecuados, vigilancia independiente, educación de los usuarios, una política que no renuncie a su tarea", porque si no "el cambio será gobernado sólo por lógicas tecnocráticas".

Advierte además de "fenómenos de captación, chantaje y explotación sexual de menores, que se vuelven más insidiosos por el uso de perfiles falsos, de algoritmos que amplifican contactos peligrosos y de herramientas de IA capaces de manipular imágenes y vídeos".

Señala que "tener un teléfono móvil personal demasiado pronto y utilizarlo sin el control de los adultos puede acentuar la fragilidad y favorecer las adicciones en los jóvenes", exponiéndolos a aislamiento, acoso, ciberacoso y presiones para compartir imágenes íntimas o datos sensibles, por lo que pide límites de edad y mayor responsabilidad de los proveedores.

Sobre la automatización del trabajo

También aborda el mundo del trabajo, donde "contrariamente a los beneficios anunciados sobre la IA, los enfoques actuales de la tecnología pueden paradójicamente desespecializar a los trabajadores, someterlos a una vigilancia automatizada y relegarlos a tareas rígidas y repetitivas".

Por ello, insta a que "toda introducción de automatización y de IA debería ir acompañada de medidas verificables de protección del empleo, de recualificación y de participación de los trabajadores, para que la tecnología se oriente a liberar tiempo y capacidades humanas, no a generar exclusión". 

La IA en la guerra y la "cultura del poder"

"No existe algoritmo que pueda hacer que la guerra sea moralmente aceptable", agregaba el papa León XIV en la encíclica, cargando contra el uso de la inteligencia artificial en los conflictos bélicos donde las víctimas "quedan reducidas a datos".

Incluso dedica un capítulo a la "cultura del poder" en el que se denuncia que "la revolución digital está modificando la gramática de los conflictos" y cómo "a la guerra visible se suman formas híbridas: ataques cibernéticos, manipulación de la información, campañas de influencia y automatización de decisiones estratégicas".

"La IA entra en estos procesos como factor de aceleración" y "puede potenciar la defensa y la protección de los civiles, pero también puede bajar el umbral del uso de la fuerza, hacer opacas las responsabilidades y alimentar una cultura en la que el enemigo queda reducido a un dato y la víctima a un daño colateral", indica el pontífice en su documento.

En la que llama "la Babel moderna", León XIV lamenta la existencia de "imperialismos contrapuestos, entre potencias que quieren conservar su primacía y potencias que aspiran a conquistarla, con una multiplicidad de conflictos locales".

"Es, además, la carrera por desarrollar tecnologías cada vez más poderosas o por asegurarse su control, según una dinámica deshumanizante que parece no conocer límites", explica.

Esta cultura del poder "penetra en la sociedad, modifica las relaciones y los comportamientos, se expande normalizando la guerra, persiguiendo un poder militar cada vez mayor, aprovechándose de la crisis del multilateralismo y alimentando un falso realismo, el cual repite que no existen alternativas".

Y a todo ello, añade el papa, "las redes de comunicación, los entornos informativos fragmentados y los algoritmos que premian el enfrentamiento pueden amplificar la polarización y el resentimiento, acelerar la propaganda y dificultar el discernimiento común".

En este clima "donde la humanidad está cayendo en la cultura violenta del poder, donde la paz ya no se presenta como una tarea por asumir, sino como un intervalo precario entre conflicto", el papa destaca la importancia de "reiterar la superación de la teoría de la guerra justa, invocada con demasiada frecuencia para justificar cualquier guerra, sin perjuicio del derecho a la legítima defensa, entendida en el sentido más estricto".

León XIV también condena "la estrecha conexión entre los intereses económicos, los aparatos militares y las decisiones políticas". Además, menciona que "se ha extendido la creencia, errónea, de que la disuasión nuclear es una condición indispensable para la seguridad, lo que ha alimentado una nueva y difícilmente controlable carrera armamentística" y "la proliferación de nuevos actores armados como grupos yihadistas, milicias privadas, redes criminales".

A este panorama se suma "el desarrollo incesante de los sistemas de armas y en particular de las armas relacionadas con la IA" y recuerda que la Santa Sede ha señalado que esto hace que "la guerra sea más viable y menos sujeta al control humano, lo que contradice el principio de que recurrir a la fuerza armada debe ser un último recurso en caso de legítima defensa"

Por ello, señale el papa "el desarrollo y el uso de la IA en el ámbito bélico deben estar sujetos a las restricciones éticas más rigurosas, y al respeto de la dignidad humana y de la sacralidad de la vida, evitando una carrera armamentista".

En el acto en el que se presenta la encíclica se ha invitado a Christopher Olah, cofundador de Anthropic, la empresa de IA a la que el presidente de los Estados Unidos, Donald Trump, retiró sus contratos públicos por oponerse al uso de la tecnología con fines militares.

En su documento, el papa también denuncia que "el ciberespacio se ha convertido en terreno de enfrentamiento: los ataques informáticos, la manipulación de datos y las campañas de influencia orquestadas con la ayuda de la IA pueden desestabilizar países enteros, incluso antes de que se llegue a un enfrentamiento armado abierto".

León XIV también subraya que es necesario "establecer reglas compartidas, incluso a nivel internacional, que frenen la carrera armamentística tecnológica y aseguren una protección especial a los civiles y a las infraestructuras esenciales para su supervivencia".