Agentes de IA, vampiros de la privacidad

Desde hace tiempo venimos advirtiendo de cómo la explosión de la Inteligencia Artificial (IA) también ha alcanzado de lleno a la ciberseguridad. Por un lado, dotando a los ciberdelincuentes de herramientas más sencillas, pero a la vez más sofisticadas, para cometer sus tropelías; y por otro, para que los departamentos de Tecnologías de la Información (TI) puedan detectar posibles amenazas de un modo más eficiente y rápido, incluso, anticipándose a ellas en muchos casos. Sin embargo, ¿qué sucede cuando quienes creemos que nos hacen la vida más fácil, en realidad, nos la complican y llegan a ser una amenaza?

Los avances tecnológicos están proporcionando mayores niveles de automatización, con agentes de IA capaces de analizar cantidades masivas de datos y cruzarlas con una vasta información relacionada. De cara a la ciberseguridad, las ventajas que presentan las compañías involucradas en el desarrollo de estas soluciones parecen incontestables, pero es conveniente mirar la otra cara de la moneda.

En primer lugar y como ya abordamos en este espacio el año pasado, del mismo modo que los cibercriminales suplantan la identidad de las personas, ¿por qué no va a poder hacerse lo mismo con los agentes de IA, que tienen privilegios de acceso a información muy sensible? Considerando que algunas estimaciones hablan de 92 identidades no humanas por cada humana, el riesgo hay que tomárselo en serio.

En segundo lugar, ¿está amenazada nuestra privacidad con la entrada en juego de estos agentes de IA? Meredith Whittaker, la presidenta de la popular aplicación de mensajería encriptada Signal, es una de las voces más reconocidas en esta materia. La directiva acaba publicar un artículo muy revelador en The Economist en el que pone negro sobre blanco lo que viene manifestando desde hace mucho tiempo en foros, como el AI for Good Summit celebrado en Ginebra el pasado mes de julio.

Otra eminencia en el mundo de la IA, el canadiense Yoshua Bengio ya alertó durante el último Foro Económico Mundial de Davos del “error de haber tomado la inteligencia humana como modelo de la inteligencia artificial”. Esto ha llevado, según indicó, a que ya se hayan dado casos en las que los agentes de IA se copian así mismos antes de que se instale una nueva versión del sistema, como una cuestión de supervivencia. 

Así las cosas, Whittaker alerta de la proliferación de agentes de IA inyectados en lo que ella denomina el “sistema nervioso del mundo digital”. Gracias a ello, resulta más sencillo dar con nuestro restaurante ideal, acertar con una tabla de ejercicios más ajustada a nuestras necesidades o disponer de un resumen de nuestro correo electrónico con, incluso, propuestas de respuestas imitando nuestra manera habitual de expresarnos.

Tal y como advierte la presidenta de Signal, para que todo eso se haga realidad, previamente hemos de haber otorgado unos privilegios de acceso al agente de IA como nunca antes habíamos hecho. “No se trata del típico permiso para ver tus contactos”, explica la directiva, “es más parecido a dar acceso root a todo tu dispositivo”. Hablando en plata, es dar un acceso de ‘superusuario’ que prácticamente implica ser el administrador del dispositivo en cuestión. Se abren las puertas de par en par de nuestra vida digital que, en realidad, refleja nuestra vida más allá de internet. Vampirizan nuestra privacidad mientras disfrutamos de la comodidad de la pereza.

La inversión necesaria para el desarrollo de estos agentes de IA es muy elevada y, precisamente por este motivo, Whittaker indica que las compañías que los desarrollan andan nerviosas e impacientes por monetizarlos; a fin de cuentas, no es más que el efecto de la presión de los inversores que quieren rentabilidad aquí y ahora. Esta tensión es la que, en muchas ocasiones, puede llevar a desviar la mirada de cuestiones críticas como la privacidad y la seguridad, destaca la directiva.

Como ejemplo de estas prácticas, Whittaker llama la atención sobre cómo algunas investigaciones han descubierto al asistente de Apple “Siri transmitiendo transcripciones de voz de mensajes de WhatsApp a los servidores de Apple como parte del lanzamiento de Apple Intelligence”, el sistema de IA de la compañía. De golpe, se esfuma ese “cifrado de extremo a extremo de WhatsApp” en el que uno confiaba pues, automáticamente, Apple pasa a ser otro extremo.

La sofisticación de algunos de estos agentes de IA es tal que podrían capturar la información del usuario a través de lo que aparece en pantalla, en lugar de hacerlo de la manera más convencional y trazable como son las API (Application Program Interfaces).

Por otro lado, las aproximaciones que están llevando a cabo los desarrolladores de sistemas operativos tan extendidos como iOS, Android o Windows, es decir Apple, Google y Microsoft, prácticamente obligan a contar en nuestros dispositivos con estos agentes de IA, pues están integrados en el núcleo de sus plataformas sin presentarse como aplicaciones opcionales, denuncia Whittaker.

La magnitud de la amenaza que plantea la directiva le lleva a ser incapaz de garantizar en un futuro inmediato la privacidad de Signal, aplicación de mensajería utilizada precisamente por activistas de derechos humanos, periodistas, disidentes, etc. por su actual grado de seguridad. “Si los fabricantes de dispositivos y los desarrolladores de sistemas operativos insisten en perforar la barrera entre las aplicaciones y el sistema operativo” estas garantías se esfumarán, advierte la experta. 

Afortunadamente, ese punto no ha llegado, pero no hay que bajar la guardia. Por este motivo, Whittaker recomienda que los desarrolladores de sistemas operativos incorporen la funcionalidad para poder calificar de un modo sencillo como ‘sensibles’ a ciertas aplicaciones y que los agentes de IA no puedan acceder a ellas. Obviamente, para que esto tenga una utilidad real la transparencia debe ser máxima, recalca la presidenta de Signal, de manera que Apple, Google y Microsoft expliquen claramente a qué datos acceden sus agentes de IA, cómo se utilizan y qué medidas hay implantadas para protegerlos. Tiempo sobra, voluntad diría que falta.