Peligros inminentes de la IA generativa

Como puede verse en este gráfico de la Universidad de Stanford, se prevé un importante incremento de la inversión mundial en IA Generativa en los próximos años, y ello se va a producir sin un debate público sobre sus beneficios y riesgos en el conjunto de la sociedad.

La IA Generativa ofrece enormes beneficios, pero también viene acompañada de riesgos importantes relacionados con: 1) la desinformación y manipulación, crear deepfakes de personas públicas o privadas, difundir noticias falsas a gran escala, manipular elecciones, opiniones o comportamientos sociales; 2) sesgos y discriminaciones, amplificando estereotipos y marginalizando a ciertos grupos; 3) amenazas a la privacidad, incluso para suplantar identidades, p.ej. voces o firmas digitales generadas; 4) automatización maliciosa aplicada a phishing personalizado, o la generación de malware; 5) dependencia humana excesiva; 6) riesgos de seguridad a gran escala; 7) la IA puede generar contenido basado en obras protegidas sin permiso, afectando a la propiedad intelectual y derechos de autor.

Todo el párrafo anterior está elaborado por un conocido chatbot de inteligencia artificial al que le he pedido que identifique los riesgos de la IA Generativa.

Entonces, ¿qué hace un humano como yo escribiendo sobre este tema?

La IA Generativa es un tipo de IA en la que han convergido todos los avances computacionales, de forma que utiliza modelos de aprendizaje automático, basados en patrones aprendidos de datos existentes, que generan contenido nuevo y original en texto, imágenes, música, audio y vídeo. En primer lugar, una nota conceptual, aunque se ha popularizado el término Inteligencia Artificial, no es algo inteligente, es una sucesión de palabras, imágenes, audios, emitidos por computadoras que no entienden nada de lo que emiten, y que generan enormes consumos de energía y agua.

Lo que me interesa resaltar en esta reflexión son los efectos de la IA Generativa en el mundo del trabajo del siglo XXI. Son numerosas las voces que advierten de que podemos estar entrando aceleradamente en una nueva época en la que estos nuevos desarrollos de la IA Generativa permitan que gran parte del conocimiento y la creatividad humana sean apropiados por las empresas. Ello podría suponer una descualificación importante de millones de trabajadores y, consiguientemente, una reducción drástica de sus ingresos, ya que los trabajadores cualificados serían fácilmente sustituibles por otros trabajadores con mucha menor cualificación. Algo similar a lo que ocurrió en la Revolución Industrial del siglo XIX, cuando los empresarios de la industria textil se apropiaron del conocimiento atesorado durante siglos por los artesanos, lo que llevó a su sustitución por trabajadores industriales descualificados de las fábricas mecanizadas. Pero, a diferencia de la "mecanización y robotización de las fábricas", la "digitalización de las oficinas" incorpora un factor de incertidumbre sobre amplios grupos de trabajadores, ingenieros, abogados, médicos, etc., de alta cualificación que hasta ahora se consideraban a salvo de los procesos de automatización.

Según un reciente trabajo de la Organización Internacional del Trabajo “¿Cómo puede afectar la IA Generativa a las distintas ocupaciones?”, son muchísimas las profesiones que en la actualidad, o en el futuro próximo, tienen un alto riesgo de automatización por la IA Generativa. Estas son algunas de esas profesiones, aunque en el mencionado Informe de la OIT hay una relación completa:

Analistas financieros; asesores financieros y de inversiones; agentes y corredores de valores y finanzas; contables; desarrolladores de webs, software, aplicaciones y productos multimedia; programadores de aplicaciones, diseñadores y administradores de bases de datos; administradores de sistemas; profesionales de redes informáticas; periodistas, redactores; matemáticos, actuarios y estadísticos; asesores y empleados de viajes; profesionales de la publicidad y el marketing; economistas; autores y escritores; encuestadores y entrevistadores de estudios de mercado; meteorólogos; empleados administrativos de múltiples actividades; traductores, intérpretes; secretarios en general; cajeros de bancos; operadores de centralitas telefónicas y callcenters; profesionales de ventas, etc., etc., etc…..

Según reconoce dicho Informe, estas estimaciones tan solo son una instantánea, tomada a principios de 2025, sobre la exposición de las ocupaciones existentes a los desarrollos de IA Generativa conocidos. No se tienen en cuenta ni los avances tecnológicos que podrían automatizar más tareas en el futuro, ni los nuevos puestos de trabajo que podrían crearse.

Otro estudio empírico realizado por la Universidad de Harvard, utilizando los datos de 62 millones de trabajadores y 285.000 empresas entre 2015 y 2025, ya ha detectado que en EEUU se han reducido las contrataciones de nuevos puestos de trabajo de jóvenes cualificados desde el lanzamiento de ChatGPT en 2022.

Relacionado con este tema

Este es el nuevo pánico de los artistas: así es cómo la IA firma contratos millonarios en la industria

Carmen Aparicio

Estos datos ponen de manifiesto que todo el proceso de digitalización de las actividades productivas y particularmente la incorporación de la IA -incluida la IA Generativa-, repercute en el conjunto de la actividad social, debiendo ser definido por la sociedad a través de adecuadas regulaciones públicas y un mayor poder de negociación de los sindicatos que impidan la creación de oligopolios tecnológicos que incluso están llegando a poner en peligro las democracias del siglo XXI. Como dice Simon Johnson (Premio Nobel de Economía en 2024 y ex Economista Jefe del FMI): "En cierta medida, la tecnología digital ha empezado a debilitar las instituciones (…) Nos preocupa que la IA esté siendo empujada en una dirección que perjudica a la democracia (…) debido a que unas pocas personas se están llevado todo el valor generado, todos los ingresos, todo el poder. Mientras que el resto de la sociedad retrocede en lo que se refiere a oportunidades y salarios". Por eso es imprescindible una dinamización de la regulación pública que evite que surjan "huecos regulatorios" en relación con muchos aspectos, también los laborales.

Resulta inaceptable que en las complejas y democráticas sociedades del siglo XXI el rumbo y ritmo del cambio tecnológico, y de todas las transformaciones productivas vinculadas a él, sean dirigidas tan solo por aquellos cuyo principal objetivo es crear mercados oligopólicos en la Economía Digital para enriquecerse. El actual reto de las sociedades avanzadas del siglo XXI es que no se produzca una nueva "pausa de Engels", que supuso que durante cuatro décadas del siglo XIX se deterioraran las condiciones de vida y trabajo de millones de trabajadores. Sin estas premisas, la transición digital no irá acompañada de una transición social hacia sociedades más igualitarias y justas.

Por si el paciente lector tiene dudas le confirmaré que, excepto el párrafo indicado al principio, el resto del artículo lo ha escrito un humano con criterio propio sobre lo que escribe. Espero que ese criterio propio sea valorado por el lector, ya que en caso contrario el próximo artículo puede que lo escriba un chabot de IA Generativa adecuadamente entrenado.