La IA irrumpe en la campaña del 29N sin una ley estatal que la regule
La Unión Europea cuenta con reglamentos específicos y de aplicación directa para minimizar el abuso de las inteligencias artificiales en los comicios, pero falta una ley española específica que otorgue, entre otras previsiones, capacidad sancionadora a estas prácticas.
'Los algoritmos también votan' es una serie de reportajes de Público que analiza cómo es el nuevo ecosistema digital y su impacto electoral. La sección explora cómo se disputa el voto en las pantallas.

Madrid-
El auge de la inteligencia artificial y sus agentes, aparte de generar problemas medioambientales y financieros, tiene una derivada política cuyas consecuencias aún no se pueden medir con una cierta fidelidad. Sin embargo, es evidente que las fuerzas políticas la utilizan aunque sea para crear memes o chistes de dudoso gusto. Incluso para lanzar modificaciones realistas de candidatos del otro bando (deepfake), algo que puede llegar a ser ilícito.
En este último caso, la prestigiosa abogada y experta en buen uso de la tecnología Paloma Llaneza, estima que "las publicaciones de vídeos hechos con IA en donde modifican imágenes de personajes del partido político contrario, mujeres, secretarios generales encarcelados, etc. y les hacen decir cosas que no han dicho, podrían exceder una intervención de la Junta Electoral Central por falta de competencias porque —no se consideraría propaganda política— aunque en ese caso sí puede actuar la jurisdicción ordinaria".
El funcionamiento de las inteligencias artificiales es un misterio por la opacidad extrema de las compañías que desarrollan sus modelos y agentes. Pero resulta evidente que la extracción masiva de información para entrenar estos sistemas, así como su manera de explicar, resumir e incluso tratar de predecir comportamientos sociales ha abierto la puerta a realidades para las que las democracias no están preparadas.
Rafael Rubio, profesor de Derecho Constitucional de la UCM y reconocido investigador de los efectos de la tecnología en los sistemas democráticos, reconoce que es muy difícil saber si las formaciones políticas están usando la IA en todo su potencial. "Por ejemplo, la microsegmentación para personalizar la propaganda electoral es ilegal, nadie va a salir presumiendo de que utilizó la inteligencia artificial con tal fin, pero me costaría mucho creer que no se está utilizando".
Por su parte, Llaneza afirma que "la inteligencia artificial ofrece, a diferencia de otras herramientas, sistemas estadísticos basados en datos sin marcar, con fuentes diversas y no estandarizadas". "Es decir", explica esta experta, "puedes darle datos de una encuesta, vídeos y publicaciones en medios de comunicación, que claramente son formatos distintos, y es capaz de encontrar patrones, de identificar modelos y si pagas lo suficiente hasta te puede planificar una estrategia".
Tal y como insiste el profesor Rubio, "es muy difícil que sepamos el verdadero uso que se está haciendo de la inteligencia artificial".
Normativa incompleta
El marco normativo específico sobre el uso de la IA de cara a las elecciones generales del 29 de noviembre existe gracias a los reglamentos europeos. Estos reglamentos, a diferencia de las directivas, son aplicables directamente en toda la UE. No obstante, necesitan ser adaptados a las realidades de cada país mediante una ley correspondiente, que España aún no tiene.
El principal problema a la hora de establecer normas sobre la inteligencia artificial es que es "una herramienta transversal que se utiliza en todo el ecosistema digital y por eso afecta a ámbitos —medios, contenidos audiovisuales, protección de datos personales (donde actúa desde hace años con plenos poderes la Agencia Española de Protección de Datos), servicios digitales…— que regulan diferentes reglamentos", explica la catedrática en Derecho Mercantil en la Universidad de Valladolid y consejera de la Comisión Nacional de los Mercados y la Competencia (CNMC) Marina Echebarría Sáenz.
El Reglamento de Servicios Digitales de 2022 (DSA) exige expresamente a las grandes plataformas una evaluación de riesgos que señale "cualquier efecto negativo real o previsible sobre el discurso cívico y los procesos electorales". La supervisión de la aplicación de esta norma en España recae, precisamente, en la CNMC, pero carece aún de estructura y de poder sancionador. En todo caso, existe una serie de directrices para su aplicación en procesos electorales.
El Reglamento europeo sobre inteligencia artificial de 2024 recoge las exigencias mínimas para el funcionamiento de las IA en Europa. En España, la Agencia Española de Supervisión de Inteligencia Artificial (AESIA), con sede en A Coruña, es el organismo público encargado de garantizar el uso ético y seguro de la inteligencia artificial en España. Pero de nuevo, sin el desarrollo de la normativa nacional sus funciones son muy limitadas.
Además, el Reglamento sobre transparencia y segmentación en la publicidad política de 2024 reconoce el derecho de todo ciudadano a poder identificar claramente la propaganda política y saber quién está detrás de la misma, quién la paga, cuánto se ha pagado por ella y si se han utilizado herramientas de segmentación para su distribución.
A todo ello se suma la existente normativa de protección de datos personales (Reglamento europeo y Ley Orgánica de Protección de Datos) y su tratamiento, desarrollada hace años. Y además, naturalmente, completan el marco las atribuciones que competen a la Junta Electoral Central (JEC) y, en su caso, a los tribunales ordinarios.
De momento, España no tiene una normativa específica, clara, integradora y sancionadora sobre el uso de la IA: el último intento de sacar adelante el Proyecto de Ley Orgánica para el buen uso y la gobernanza de la inteligencia artificial decayó al convocarse las elecciones anticipadas del 29N. La conclusión, a día de hoy, es que existe una madeja de competencias, normativas y organismos poco eficaz.
El peso de la IA
El uso creciente de la inteligencia artificial debería obligar a establecer normas claras. Según datos del último panel de hogares de la CNMC, la mitad de los usuarios de internet también usa herramientas de IA.
Así, los datos que maneja la CNMC indican que ChatGPT es la IA más utilizada (41,3%), seguida de Gemini/Notebook LM (17,2%) y Copilot (7,1%). Únicamente el 8,6% de los usuarios de estas aplicaciones de inteligencia artificial paga por sus servicios. Este panel aporta otro dato clave: el 15,7% de los usuarios no revisó nunca la veracidad de las respuestas de la inteligencia artificial, mientras que el 35% verificó de vez en cuando esas respuestas obtenidas.
Por su parte, el último barómetro del Ateneo del Dato refleja que el 80% de los encuestados confiaría poco o nada en una IA para decidir a quién votar. Sin embargo, el 41% de los participantes confiaría en la IA para resumir los programas electorales, sobre todo los votantes más jóvenes; los mayores de 65 años son mucho más escépticos (sólo el 22% afirma que confiaría en dichos resúmenes).
Para Marina Echebarría, "la entrada de la inteligencia artificial en lo que se refiere a la salvaguarda del discurso cívico y de la integridad de los procesos electorales ha tenido impacto por varias razones". "Hemos visto cómo, a través de mecanismos de recomendación, es capaz de seleccionar contenidos, la IA está generando contextos nuevos: cuando haces una búsqueda, muchas veces la IA interviene en primer lugar y te hace una selección, e incluso genera una adaptación según tu perfil".
Además, esta experta recuerda que "con las IA se ha disparado la generación de contenidos que pueden ser falsos o manipulados", explica, aunque puntualiza que "los procedimientos normativos pueden resultar lentos o farragosos, porque han de ser cautelosos ya que en juego están derechos fundamentales como el de la libertad de expresión".
Sanción a la vista
En España, la CNMC es la coordinadora a los efectos del Reglamento DSA, el que regula los servicios digitales. En lo que se refiere a las elecciones, dicho reglamento obliga a salvaguardar el discurso cívico, la transparencia de las elecciones y su corrección para evitar injerencias extranjeras y desinformación.
Pero Marina Echebarría apunta que este organismo aún no tiene "la capacidad sancionatoria —artículos 51 y 52 del Reglamento pendientes de implementarse en España— porque, recordemos, no hay una ley propia que le otorgue tal papel. Tenemos, de he hecho, un procedimiento de infracción abierto, desde la Comisión Europea, que probablemente se resolverá en breve y seremos condenados por incumplir el reglamento en esta parte", lamenta esta consejera.
Mientras tanto, ¿cuál es el papel de la CNMC en estos comicios? “Actuamos como coordinadores entre sociedad civil, administraciones estatales, la Comisión Europea y las plataformas”, afirma Echebarría.
De momento, la CNMC se ha reunido hace pocos días, a puerta cerrada, con las grandes plataformas, autoridades españolas y la sociedad civil (fact-checkers, sobre todo), "para que puedan hablar tranquilamente". "Las plataformas han explicado qué mecanismos de previsión de riesgos, de contención, de rastreo y de denuncia tienen", explica Marina Echebarría, y añade que "las autoridades civiles les han explicado qué papel cumple cada una de ellas".
Tibias consecuencias
La CNMC reconoce que, a falta de una ley estatal, su papel está siendo "sutil" al no tener una competencia sancionadora. "Pero cuando aparece algo inquietante, que demuestra, por ejemplo, un defecto de diseño en la red que ofrece respuestas indeseadas o realiza un tratamiento de contenidos ilícito o peligroso", añade la consejera de la CNMC, "alertamos inmediatamente a la instancia de la Comisión Europea".
El principal problema con las plataformas de IA es que son extranjeras, casi ninguna europea: operan desde Estados Unidos y China. Pero si cuentan con establecimiento en Europa, normalmente en Irlanda, este organismo se pone en contacto con el del país correspondiente que es el que tiene la capacidad de requerimiento donde están sus sedes sociales.
"Las plataformas no deberían poder censurar contenidos, y las administraciones públicas sólo por orden judicial"
Marina Echebarría recuerda que el fantasma de la censura también planea sobre el control de la inteligencia artificial: "La sátira está permitida pero la manipulación perniciosa o engañosa de contenidos no; las plataformas no deberían poder censurar contenidos, y las administraciones públicas sólo por orden judicial o por algún mecanismo excepcional ante riesgos excepcionales, como la violación de ciertos derechos sobre los datos personales, la propiedad intelectual y cuando la seguridad nacional está en juego", apunta.
Los límites sobre la información en las redes "están muy tasados y tienen una interpretación restrictiva". "Además", añade, "para aplicarlos contamos también con la supervisión de los jueces, la Junta Electoral Central —que por supuesto tiene sus competencias para eliminar contenidos que puedan tener relevancia en el proceso electoral— y ahora la Comisión Europea, cuando recibe casos de contenidos que puedan incidir en desinformación grave y los investiga para detectar algún fallo sistémico en el control de riesgos por parte de las grandes plataformas".
Bruselas siempre actúa a posteriori en caso de uso irregular de la IA; si hay infracción, abre expediente e impone las multas previstas que suelen ser llamativas aunque quizá no lo suficientemente disuasorias. "Pero hay algo en lo que la gente no repara", apunta la catedrática, "y es que cuando la Comisión Europea dice que ha habido un defecto de diseño en el funcionamiento de la red, más allá del impacto de la multa está la orden de rectificar la operativa y esto sí que les preocupa más, porque les estás diciendo que su forma de articular el negocio digital no es correcta conforme al reglamento europeo, y les estás indicando que su modelo de negocio tiene que ser adaptado al cumplimiento normativo".



Comentarios de nuestros socias/os
Para ver los comentarios de nuestros socias y socios, primero tienes que iniciar sesión o registrarte.