Entrevista a Maitane Valdecantos, abogada especializada en derecho digital"Regular la IA no es frenar la innovación"
Los sistemas de IA se imponen en una batalla por dominar la innovación, pero hay riesgos para la cultura, las lenguas y los derechos humanos. Esta experta analiza el desarrollo de la mayor tecnología jamás creada.
Madrid-
La abogada economista Maitane Valdecantos Flores (Bilbao, 1985) es una de las personas que más sabe en el Estado español sobre las ventajas y los riesgos de la Inteligencia Artificial en el campo de la producción cultural, y sus conferencias sobre la materia son realmente memorables. Es socia del bufete Audens, especializada en Propiedad Intelectual y Derecho digital; autora del libro Legalidad de los negocios digitales (Anaya Multimedia); y colaboradora del Consejo General de la Abogacía Española (CGAE) en la redacción del Libro Blanco de Inteligencia Artificial y Abogacía.
Estamos ante la primera generación de graduados que han tenido a su disposición la Inteligencia Artificial (IA). ¿Esto hay que interpretarlo como una mayor preparación o al contrario?
No diría que estamos ante una generación necesariamente mejor preparada sino preparada de forma diferente, y esto tiene ventajas y desventajas. Estas generaciones han tenido acceso inmediato al conocimiento, la posibilidad de explorar más fuentes de información y están más familiarizadas con herramientas digitales que, si se utilizan bien, pueden potenciar enormemente el aprendizaje. No obstante, también se han detectado aspectos menos positivos de este sistema como son la excesiva delegación en la inteligencia artificial de tareas esenciales para el aprendizaje, un menor ejercicio de la memoria, del razonamiento autónomo y del pensamiento crítico.
Vemos asimismo que la velocidad ha sustituido en muchos casos a la profundidad del aprendizaje y todo ello impacta en capacidades absolutamente necesarias para el desempeño profesional y para la vida, como la redacción, el análisis, la comprensión o la resolución de problemas. Y este contexto propicia un fenómeno cada vez más presente en nuestras sociedades que es el sesgo de automatización, esto es, la tendencia a aceptar las respuestas de la IA sin cuestionarlas. Sin embargo, generaciones que se han formado en un sistema imperfecto que tenía como base la lectura y la memorización de información, cuentan con una mayor capacidad para detectar errores o alucinaciones de la inteligencia artificial.
Relacionado con este tema
¿Hay cierta predisposición a atacar la IA; a ver en ella un impacto negativo, una amenaza para la humanidad?
Depende de a quién preguntes. Hay sectores de la sociedad que la consideran una amenaza y rechazan o temen todo lo que pueda oler a IA. Sin embargo, otros sectores ven en ella una solución a prácticamente cualquier problema. En realidad, el punto intermedio es el que realmente puede otorgar valor.
Lo que sí es cierto es que la inteligencia artificial no es una tecnología más. Tiene unas características que la diferencian de las anteriores por su enorme capacidad para impactar en los derechos fundamentales, la salud y la seguridad. No solo automatiza tareas, sino que puede influir en la toma de decisiones, procesar grandes volúmenes de datos, generar contenidos prácticamente indistinguibles de los creados por personas o afectar a ámbitos tan sensibles como el acceso a la información, la sanidad, los procesos electorales o la justicia. Y todo ello plantea riesgos para derechos como la igualdad y la no discriminación, la privacidad, la protección de datos o la tutela judicial efectiva.
"La IA tiene una enorme capacidad para impactar en los derechos humanos, la salud y la seguridad"
Usted expuso en el Senado, en dos ocasiones, en la Comisión sobre Ciencia, Innovación y Universidades y en la de Cultura, en relación a la importancia de la IA en el uso de datos y en otros campos beneficiosos para la sociedad, ¿cuáles fueron sus conclusiones?
Informé sobre cómo la inteligencia artificial puede ser tanto herramienta de empoderamiento cultural como instrumento de exclusión e incidí en el hecho de que la elección entre una u otra senda no es tecnológica, sino política, ética y jurídica. Y es que las lenguas menos habladas no solo están infrarrepresentadas, sino que en muchas ocasiones son completamente ignoradas por los modelos de IA, reforzando desigualdades históricas y perpetuando la idea de que ciertas lenguas son más válidas o útiles que otras. Por ello debemos conseguir que los sistemas de IA no solo funcionen bien, sino que funcionen para todos y todas.
En segundo lugar, expuse cómo la aparición de la IA generativa ha planteado tensiones en el marco tradicional de propiedad intelectual, propiciando el debate sobre si los contenidos generados por IA deben estar protegidos por la propiedad intelectual y sobre si el entrenamiento de sistemas de IA con obras protegidas puede acogerse a algún límite. Defendí una concepción humanista que siga protegiendo exclusivamente las obras creadas por las personas.
"Defiendo una concepción humanista que siga protegiendo exclusivamente las obras creadas por las personas"
Una de sus especialidades es el impacto de la IA en la propiedad intelectual. ¿Cuáles son los problemas más habituales que se están dando en este contexto?
La situación actual es relativamente clara: los contenidos generados por IA se consideran no protegidos porque no reúnen los requisitos de autoría humana y originalidad que la mayoría de legislaciones mundiales prevén. Sin embargo, existe un intenso debate doctrinal sobre si este modelo debe evolucionar con posturas que abogan por el reconocimiento de la protección por derecho de autoría o por la creación de un nuevo derecho. Hay incluso quien defiende que se otorgue personalidad jurídica a los robots como ya se hiciera con las empresas y que así, tengan derechos y obligaciones como pagar impuestos. En mi opinión, la protección de la propiedad intelectual debe seguir vinculada a la creatividad humana.
Relacionado con este tema
"Hay quien defiende que se otorgue personalidad jurídica a los robots para que tengan derechos y obligaciones"
En cuanto al entrenamiento de sistemas de IA, creo importante poner el foco en las personas que crean y en el valor de la cultura. No podemos reducirlas a un medio para conseguir un fin y considerar la libertad para innovar equivalente a la libertad de apropiación creativa.
Y tampoco podemos obviar que herramientas como ChatGPT, Gemini o Midjourney han sido posibles gracias al entrenamiento de los grandes modelos de lenguaje, que han precisado de altos niveles computacionales y de ingentes datos, textos y otras obras como ilustraciones, libros, cuadros, vídeos, canciones, fotografías, entre otros, que en muchos casos, no han sido licenciadas a sus titulares, sino recolectados mediante webscraping, una técnica que usa programas conocidos como crawlers para extraer información de sitios web de manera automatizada.
"Debemos conseguir que los sistemas de IA no solo funcionen bien, sino que funcionen para todos y todas"
¿En qué lugar están quedando los creadores, como guionistas, ilustradores, músicos, escritores, ante la apabullante capacidad generativa de la IA?
La irrupción de la IA generativa se ha convertido en un factor de sustitución real en muchas profesiones creativas. Aunque dentro del seno empresarial y en la administración pública hay quien la utiliza como una herramienta de apoyo para agilizar procesos, generar ideas o aumentar la productividad, también estamos asistiendo a un reemplazo estructural de profesionales por sistemas capaces de generar contenidos en segundos y a un coste muy inferior.
Los datos empiezan a reflejar esa realidad. La UNESCO en su informe Re|Shaping Policies for Creativity estima que, antes de 2028, la IA generativa podría reducir hasta un 24 % los ingresos de los creadores musicales o un 21 % los del sector audiovisual. A ello se suma que profesiones como la traducción o el subtitulado figuran entre las más vulnerables a la automatización.
Pero el problema no es únicamente económico. También afecta a la identidad y al propio reconocimiento. El uso de los nombres de artistas para replicar sus estilos mediante prompts está llevando a muchos profesionales a recurrir a herramientas de protección o "envenenamiento de datos" para evitar que su obra pueda ser usada para entrenar a sistemas que precisamente buscan su sustitución.
En el mundo del Derecho ya se están viendo efectos perversos por el uso sin verificar de la IA, con recursos que citan sentencias inexistentes o normativas de otros países en vez de la interna.
Tanto el Consejo General de la Abogacía (CGAE) como el Consejo General del Poder judicial (CGPJ) han reaccionado con rapidez a la irrupción de la IA con una respuesta clara al respecto: la IA puede ser una herramienta de enorme utilidad, pero nunca puede sustituir el juicio jurídico ni la responsabilidad de quienes ejercen funciones jurídicas o jurisdiccionales.
El CGAE, por ejemplo, ha publicado el Libro Blanco sobre Inteligencia Artificial y Abogacía, en el que he tenido el honor de participar, y ha emitido una circular interpretativa sobre el uso de la IAG en el ejercicio de la profesión. Y es que la digitalización no exige una nueva ética profesional sino reinterpretar los principios clásicos en un nuevo contexto tecnológico. La independencia, la confidencialidad, la lealtad al cliente, la integridad y la competencia profesional siguen siendo los mismos pilares que han definido históricamente nuestra profesión y la utilización de tecnología no puede comprometerlos, por lo que los profesionales de la Abogacía tenemos un deber reforzado de supervisión, verificación y control sobre cualquier contenido generado con IA.
Relacionado con este tema
"Los profesionales de la Abogacía tenemos un deber reforzado de supervisión, verificación y control sobre cualquier contenido generado con IA"
Hay una carrera por lograr avances en el desarrollo de la IA y garantizar la soberanía tecnológica. En este sentido, ¿la UE tiene demasiada dependencia de Estados Unidos?
Sí que considero que actualmente existe una importante dependencia de Estados Unidos, especialmente en elementos clave de la cadena de valor de la IA, como los grandes modelos fundacionales, los proveedores de servicios cloud o los semiconductores avanzados.
Reducir esa dependencia y reforzar la soberanía tecnológica es uno de los grandes desafíos estratégicos de la UE que está impulsando iniciativas destinadas a fortalecer sus propias capacidades como las AI Factories, la inversión en supercomputación europea, los sandboxes regulatorios o los programas de financiación como Horizonte Europa y Europa Digital.
El objetivo no es solo investigar, sino también facilitar el desarrollo, la prueba y el despliegue de soluciones europeas de IA y reducir la dependencia de infraestructuras y tecnologías externas.
Relacionado con este tema
¿La regularización que hace Europa va por el buen camino?
No querría acabar sin desmontar la idea de que Europa solo regula y de que solo Europa regula. Según la OCDE (Organización para la Cooperación y el Desarrollo Económicos), más de 70 países cuentan ya con políticas de inteligencia artificial. Y es que regular no es frenar la innovación, regular otorga contexto, seguridad jurídica y enfoque. No existe una única forma de gobernar la IA porque la regulación refleja los valores, prioridades e intereses estratégicos de cada sociedad y la UE ha optado por poner a las personas en el centro de la innovación.
Sobre la firma
Comentarios de nuestros socias/os
Para ver los comentarios de nuestros socias y socios, primero tienes que iniciar sesión o registrarte.