Nuestro cibervoluntario Javier Mulero nos explica a través de una nueva Microformación de CiberAcademy qué es el algoritmo y el sesgo, cómo funcionan y la relación que tienen con la Inteligencia Artificial.

¿Qué es un algoritmo?

Un algoritmo es una secuencia de instrucciones o reglas bien definidas capaces de encontrar la solución a un problema, realizar un cómputo o procesar datos.

¿Qué es el sesgo?

El sesgo es una inclinación desproporcionada a favor o en contra de una cosa, de una persona o de un grupo de personas, de una manera que se considera injusta.

¿Cómo nos afecta esto?

Seguro que más de una vez has buscado algo en internet, has metido tus datos y has recibido información o sugerencias más personalizadas. El algoritmo y el sesgo son los responsables de esto. Los datos que aportamos filtran la información que nos llega y hace que recibamos determinados mensajes.

Esta situación ha ido creciendo y ganando terreno en los últimos años con el desarrollo de la Inteligencia Artificial (IA). Las ramas de la Inteligencia Artificial han crecido mucho, sobre todo el campo del Aprendizaje Automático (Machine Learning, en inglés) que consiste en desarrollar técnicas para que los computadores aprendan, y tomen decisiones por ellos mismos. Estos algoritmos pueden ser de muchos tipos, como la clasificación de imágenes o de textos, reconocimiento facial, predictor de textos, problemas de regresión, y muchos otros tipos.

Para hacer que funcionen estos algoritmos, se necesitan muchos datos para "entrenar" el programa, es decir, para que aprenda qué respuestas tiene que dar. Y aquí es donde está el problema, ya que la mayor parte de las veces, este dato está sesgado, porque vivimos en una sociedad con bastantes desigualdades, que han ido quedando reflejadas en el histórico de los datos.

¿Discriminación por los algoritmos?

Así pues, hay que prestar especial atención a los datos y al sesgo, sobre todo cuando se utilizan para tomar decisiones que nos afectan a las personas. Si no, pueden ocurrir cosas como estas:

Amazon utilizaba una Inteligencia Artifiicial para automatizar el reclutamiento de aspirantes a sus puestos de trabajo y seleccionar a los mejores. Sin embargo, esta Inteligencia Artificial tenía un sesgo bastante marcado hacia las mujeres, y elegía siempre a un hombre frente a una mujer. Esto ocurría porque la IA había sido entrenada con datos de currículums mayoritariamente de hombres. Al final, Amazon tuvo que deshacerse de la Inteligencia Artificial, porque no consiguió arreglarla para hacerla neutral.

En Fundación Cibervoluntarios trabajamos para facilitar a las personas el uso de la tecnología de una forma segura. En CiberAcademy, nuestra escuela online abierta y gratuita, encontrarás más vídeos de formaciones con las que seguir aprendiendo sobre temas relacionados con la tecnología como el uso de las redes sociales o la ciberseguridad.

Este artículo es fruto de la colaboración entre la Fundación Cibervoluntarios.org y Público con el ánimo de reducir la brecha digital en la sociedad española con ejemplos concretos y prácticos.