Todos de perfil: discriminados y segregados

La semana pasada, siguiendo la línea de la anterior, planteamos una reflexión en torno al sistema de vigilancia estatal y corporativo, así como su relación con el Big Data. Esta semana avanzamos, diseccionando cómo estos datos mientras que alimentan al Gran Hermano, refuerzan estereotipos y nos separan. Continuamos el debate en n/vuestra web.

_________

Las redes sociales identifican a sus miembros por el perfil, que agrupa la información que obtienen monitorizando nuestra actividad. Y después la combinan con otras bases de datos, identificando nuevos rasgos. El perfil describe atributos individuales y sociales. Cuenta quién somos cuando estamos solos y en compañía, en infinidad de aspectos y contextos. En principio, el perfilado se usa para el marketing online. Pero su alcance es mucho mayor.

En 2014 Facebook presentó su herramienta de Datos demográficos, comportamientos e intereses. Ninguna agencia de seguridad disfruta de semejante capacidad para cachearnos, identificarnos y abatirnos. Como “dianas publicitarias”, se entiende. Marta Peirano, la soberbia reportera de la que tomo la noticia, añadía: “El programa de Facebook usa los identificadores que el propio usuario introduce voluntaria y obedientemente en el sistema diseñado al efecto, pero también usa herramientas de análisis estadístico para deducir datos que el usuario no le ha dado. Sabe a quién vas a votar, qué tipo de cáncer tiene tu madre y que cambiarías a tu novio por un viaje a Tasmania. No hace falta que se lo digas tú porque la combinación de tus búsquedas, tus mensajes, tus likes, tus compras y tu entorno ya lo dice todo.”

La ciencia ficción más pesimista se hizo realidad hace años. Vivimos, como presagiaban algunos autores, en guetos (por lo de ahora) de mercado. Desde 2012, Facebook identifica la raza de los usuarios para enviarles anuncios personalizados de películas o cualquier producto para el que creen relevante el color de piel. 68 likes delatan ese rasgo con un 95% de acierto. Facebook distingue usuarios negros, latinos, asiáticos o blancos. Pero también discrimina esas razas, convirtiéndolas en etiquetas establecidas y determinantes. ¿Quién se define, antes de nada y por encima de todo, como blanco o negro?

La discriminación publicitaria desemboca en segregación: trato desigual y degradante. Para saber el estereotipo racial que maneja (y construye) el mercado digital, basta buscar en Google “jóvenes blancos imágenes”. Y comparar los resultados cambiando “blancos” por “negros” o latinos”. Entre los dos últimos grupos, aparecen miembros de bandas marginales. Se asocian a estéticas poco aceptadas o actividades ilegales. Es lo que descubrió Kabir Ali, un estudiante estadounidense al realizar este experimento.

La discriminación acaba en segregación porque los mercaderes quieren diversificar la oferta, producir y vender a cada grupo algo diferente: películas para negros, para gays y lesbianas ... para gitanos (si fuesen al cine) o para transexuales (si protagonizasen suficientes películas). Suponen e imponen diferencias. No representan lo mucho que compartimos como seres humanos; sino lo que poseemos, identificándolo con lo que somos. Por tanto, estas redes reproducen, crean y aumentan la desigualdad. Ofrecen a cada grupo social —para ellas, un segmento de consumo— una mercancía específica. A cada uno según su capacidad de compra.

Facebook aplica un programa de reconocimiento facial, DeepFace, que acierta a reconocer el 97% de veces una cara registrada en su base de datos. En 2017 el FBI daba menos “en el blanco”: acertaba el 85%. Así que Facebook reconocía a cada uno de sus casi 2.000 millones de usuarios solo por su rostro. Los etiquetaba. No necesitaba expertos ni grandes inversiones. Usaba programas, algoritmos y una base de datos sin fronteras geográficas o políticas. Abarcaba todas las etnias y lenguas. Y las explotaba comercialmente sin cortapisas legales. En resumen, “para reconocerte por la calle y acceder a tu dossier —escribe Marta Peirano—Facebook solo necesita una cámara y una conexión a sus servidores.”

Los mercaderes dicen que perfilándonos nos ofrecen mejor servicio. Los gobernantes, que nos protegen. La historia indica que su palabra no es garantía de nada. El perfilado de la población fue inventado por criminólogos con ínfulas científicas. Usando la biometría medían los rasgos físicos de la población. Luego los relacionaban con conductas que consideraban inmorales o delictivas. Y acabaron decretando el aislamiento (cárcel o manicomio) y la eliminación de ciertos individuos por su aspecto. La eugenesia obligó a abortar o eliminó en masa a quienes se consideraban seres “defectuosos” o “aberraciones”. Lo que en principio se justificó por “seguridad y salud pública” acabó aplicándose para mejorar “la pureza de la raza”. Comenzó con las limpiezas étnicas de las colonias y alcanzó su clímax en el Holocausto.

Aplicado sistemáticamente a toda la población, el perfilado digital aniquila la privacidad (poder hablar y estar con quien queremos) y el anonimato (hacerlo con libertad). Son dos derechos humanos que garantizan la libertad de reunión y expresión; que, a su vez, son los pilares de una democracia ahora amenazada. La legislación antiterrorista que se aprobó tras el ataque a las Torres Gemelas barrió la presunción de inocencia. Y la reforma de 2015 permite que nuestras comunicaciones sigan siendo registradas a escala masiva.

Las agencias de espionaje consideran a todos los ciudadanos potenciales terroristas. Y presuntos terroristas a ciertos perfiles políticos, étnicos o religiosos. Aseguran que así evitan atentados antes de que se produzcan. No es cierto. La industria de datos digitales impuso sus herramientas a pesar de ser ineficaces. Estamos fichados y, sobre todo, vendidos.