Tecnología y vigilancia
El Gobierno de España y la Generalitat usan algoritmos que pueden ser discriminatorios
Ambas instituciones recurren a la automatización para determinar ayudas al paro, detectar denuncias falsas o predecir la reincidencia de presos
Eticas Foundation lanza una base de datos que recoge 100 casos donde el uso de esos sistemas entraña riesgos sociales no intencionados
![Los problemas del SEPE retrasan la gestión de cientos de expedientes del paro en la región](https://estaticos-cdn.prensaiberica.es/clip/b42bdfb6-b2d5-4d94-b373-4bbb36c0f55b_16-9-discover-aspect-ratio_default_0.jpg)
Los problemas del SEPE retrasan la gestión de cientos de expedientes del paro en la región
![Carles Planas Bou](https://estaticos-cdn.prensaiberica.es/clip/3cf5f6cc-c283-48e1-ad20-c17025600721_source-aspect-ratio_default_0.jpg)
![Carles Planas Bou](https://estaticos-cdn.prensaiberica.es/clip/3cf5f6cc-c283-48e1-ad20-c17025600721_source-aspect-ratio_default_0.jpg)
Carles Planas Bou
Periodista
Periodista tecnológico entre el mundo digital y la política internacional. Centrado en capitalismo de plataformas, IA, vigilancia y derechos digitales. Excorresponsal en Berlín durante más de cuatro años, cubrió los gobiernos de Merkel, la crisis de los refugiados y el auge de la extrema derecha. También ha trabajado en Europa Central y en Canadá. Graduado en Periodismo por la URL y máster en Relaciones Internacionales por la UAB. Ha colaborado con TV3, TVE, Deutsche Welle, Catalunya Ràdio, El Orden Mundial o El Salto.
Los algoritmos ya afectan tu vida. Los usan gigantes tecnológicos como Google, Facebook o TikTok para conocerte mejor, recomendarte contenido y predecir tus acciones. Pero también lo usan cada vez más gobiernos y administraciones públicas de todo el mundo para agilizar procesos tan importantes como la concesión de ayudas al paro o la detección de casos de covid-19.
Los algoritmos son las fórmulas matemáticas que los ordenadores usan para tomar decisiones. Sin embargo, esas decisiones no son neutrales, sino que se fundamentan en datos recopilados por humanos que pueden acarrear sesgos (racistas, de género o socioeconómicos, entre otros) y traducirse en consecuencias no deseadas como una vigilancia perpetua de los ciudadanos o una mayor discriminación que perjudica especialmente a minorías.
¿Y si el algoritmo te acusa injustamente de fraude y te niega acceso a ayudas sociales? ¿Y si recompensa las notas en la selectividad de solo los estudiantes de barrios ricos? Eso ya ha sucedido tanto en los Países Bajos como en el Reino Unido.
¿Discriminaciones en España?
España CatalunyaTwitterNetflixMicrosoft Uberderechos fundamentalesA pesar de su profundo impacto en nuestras vidas los algoritmos son opacos y cuentan con poca supervisión. Es por ello que la entidad Eticas Foundation ha puesto en marcha el Observatorio de Algoritmos con Impacto Social (OASI), que reúne en una base de datos (que puedes consultar aquí) más de 100 casos de todo el mundo donde el uso de algoritmos está teniendo unos efectos sociales perjudiciales no deseados. El proyecto identifica esos casos en un buscador con la intención de ser accesible al público y concienciar sobre la necesidad de auditar algoritmos.
Además de los casos mencionados, OASI también señala otros dos algoritmos potencialmente peligrosos en el territorio: el que usa la Policía Nacional para detectar denuncias falsas y el que usa el Servicio Público de Empleo Estatal (SEPE) para determinar ayudas sociales a los parados.
OASI categoriza los tipos de impactos que producen en siete apartados: discriminación (racial, de género, socioeconómica o religiosa), vigilancia del Estado, polarización/radicalización, amenaza a la privacidad, manipulación del comportamiento, generación de adicción y propagación de desinformación. Un impacto doblemente peligroso, pues el extendido mito de que las máquinas son portadoras de una verdad racional y matemática hace que, en la mayoría de ocasiones, sus consecuencias negativas queden ocultas.
- La 'generación Lamine Yamal' pide paso: 'Nos tratan como a intrusos, pero, reviente a quien reviente, somos de aquí
- El trucazo para que Google Maps detecte todos los radares de la DGT
- Los Mossos realizan en la AP-7 el primer macrocontrol del verano contra droga, armas y cobre
- Dos detenidos por asesinar a sus mujeres en Salou y Sabadell
- El Gobierno no exigirá el curso para tener perros a quienes ya tengan un animal
- Crecidas provocadas para salvar el Delta
- Una jueza de Florida desestima el caso de los papeles de Mar-a-Lago contra Trump
- Un juzgado de Igualada investiga a una casa de apuestas por anular un premio de 1,3 millones de euros