Hace no mucho, un responsable técnico de un pequeño ayuntamiento me explicó que estaban probando un modelo para priorizar incidencias urbanas. “Funciona bastante bien”, me dijo. “Solo que siempre envía primero a la brigada al mismo barrio. Será casualidad”.
Aquella frase quedó flotando en el aire. No era casualidad: era un patrón.
Y como tantos patrones en la administración digital, se manifestaba de forma silenciosa, sin causar alarma, pero condicionando decisiones públicas que afectan a miles de personas.
El debate sobre el sesgo algorítmico suele asociarse a grandes plataformas tecnológicas, pero en realidad también está emergiendo en la administración local: modelos que asignan recursos, sistemas que valoran solicitudes de ayudas, algoritmos que priorizan inspecciones o mecanismos que detectan fraude.
No son proyectos experimentales; forman parte del día a día de muchas entidades que buscan gestionar mejor, automatizar procesos o reducir cargas administrativas. Y precisamente por eso es tan importante examinar si esos algoritmos reproducen desigualdades, amplifican sesgos preexistentes o generan efectos secundarios no previstos.
NOTA: Podéis ver la entrada completa publicada bajo el mismo título en la Newsletter de El Rincón de los Datos,disponible en el siguiente enlace
No hay comentarios:
Publicar un comentario