Un estudio demuestra que el algoritmo de Uber cobra más a las personas negras
Los algoritmos que utilizan las compañías de transporte, como Uber, Lyft y Cabify, para determinar las tarifas parecen crear un sesgo racial.
Al analizar los datos del censo y el transporte en Chicago, Aylin Caliskan y Akshat Pandey de la Universidad George Washington en Washington DC descubrieron que las compañías de transporte cobran un precio más alto por kilómetro por un viaje si el punto de recogida o el destino es un vecindario con una mayor proporción de residentes de minorías étnicas que aquellos con residentes predominantemente blancos.
«Básicamente, si vas a un vecindario donde hay una gran población afroamericana, pagarás un precio más alto por tu viaje», dice Caliskan.
A diferencia de los taxis, los servicios de transporte tienen tarifas dinámicas, que se calculan en función de factores que incluyen la duración del viaje y la demanda local, aunque no está claro qué otros factores tienen en cuenta estos algoritmos porque las compañías de transporte no poner a disposición todos sus datos.
Los investigadores analizaron datos de más de 100 millones de viajes realizados en Chicago a través de aplicaciones de transporte entre noviembre de 2018 y diciembre de 2019.
Cada viaje contenía información que incluía la ubicación de recogida y entrega, la duración, el coste y si el viaje fue individual o viaje compartido.
En ese período, 68 millones de viajes fueron realizados y la mayoría de ellos utilizaron Uber.
El dúo comparó los datos del viaje con la información de la Encuesta sobre la Comunidad Estadounidense de la Oficina del Censo de EE.UU., que proporciona estadísticas agregadas sobre los vecindarios, incluida la población, el desglose étnico, los niveles de educación y los precios promedio de las viviendas.
Descubrieron que los precios por kilómetro eran más altos en promedio si el lugar de recogida o destino del viaje era en un vecindario con una menor proporción de residentes blancos, un precio medio de vivienda más bajo o un nivel educativo promedio más bajo.
Según dice Os Keyes de La Universidad de Washington en Seattle:
«Incluso en ausencia de una identidad que se considere explícitamente en la forma en que se deciden los resultados de un algoritmo, la naturaleza estructural e histórica del racismo, la forma en que informa la geografía y las oportunidades de vida, significan que todavía pueden aparecer disparidades raciales».
Redlinear es una práctica en la cual los prestamistas hipotecarios se niegan a ofrecer préstamos en ciertos vecindarios.
«Chicago, el lugar donde se ha hecho este análisis, es un ejemplo: como resultado de, entre otras cosas, las prácticas de rediseño, sigue siendo altamente segregado geográficamente».
«Esto debería hacernos cuestionar más los estudios de ‘equidad’ y ‘sesgo’ en algoritmos que prometen terminar con el racismo algorítmico simplemente sin mencionar la raza».
Los investigadores no encontraron un vínculo estadístico que sugiriera que los vecindarios con mayores proporciones de minorías étnicas tenían una mayor demanda de viajes, lo que podría explicar los precios más altos de las tarifas.
Según la ley de los Estados Unidos, es ilegal discriminar a un individuo sobre la base de atributos protegidos, incluida la raza.
Los hallazgos del estudio son problemáticos, dice Caliskan.
«Aunque se supone que estos algoritmos son justos y no están utilizando atributos protegidos, parecen tener un impacto significativo en estos vecindarios».
Este estudio muestra cómo el sesgo algorítmico por código postal y raza puede arrastrarse incluso a los lugares más inesperados.
Es otro ejemplo más en una larga lista de cómo la etnia y el sesgo racial han encontrado un nuevo hogar en el software.
No hay excusa para los sesgos de automatización y tales sistemas deberían cerrarse hasta el momento en que puedan demostrar justicia e igualdad.
Un estudio demuestra que el algoritmo de Uber cobra más a las personas negras
