Los algoritmos de precios de Uber y Lyft cobran más en áreas no blancas


Por Donna Lu

Imagen predeterminada del nuevo científico.

Uber y Lyft parecen cobrar más por viajar hacia y desde vecindarios con residentes que no son principalmente blancos

Gado Images / Alamy

Los algoritmos utilizados por las compañías de viajes compartidos, como Uber y Lyft, para determinar las tarifas parecen crear un sesgo racial.

Al analizar los datos de transporte y del censo en Chicago, Aylin Caliskan y Akshat Pandey de la Universidad George Washington en Washington DC descubrieron que las compañías de tránsito cobran un precio más alto por milla por un viaje si el punto La recolección o el destino es un vecindario con una mayor proporción de residentes de minorías étnicas que aquellos cuyos residentes son predominantemente blancos.

"Básicamente, si vas a un área con una gran población afroamericana, pagarás un precio más alto por tu viaje", dice Caliskan.

Publicidad

A diferencia de los taxis tradicionales, los servicios de viaje compartido ofrecen tarifas dinámicas, que se calculan en función de factores como el tiempo de viaje y la demanda local, aunque no está claro qué otros factores tienen en cuenta estos algoritmos. cuenta porque las compañías de transporte público no lo hacen. poner a disposición todos sus datos.

Los investigadores analizaron datos de más de 100 millones de viajes realizados a Chicago a través de aplicaciones de transporte entre noviembre de 2018 y diciembre de 2019. Cada viaje contenía información como el lugar de recogida y entrega, la duración, el costo y si el viaje fue individual o compartido. Los datos no incluyen detalles demográficos como la etnia del corredor.

Durante este período, 68 millones de viajes fueron realizados por ciclistas individuales, y la mayoría de ellos usaron Uber.

El dúo comparó los datos de viaje con la información de la Encuesta sobre la Comunidad Estadounidense de la Oficina del Censo de los EE. UU., Que proporciona estadísticas agregadas sobre vecindarios, incluida la población, la distribución étnica, los niveles de educación y precios medios de la vivienda.

Descubrieron que los precios por milla eran más altos en promedio si la ubicación de recogida o devolución era en un vecindario con una menor proporción de residentes blancos, un precio medio de vivienda más bajo o un nivel de educación promedio más baja.

"Incluso en ausencia de una identidad explícitamente tomada en cuenta en la forma en que se deciden los resultados de un algoritmo, la naturaleza estructural e histórica del racismo y la forma en que informa la geografía, las oportunidades y las posibilidades de vida significan que todavía pueden aparecer disparidades raciales ", dice Os Keyes de la Universidad de Washington en Seattle.

"Chicago, el sitio de este análisis, es un ejemplo: debido a, entre otras cosas, las prácticas de demarcación, sigue siendo muy segregado geográficamente", explica Keyes. Redlinear es una práctica en la cual los prestamistas hipotecarios se niegan a ofrecer préstamos en ciertos vecindarios.

"Esto debería llevarnos a cuestionar los estudios de" equidad "y" sesgo "en algoritmos que prometen terminar con el racismo algorítmico simplemente sin mencionar la raza", dijo Keys.

Los investigadores no encontraron ningún vínculo estadístico que sugiriera que los vecindarios con mayores proporciones de minorías étnicas tenían una mayor demanda de transporte, lo que podría explica los precios más altos.

"Reconocemos que los sesgos sistémicos están profundamente arraigados en la sociedad y apreciamos estudios como este que buscan entender dónde la tecnología puede discriminar involuntariamente", dijo un portavoz de Lyft. "Hay muchos factores que intervienen en la fijación de precios: hora del día, objetivos del viaje, etc., y no parece que este estudio los tenga en cuenta. Esperamos revisar los resultados completos cuando estén disponibles. publicado para ayudarnos a continuar priorizando la equidad en nuestra tecnología ".

Uber no respondió a una solicitud de comentarios antes de que se publicara.

Según la ley de los Estados Unidos, es ilegal discriminar a un individuo sobre la base de atributos protegidos, incluida la raza. Los resultados del estudio son problemáticos, dice Caliskan. "Incluso si se supone que estos algoritmos son justos y no usan atributos protegidos, parecen tener un impacto significativo en estos vecindarios".

"Este estudio muestra cómo el sesgo algorítmico por código postal y raza puede arrastrarse a los lugares más inesperados", dice Noel Sharkey, de la Universidad de Sheffield, Reino Unido. "Este es otro ejemplo más en una larga lista de cómo la etnia y la raza han encontrado un nuevo hogar en el software de la computadora". No hay excusa para el sesgo de automatización y tales sistemas deberían cerrarse hasta que puedan demostrar equidad e igualdad ", él añade.

Referencia: arxiv.org/abs/2006.04599

Más sobre estos temas:

Sé el primero en comentar

Deja un comentario