por
Iza habur / Getty Images
El gobierno del Reino Unido estableció un sistema de detección de rostros para su servicio de verificación de identidad con foto, sabiendo que la tecnología no estaba funcionando bien para miembros de ciertas minorías étnicas.
La tecnología de reconocimiento facial generalmente no reconoce a las personas con ciertos tonos de piel. Por ejemplo, Google tuvo que disculparse en 2015 cuando su aplicación de fotografía calificó a un par de gorilas negros.
Ahora, los documentos publicados por el Ministerio del Interior esta semana muestran que él estaba al tanto de los problemas encontrados con el servicio de verificación de fotos de pasaportes de su sitio web, pero decidió usarlo de todos modos.
publicidad
"La investigación se realizó con muchos grupos étnicos y descubrió que las personas con piel muy clara o muy oscura tenían dificultades para proporcionar una foto de pasaporte aceptable", escribió el ministerio en un documento publicado en respuesta a una pregunta de libertad de información (FOI) pregunta. "Sin embargo, el rendimiento general se consideró suficiente para ser implementado".
Desde la puesta en servicio del servicio en junio de 2016, algunos usuarios han tenido problemas con el servicio de verificación de fotos. Joshua Bada, un entrenador deportivo negro, recientemente aprendió del sistema que su foto no cumplía con los requisitos porque ella tomó los labios para abrir la boca.
Cat Hallam, un oficial de tecnología negro en la Universidad de Keele en el Reino Unido, encontró que el servicio sugirió erróneamente sus ojos estaban cerrados y su boca abierta. "Lo que es muy desalentador en todo esto es que estaban conscientes", dijo Hallam. Nuevo cientifico.
"La raza de una persona no debería ser un obstáculo para el uso de la tecnología para servicios públicos esenciales", dijo un portavoz de la Comisión de Igualdad y Derechos Humanos del Reino Unido. "Estamos decepcionados de que el gobierno esté implementando esta tecnología a pesar de la evidencia que demuestra que es más difícil para algunas personas usarla debido al color de su piel".
El software de detección de caras normalmente está entrenado en miles de imágenes. Un sesgo puede ingresar al sistema si los datos de entrenamiento no son lo suficientemente grandes o variados como para representar el grupo en el que se utilizarán.
Sam Smith, del grupo de campaña MedConfidential, que presentó la solicitud de acceso a la información, afirma: "Obviamente desplegaron lo que tenían de todos modos: adoptaron el estándar como lo siguiente: "Si ningún otro análisis de imagen funciona para negros, el nuestro tampoco. o & # 39; ".
El Ministerio del Interior dice que los usuarios pueden ignorar el verificador de fotos y solicitar un pasaporte, pero los observadores dicen que esto falla.
"Incluso si el usuario puede cancelar la selección, continúa creando una disparidad de experiencia entre los usuarios, en gran parte racializada", dijo Os Keyes de la Universidad de Washington en Seattle.
Los usuarios pueden ser reacios a usar la función de sustitución, ya que el sitio web advierte a los usuarios que pueden tener un problema con su aplicación si la foto no sigue las reglas, dice Hallam.
El gobierno dijo que para aliviar el problema, sería necesario: "continuar realizando investigaciones de usuarios y pruebas de usabilidad con los participantes apropiados para garantizar que los usuarios de diferentes etnias puedan seguir las instrucciones fotográficas y proporcionar una foto de acuerdo con los controles ".
Un portavoz del Ministerio del Interior dijo Nuevo cientifico"Estamos comprometidos a simplificar la descarga de una foto digital tanto como sea posible y continuaremos mejorando este proceso para todos nuestros clientes".
La promesa del gobierno de "solucionar el problema más tarde" es "una respuesta desalentadora para las personas que enfatizan los prejuicios tecnológicos", dijo Keyes.
Samir Jeraj de la Race Equality Foundation dijo: "Esto es indignante. Esto muestra claramente que no es una prioridad para ellos que funcione para personas con piel negra. Jeraj pidió al gobierno que sea más claro y firme sobre qué mejoras se realizarán y cuándo. Mientras tanto, agregó que no le costaría nada a la oficina de pasaportes poner una nota en su sitio web reconociendo el problema.
Noel Sharkey, un científico informático de la Universidad de Sheffield, Reino Unido, explica que el caso muestra la necesidad de nuevas regulaciones. "Es bien sabido que los sistemas actuales de reconocimiento facial son extremadamente inexactos para las personas con piel más oscura. Ya es bastante malo, pero usar una tecnología que la oficina de pasaportes sabe que es parcial es inaceptable y normaliza la injusticia. Necesitamos urgentemente nuevas regulaciones para poner fin a las desigualdades. "
Más sobre estos temas:
Deja un comentario