IBM está abandonando el reconocimiento facial. ¿Seguirán otras compañías?

Por Chris Stokel-Walker

Fotos M4OS / Alamy

El gigante de software IBM anunció que retirará ciertos productos de reconocimiento facial del mercado y pidió un "diálogo nacional" sobre el uso de la tecnología por parte de las autoridades policiales estadounidenses.

La medida, que se produce cuando las protestas mundiales contra el racismo y la brutalidad policial entran en su tercera semana, es un cambio marcado en el enfoque de reconocimiento de la compañía. En noviembre de 2019, IBM dijo que "las prohibiciones de tecnología general no son la respuesta a las preocupaciones sobre casos de uso específicos".

Las deficiencias de la tecnología de reconocimiento facial están bien documentadas. Un estudio de 2018 realizado por investigadores del Massachusetts Institute of Technology y Microsoft descubrió que las mujeres de piel oscura están mal identificadas por dichos sistemas en el 35% de los casos.

Publicidad

"Los sistemas de reconocimiento facial tienen sesgos internos porque están entrenados principalmente en bibliotecas de cara blanca", dijo Alison Powell, especialista en ética de datos en el Instituto Ada Lovelace, Reino Unido. "No reconocen bien las caras negras y marrones".

Pero la solución no es entrenar el sistema en un conjunto de datos más diverso, dice Powell. "Aumenta la vigilancia de negros y marrones".

Algunos medios informaron que la decisión de IBM, establecida en una carta del CEO Arvind Krishna a los miembros del Congreso de los EE. UU., Es el final de todo reconocimiento facial, pero puede no ser no es el caso.

Yoav Goldberg, del Instituto Allen para AI Israel, señala que la carta indica que IBM ya no ofrece software de "propósito general" para analizar rostros, lo que podría dejarle espacio para maniobrar. vender sistemas mas personalizados. IBM se negó a comentar sobre este artículo, alegando que la carta de Krishna se destaca de sí misma.

Independientemente de los detalles, el anuncio de alto perfil podría tener un impacto más amplio en el uso del reconocimiento facial, dijo Frederike Kaltheuner, investigador de políticas tecnológicas de la Fundación Mozilla.

A principios de este año, un borrador de documento político sugirió que la Unión Europea estaba considerando una prohibición de la tecnología por cinco años, aunque la versión final publicada había eliminado esta propuesta. "Si una compañía como IBM cree que el reconocimiento facial es demasiado problemático para ellos, eso debería poner la idea de una moratoria nuevamente en la agenda política en Europa", dice Kaltheuner.

Varias ciudades de EE. UU., Incluidas San Francisco, Seattle y Oakland, ya han prohibido el uso del reconocimiento facial por parte de la policía, y un proyecto de reforma policial presentado por los demócratas estadounidenses esta semana prohibiría usar tecnología en imágenes tomadas por cámaras transportadas en el cuerpo.

La reacción violenta presionará a compañías como Amazon, que proporciona servicios de reconocimiento facial a la policía de EE. UU., Para que reconsideren su enfoque. En 2018, la Unión de Libertades Civiles de Estados Unidos demostró que el software de Amazon había identificado por error 28 rostros en fotos policiales como miembros del Congreso, y que las coincidencias falsas eran personas de color desproporcionadamente.

"El reconocimiento facial se ha visto afectado el año pasado desde una perspectiva de libertades civiles, invadiendo la privacidad y el alto riesgo de discriminación racial y de género", dijo Nikita Aggarwal en Oxford Internet Institute, Reino Unido. Esto puede significar que los sistemas ya no son comercialmente viables, dice ella.