por
Andriy Popov / Alamy Foto de stock
Las empresas y organizaciones podrían recibir una multa de varios millones de libras si no pueden explicar las decisiones tomadas por la inteligencia artificial, como parte de los proyectos presentados hoy por el servicio británico. Monitoreo de datos.
La Oficina del Comisionado de Información (ICO) dijo que sus nuevas pautas eran esenciales porque el Reino Unido se encontraba en una coyuntura crítica, con muchas compañías que usan IA para informar sus decisiones por primera vez. primera vez, como los departamentos de recursos humanos que utilizan el aprendizaje automático para seleccionar candidatos seleccionados. en el análisis de sus CV. El regulador dice que es el primero en el mundo en tener reglas establecidas para explicar las elecciones hechas por AI.
Alrededor de dos tercios de las compañías de servicios financieros del Reino Unido usan la IA para tomar decisiones, incluidas las compañías de seguros para manejar sus reclamos, y la mitad de los ciudadanos se preocupan por los algoritmos de toma de decisiones. que el hombre solía explicar A los investigadores en inteligencia artificial ya se les pide que hagan más para explicar el carácter de "caja negra" de cómo el aprendizaje automático conduce a resultados.
publicidad
Simon McDougall, de la OIC, dijo: "Se trata solo de explicabilidad. Se trata de toda la cuestión de la explicabilidad de la categoría negra, pero eso es realmente lo que determina el derecho de las personas a una explicación. ¿Cómo explica que una decisión de IA es transparente, justa, comprensible y responsable ante el individuo? "
La guía, que está en consulta hoy, le dice a las organizaciones cómo comunicar explicaciones a las personas de una manera que puedan entender. En casos extremos, el incumplimiento de esta regla podría resultar en una multa de hasta el 4% de la facturación comercial general de una empresa, según las leyes de los Estados Unidos. UE sobre protección de datos.
No tener suficiente dinero o tiempo para explicar las decisiones de IA no será una excusa, dijo McDougall. "Deben ser responsables de sus acciones. Si no tienen los recursos para pensar detenidamente sobre cómo usarán la IA para tomar decisiones, entonces deberían preguntarse si no deberían usar todo. También espera que este paso resulte en que las empresas compren sistemas de inteligencia artificial en lugar de construir su propio sistema, haciendo más preguntas sobre su operación.
Producido en colaboración con el Instituto Ada Lovelace, se espera que las pautas entren en vigencia en 2020.
Más sobre estos temas:
Deja un comentario