¿Puede la Unión Europea prevenir una distopía de la inteligencia artificial?


Mediante

Ursula von der Leyen

La presidenta de la Comisión Europea, Ursula von der Leyen, quiere controles más estrictos sobre la inteligencia artificial

Thierry Monasse / Getty Images

Un plan de la Unión Europea para regular la inteligencia artificial podría hacer que las empresas que infrinjan las reglas propuestas sobre vigilancia masiva y discriminación sean multadas en millones de euros. Un proyecto de ley, filtrado antes de su publicación oficial a finales de este mes, sugiere que la UE está tratando de encontrar una 'tercera vía' en la regulación de la IA, entre el mercado libre de EE. UU. Y el autoritario de China.

Tal como están redactadas actualmente, las reglas prohibirían la IA diseñada para manipular a las personas "en su detrimento", realizar una vigilancia ciega o calcular "puntuaciones sociales". Gran parte de la redacción es lo suficientemente vaga como para que las regulaciones puedan cubrir toda la industria publicitaria o nada en absoluto. En cualquier caso, los militares y cualquier agencia que brinde seguridad pública están exentos.

Publicidad

Se permitirían ciertas actividades de 'alto riesgo', sujetas a controles estrictos, incluidas medidas para prevenir la introducción de prejuicios raciales, de género o de edad en los sistemas de inteligencia artificial. Como posibles objetivos, la legislación menciona sistemas para automatizar el reclutamiento, asignar lugares en escuelas, colegios o universidades, medir los puntajes de crédito o decidir el resultado de las solicitudes de visa. Las empresas infractoras podrían recibir una multa de hasta 20 millones de euros, o el 4% de la facturación global.

En cierto modo, la noticia no sorprende, ya que la presidenta de la Comisión Europea, Ursula von der Leyen, se ha comprometido a introducir urgentemente una legislación sobre IA cuando sea elegida en 2019. Pero Lilian Edwards, de la Universidad de Newcastle, Reino Unido, dice que los proyectos de ley afectarán a la industria tecnológica. "Aplaudo la ambición, pero no se puede imaginar que se haga realidad en este estado", dice.

Edwards compara el enfoque con la forma en que la UE regula los productos de consumo, que deben cumplir con ciertos requisitos para ser importados. "Es mucho más difícil de hacer con la IA porque no siempre es un producto simple", dice. "Te diriges inexorablemente hacia una guerra comercial con Silicon Valley o hacia una aplicación débil".

China y Estados Unidos ya han logrado grandes avances en la implementación de la inteligencia artificial en una variedad de industrias, incluida la seguridad nacional y la aplicación de la ley. En China, el movimiento diario de ciudadanos en muchas ciudades es monitoreado por reconocimiento facial y hay muchas pruebas públicas y privadas de una "calificación crediticia social" que eventualmente se implementará en todo el país. Estos puntajes pueden reducirse por delitos como jugar juegos de computadora durante demasiado tiempo o cruzar la calle con un semáforo en rojo para peatones y pueden aumentarse donando a organizaciones benéficas. Si su puntaje cae demasiado bajo, corre el riesgo de que se le niegue el viaje en tren o se le avergüence en los listados en línea.

Mientras tanto, en los Estados Unidos, donde se encuentran muchos gigantes tecnológicos, la administración de Donald Trump ha alentado un enfoque ligero y libre para regular la regulación, mientras que el actual presidente Joe Biden no ha tomado una posición pública sólida.

Daniel Leufer de Access Now, uno de los grupos que anteriormente asesoraba a la UE sobre inteligencia artificial, dice que Europa ha tenido durante mucho tiempo una estrategia para tomar prestado un tercer carril entre Estados Unidos y China en materia de regulación tecnológica, y dice que el proyecto de ley es prometedor.

Pero advierte que hay "grandes banderas rojas" en torno a ciertos elementos del proyecto de ley, como la creación de un comité europeo de inteligencia artificial. “Tendrán una gran influencia en lo que se agregue o elimine de la lista de alto riesgo y la lista de no ir”, dice, lo que significa que exactamente quién se sienta en la junta será clave.

La UE ya ha logrado influir en la política tecnológica mundial. Su Reglamento general de protección de datos, introducido en 2018, ha inspirado leyes similares en países no pertenecientes a la UE y California, donde se encuentra Silicon Valley. Sin embargo, en respuesta, algunas empresas estadounidenses simplemente han bloqueado a los clientes de la UE para que no accedan a sus servicios.

Queda por ver si el Reino Unido seguirá a la UE en la regulación de la IA ahora que ha abandonado el bloque. El Departamento de Negocios, Energía y Estrategia Industrial del Reino Unido dijo Científico nuevo que el gobierno ha formado un grupo independiente llamado Regulatory Horizons Council para asesorar sobre las regulaciones necesarias para responder a las nuevas tecnologías como la IA.

Obtenga más información sobre estos temas:

Sé el primero en comentar

Deja un comentario