Noticias de IA y últimos desarrollos: el dron «mata» al operador; DeepMind acelera las computadoras; impulso de la turbina de viento

Los informes de drones de IA que «mataron» a su operador no valieron nada

Este mes nos enteramos de un fascinante experimento de IA de un coronel de la Fuerza Aérea de EE. UU. Un dron controlado por IA entrenado para llevar a cabo de forma autónoma misiones de bombardeo había activado a su operador humano cuando se le dijo que no atacara objetivos; su programación priorizaba la finalización exitosa de las misiones, por lo que vio la intervención humana como un obstáculo en su camino y decidió eliminarlo por la fuerza.

El único problema con la historia era que era absurda. Primero, como dijo el coronel, la prueba era una simulación. En segundo lugar, se publicó apresuradamente un comunicado de la Fuerza Aérea de los EE. UU. para aclarar que el coronel, hablando en una conferencia en el Reino Unido, se había «expresado mal» y que no se había llevado a cabo tal prueba.

científico nuevo preguntó por qué la gente cree tan rápidamente las historias de terror de la IA, y un experto dijo que se debe en parte a nuestra atracción innata por las «historias de terror que nos gusta susurrar alrededor de la fogata».

El problema con este tipo de historia mal interpretada es que es muy convincente. La «noticia» se publicó en todo el mundo antes de que se pudieran verificar los hechos, y pocas de estas publicaciones tenían algún interés en dejar las cosas claras más tarde. La IA representa un peligro real para la sociedad de muchas maneras y necesitamos un debate informado para explorarlas y prevenirlas, no sensacionalismo.

DeepMind AI acelera el algoritmo que podría afectar globalmente el poder de la computadora

AI ha traído sorpresa tras sorpresa en los últimos años, demostrando ser capaz de escupir un ensayo sobre cualquier tema dado, crear imágenes fotorrealistas desde cero e incluso escribir código fuente funcional. Por lo tanto, se le perdonará que no esté demasiado entusiasmado con las noticias de que DeepMind AI mejora ligeramente un algoritmo de clasificación.

Pero profundice más y el trabajo es interesante y tiene fuertes aplicaciones en el mundo real. Los algoritmos de clasificación se ejecutan miles de millones de veces en todo el mundo y se usan con tanta frecuencia en todo tipo de software que están escritos en bibliotecas a las que los codificadores pueden recurrir según sea necesario para evitar tener que reinventar la rueda. Estos algoritmos clasificados habían sido refinados y modificados por humanos durante tanto tiempo que se consideraban completos y lo más eficientes posible.

Este mes, la IA de DeepMind encontró una mejora que puede acelerar la clasificación hasta en un 70 %, en el escenario correcto. Cualquier mejora que se pueda implementar en cada computadora, teléfono inteligente o cualquier otro dispositivo con un chip de computadora puede generar grandes ahorros en energía y tiempo de cómputo. ¿En cuántos algoritmos de uso más común puede AI encontrar eficiencias? El tiempo nos lo dirá.

La IA podría aumentar la producción de todos los aerogeneradores del mundo

Mientras que DeepMind busca eficiencias en el código fuente, otros usan IA para encontrarlas en las máquinas. Las turbinas eólicas funcionan mejor cuando se enfrentan directamente al viento que se aproxima, pero la brisa cambiará de dirección obstinadamente. Actualmente, las turbinas utilizan una variedad de técnicas para mantener la eficiencia, pero parece que la IA puede hacer un trabajo un poco mejor.

Los investigadores entrenaron una IA con datos del mundo real sobre la dirección del viento y descubrieron que podía idear una estrategia que aumentara la eficiencia al mantener la turbina orientada hacia la dirección correcta con mayor frecuencia. Esto implicó más rotación, lo que usó más energía, pero incluso teniendo eso en cuenta, pudieron extraer un 0,3% más de potencia de las turbinas.

Es posible que esta cifra no sea un titular, pero es suficiente para aumentar la producción de electricidad en 5 teravatios hora por año, aproximadamente la misma cantidad que Albania consume anualmente, o 1,7 millones de hogares promedio en el Reino Unido, si se implementa en cada turbina alrededor del mundo.

La prueba de letras mayúsculas es una forma segura de separar las IA de los humanos

La prueba de Turing es una forma famosa de evaluar la inteligencia de una máquina: ¿puede un ser humano que conversa a través de una interfaz de texto saber si está hablando con otro ser humano o con una IA? Bueno, los grandes modelos de lenguaje como ChatGPT ahora son bastante hábiles para mantener conversaciones realistas, por lo que tal vez necesitemos una nueva prueba.

En los últimos años, hemos visto una serie de 204 pruebas que se ofrecen como una especie de nueva prueba de Turing, que cubre temas como matemáticas, lingüística y ajedrez. Pero se acaba de publicar un método mucho más simple en un artículo, donde se agregan letras mayúsculas y palabras superfluas a declaraciones sensatas en un intento de hacer tropezar a la IA.

Dale a un ser humano una oración como «¿la CURIOSIDAD es agua, ARCANO húmedo, TURBULENTO o ILUSIÓN seca, SAUNA?» y probablemente notarán que las letras minúsculas por sí solas forman una oración lógica. Pero una IA que leyera la misma entrada se confundiría, mostraron los investigadores. Cinco modelos de lenguaje principales, incluidos GPT-3 y ChatGPT de OpenAI, y LLaMA de Meta, no pasaron la prueba.

Pero otros expertos señalan que ahora que existe la prueba, se puede entrenar a la IA para que la entienda, y por lo tanto pasará en el futuro. Distinguir la IA de los humanos podría convertirse en un juego interminable del gato y el ratón.

¿Cuál es el futuro de la IA? Google y la UE tienen ideas muy diferentes

Los reguladores y las empresas de tecnología no parecen estar avanzando en la misma dirección con respecto a la IA. Si bien algunos actores de la industria han pedido que se detenga la investigación hasta que se comprendan mejor los peligros, la mayoría de los legisladores imponen reglas de protección para garantizar que pueda progresar de manera segura, y muchas compañías tecnológicas avanzan a toda velocidad para comercializar la IA.

Los políticos de la UE acordaron una versión actualizada de su ley de IA, que tardó años en redactarse: la presidenta de la Comisión Europea, Ursula von der Leyen, prometió introducir la legislación de IA que se necesitaba con urgencia cuando se aprobó en 2019. Las leyes ahora requerirán que las empresas divulguen cualquier contenido con derechos de autor que se haya utilizado para entrenar IA generativa como ChatGPT.

Por otro lado, empresas como Google y Microsoft se esfuerzan por implementar IA en muchos de sus productos, por temor a quedarse atrás en una revolución que podría rivalizar con el nacimiento de Internet.

Si bien la tecnología siempre ha superado la legislación, dejando a la sociedad luchando para garantizar que se minimicen los daños, la IA realmente está evolucionando a un ritmo sorprendente. Y los resultados de su implementación comercial podrían ser catastróficos: Google descubrió que su salida puede ser poco confiable incluso cuando se selecciona para publicidad. Las ventajas potenciales de la IA son indiscutibles, pero el truco será asegurarse de que superen las desventajas.

Los sujetos:

• inteligencia artificial/
• AI