La IA usa el sueño artificial para aprender una nueva tarea sin olvidar la anterior


rap«>Muchas IA solo pueden volverse buenas en una tarea, olvidando todo lo que saben si aprenden otra. Una forma de sueño artificial podría ayudar a evitar que esto suceda

Tecnología


10 de noviembre de 2022

persona durmiendo

Las IA también pueden necesitar dormir

Shutterstock/Foto de tierra

La inteligencia artificial puede aprender y recordar cómo realizar múltiples tareas al imitar cómo el sueño nos ayuda a consolidar lo que hemos aprendido durante las horas de vigilia.

«Ahora hay una gran tendencia a traer ideas de la neurociencia y la biología para mejorar el aprendizaje automático existente, y el sueño es una de ellas», dice Maxim Bazhenov de la Universidad de California en San Diego.

Muchas IA solo pueden dominar un conjunto bien definido de tareas; no pueden aprender conocimientos adicionales más adelante sin perder todo lo que aprendieron previamente. «El problema surge si quieres desarrollar sistemas capaces del llamado aprendizaje permanente», dice Pavel Sanda de la Academia Checa de Ciencias en la República Checa. El aprendizaje permanente es la forma en que los humanos acumulan conocimientos para adaptarse y resolver desafíos futuros.

Bazhenov, Sanda y sus colegas entrenaron una red neuronal con picos, una red conectada de neuronas artificiales que se asemeja a la estructura del cerebro humano, para aprender dos tareas diferentes sin sobrescribir las conexiones aprendidas en la primera tarea. Lo lograron intercalando períodos de entrenamiento específicos con períodos de sueño.

Los investigadores simularon el sueño en la red neuronal activando las neuronas artificiales de la red en un patrón ruidoso. También se aseguraron de que el ruido inspirado en el sueño coincidiera aproximadamente con el patrón de disparo de las neuronas durante las sesiones de práctica, una forma de reproducir y reforzar las conexiones aprendidas de ambas tareas.

El equipo primero intentó entrenar la red neuronal en la primera tarea, seguida de la segunda tarea y finalmente agregar un período de sueño al final. Pero pronto se dieron cuenta de que esta secuencia aún estaba borrando las conexiones de la red neuronal aprendidas en la primera tarea.

En cambio, los experimentos de seguimiento mostraron que era importante «tener sesiones de entrenamiento y de sueño alternadas rápidamente» mientras la IA aprendía la segunda tarea, dice Erik Delanois de la Universidad de California en San Diego. Esto ayudó a solidificar los vínculos de la primera tarea que, de otro modo, se habrían pasado por alto.

Los experimentos mostraron cómo una red neuronal con picos entrenada de esta manera podría permitir que un agente de IA aprenda dos patrones de alimentación diferentes al buscar partículas de alimentos simuladas y evitar las partículas tóxicas.

“El objetivo de la IA de aprendizaje permanente es tener la capacidad de combinar diferentes experiencias de manera inteligente y aplicar ese aprendizaje a nuevas situaciones, tal como lo hacen los animales y los humanos”, dice Hava Siegelmann de la Universidad de Massachusetts en Amherst.

Las redes neuronales de picos, con su complejo diseño de inspiración biológica, aún no han demostrado ser prácticas para un uso generalizado porque son difíciles de entrenar, dice Siegelmann. Los próximos grandes pasos para mostrar la utilidad de este método requerirían demostraciones con tareas más complejas en las redes neuronales artificiales comúnmente utilizadas por las empresas de tecnología.

Una de las ventajas de las redes neuronales con picos es que son más eficientes energéticamente que otras redes neuronales. «Creo que durante la próxima década habrá una especie de gran impulso para una transición a una tecnología de red más avanzada», dice Ryan Golden de la Universidad de California en San Diego. «Es bueno entender estas cosas temprano».

Referencia de la revista: PLOS de biología computacionalDOI: 10.1371/diario.pcbi.1010628

Artículo modificado el 14 de noviembre de 2022

Hemos actualizado la cita de Hava Siegelmann para aclarar que hablaba en general y no específicamente sobre el nuevo trabajo.

Obtenga más información sobre estos temas:

Sé el primero en comentar

Deja un comentario