
 
 
 Los autores: 
 
 
 
 por Dylan R. Ashley Siguiente Ghiassian Richard S. Sutton Los autores: 
 
 
 
 por Dylan R. Ashley Siguiente Ghiassian por Richard S. Sutton TABLE OF LINKS Tabla de la izquierda Abstract Abstracción 1 Introduction 1 Introducción 2 Related Work 2 Trabajo relacionado 3 Problem Formulation 3 Formulación del problema 4 Measuring Catastrophic Forgetting 4 Medir el olvido catastrófico 5 Experimental Setup 5 Instalación experimental 6 Results 6 Resultados 7 Discussion 7 Discusión 8 Conclusion 8 Conclusiones 9 Future Work and References 9 Futuros trabajos y referencias Abstract Abstracción El olvido catastrófico sigue siendo un obstáculo grave para la amplia aplicación de las redes neuronales artificiales (ANN), sin embargo, continúa siendo un fenómeno mal comprendido. A pesar de la extensa cantidad de trabajo sobre el olvido catastrófico, argumentamos que aún no está claro cómo exactamente el fenómeno debe ser cuantificado, y, además, en qué medida todas las decisiones que hacemos al diseñar sistemas de aprendizaje afectan la cantidad de olvido catastrófico. Utilizamos varios testbeds de aprendizaje reforzado y literatura de aprendizaje supervisada para (1) proporcionar evidencia de que la elección de cuál debe ser utilizado el algoritmo de optimización basado en gradientes modernos para estudiar un ANN tiene un impacto significativo en la cantidad de olvido catastrófico y muestra que, sorprendentemente, muchos ejemplos de algoritmos de met 1 Introduction 1 Introducción En el aprendizaje en línea, el olvido catastrófico se refiere a la tendencia de las redes neuronales artificiales (ANN) a olvidar la información previamente aprendida cuando en presencia de nueva información (French, 1991, p. 173). El olvido catastrófico presenta un problema grave para la amplia aplicabilidad de los ANNs ya que muchos problemas de aprendizaje importantes, como el aprendizaje reforzado, son problemas de aprendizaje en línea. El aprendizaje en línea eficiente también es el núcleo del problema de aprendizaje continuo (Chen y Liu, 2018, p. 55) -conocido como el de toda la vida. La existencia del olvido catastrófico es de particular relevancia ahora que los ANN han sido responsables de un número de grandes éxitos de inteligencia artificial (AI) en los últimos años (por ejemplo, Taigman et al. (201 El significado de estas investigaciones, tanto en detalle como en detalle, es que el problema de retención catastrófica en el marco de este modelo de investigación implica que ha atraído mucha atención de la comunidad de la IA. Puede haber sido reportado por primera vez formalmente en McCloskey y Cohen (1989) y, desde entonces, se han propuesto numerosos métodos para mitigarlo (por ejemplo, Kirkpatrick et al. (2017), Lee et al. (2017), Zenke et al. (2017), Masse et al. (2018), Sodhani et al. (2020)). A pesar de esto, continúa siendo un problema no resuelto (Kemker et al., 2018). Esto puede ser en parte porque el fenómeno mismo —y lo que contribuye a él— es mal entendido, con el trabajo reciente aún descubriendo conexiones fundamentales (por ejemplo, Mirz Para abordar la relación es el enfoque de la cuestión de en qué medida todas las opciones que hacemos al diseñar sistemas de aprendizaje afectan la cantidad de olvido catastrófico, miramos cómo la elección de cuál de las relaciones modernas basadas en gradientes se utiliza para entrenar un ANN afecta la cantidad de olvido catastrófico que ocurre durante el entrenamiento. Nuestros resultados sugieren que la selección de uno de estos optimizadores sobre otro empíricamente resulta en un cambio significativo en el olvido catastrófico experimentado por el sistema de aprendizaje (Qian, 1999; Rumelhart et al., 1986), RMSProp (Hinton et al., n.d.), y Adam (Kingma y Ba, 2014), bajo las diferentes métricas y camas de pruebas. Nuestros resultados sugieren que la selección de uno de estos optimizadores sobre otro 
 
 Este artículo está disponible en archivo bajo la licencia CC by 4.0 Deed (Attribution 4.0 International). Este documento es Con la licencia CC 4.0 Deed (Attribution 4.0 International). Disponible en Archivo Disponible en Archivo

Part of HackerNoon's growing list of open-source research papers, promoting free access to academic material.

Read My Stories

undefined's blog

Este audio es producido en el idioma original de la historia!

¿El optimizador de Adam amplifica el olvido catastrófico?

About Author

COMENTARIOS

ETIQUETAS

ESTE ARTÍCULO FUE PRESENTADO EN

Related Stories

Toque para ganar: Telegram puede incorporar a los próximos 10 mil millones de usuarios de criptomonedas antes de Solana

Nómadas digitales escuchen: lo que necesitan saber sobre la nueva visa DTV de Tailandia

Aumente su productividad con estas 18 herramientas para desarrolladores 🚀🔥

State of the Noonion: Green Clock Strikes Noon

Toque para ganar: Telegram puede incorporar a los próximos 10 mil millones de usuarios de criptomonedas antes de Solana

Nómadas digitales escuchen: lo que necesitan saber sobre la nueva visa DTV de Tailandia

Aumente su productividad con estas 18 herramientas para desarrolladores 🚀🔥

State of the Noonion: Green Clock Strikes Noon

Light-Mode

Classic

Newspaper

Minty

Dark-Mode

Neon Noir

Minty

HN StartUps