
 
 
 Les auteurs : 
 
 
 
 Dylan R. Ashley Sina Ghiassian Richard S. Sutton Les auteurs : 
 
 
 
 par Dylan R. Ashley Sénégalais Ghiassian par Richard S. Sutton TABLE OF LINKS Table de gauche Abstract abstrait 1 Introduction 1 Introduction 2 Related Work 2 Travaux connexes 3 Problem Formulation 3 Problème de formulation 4 Measuring Catastrophic Forgetting 4 L’oubli catastrophique 5 Experimental Setup 5 L’expérimentation 6 Results 6 Résultats 7 Discussion 7 Débat 8 Conclusion 8 Conclusion 9 Future Work and References 9 Travaux futurs et références Abstract abstrait L'oubli catastrophique reste un obstacle sérieux à l'application large des réseaux neuronaux artificiels (ANN), mais il reste un phénomène mal compris. Malgré la quantité étendue de travail sur l'oubli catastrophique, nous affirmons qu'il est toujours incertain que le choix du phénomène moderne doit être quantifié, et, en outre, dans quelle mesure tous les choix que nous faisons lors de la conception de systèmes d'apprentissage affectent la quantité d'oubli catastrophique. Nous utilisons divers testbeds de l'apprentissage de renforcement et de la littérature d'apprentissage supervisée pour (1) fournir des preuves que le choix duquel l'algorithme d'optimisation moderne 1 Introduction 1 Introduction Dans l'apprentissage en ligne, l'oubli catastrophique se réfère à la tendance des réseaux neuronaux artificiels (ANN) à oublier des informations déjà apprises lorsqu'ils sont en présence de nouvelles informations (Français, 1991, p. 173). L'oubli catastrophique présente un problème sérieux pour l'applicabilité large des ANN comme de nombreux problèmes d'apprentissage importants, tels que l'apprentissage de renforcement, sont des problèmes d'apprentissage en ligne. L'apprentissage en ligne efficace est également au cœur du problème d'apprentissage continu - parfois appelé tout au long de la vie (Chen et Liu, 2018, p. 55) - L'existence de l'oubli catastrophi Cette étude a suggéré que la rétention de catastrophes dans les deux principaux points de vue est un problème de rétention catastrophique, ce qui signifie qu'elle a attiré beaucoup d'attention de la communauté de l'IA. Il a dû d'abord être rapporté officiellement dans McCloskey et Cohen (1989) et, depuis lors, de nombreuses méthodes ont été proposées pour l'atténuer (par exemple, Kirkpatrick et al. (2017), Lee et al. (2017), Zenke et al. (2017), Masse et al. (2018), Sodhani et al. (2020)). Malgré cela, il continue d'être un problème non résolu (Kemker et al., 2018). Cela peut être en partie parce que le phénomène lui-même - et ce qui contribue à l'inter Pour aborder la relation est la question de savoir dans quelle mesure tous les choix que nous faisons lors de la conception des systèmes d'apprentissage affectent le montant de l'oubli catastrophique, nous examinons comment le choix de quel optimiseur moderne basé sur le gradient est utilisé pour former un ANN affecte le montant de l'oubli catastrophique qui se produit pendant la formation. Nos résultats suggèrent que la sélection de l'un de ces optimisateurs par rapport à un autre entraîne effectivement un changement significatif dans l'oubli catastrophique vécu par le système d'apprentissage (Qian, 1999; Rumelhart et al., 1986), RMSProp (Hinton et al., n.d.), et Adam (Kingma et Ba, 2014), sous les différentes méthodes d 
 
 Ce document est disponible sous la licence CC by 4.0 Deed (Attribution 4.0 International). Ce document est disponible sous la licence CC by 4.0 Deed (Attribution 4.0 International). Disponible dans les archives

Part of HackerNoon's growing list of open-source research papers, promoting free access to academic material.

Read My Stories

undefined's blog

Cet audio est produit dans la langue originale de l'histoire !

L’optimisateur Adam amplifie-t-il l’oubli catastrophique ?

About Author

COMMENTAIRES

ÉTIQUETTES

CET ARTICLE A ÉTÉ PARU DANS

Related Stories

Vous voulez gagner un concours d’écriture HackerNoon ? Voici ce que recommandent les gagnants du concours #crypto-api

La fuite de l'invite du système Claude Sonnet 3.5 : une analyse médico-légale

Appuyez pour gagner : Telegram pourrait intégrer les 10 prochains milliards d'utilisateurs de crypto avant Solana

Guide de l'architecte pour créer une architecture de référence pour un datalake IA/ML

Vous voulez gagner un concours d’écriture HackerNoon ? Voici ce que recommandent les gagnants du concours #crypto-api

La fuite de l'invite du système Claude Sonnet 3.5 : une analyse médico-légale

Appuyez pour gagner : Telegram pourrait intégrer les 10 prochains milliards d'utilisateurs de crypto avant Solana

Guide de l'architecte pour créer une architecture de référence pour un datalake IA/ML

Light-Mode

Classic

Newspaper

Minty

Dark-Mode

Neon Noir

Minty

HN StartUps