
 
 
 作者 : 
 
 
 
 Dylan R. Ashley Sina Ghiassian Richard S. Sutton 作者 : 
 
 
 
 迪伦·R·阿什利 理查德·S·苏顿 TABLE OF LINKS 桌子左 Abstract 抽象 1 Introduction 1 介绍 2 Related Work 2 相关工作 3 Problem Formulation 3 问题定义 4 Measuring Catastrophic Forgetting 4 灾难性遗忘 5 Experimental Setup 5 實驗設施 6 Results 6 结果 7 Discussion 7 讨论 8 Conclusion 8 结论 9 Future Work and References 9 未来的工作和参考 Abstract 抽象 尽管在灾难性遗忘中进行了大量工作,但我们认为仍然不清楚该现象应该如何被量化,而且我们在设计学习系统时所作的所有选择对灾难性遗忘的影响有多大。尽管在灾难性遗忘中进行了大量工作,但我们认为(1)仍然不清楚现代基于级别的优化算法的选择应该如何被量化,而且在设计学习系统时所作的所有选择对灾难性遗忘的影响有多大。我们使用来自增强学习和监督学习文献的各种测试床,以提供证据,证明现代基于级别的优化算法的选择如何被用来训练ANN,对灾难性遗忘的数量有显著影响,并表明(令人惊讶的是)研究结果 - 我们的多种类型算法,如Vanilla SGD,对灾难性学习的现代算法 1 Introduction 1 介绍 在在线学习中,灾难性忘记是指人工神经网络(ANNs)在存在新信息时忘记以前学到的信息的倾向(French, 1991, p. 173).灾难性忘记对ANN的广泛适用性提出了严重的问题,因为诸如增强性学习等许多重要学习问题是在线学习问题。有效的在线学习也是终身学习问题的核心(Chen and Liu, 2018, p. 55)。灾难性忘记的存在现在尤为重要,因为ANN在最近几年中负责了一些主要的人工智能(AI)成功(例如,Taigman et al. (2014),Mnih et al. (2015),Silver et al. (2016),Gatys et al. (2016),Vaswani et al. (2017),Radford et al. (2019), Senior et al. (20120))。 这些研究表明,但在基本情况下,这两个灾难性遗忘问题是非常重要,这意味着它已经吸引了人工智能社区的关注。它可能首先在McCloskey和Cohen(1989年)中正式报道,但从那时起,有许多方法被提议减轻它(例如,Kirkpatrick et al. (2017年),Lee et al. (2017年),Zenke et al. (2017年),Masse et al.(2018年),Sodhani et al.(2020)年)。尽管如此,它仍然是一个未解决的问题(Kemker et al. 2018年)的研究方法。这部分可能是因为这种现象本身 - 以及它所贡献的 - 很少被理解,最近的工作仍然揭示了基本连接(例如,Mirzadeh et al. (2020))。 这个论文在我们对 要解决这个关系的焦点是,在设计学习系统时我们所做的所有选择都影响灾难性遗忘的程度,我们研究了如何选择哪个现代基于阶梯的优化器用于训练ANN的影响在训练过程中发生的灾难性遗忘的数量。我们经验上比较了瓦尼拉SGD,SGD与Momentum(Qian,1999;Rumelhart et al.,1986),RMSProp(Hinton et al., n.d.),以及Adam(Kingma and Ba,2014),我们的结果表明,选择其中一个优化器在另一个方面确实导致了学习系统经历的灾难性遗忘的显著变化。此外,我们对瓦尼拉SGD的早期观察(Hinton et al., n.d.),以及Adam(Kingma and Ba,2014),在不同的指标和测试 
 
 本文已在 CC by 4.0 Deed (Attribution 4.0 International) 许可证下获取。 本文已在 CC by 4.0 Deed (Attribution 4.0 International) 许可证下获取。 可用 档案

Part of HackerNoon's growing list of open-source research papers, promoting free access to academic material.

Read My Stories

undefined's blog

該音頻是用故事的原始語言製作的！

亚当优化器能增加灾难性遗忘吗?

About Author

註釋

標籤

这篇文章刊登在

Related Stories

Telegram：加密岛通往大陆的桥梁

Floki 的 Valhalla 成为印度环斯里兰卡赛事联合赞助商

数字游民请注意：您需要了解泰国新推出的 DTV 签证

想赢得 HackerNoon 写作比赛吗？以下是 #crypto-api 比赛获奖者的推荐

Telegram：加密岛通往大陆的桥梁

Floki 的 Valhalla 成为印度环斯里兰卡赛事联合赞助商

数字游民请注意：您需要了解泰国新推出的 DTV 签证

想赢得 HackerNoon 写作比赛吗？以下是 #crypto-api 比赛获奖者的推荐

Light-Mode

Classic

Newspaper

Minty

Dark-Mode

Neon Noir

Minty

HN StartUps