
 
 
 Penulis : 
 
 
 
 Dylan R. Ashley Sina Ghiassian oleh Richard S. Sutton Penulis : 
 
 
 
 Dylan R. Ashley yang lain Cikgu Ghiassian oleh Richard S. Sutton TABLE OF LINKS Jadual kiri Abstract abstrak 1 Introduction 1 Pengenalan 2 Related Work 2 Kerja berkaitan 3 Problem Formulation 3 Formulir masalah 4 Measuring Catastrophic Forgetting 4 Pengukuran Lupa Katastrof 5 Experimental Setup 5 Latihan percubaan 6 Results 6 Hasil 7 Discussion 7 Perbincangan 8 Conclusion 8 Kesimpulan 9 Future Work and References 9 Kerja masa depan dan rujukan Abstract abstrak Terlepas daripada jumlah kerja yang meluas dalam melupakan bencana, kami berpendapat bahawa ia masih tidak jelas bagaimana persis fenomena interdifferential perlu diukur, dan, lebih-lebih lagi, sejauh mana semua pilihan yang kita buat apabila merancang sistem pembelajaran mempengaruhi jumlah melupakan bencana. Kami menggunakan pelbagai tempat ujian dari pembelajaran penguatkuasaan dan literatur pembelajaran yang dipantau untuk (1) memberikan bukti bahawa pilihan mana algoritma pengoptimalan berbasis gradient moden yang mesti digunakan untuk melatih ANN mempunyai kesan yang signifikan pada jumlah melupakan bencana dan menunjukkan bahawa - hasil yang mengejutkan saya melihat - banyak contoh metoro learning kelas seperti vanilla SGD kita mengalami interdifferential yang kurang untuk menguatkuasakan algoritma yang lebih dramatis untuk pembelajaran prinsip-prinsip seperti Adam. 1 Introduction 1 Pengenalan Dalam pembelajaran dalam talian, melupakan bencana merujuk kepada kecenderungan rangkaian saraf buatan (ANN) untuk melupakan maklumat yang telah dipelajari sebelum ini apabila dalam kehadiran maklumat baru (French, 1991, p. 173). Melupakan bencana menyajikan isu yang serius untuk kegunaan yang luas ANNs kerana banyak masalah pembelajaran penting, seperti pembelajaran penguatkuasaan, adalah masalah pembelajaran dalam talian. Pembelajaran dalam talian yang berkesan juga merupakan inti kepada masalah pembelajaran yang berterusan - kadang-kadang dipanggil sepanjang hayat (Chen dan Liu, 2018, p. 55) - Kewujudan melupakan bencana sangat penting sekarang kerana ANN telah bertanggungjawab untuk beberapa kejayaan kecerdasan buatan utama (AI) dalam tahun-tahun kebelakangan ini (contohnya, Taigman et al. (2014), Mnih et al. (2015), Silver et al. (2016), Gatys et al Kedua-dua penyelidikan yang direkomendasikan secara terperinci, tetapi kajian-kajian ini menunjukkan bahawa masalah catastrophic retentions yang sama bermakna bahawa ia telah menarik banyak perhatian daripada komuniti AI. Ia mesti disatukan terlebih dahulu secara rasmi dalam McCloskey dan Cohen (1989) dan, sejak itu, banyak kaedah telah dicadangkan untuk mengurangkan ia (contohnya, Kirkpatrick et al. (2017), Lee et al. (2017), Zenke et al. (2017), Masse et al. (2018), Sodhani et al. (2020)). Walau bagaimanapun, kajian ini terus menjadi satu isu yang belum terselesaikan (Kemker et al., 2018). Ini mungkin sebahagiannya kerana fenomena itu sendiri - dan apa yang menyumbang kepada ia - adalah kurang dipahami, dengan kerja baru-baru ini masih mendedahkan hubungan asas (contoh Untuk menangani perhubungan ini adalah soalan sejauh mana tumpuan semua pilihan yang kita buat apabila merancang sistem pembelajaran mempengaruhi kuantiti melupakan bencana, kita melihat bagaimana pilihan optimizer gradient-based moden yang digunakan untuk melatih ANN memberi kesan kepada kuantiti melupakan bencana yang berlaku semasa latihan. Hasil kami mencadangkan bahawa memilih salah satu daripada optimizer ini di atas yang lain benar-benar menyebabkan perubahan yang signifikan dalam melupakan bencana yang dialami oleh sistem pembelajaran (Qian, 1999; Rumelhart et al., 1986), RMSProp (Hinton et al., n.d.), dan Adam (Kingma and Ba, 2014), di bawah pengaturan pembelajaran berterusan yang berbeza (Mirzadehlan et al., 2020, 6). Hasil kami mencadangkan bahawa memilih salah satu daripada optimizer ini di atas yang lain sebenarnya membawa kepada perubahan yang signifikan dalam melupakan ben 
 
 Dokumen ini boleh didapati di archiv di bawah lesen CC by 4.0 Deed (Attribution 4.0 International). Dokumen ini ialah di bawah lesen CC by 4.0 Deed (Attribution 4.0 International). available on arxiv Tersedia dalam Archive

Part of HackerNoon's growing list of open-source research papers, promoting free access to academic material.

Read My Stories

undefined's blog

Audio ini dihasilkan dalam bahasa asal cerita!

Adakah Adam Optimizer Amplify Forgetting Bencana?

About Author

KOMEN

GANTUNG TANDA

ARTIKEL INI DIBENTANGKAN DALAM

Related Stories

Light-Mode

Classic

Newspaper

Minty

Dark-Mode

Neon Noir

Minty

HN StartUps