Neyron tarmoqlarda halokatli unutishni yengish

Neyron tarmoqlarda halokatli unutishni yengish

kirish

Abstrakt

• Vazifalarni ketma-ket o'rganish qobiliyati rivojlanish uchun juda muhimdir sun'iy intellekt. Neyron tarmoqlar, umuman olganda, bunga qodir emas halokatli unutish muqarrar xususiyatdir, degan fikr keng tarqalgan ulanish modellari. Biz bu cheklovni yengib o'tish mumkinligini ko'rsatamiz vao'zlari boshdan kechirmagan vazifalar bo'yicha tajribaga ega bo'lgan tarmoqlarni o'qitishuzoq muddatga. Bizning yondashuvimiz tanlab sekinlashtirib, eski vazifalarni eslab qoladiushbu vazifalar uchun muhim bo'lgan og'irliklarni o'rganish. Biz yondashuvimizni ko'rsatamiz MNIST asosida bir qator tasniflash vazifalarini hal qilish orqali kengaytiriladigan va samarali qo'lda yozilgan raqamli ma'lumotlar to'plami va bir nechta Atari 2600 o'yinlarini ketma-ket o'rganish orqali.

Asosiy qism

• Sun'iy umumiy intellektga erishish uchun agentlardan ko'p narsalarni o'rganish va eslab qolish kerakturli vazifalar Legg va Hutter [2007]. Bu, ayniqsa, real dunyo sozlamalarida qiyin: thevazifalar ketma-ketligi aniq belgilanmasligi mumkin, vazifalar oldindan aytib bo'lmaydigan tarzda o'zgarishi mumkin va har qanday shaxsvazifa uzoq vaqt oralig'ida takrorlanmasligi mumkin. Shuning uchun, tanqidiy jihatdan, aqlli agentlar a ko'rsatishi kerakuzluksiz o'rganish qobiliyati: ya'ni qanday qilishni unutmasdan ketma-ket vazifalarni o'rganish qobiliyatiilgari o'qitilgan vazifalarni bajarish uchun