文章摘要:近年来，随着信息技术地不断发展，各种数据呈现爆炸式地增长，传统的机器学习算法只有当测试数据与训练数据分布类似时，学习算法才能取得较好的性能，换句话说，它们不能在动态环境中连续自适应地学习，然而，这种自适应学习的能力却是任何智能系统都具备的特性.深度神经网络在许多应用中显示出最好的学习能力，然而，使用该方法对数据进行增量更新学习时，会面临灾难性的干扰或遗忘问题，导致模型在学习新任务之后，忘记如何解决旧任务.连续学习（continual learning，CL）的研究使这一问题得到缓解.连续学习是模拟大脑学习的过程，按照一定的顺序对连续非独立同分布的（independently and identically distributed，IID）流数据进行学习，进而根据任务的执行结果对模型进行增量式更新.连续学习的意义在于高效地转化和利用已经学过的知识来完成新任务的学习，并且能够极大程度地降低遗忘带来的问题.连续学习研究对智能计算系统自适应地适应环境改变具有重要的意义.基于此，系统综述了连续学习的研究进展，首先概述了连续学习的定义，介绍了无遗忘学习，弹性权重整合和梯度情景记忆3种典型的连续学习模型，并对连续学习存在的关键问题及解决方法进行了介绍，之后又对基于正则化、动态结构和记忆回放互补学习系统的3类连续学习模型进行了分类和阐述，并在最后指明了连续学习进一步研究中需要解决的问题以及未来可能的发展方向.

文章关键词:连续学习,灾难性遗忘,增量学习,正则化,动态结构,记忆回放,

论文作者:韩亚楠 刘建伟 罗雄麟 

作者单位:中国石油大学(北京)信息科学与工程学院 

论文分类号: TP18

相似文献:三支决策朴素贝叶斯增量学习算法研究.....作者:韩素青,成慧雯,王宝丽,刊载期刊：《计算机工程与应用》
混合群体增量学习算法求解闭环布局问题.....作者:邓文瀚,张铭,王李进,钟一文,刊载期刊：《计算机应用》
后验正则化综述.....作者:韩亚楠,刘建伟,罗雄麟,刊载期刊：《计算机应用研究》
方差正则化的分类模型选择准则.....作者:房立超,王钰,杨杏丽,李济洪,刊载期刊：《计算机科学与探索》
基于可变损失和流形正则化的生成对抗网络.....作者:丁赛赛,吕佳,刊载期刊：《计算机应用研究》
稀疏诱导流形正则化凸非负矩阵分解算法.....作者:邱飞岳,陈博文,陈铁明,章国道,刊载期刊：《通信学报》
基于一致性正则化与熵最小化的半监督学习算法.....作者:邵伟志,潘丽丽,雷前慧,黄诗祺,马骏勇,刊载期刊：《郑州大学学报(理学版)》
多样性正则化极限学习机的集成方法.....作者:陈洋,王士同,刊载期刊：《计算机科学与探索》
基于正则化一维卷积神经网络的网格模型显著性检测.....作者:朱奕杰,蔺宏伟,刊载期刊：《计算机辅助设计与图形学学报》
熵正则化下的变分深度生成聚类模型.....作者:张志远,陈亚瑞,杨剑宁,丁文强,杨巨成,刊载期刊：《计算机科学与探索》

相关文章:人工智能在智能制造中的应用.....作者:杨磊
大数据人工智能驱动图书馆知识服务和学科建设.....作者:姜爱蓉
商业航天背景下的遥感应用产业化.....作者:刘东升
Artificial Intelligence: Where Maybe Next Steps? “人工智能热”之后的冷静思考.....作者:Tony Qiu
Computational Analysis of the Voynich Manuscript 十五世纪伏尼契码的智能解析.....作者:Greg Kondrak
深度强化学习系列课程第四讲.....作者:汪荣贵
北京二号遥感卫星星座及其应用服务.....作者:屈鸿钧
第一讲：人工智能时代的刑事责任演变： 过去·现在·将来.....作者:刘宪权