澳门大学陈俊龙教授的高效宽学习系统:无深层架构的增量学习

需积分: 19 13 下载量 117 浏览量 更新于2024-07-18 收藏 4.1MB PDF 举报
本文由澳门大学的陈俊龙教授撰写,发表在《IEEE Transactions on Neural Networks and Learning Systems》期刊上,标题为"宽度学习:一种无需深度架构的高效增量学习系统"。陈俊龙教授提出了一种名为宽泛学习系统(Broad Learning System, BLS)的新方法,旨在为深度学习提供一个替代途径,解决深度结构和学习中存在的问题。 深度学习模型由于大量的连接参数,如滤波器和层,训练过程往往耗时且复杂。当结构不足以充分表征系统时,可能需要完全重新训练,这在实际应用中非常不便。BLS的设计特点是构建了一个扁平网络,原始输入被转换并作为“映射特征”存储在特征节点中。与深度结构相比,BLS在“增强节点”处进行更广泛意义上的结构扩展。 文章的核心贡献是开发了两种增量学习算法,这些算法使得网络能够在不进行全局重新训练的情况下进行快速扩展。当网络认为有必要扩大规模时,这些算法允许模型仅对新添加的部分进行适应性学习,从而提高了学习效率和响应速度。这种设计使得BLS特别适合于处理实时变化的数据场景,如在线学习或不断增长的数据集,因为它能有效地处理新信息,并保持对现有知识的高效利用。 陈俊龙教授的宽度学习系统提出了一种新颖的学习架构,它在保持高效的同时,解决了深度学习结构复杂和训练时间过长的问题,为增量学习领域带来了新的思考和实践方向。通过在扁平网络中实现动态扩展和学习,BLS展示了在处理不断变化的数据时的实用价值,有望在未来的AI研究和实际应用中发挥重要作用。