重置算法优化的L-M变结构BP神经网络:提升收敛性能

需积分: 10 0 下载量 135 浏览量 更新于2024-09-05 收藏 179KB PDF 举报
该篇论文《基于重置的L-M变结构BP神经网络》发表于2004年的《系统工程理论与实践》第一期,文章编号为100026788(2004)0120120206。作者徐晋来自上海交通大学管理学院,他针对神经网络结构优化这一热点问题进行了深入研究。神经网络结构的设计对其性能具有直接影响,因此优化神经网络结构是人工智能领域的一个关键挑战。 论文的核心内容探讨了如何将重置算法应用于神经网络的优化过程中。重置算法旨在解决神经网络训练过程中可能出现的梯度消失或梯度爆炸问题,通过适时地重启网络的学习过程,有助于网络更好地收敛。作者特别关注了最佳重置时间的研究,即在何时进行网络结构的调整最为有效,这是优化策略中的一个重要参数。 作者提出了一种结合了重置算法的L-M(Levenberg-Marquardt)变结构BP神经网络。L-M算法是一种混合学习规则,它结合了梯度下降法的快速收敛性和拟牛顿法的局部搜索能力。在论文中,作者将这种经典优化技术与重置策略相结合,旨在提高神经网络在训练过程中的稳定性和效率。 通过对比实验,论文证实了引入重置算法对神经网络结构优化的有效性。优化后的网络不仅在训练速度上有所提升,而且在收敛性方面表现出色,这意味着网络能够更有效地找到全局最优解或者一个接近最优的解。此外,关键词“重置算法”、“神经网络”和“结构优化”突出了论文的主要研究内容和贡献。 这篇论文为神经网络结构的优化提供了一种创新的方法,对于提升神经网络在实际应用中的性能具有重要的理论价值和实践指导意义。对于那些从事神经网络研究或希望改进现有网络结构的学者和工程师来说,这篇文章提供了有价值的研究参考。