进化优选算法是一种在无线电测向和神经网络设计中广泛应用的进化计算方法。它结合了进化策略的优势,特别是对于优化神经网络的结构和权重。这种方法在处理大规模问题时显示出良好的全局搜索能力,能有效地寻找最佳的网络架构,尽管计算复杂度较高,但鉴于其找到优良解决方案的能力,这种牺牲是值得的。
11.1节中提到的进化神经网络设计,起源于早期的研究,如Schaffer等人提出的基于染色体的结构与权值共同进化的策略。这些方法通过染色体编码来表示神经网络的参数,如层数、节点数、学习率等,并利用遗传算法(GA)的操作,如交叉和变异,来优化网络。然而,随着问题规模的增大,这些方法的计算成本会显著上升。
Maniezzo的工作则引入了粒度可变的编码方式,通过减少每个染色体的固定长度,以及引入GA单纯形操作,来提高算法效率。另一方面,Evolutionary Programming也被用来探索神经网络的结构和权重,但Yao等人采用的进化方法除了变异操作外,还结合了部分训练、BP和模拟退火训练,以提升网络的快速性和全局收敛性,尽管这仍然导致了较大的计算负担。
进化算法在RBF网络设计中的应用,如魏-徐提出的进化优选算法,旨在解决OLS算法在设计小规模神经网络时的不足。RBF网络的学习涉及结构设计(隐节点数)、中心节点位置和扩展系数的选择,以及输出权重的确定。OLS算法通常依赖于线性最小二乘法,但在优化过程中可能无法找到最优的网络结构。进化优选算法通过全局搜索来优化这些参数,从而提供更高的效率。
魏海坤编著的教材深入探讨了神经网络结构设计的理论和方法,涵盖了影响网络泛化能力的关键因素、神经网络优化设计的各种策略,包括剪枝、构造算法、进化方法等,以及参数优化方法,如最优停止、主动学习和神经网络集成。书中不仅阐述了理论原理,还提供了MATLAB实现代码,方便读者理解和实践。
进化优选算法作为一种有效的工具,尤其在处理RBF网络的结构优化问题时,展示了其在克服传统方法局限性方面的价值。然而,其计算密集性仍是需要关注的问题,研究人员需要在效率和搜索质量之间做出权衡。在实际应用中,选择合适的进化策略和优化技巧对于提升神经网络性能至关重要。