神经网络集成提升泛化能力：无线电测向实证

神经网络集成对泛化能力的影响在无线电测向等领域中起着关键作用。神经网络集成，也被称为表决网，是一种通过组合多个神经网络（子网）来增强整体性能的方法。其核心思想是利用多个独立学习的网络对同一问题进行决策，通过子网间的投票（如加权平均或多数表决）得出最终结果。这种集成策略旨在通过“以空间换性能”，即牺牲单一网络的简单性，换取更优的泛化能力。 在实践中，Sarker和Lincoln-Skrzypek的研究表明，通过使用普通BP算法训练多个结构相似但初始权值不同的子网，集成后的系统在泛化性能上往往超过单个BP网络。Hansen和Salamon进一步证明，集成神经网络分类器可以显著提升系统的泛化能力，特别是当集成的神经网络数量增加时，错误率errP随着子网数量N的增长而单调递减，这得益于网络间的独立性和高预测精度。 公式（7.25）给出了集成神经网络错误概率的计算，其中N代表子网数量，p表示单个网络正确分类的概率。当每个网络的预测精度高于50%（即p>1/2），集成方法的优势更加明显，因为错误率随子网增多而降低。 本书《神经网络结构设计的理论与方法》深入探讨了神经网络结构设计的重要性和影响因素，包括影响泛化能力的关键元素，如网络复杂度、权值学习算法、剪枝方法（如权衰减法和相关性剪枝）、构造算法（如CC算法和资源分配网络）以及进化方法。作者还介绍了神经网络参数优化的设计方法，例如最优停止法、主动学习和神经网络集成等，这些方法都是神经网络设计领域中的经典技术，并提供了MATLAB实现代码，方便读者理解和实践。 书中不仅涵盖了基本的神经元模型和学习规则，如Hebb学习规则、离散感知器学习规则等，还详细讲解了多层感知器（MLP）网络，如BP网络的结构、学习算法以及改进版本。径向基函数（RBF）神经网络也是重要内容，阐述了其工作原理和生理学基础。 本书适合自动化、信号处理等领域的工程技术人员、高年级学生、研究生以及教师使用，旨在提供一个全面的神经网络设计体系，尽管存在一些局限，但仍鼓励读者提出宝贵意见。