《神经网络设计》第二版——深度学习经典教程

需积分: 33 2 下载量 51 浏览量 更新于2024-07-20 收藏 11.27MB PDF 举报
"Neural Network Design, 2nd Edition, 是一本关于神经网络设计的专业教程,由Martin T. Hagan、Howard B. Demuth、Mark Hudson Beale和Orlando DeJesús共同撰写。这本书深入浅出地介绍了神经网络的设计原理和应用。" 在神经网络设计的领域中,本书是不可或缺的学习资源,它涵盖了从基本概念到高级主题的广泛内容。作者团队包括来自俄克拉荷马州立大学、科罗拉多大学、MHB Inc.以及独立咨询公司的专家,这确保了内容的专业性和权威性。 书中的内容包括但不限于: 1. **前言**:通常会阐述编写本书的目的,作者们可能讨论了神经网络领域的最新发展,以及他们希望通过本书传递的核心理念。 2. **介绍**:这部分可能详细介绍了神经网络的基本目标,如模型的学习能力、适应性和泛化性能。同时,可能会提及神经网络的历史发展,以及它们在各种实际应用中的重要性。 3. **历史**:这部分会回顾神经网络的发展历程,从最初的生物启发到现代深度学习的演进,包括关键人物和里程碑式的发现。 4. **应用**:作者可能会列举并解释神经网络在各个领域的应用,比如图像识别、自然语言处理、推荐系统、控制理论、金融预测等。 5. **生物灵感**:神经网络的设计灵感来源于生物学,特别是大脑的结构和功能。这一部分可能会深入探讨生物神经元的工作原理,以及这些原理如何转化为数学模型。 6. **电子版额外内容**:除了纸质书,读者还可以在hagan.okstate.edu/nnd.html找到相关的辅助材料,如讲义和演示程序,这对于学习和理解复杂的神经网络概念非常有帮助。 7. **内容概览**:书的其余部分会深入讲解神经网络的设计、训练算法、优化策略、不同类型的网络架构(如感知器、多层前馈网络、卷积神经网络、递归神经网络等),以及如何解决过拟合、正则化等问题。 通过阅读这本书,读者不仅可以掌握神经网络的基础知识,还能了解到当前研究的前沿,从而能够设计和实现自己的神经网络模型。无论是对初学者还是专业人士来说,这都是一本极有价值的参考资料。
2019-05-21 上传
第1章 绪论1.1 目的1.2 历史1.3 应用1.4 生物学的启示参考文献第2章 神经元模型和网络结构2.1 目的2.1 理论和实例2.2.1 符号2.2.2 神经元模型2.2.3 网络结构2.3 小结2.4 例题2.5 结束语习题第3章 一个说明性实例3.1 目的3.2 理论和实例3.2.1 问题描述.3.2.2 感知机3.2.3 hamming网络3.2.4 hopfield网络3.3 结束语习题第4章 感知机学习规则4.1 目的4. 2 理论和实例4.2.1 学习规则4.2.2 感知机的结构4.2.3 感知机学习规则4.2.4 收敛性证明4.3 小结4.4 例题4.5 结束语参考文献习题第5章 信号和权值向量空间5.1 目的5.2 理论和实例5.2.1 线性向量空间5.2.2 线性无关5.2.3 生成空间5.2.4 内积5.2.5 范数5.2.6 正交性5.2.7 向量展开式5.3 小结5.4 例题5.5 结束语参考文献习题第6章 神经网络中的线性变换6. 1 目的6.2 理论和实例6.2.1 线性变换6.2.2 矩阵表示6.2. 3 基变换6.2. 4 特征值和特征向量6.3 小结6.4 例题6.5 结束语参考文献习题第7章 有监督的hebb学习7.1 目的7.2 理论和实例7.2.1 线性联想器7.2.2 hebb规则7.2.3 仿逆规则7.2.4 应用7.2.5 hebb学习的变形7.3 小结7.4 例题7.5 结束语参考文献习题第8章 性能曲面和最优点8.1 目的8.2 理论和实例8.2.1 泰勒级数8.2.2 方向导数8.2.3 极小点8.2.4 优化的必要条件8.2.5 二次函数8.3 小结8.4 例题8.5 结束语参考文献习题第9章 性能优化9.1 目的9.2 理论和实例9.2.1 最速下降法9.2.2 牛顿法9.2.3 共扼梯度法9.3 小结9.4 例题9.5 结束语参考文献习题第10章 widrow-hoff学习算法10.1 目的10.2 理论和实例10.2.1 adaline网络10.2.2 均方误差10.2.3 lms算法10.2.4 收敛性分析10.2.5 自适应滤波10.3 小结10.4 例题10.5 结束语参考文献习题第11章 反向传播11.1 目的11.2 理论和实例11.2.1 多层感知机11.2.2 反向传播算法11.2.3 例子11.2.4 反向传播11.3 小结11.4 例题11.5 结束语参考文献习题第12章 反向传播算法的变形12.1 目的12.2 理论和实例12.2.1 bp算法的缺点12.2.2 bp算法的启发式改进12.2.3 数值优化技术12.3 小结12.4 例题12.5 结束语参考文献习题第13章 联想学习13.1 目的13.2 理论和实例13.2.1 简单联想网络13.2.2 无监督的hebb规则13.2.3 简单的识别网络13.2.4 instar规则13.2.5 简单回忆网络13.2.6 outstar规则13.3 小结13.4 例题13.5 结束语参考文献习题第14章 竞争网络14.1 目的14.2 理论和实例14.2.1 hamming网络14.2.2 竞争层14.2.3 生物学意义上的竞争层14.2.4 自组织特征图14.2.5 学习向量量化14.3 小结14.4 例题14.5 结束语参考文献习题第15章 grossberg网络15.1 目的15.2 理论和实例15. 2.1 生物学的启发:视觉15.2.2 基本非线性模型15.2.3 两层竞争网络15.2.4 与kohonen规则的关系15.3 小结15.4 例题15.5 结束语参考文献习题第16章 自适应谐振理论16.1 目的16. 2 理论和实例16.2.1 自适应谐振概述16.2.2 第一层16.2.3 第二层16.2.4 调整子系统16.2.5 学习规则:l1-l216.2.6 学习规则:l2-l116.2.7 art1算法小结16.2.8 其他art体系结构16.3 小结16.4 例题16.5 结束语参考文献习题第17章 稳定性17.1 目的17.2 理论和实例17.2.1 递归网络17.2.2 稳定性概念17.2.3 lyapunov稳定性定理17.2.4 单摆例子17.2.5 lasdlle不变性定理17.3 小结17.4 例题17.5 结束语参考文献习题第18章 hopfield网络18.1 目的18.2 理论和实例18.2.1 hopfield模型18.2.2 lyapunov函数18.2.3 增益效应18.2.4 hopfield网络设计18.3 小结18. 4 例题18.5 结束语参考文献习题第19章 结束语19.1 目的19.2 理论和实例19.2.1 前馈和联想网络19.2.2 竞争网络19。2.3 动态联想存储器网络19.2.4 神经网络的经典基础19.2.5 参考书目和杂志19.3 结束语参考文献附录a 文献目录附录b 符号附录c 软件索引