人工神经网络入门：Delta规则与基本模型解析

"这篇资源是清华大学的一份关于人工神经网络的PPT，主要讲解了Delta规则，由Widrow和Hoff以及Grossberg提出的不同形式，并给出了更一般的Delta规则公式。此外，还提到了该课程的教学目的、基本要求、参考教材以及主要内容，包括智能系统、人工神经网络基础、感知器、反向传播(BP)、竞争网络(CPN)、统计方法、Hopfield网、BAM、ART等网络模型。" 在人工神经网络领域，Delta规则是一种权重更新的简单算法，它在监督学习中用于调整神经网络的权值以优化网络性能。Widrow和Hoff的Delta规则表达式是权重更新的基础，它描述了在网络输出与目标输出之间的误差(δj)和输入信号(oi(t))的乘积与学习率(α)的乘积如何影响当前权重(Wij)。这个更新过程可以被看作是局部梯度下降，是反向传播算法的前身。 Grossberg的Delta规则则强调了输入信号(aj(t))和输出信号(oj(t))之间的偏差，同时考虑了当前权重(Wij)的影响。这个规则更侧重于网络内部的活动，试图通过输入和输出的偏差来调整权重。 更一般的Delta规则结合了上述两种观点，将输入信号、输出信号、目标信号以及当前权重都纳入考虑，以g函数的形式表示，这允许了更复杂的权重调整策略。 课程由蒋宗礼教授讲授，旨在引导学生进入人工神经网络的研究领域，使他们理解智能系统的基本模型，掌握神经网络的基本概念、结构、训练算法和应用。课程还鼓励学生通过实验加深理解，并通过查阅相关文献将所学知识应用于实际或未来的研究项目。 教材《人工神经网络导论》由蒋宗礼编写，提供了深入学习的基础。此外，还推荐了几本重要的参考书籍，包括关于神经计算理论与实践、神经网络导论以及MATLAB神经网络应用设计的著作，这些书籍可以帮助学生全面了解和掌握人工神经网络的相关知识。 课程内容涵盖广泛，从智能系统的定义到各种神经网络模型如感知器、反向传播网络、竞争网络、Hopfield网、双向联想记忆(BAM)以及自组织映射(ART)等，旨在为学生提供全面的人工神经网络理论和实践知识。