人工神经网络入门：训练算法与模型解析

"本次课程是关于人工神经网络的回顾，主要涵盖了无导师和有导师学习的概念，以及神经网络训练的一些基本算法。课程由蒋宗礼教授讲授，教材包括《人工神经网络导论》等，并设定了理解智能系统、掌握神经网络基本模型和训练算法的目标。课程内容包括智能系统的理论、ANN基础、Perceptron、反向传播(BP)、竞争网络(CPN)、统计方法、Hopfield网络、双向联想记忆(BAM)和自组织映射网络(ART)等。" 在本次课程中，首先回顾了Rosenblatt的学习定理，这是一种在无导师学习中的理论，它涉及从样本集合中抽取统计特性。无导师学习中，样本集是不带标签的数据，如{A1，A2，…，An}，而Hebb算法则被提及，它是无导师学习的一种简单形式，更新权重的方式是Wij(t+1)=Wij(t)+αoi(t)oj(t)，其中α是学习率，oi(t)和oj(t)分别是输入和输出神经元的活动状态。 接着，课程讨论了有导师学习，这涉及到从样本集中抽取映射关系。在这种情况下，样本集是带有标签的数据，如{(A1,B1)，(A2,B2)，…，(An,Bn)}，这里的B是对应的期望输出。Delta规则是用于有导师学习的训练算法之一，它允许网络根据预期输出和实际输出的差异调整权重。 课程的目标是让学生熟悉人工神经网络的基本概念，包括单层网络、多层网络和循环网络的结构、特点、训练算法和应用场景。此外，课程还鼓励学生通过实验来加深对模型的理解，同时查阅相关文献，以便将所学知识应用于未来的研究项目。 课程的主要内容分布在多个章节中，涵盖智能系统的理论基础、生物神经网络模型、人工神经元模型的激励函数、不同类型的神经网络结构和训练方法。例如，Perceptron是一种早期的线性分类器，BP网络（反向传播）是多层感知机的训练方法，而Hopfield网络和BAM（双向联想记忆）则涉及稳定状态和联想记忆。 通过这门课程，学生不仅能够掌握人工神经网络的核心原理，还能了解到智能系统描述的物理符号系统和连接主义的对比，以及人工神经网络在发展历程中的重要性。同时，课程提供了丰富的参考书目，帮助学生扩展阅读，深化理解，并为将来的研究提供指导。