back propagation历史

back propagation是一种用于训练人工神经网络的反向传播算法。它的历史可以追溯到20世纪60年代。

20世纪60年代，人们开始研究神经网络并尝试构建能够模拟人类大脑的计算机模型。然而，由于当时计算能力的限制，人们很快认识到要训练一个具有多个层次的神经网络是非常困难的。

1974年，Paul Werbos发表了一篇关于反向传播算法的论文，这被认为是back propagation的奠基之作。然而，由于当时计算机技术的限制，该算法并未引起广泛关注。

直到1986年，David Rumelhart、Geoffrey Hinton和Ronald Williams等科学家们在一篇名为“Learning representations by back-propagating errors”的论文中，详细描述了back propagation算法的运作原理和效果。这篇论文的发表引起了巨大的关注，并使back propagation开始成为研究者们训练神经网络的首选算法。

随着计算机技术的快速发展，back propagation算法的应用开始迅速扩展。通过反向传播算法，人们成功训练出了多层感知机等复杂的神经网络，并在模式识别、图像处理、自然语言处理等领域取得了重大突破。

至今，back propagation算法仍然是训练神经网络的基本算法之一。随着深度学习的兴起，back propagation算法的改进和优化不断进行，为神经网络的训练提供了更高效、更准确的方法。

相关问题

影响聚类算法的效果有哪些？模式识别系统怎么构成的？神经网络里的BP是什么意思？与模式识别内容相关的典故或历史佳话有哪些？贝叶斯决策，概率密度函数估计，fisher线性判别函数，pca主成分分析，近邻法，c均值聚类，支持向量机；以上这些哪些是无监督学习，哪些是有监督学习？

影响聚类算法的效果主要有以下几个因素：数据质量、初始聚类中心的选择、距离度量方法、聚类算法的选择等。

模式识别系统通常由以下几个组件构成：传感器、特征提取、特征选择、分类器。

BP神经网络是一种常见的人工神经网络，BP是Back Propagation的缩写，意为反向传播。BP神经网络的训练过程是通过反向传播误差信号，不断调整神经元之间的权重，从而使得网络的输出与期望输出之间的误差最小化。

与模式识别内容相关的典故或历史佳话有很多，比如说图灵测试、人工智能的起源、神经网络的发展历程等等。

贝叶斯决策、概率密度函数估计、Fisher线性判别函数、PCA主成分分析、近邻法、C均值聚类、支持向量机等算法中，无监督学习的有：概率密度函数估计、近邻法、C均值聚类；有监督学习的有：贝叶斯决策、Fisher线性判别函数、支持向量机。PCA主成分分析既可以用于无监督学习，也可以用于有监督学习。