神经网络ANN、BPNN

神经网络是一种受生物神经系统启发的人工智能模型，主要包括人工神经元（Artificial Neuron）组成的结构，如前馈神经网络（Feedforward Neural Network, FNN），尤其是其常见的两种类型：

1. **人工神经网络（Artificial Neural Networks, ANN)**：也称为多层感知机（Multi-Layer Perceptron, MLP）。它由输入层、隐藏层和输出层组成，数据首先通过输入层传递到一系列处理层（隐藏层），每一层都会对输入信号进行加权求和并加上偏置，然后通过激活函数转换成非线性的输出。ANN广泛用于图像识别、自然语言处理等领域。

2. **玻尔兹曼机（Boltzmann Machine, BM）** 或者 **受限玻尔兹曼机（Restricted Boltzmann Machine, RBM)**，它们属于无向图模型，是一种概率型神经网络。其中，BPNN 其实是指的就是 Backpropagation Neural Network（反向传播神经网络），它是训练深层神经网络最常用的一种算法，应用于深度学习。RBMs通过随机采样和反向传播更新权重，来进行无监督的学习。

在训练过程中，BPNN (特别是其应用在RBM中) 使用了梯度下降优化技术，通过计算损失函数关于权重的梯度来进行网络权重的调整，以最小化预测误差。