深度学习里的名词以及他的作用

深度学习中的名词及其作用：

1. **神经网络（Neural Network）**：由大量的人工神经元连接而成的模型，模拟人脑的工作原理，用于处理复杂的输入数据，如图像、语音和文本。

2. **卷积神经网络（Convolutional Neural Networks, CNN）**：专门设计用于图像识别任务的神经网络结构，通过卷积层提取特征并减少计算量。

3. **循环神经网络（Recurrent Neural Networks, RNN）**：对于序列数据（如时间序列或自然语言）特别有效，具有记忆单元可以处理变长输入，并能捕捉上下文信息。

4. **长短时记忆网络（LSTM, Long Short-Term Memory）**：RNN的一种改进形式，解决了传统RNN中的梯度消失或爆炸问题，适合长期依赖关系的学习。

5. **全连接层（Fully Connected Layer）**：每个神经元都与前一层的所有节点相连，用于将前一层的特征映射到更高维度的空间。

6. **激活函数（Activation Function）**：如ReLU、sigmoid、tanh等，它们引入非线性，使神经网络能够学习更复杂的模式。

7. **损失函数（Loss Function）**：衡量模型预测结果与真实值之间的差距，优化目标最小化这个函数通常使用反向传播算法。

8. **优化器（Optimizer）**：如SGD（随机梯度下降）、Adam、Adagrad等，用于调整权重，最小化损失函数。

9. **批量归一化（Batch Normalization）**：加速训练过程，提高模型稳定性，尤其是在深层网络中。