7. 阐述Transformer的基本结构（需配合图表），并简要介绍Transformer与注意力机制的关系。

Transformer是深度学习中用于序列数据处理的一种重要模型，特别是自然语言处理（NLP）任务中，如机器翻译和文本生成。其基本结构由以下几个关键部分组成：

1. **自注意力层**（Self-Attention Layer）：这是Transformer的核心组件，它引入了注意力机制，使得模型能够同时关注输入序列中的所有位置。每个位置的输入都会通过查询、键（Query, Key）和值（Value）映射，计算出一个加权和，权重由查询与键之间的相似度决定。

2. **位置编码**（Positional Encoding）：为了保留序列的顺序信息，因为自注意力机制默认忽略了位置信息，所以通常会为每个位置添加一个固定大小的向量。

3. **多头注意力**（Multi-Head Attention）：将自注意力分成多个“头”（heads），每个头处理输入的不同方面，然后将结果合并，提高模型表达能力。

4. **前馈神经网络（Feedforward Networks）**：每个自注意力块后，通常跟着一个全连接层（也称为点积层或Mlp）进行进一步的信息处理。

5. **残差连接（Residual Connections）**：使用残差连接允许信息直接从输入传递到输出，有助于梯度传播和模型训练。

6. **Layer Normalization**：对每一层的输入进行规范化，有助于加速训练。

**注意力机制与Transformer的关系**：
注意力机制是Transformer的灵魂，它通过计算输入序列中不同位置之间的关联程度，赋予每个位置不同的权重。在自注意力层中，模型根据当前词与所有其他词的相关性来决定如何“关注”它们，从而更好地捕捉全局依赖性。而Transformer完全基于这种注意力机制，摒弃了循环（RNN）或卷积（CNN）等传统处理序列的方式，使得模型并行化处理成为可能，大大提高了计算效率。