cross-attention Transformer

Cross-Attention指的是Transformer架构中的一种注意力机制，它用于混合两个不同嵌入序列的注意力。这两个序列必须具有相同的维度，并且可以是不同的模式形态，比如文本、声音、图像等。在Cross-Attention中，一个序列作为输入的Q，定义了输出的序列长度，而另一个序列提供输入的K和V。 Cross-Attention与Self-Attention不同之处在于，Cross-Attention的输入来自不同的序列，而Self-Attention的输入来自同一个序列。但除此之外，它们的基本原理是一致的。在Transformer中，Cross-Attention通常是指编码器和解码器之间的交叉注意力层。在这一层中，解码器会对编码器的输出进行注意力调整，以获得与当前解码位置相关的编码器信息。具体的计算过程包括：编码器输入（通常是来自编码器的输出）和解码器输入（已生成的部分序列）被分别表示为enc_inputs和dec_inputs。解码器的每个位置会生成一个查询向量（query），用来在编码器的所有位置进行注意力权重计算。编码器的所有位置会生成一组键向量（keys）和值向量（values）。通过对查询向量和键向量进行点积操作，并通过softmax函数获得注意力权重。注意力权重与值向量相乘，并对结果进行求和，得到编码器调整的输出。这样，Cross-Attention机制帮助解码器能够有效地建模当前生成位置的上下文信息。 <span class="em">1</span><span class="em">2</span><span class="em">3</span>
#### 引用[.reference_title]
- *1* *2* [【科研】浅学Cross-attention？](https://blog.csdn.net/MengYa_Dream/article/details/126688503)[target="_blank" data-report-click={"spm":"1018.2226.3001.9630","extra":{"utm_source":"vip_chatgpt_common_search_pc_result","utm_medium":"distribute.pc_search_result.none-task-cask-2~all~insert_cask~default-1-null.142^v93^chatsearchT3_2"}}] [.reference_item style="max-width: 50%"]
- *3* [交叉注意力机制CrossAttention](https://blog.csdn.net/m0_63097763/article/details/132293568)[target="_blank" data-report-click={"spm":"1018.2226.3001.9630","extra":{"utm_source":"vip_chatgpt_common_search_pc_result","utm_medium":"distribute.pc_search_result.none-task-cask-2~all~insert_cask~default-1-null.142^v93^chatsearchT3_2"}}] [.reference_item style="max-width: 50%"]
[ .reference_list ]