src_mask和tgt_mask,feed_forward

在机器翻译任务中，编码器和解码器都需要进行自注意力机制的计算。自注意力机制是指在当前序列中，每个位置都需要与其他位置进行交互计算得到表示。为了达到这个目的，我们需要使用一个掩码矩阵来指定哪些位置可以进行交互计算，哪些位置需要被屏蔽掉。

在编码器中，我们使用src_mask来屏蔽源语言句子中的填充位置，因为这些位置不应该参与到注意力计算中。在解码器中，我们使用tgt_mask来屏蔽目标语言句子中的未预测位置和填充位置，因为这些位置在当前时间步并没有生成，也不应该参与到注意力计算中。

feed_forward是指在Transformer模型中的前馈神经网络，它将注意力计算得到的表示进行非线性变换，以便更好地表示序列中的语义信息。具体地，前馈神经网络由两个全连接层组成，中间使用ReLU作为激活函数。在第一层全连接层后添加了一个残差连接和一个Layer Normalization层，以增强模型的表达能力和稳定性。