LSTM Attention中的attention机制有几种

在LSTM Attention中，通常有两种类型的attention机制，分别是Global Attention和Local Attention。其中Global Attention是指将整个输入序列考虑在内，计算每个时刻的注意力权重；而Local Attention是指只关注输入序列的一个局部区域，以减少计算量和提高模型的泛化能力。此外，还有一种针对多模态输入的attention机制，称为Multimodal Attention，可以同时处理多种类型的输入，例如图像和文本。