注意力机制tensorflow

### 如何在 TensorFlow 中实现注意力机制

#### 使用 Keras 实现 CNN 的 RoI 池化和注意力机制

为了实现在卷积神经网络 (CNN) 中加入注意力机制，可以采用 RoI（Region of Interest）池化的技术。下面是一个简单的例子来展示如何创建一个带有 RoI 池化的自定义层，并将其应用于图像特征图上。

import tensorflow as tf
from tensorflow.keras.layers import Layer, Conv2D, MaxPooling2D, Flatten, Dense

class ROIPoolingLayer(Layer):
    def __init__(self, pooled_height, pooled_width):
        super(ROIPoolingLayer, self).__init__()
        self.pooled_height = pooled_height
        self.pooled_width = pooled_width
    
    def call(self, inputs):
        feature_maps, rois = inputs
        
        outputs = []
        
        for roi in rois:
            y1, x1, y2, x2 = tf.cast(tf.split(roi, 4), dtype=tf.int32)
            
            region = feature_maps[:, y1:y2, x1:x2, :]
            pooled_region = tf.image.resize(region, size=(self.pooled_height, self.pooled_width))
            outputs.append(pooled_region)

        return tf.stack(outputs, axis=0)[^1]

def create_model(input_shape, num_classes):
    input_layer = tf.keras.Input(shape=input_shape)
    
    conv_layer = Conv2D(filters=64, kernel_size=(3, 3), activation='relu')(input_layer)
    max_pool = MaxPooling2D(pool_size=(2, 2))(conv_layer)
    
    # 假设这里有一个函数 get_rois() 返回感兴趣的区域坐标列表
    rois = get_rois()
    
    roi_pooling_layer = ROIPoolingLayer(pooled_height=7, pooled_width=7)([max_pool, rois])
    
    flatten_layer = Flatten()(roi_pooling_layer)
    dense_layer = Dense(units=num_classes, activation='softmax')(flatten_layer)
    
    model = tf.keras.Model(inputs=input_layer, outputs=dense_layer)
    return model

这段代码展示了怎样构建一个包含 ROI 池化的 CNN 架构，在这个架构里加入了注意力的概念——即只关注特定感兴趣区域内的重要信息。

#### 利用 BiLSTM 和 Attention 进行文本分类

对于序列数据如自然语言处理中的句子或文档，通常会选择 LSTM 或 GRU 来捕捉时间依赖关系。当结合双向 LSTM (BiLSTM) 及其上的注意力建模时，则能够更好地理解上下文语义并提高预测性能。

下面是利用 Python 和 TensorFlow 库搭建的一个简单版本的 BiLSTM 加权平均注意力模型：

import numpy as np
import tensorflow as tf
from tensorflow.keras.models import Model
from tensorflow.keras.layers import Input, Embedding, Bidirectional, LSTM, TimeDistributed, Dense, dot, Activation, concatenate

embedding_dim = 100
vocab_size = 5000
sequence_length = 20
num_units = 64

inputs = Input(shape=(sequence_length,))
embeddings = Embedding(vocab_size, embedding_dim)(inputs)

bilstm_output = Bidirectional(LSTM(num_units, return_sequences=True))(embeddings)

attention_weights = TimeDistributed(Dense(1))(bilstm_output)
attention_weights = Activation('softmax')(attention_weights)

context_vector = dot([attention_weights, bilstm_output], axes=[1, 1])

output = Dense(1, activation="sigmoid")(Flatten()(context_vector))

model = Model(inputs=inputs, outputs=output)
model.compile(optimizer='adam', loss='binary_crossentropy')
print(model.summary())

此段脚本说明了如何设置一个用于二元分类任务的基础框架；它接收定长词索引序列作为输入，并输出单个概率值表示正类别的可能性大小[^2]。