pytorch 构建多层lstm

在 PyTorch 中构建多层 LSTM 非常简单。以下是一个示例代码，展示了如何构建一个具有两个 LSTM 层的模型：

import torch
import torch.nn as nn

class LSTMModel(nn.Module):
    def __init__(self, input_dim, hidden_dim, num_layers, output_dim):
        super(LSTMModel, self).__init__()
        
        self.hidden_dim = hidden_dim
        self.num_layers = num_layers
        
        self.lstm = nn.LSTM(input_dim, hidden_dim, num_layers, batch_first=True)
        self.fc = nn.Linear(hidden_dim, output_dim)
        
    def forward(self, x):
        h0 = torch.zeros(self.num_layers, x.size(0), self.hidden_dim).requires_grad_()
        c0 = torch.zeros(self.num_layers, x.size(0), self.hidden_dim).requires_grad_()
        
        out, (hn, cn) = self.lstm(x, (h0.detach(), c0.detach()))  # detach h0 and c0 to prevent backpropagation
        
        out = self.fc(out[:, -1, :])  # only use the last time step for classification
        
        return out

在这个模型中，我们使用了 `nn.LSTM` 类来定义 LSTM 层，并指定了输入维度、隐藏层维度、LSTM 层数和是否进行批量操作。我们还定义了一个全连接层 `nn.Linear` 作为输出层，将最后一个时间步的输出映射到输出维度。

在前向传递中，我们需要手动初始化 LSTM 的隐藏状态和记忆状态 `h0` 和 `c0`，并使用 `out[:, -1, :]` 只使用最后一个时间步的输出进行分类。