我想尝试推理transformer，请给出一个示例代码。

好的，以下是一个使用PyTorch实现的Transformer模型的推理示例代码，其中包括了一个已经训练好的模型：

import torch
import torch.nn.functional as F

class Transformer(torch.nn.Module):
    def __init__(self, vocab_size, embed_dim, num_heads, hidden_dim, num_layers):
        super(Transformer, self).__init__()
        self.embedding = torch.nn.Embedding(vocab_size, embed_dim)
        self.pos_embedding = torch.nn.Embedding(1000, embed_dim)
        encoder_layer = torch.nn.TransformerEncoderLayer(embed_dim, num_heads, hidden_dim)
        self.encoder = torch.nn.TransformerEncoder(encoder_layer, num_layers)
        self.decoder = torch.nn.Linear(embed_dim, vocab_size)
    
    def forward(self, src, src_mask):
        src_pos = torch.arange(src.size(1), device=src.device).unsqueeze(0).repeat(src.size(0), 1)
        src_embed = self.embedding(src) + self.pos_embedding(src_pos)
        src_embed = src_embed.permute(1, 0, 2)
        output = self.encoder(src_embed, src_key_padding_mask=src_mask)
        output = output.permute(1, 0, 2)
        output = self.decoder(output)
        return F.log_softmax(output, dim=-1)

# 示例输入
input_seq = torch.tensor([[1, 2, 3, 4, 5], [6, 7, 8, 9, 10]])
input_mask = torch.tensor([[0, 0, 0, 1, 1], [0, 0, 0, 1, 1]])

# 加载已经训练好的模型
model = Transformer(vocab_size=10000, embed_dim=256, num_heads=8, hidden_dim=512, num_layers=6)
model.load_state_dict(torch.load('transformer_model.pth'))

# 执行推理
with torch.no_grad():
    output = model(input_seq, input_mask)
    output = torch.argmax(output, dim=-1)

# 打印输出
print(output)

这个示例代码中，我们使用了PyTorch实现了一个Transformer模型，并加载了一个已经训练好的模型。在执行推理时，我们给模型输入了一个示例序列和对应的掩码，然后使用`torch.argmax()`函数找到每个位置上预测的最大概率的词语。最后输出了预测的结果。