请写出用Bert提取文本特征的详细代码，并对代码做出注释

好的，以下是使用Bert提取文本特征的Python代码，同时附有详细的注释。

import torch
from transformers import BertTokenizer, BertModel

# 加载预训练的Bert模型和分词器
tokenizer = BertTokenizer.from_pretrained('bert-base-uncased')
model = BertModel.from_pretrained('bert-base-uncased', output_hidden_states=True)

# 输入文本
text = "Hello, how are you doing today?"

# 对文本进行分词并添加特殊标记
tokens = tokenizer.encode_plus(text, add_special_tokens=True, return_tensors='pt')

# 获取输入文本在Bert模型中的输出
with torch.no_grad():
    outputs = model(tokens['input_ids'], tokens['attention_mask'])

# 提取最后一层隐藏层的特征向量
last_hidden_state = outputs[0]
last_hidden_state = last_hidden_state[:, 0, :]

# 输出特征向量
print(last_hidden_state)

代码详解：

1. 首先，我们导入了PyTorch和Transformers库。

2. 接着，我们使用`BertTokenizer`类从预训练的Bert模型中加载分词器。

3. 然后，我们使用`BertModel`类从预训练的Bert模型中加载模型，并设置`output_hidden_states`参数为`True`，以便在后面提取特征向量时能够获取所有隐藏层的输出。

4. 接下来，我们指定了要输入的文本并调用`tokenizer.encode_plus()`方法对文本进行分词并添加特殊标记。返回的结果是一个字典，其中包含了分词后的输入文本的编码表示和注意力掩码。

5. 然后，我们使用`model()`方法将编码表示和注意力掩码作为输入传入Bert模型，并使用`with torch.no_grad()`语句禁用梯度计算，以便加快运算速度。

6. 最后，我们从Bert模型的输出中提取出最后一层隐藏层的特征向量，这里我们只提取了第一个标记的特征向量，即`[CLS]`标记的特征向量。

7. 最后，我们输出特征向量。