怎么使用RoBERTa

### 如何使用 RoBERTa 教程文档

#### 安装依赖库
为了能够顺利运行 RoBERTa 模型，安装必要的 Python 库是必需的操作。通常情况下，这涉及到 PyTorch 和 Hugging Face 的 `transformers` 库。

pip install torch transformers

#### 加载预训练模型与分词器
Hugging Face 提供了一个简单的方式来加载预训练好的 RoBERTa 模型及其对应的分词工具[^1]：

from transformers import RobertaTokenizer, RobertaModel

tokenizer = RobertaTokenizer.from_pretrained('roberta-base')
model = RobertaModel.from_pretrained('roberta-base')

#### 输入处理
对于输入文本数据，需先经过 tokenizer 进行编码转换成适合喂给模型的形式：

text = "Replace me by any text you'd like."
encoded_input = tokenizer(text, return_tensors='pt')

output = model(**encoded_input)

#### 获取特征向量
当获得模型输出后，可以根据具体应用场景提取所需的信息，比如最后一层隐藏状态作为句子表征：

last_hidden_states = output.last_hidden_state
print(last_hidden_states)