bert预训练模型输出的

BERT预训练模型输出的是一个表示文本的向量。具体来说，对于输入的文本序列，BERT模型通过多层的Transformer编码器将文本转换为一系列的隐藏状态。这些隐藏状态可以被用作下游任务（如文本分类、命名实体识别等）的特征表示。

BERT模型的输出有两种：

1. Token-level输出：对于每个输入的单词或子词，BERT模型会生成一个对应的隐藏状态向量。这些向量可以用来表示每个单词或子词的语义信息。

2. Sentence-level输出：通过对所有输入单词或子词的隐藏状态进行汇总，BERT模型可以生成整个句子的语义表示。这个句子级别的向量可以用于句子级别的任务，如句子相似度计算。

需要注意的是，BERT模型只进行了预训练，具体的下游任务还需要进行微调才能得到最终的结果。