transformer encoder的输出是一个每个词语与其他词语的关系的向量，如何将这些向量提取成一个包含序列全部信息的特征向量

可以使用self-attention机制，将每个词语的向量与其他词语的向量进行加权平均，得到一个包含序列全部信息的特征向量。具体来说，可以将每个词语的向量作为query、key和value，计算出每个词语与其他词语的相似度，然后将相似度作为权重，对所有词语的value进行加权平均，得到一个特征向量。这个特征向量可以用于下游任务，比如文本分类、命名实体识别等。