目前情感分析预训练模型都有哪些

目前比较常见的情感分析预训练模型有以下几种：

1. BERT：Bidirectional Encoder Representations from Transformers，是由Google开发的基于Transformer架构的预训练模型。BERT在自然语言处理领域有很广泛的应用，包括情感分析。

2. RoBERTa：Robustly Optimized BERT Pretraining Approach, 是Facebook AI Research (FAIR) 提出的一种针对BERT的改进型模型。RoBERTa在预训练数据和训练技巧上做了很多优化，达到了比BERT更好的效果。

3. XLNet：eXtreme MultiLingual Language Model，是由CMU和Google Brain联合提出的一种基于Transformer-XL架构的预训练模型。XLNet的创新点在于使用了permutation language modeling(PLM)方法，可以克服BERT等模型中的masking问题。

4. ALBERT：A Lite BERT，是由Google提出的一种轻量级的BERT模型。ALBERT通过参数共享和嵌入因式分解等方式，大幅度减少了BERT的参数量，同时在保持精度的同时提高了训练速度。

5. ELECTRA：Efficiently Learning an Encoder that Classifies Token Replacements Accurately，是由Google提出的一种新型的预训练模型。ELECTRA模型在训练时通过替换原始文本中的部分词汇，来进行对抗式训练，让模型更好地理解上下文语义。

以上是目前比较流行的情感分析预训练模型，当然还有其他的模型也有不错的效果，选择哪种模型需要结合具体的应用场景和数据情况来进行选择。