帮助了(Badaro,2018)的模型。他们参加了SemEval-2018任务1竞
赛的所有五个子任务,以阿拉伯语进行情感分析。在他们提出的系统
中,几个预处理技术和功能已被应用。此外,他们还评估了不同的机器
学习分类器和回归器,即具有惩罚(L1,L2)的SVC(支持向量分类
器),RC(岭分类),RF(随机森林)和集成方法。他们的结果表
明 ,因 此 ,SVC与 L1产 生 最 佳 的 预 测 性能 。 最 重 要 的 是 ,他 们 在
SemEval-2018 E-c子任务中获得了
第 一
名。此外,使用具有线 性核的
SVM(Mulki等人,2018)开发了三个版本的情感系统:英语,西班牙
语和阿拉伯语。除了提取推文特征的TF-IDF之外,他们还使用了二进
制相关性转换策略。然而,(Abdullah and Shaanxi,2018)提出了
一 个 基 于 LSTM 的 深 度 模 型 来 提 取 输 入 推 文 中 携 带 的 情 感 标 签 。
Word2vec 、 doc2vec 和 一 组 心 理 语 言 学 特 征 被 用 作 模 型 的 输 入
(Abdullah和Shaidah,2018)。然而(Jabreel和Moreno,2018)
将两个深度神经网络(ConvNets,N-Stream)与XGBoost回归器结合
起来,并为V-reg子任务使用了一组嵌入和词典功能。
在(Abdullah等人, 2018年,他提出了一个阿拉伯语的senti-
通过
CNN
和
LSTM
的方式来识别给定推文中携带的情感和情感强度
他 们 使 用 了 四 个 特 征 : 单 词 , 文 档 嵌 入 , 心 理 语 言 学 特 征 和
Deepmoji
。 使 用
SemEval-2018
数 据 集 生 成 结 果 。 (
Alswaidan
and Menai
,
2020
)的作者基于三种不同的基于深度的模型检测了
阿拉伯语中的情感,即
“
基于人类工程特征(
HEF
)
”
模型,该模型
采用了一组句法,语义和词汇的 最后,提出了基于
HEF
和
DF
的混合
模型。实证结果表明,后者的模型产生了一个有前途的预测性能。
此 外 , 采 用 预 处 理 步 骤 并 利 用 词 形 化 和 词 干 工 具 过滤噪声是 由
(
Khalil
等人,
2021
年)。然后,他们建立了
AraVec
作为多标签
BiLSTM
深度 模 型 的预训练单词嵌 入 (
Mansy
等人 ,
2022
)
在
SemEval-2018-Ec数据集上微调了MARBERT,以执行多标签
分类任
务。此外,本发明还提供了一种方法,
使用BiLSTM和BiGRU。结果表明,集成模型优于现有的工作。另
一方面,GRU和上下文感知门控递归单元(C-GRU)由(Samy等人,
2018年)。然后,他们把它们当作 一个额外的层,用于确定输入的
阿拉伯语推文中表达的情绪状态。由于注意机制的有效性,许多研究者
将其应用于语篇情感分析.例如,(Elfaik和Nfaoui,2021)需要一个
阿 拉 伯 语 情 感 检 测 模 型 , 将 基 于 transformer 的 Ara-BERT 和 基 于
attention的 LSTM-BiLSTM深 度 模 型 相 结 合 。 作 者 在 ( AlZoubi 和
Tawalbeh,2022)中解决了情绪强度研究问题。他们开发了几种基于
深度的模型,即双向GRU-CNN,CNN和XGBoost回归器,然后是集成
模型。结果表明,他们的集成模型达到了69.2%的皮尔逊。
(
Baali
和
Ghneim
,
2019
)提出了阿拉伯语推文中情绪状态的分
类器。所提出的模型在训练的词向量之上作者使用了三个阿拉伯语词
干分析器,即
light
词干分析器、
Snowball
和
ISRI
词干分析器,以及
两个基本特征
Count
和
TF-IDF
。他们还将实验结果与三种基于机器
的学习分类器进行了比较:
SVM
,
NB
和
MLP
(多层感知器)。他
们的架构使用了三个矢量化步骤:单词、句子和文档。作者评估了
他们提出的模型,
SemEval-2018
数据集的
EI-oc
子任务,结果表明,他们的模型优于
传统 的 机器学习 方 法 。 另 一 项 使 用
CNN
进行 情 绪分类的 工 作 是
(
Elfaik
和
Nfaoui
,
2021
)。作者比较了四种不同的传统机器学习
模型(线性
SVC
、逻辑回归、多项式、互补
NB
)与两种性能最好的
深度学习技术(
CNN
、
LSTM
)的性能。他们利用了两个多类数据
集,即
AETD
和
IAEDS
。实证结果证明,
CNN
深度技术在研究中使
用的两个数据集上的表现优于基于机器学习的模型。
Twitter
上阿拉伯语情感分析任务中的大多数最先进的方法然而,
最好的解决方案(
Mansy
等人,
2022
年)和(
Elfaik
和
Nfaoui
,
2021
年)已经实现了大约
54%
的分类准确率,这可能远远不能将这些
最新的系统视为人类决策过程中的情感识别器。因此,仍然需要更多
的努力和有效的实验,以产生一个有效的基于深度的模型,以提高
Twitter
上的阿拉伯语情感分析模型的性能。
最近已经尝试将注意力机制、
CNN
和双向
RNN
结合起来,以提
高从文本数据中学习和提取局部和全局特征的能力(
Basiri
等人,
2021
)
;
(
Usama
等人,
2020
)和(
Liu
和
Guo
,
2019
)提出了一种
用 于 情 感分 类 的 基 于 注 意 力 的 双 向
CNN-RNN
模 型 。 类似 地 ,
(
Onan
,
2022
)采用了基于卷积递归神经网络的架构,并结合了分
组增强机制。
CNN
和
RNN
用于多标签分类的集成应用在(
Chen et
al.
,
2017
年 )。 (
Kamal
和
Abulaish
,
2022
) 提出 了 一种 基 于
BiGRU-CNN
和注意力机制的讽刺识别任务的混合深度神经架构这
些模型通常在文本分类中产生有希望的预测结果,因为它们可能在针
对阿拉伯语的文本情感分析任务中发挥作用,这是我们提出的架构的
目标之一。
表
2
总结了
2013
年至
2022
年期间发表的与阿拉伯语影响分析最相
关的方法。前八行表示
SemEval-2018
数据集上的阿拉伯语文本影响
多标签分类针对表
2
中列出的阿拉伯语定制的所有现有情感识别方法
都使用了一个或多个表示来嵌入标记。同时,他们没有充分捕捉多义
词、语义
/
句法信息、传达的情感知识,也没有处理与
OOV
词相关的
问题因此,我们的架构提出了一个更准确的解决方案,这一困境。
3.
预赛
本节简要概述了我们提出的影响分析框架的必要组成部分。具体而
言,本文其余部分使用的符号列表及其定义在第3.1节中解释。在第3.2
节中描述了用作神经语言模型的不同的预训练词嵌入。特征级融合技术
在第3.3节中进行了解释和强调。基于深度学习的神经网络架构,包括
LSTM、GRU、CNN和注意力机制,将在第3.4节中描述。
3.1.
问题表述和定义
在本文中,我们专注于进行情感识别的情感推文的标签与一个,
或多个,