阿拉伯文生成图像的融合模型：AraBERT和DF-GAN

阵列16（2022）100260用于阿拉伯文文本到图像生成的ArabBERT和DF-GAN融合Mourad Bahani，Aziza El Ouaazizi，Khalil Maalmi人工智能，数据科学和新兴系统实验室（LIASSE）- ENSAF，Sidi Mohamed Ben Abdellah大学，非斯，摩洛哥A R T I C L E I N F O保留字：机器学习深度学习计算机视觉生成式对抗网络文本到图像生成阿拉伯文文本处理A B S T R A C T当前的AI系统在从文本描述任务自动合成逼真图像方面表现出令人印象深刻的结果。事实上，生成对抗网络（GAN）广泛用于文本到图像生成任务。生成器生成真实的图像给定的噪声和句子向量，和合成图像是真实的概率。在本文中，为了从阿拉伯语文本生成图像，我们融合DF-GAN作为一个样本和高效的文本到图像生成框架和AraBERT架构。为了实现这一目的，首先，我们通过在原始数据集的文本描述上应用从英语到阿拉伯语的DeepL-Translator来重新创建与阿拉伯语文本到图像生成任务相匹配的新数据集。其次，我们利用AraBERT的强大功能，它在数十亿阿拉伯语单词上进行训练，以产生强大的句子嵌入，并降低该向量的维度以匹配DF-GAN形状。第三，注入简化的句子嵌入到DF-GAN的UPBlocks部分，我们在两个具有挑战性的数据集上训练所提出的架构。在前人工作的基础上，我们使用CUB和Oxford-102花作为原始数据集。此外，我们用FID和IS来衡量我们的框架。我们的框架是第一个在生成高分辨率的现实和文本匹配的图像与阿拉伯语文本条件下1. 介绍生成对抗网络（GAN）[1]在过去几年中在几个应用中取得了巨大的成功，例如从低分辨率到高分辨率[2]和数据增强[3]。大多数文本到图像的框架利用GAN来证明在生成具有英语文本描述的高分辨率和逼真图像调节方面的显着结果[4例如，通过堆叠几对在生成器和鉴别器中，stackGAN [6]利用两个阶段来生成真实的高分辨率（例如，256 × 256）图像。同样，AttnGAN [5]通过关注相应的文字描述，利用多个阶段来生成图像中的细粒度细节。虽然RIGGAN [9]提出了一个由三个模型组成的文本到图像到文本的框架，但第二个模型也使用了几对生成器和鉴别器。虽然在以前的框架方面取得了重大进展，但在培训方面进展缓慢且不稳定。此外，他们需要长时间和大量的计算资源来训练。相比之下，DF-GAN [10]提出了一个新的框架，由一对生成器和鉴别器组成，以生成具有文本描述的高分辨率和逼真图像。它也没有利用额外的网络来计算图像-文本匹配。虽然DF-GAN与其他网络相比没有使用大的网络[4此外，委员会认为，它需要预先训练一个模型来生成句子嵌入。事实上，CUB [11]和Oxford Flowers [12]数据集分别具有11 788和8189文本描述，包括训练和测试示例。因此，这些例子不足以训练模型产生强句子嵌入。为了解决这一局限性，受R. Robin [13]使用BERT来稳定训练并减少bigGAN [14]的复杂性，我们提出了AraBERT [15]架构，该架构对数十亿阿拉伯语单词进行了预训练，以产生强大的句子向量。AraBERT遵循BERT的架构[16]，并在自然语言理解任务中表现出出色的结果。例如，情感分析（SA）[17]，命名实体识别（NER）[18]和问题分类（QA）[19]。我们将DF-GAN [10]架构与AraBERT融合，以合成以阿拉伯语文本描述为条件的逼真的高分辨率和文本匹配图像。我们利用AraBERT的有效性从阿拉伯语文本描述中生成句子嵌入，而无需学习或微调与DF-GAN原始框架相比，这个命题在短短几个时代内就取得了显着的成果。总结一下，我们的论文贡献如下：• 我们通过在CUB和Oxford-102花卉数据集的• 我们利用araBERT的有效性来产生强句子嵌入，并降低句子向量的维度以匹配DF-GAN输入形状。∗ 通讯作者。电子邮件地址：bahani. usmba.ac.ma（M. Bahani）。https://doi.org/10.1016/j.array.2022.100260接收日期：2021年12月21日;接收日期：2022年11月6日;接受日期：2022年11月9日2022年11月17日网上发售2590-0056/© 2022作者。爱思唯尔公司出版这是一篇基于CC BY-NC-ND许可证（http://creativecommons.org/licenses/by-nc-nd/4.0/）的开放获取文章。可在ScienceDirect上获得目录列表阵列期刊主页：www.elsevier.com/locate/arrayM. Bahani等人阵列16（2022）1002602• 我们通过将句子嵌入到生成器的上块和下块中来融合AraBERT和DF-GAN。这是一个很大的问题。• 在两个具有挑战性的数据集上的实验结果证明了我们的框架能够生成具有阿拉伯语文本描述的真实和文本匹配的图像2. 相关作品生成对抗网络（GANs）[1]模型旨在生成具有噪声向量的真实图像，这些噪声向量来自正态分布或高斯分布。 事实上，GAN由一个生成逼真图像的生成器和一个训练区分真实图像和合成图像的训练器组成。 生成器和训练器分别训练以最小化和最大化真实图像和合成图像之间的距离。 虽然GAN已经取得了很大的成功，但它在训练中仍然不稳定。此外，提出了几项工作来解决消失梯度和稳定GAN的训练[20，21]。例如，引入Wasserstein距离[22，23]和梯度惩罚[24]。同时，大多数文本到图像生成框架利用GAN架构来提高性能。这些框架利用与成对的发生器和鉴别器堆叠的多个阶段。例如，StackGAN [6]将问题分为两个阶段，第一阶段生成低分辨率图像特征，通过草图细化过程作为输入噪声向量和文本描述，第二阶段训练生成逼真的高分辨率（例如，256 ×256）的图像进行第一阶段和英文文本描述。同样，StackGAN-v2 [4]通过在每个阶段堆叠多个生成器和鉴别器来增强StackGAN的第一个架构，这些生成器和鉴别器在树状结构中共享它们的参数，以处理有条件和无条件的图像分布。这是通过引入一个新的计算条件和无条件损失的方法来实现的。类似地，AttnGAN [5]提出了一种新的架构，通过关注相应的文字描述来合成图像中的细粒度细节。AttnGAN还通过使用全局句子和噪声向量在第一阶段产生低分辨率图像。在下一阶段，它利用先前隐藏的图像特征和文字特征产生新的隐藏图像特征，直到实现高分辨率图像。然而，WARGAN [9]提出了一个文本到图像到文本的框架，该框架由三个模型组成，用于从生成的图像中重建文本描述。提出了基于词-句平均的嵌入方法，保证了文本与生成图像的全局语义一致性。DM-GAN[7]通过提出动态内存模块来增强初始图像内容。该模型还利用存储器写门，根据初始图像内容选择相关的文本信息。此外，它使用一个响应门来融合从存储器读取的信息和图像特征。虽然以前的架构使用堆栈在生成器鉴别器对中，它们是不稳定的，并且需要扩展的资源和长时间来训练。此外，由图像合成器合成的图像取决于图像的大小。如果第一个图像合成得不好，它们将反映其他图像。相比之下，DF-GAN [10]提供了一种新的架构，除了不引入额外的网络之外，它只使用一对生成器和一个扩展器。DF-GAN还提出了一种称为匹配感知零中心梯度惩罚的正则化方法，以有助于生成与相应文本匹配的真实图像。虽然DF-GAN在其任务上取得了很大的进步，降低了成本和复杂性，但它在现有专家模型的时候使用了经典的词嵌入。换句话说，所有这些架构都使用英语文本描述，这些描述都是通过几种强大的技术来处理的。在本文中，我们使用遵循BERT [16]架构的AraBERT [15]，并在阿拉伯语的自然语言理解方面取得了巨大成功。我们提出一种新的架构，融合了AraBERT作为预训练模型融合和DF-GAN的有效性，以便从阿拉伯文本。遵循之前作品中使用的度量标准，我们使用InceptionScore（IS）[25]和Fréchet Inception Distance（FID）[26]来衡量生成图像的质量和我们架构的性能。3. 方法在本节中，我们将详细介绍BERT、ArabBERT和DF-GAN。3.1. BERT和ArabBERTBERT [16]是一种深度双向表示模型，它通过联合调节左右上下文来训练未标记的文本在所有层中。BERT由两个模型组成。第一个是BERTbase [16]，由12层组成，有768个隐藏大小和12个自注意头，总参数= 340 M。第二个是BERTlarge [16]，由24层组成，具有1028个隐藏大小和16个自注意力，总参数= 110 M。BERT有一个输入句子或一对句子。BERT架构也通过随机屏蔽通常15%的输入令牌来训练，然后在评估部分预测这些被屏蔽的令牌。此外，BERT训练从BooksCorpus（8亿字）[27]和维基百科（25亿字）提取的英语文本。产生一个强大的单词和句子嵌入。 因此，该模型在几个自然语言理解任务中表现出显着的效果。例如，问答（QA）[19]，情感分析（SA）[17]和命名实体识别（NER）[18]。同样，AraBERT [15]遵循BERT架构并处理阿拉伯语，阿拉伯语是一种形态丰富的语言，与英语相比，资源相对较少，语法较少。虽然阿拉伯语维基百科转储与英语相比很小，但AraBERT在蹩脚的阿拉伯语新闻网站上训练文章和公开可用的大型阿拉伯语语料库。例如，从覆盖8个国家的10个主要新闻来源中提取的15亿字的阿拉伯语语料库[28]，以及由来自24个阿拉伯国家的31个新闻来源的超过300万篇文章（接近1B令牌）组成的开源国际阿拉伯语新闻语料库[29]。的 预训练数据集的最终大小是7000万个句子。因此，AraBERT在几个阿拉伯语自然语言理解任务上取得了最先进的成果，例如QA，SA和NER。受这些结果的启发，我们利用AraBERT生成一个强大的阿拉伯语句子和单词嵌入。我们通过训练一个完全连接的层来降低句子向量的维度，以与生成器和生成器匹配，以与DF-GAN [10]输入形状匹配。3.2. DF-GAN和AraBERT文本编码器的区别DF-GAN的文本编码器是一个双向长短期记忆（LSTM）[30]，旨在从文本输入中生成高语义句子和词向量。在双向方法中，每个单词被编码成两个隐藏状态，以确保单词之间的语义。大多数情况下，这两个隐藏状态被连接起来以产生语义文本嵌入。嵌入单词的文本的维数是（×）。���D是向量的长度，而λ是向量的和从所有的文本描述中提取的所有单词。在DF-GAN的实验中，D = 256，这与DF-GAN的输入相匹配。 此外，文本编码器在CUB训练集的9414个文本描述上使用弱监督方法从头开始训练。然而，阿拉伯语有1230万个单词。因此，使用小型文本编码器并从头开始训练它可能无法正确学习语义。因此，我们不是在小数据集上从头开始训练文本编码器，而是提出了一个预先训练的专家模型，该模型在数十亿阿拉伯语单词上训练，并证明了很多 自然语言理解的成功。这种智能架构微调了AraBERT，以产生强大的语义词和文本嵌入。此外，我们训练一个全连接层，M. Bahani等人阵列16（2022）1002603|‖ ‖ ‖‖有监督的方法将文本向量从（batch size，768）转换为（batch size，256）。这个命题显示了一个预先训练的专家模型从阿拉伯文本生成图像的能力，尽管阿拉伯文本的多样性。 它的话。3.3. 深度融合GAN（DF-GAN）深度融合DF-GAN [10]的目的是在给定噪声向量和文本描述的情况下生成与图像匹配的高分辨率逼真图像和文本图像。实际上，这种结构由一对发生器和鉴别器组成。生成器的输入是由AraBERT [15]编码的句子向量，以及从高斯分布中采样的噪声向量。首先，将噪声向量注入到一个全连通层中，输出整形为（-1，4，4），然后应用一系列块对图像特征进行上采样。该模块由上采样层、残差块和DF块组成，在图像生成过程中对文本和图像特征进行深度融合。最后，通过添加卷积层将图像特征转换为图像。DFBlock [10]由一系列仿射变换，ReLU层和卷积层组成。仿射变换采用两个单隐层多层感知器MLP从句子向量中预测语言条件的通道平移参数和尺度参数，从而操纵基于自然语言描述的视觉特征图������分别为L= L1（L），���= L2（���仿射变换的最终方程如下：A（）=.+（2）������������������其中函数AFF是仿射变换。 ������ 是第八频道��� 视觉特征地图。���是句子向量。������������分别是视觉特征图的第七通道的平移和缩放参数。���DF-GAN第二部分是一个由几个下行块和卷积层。DownBlocks包括下采样和残差块。此外，图像被转换成特征图，并且通过一系列DownBlock，输出被下采样，并且图像特征与复制的句子向量连接。该算法通过区分真实样本和生成样本，使生成器能够合成质量更高、语义一致的文本图像。此外，对抗性损失的预测，以评估语义一致性和视觉现实主义的输入。DF-GAN应用铰链损失[31]以稳定训练过程。该方法计算具有匹配文本的合成图像、具有不匹配文本的合成图像、具有不匹配文本的真实图像以及具有匹配文本的真实图像的损失。发电机损耗是所生成数据的匹配和匹配-正在发送文本。此外，[10]提出了匹配感知梯度惩罚（MA-GP），以在目标数据点上应用梯度惩罚，目标数据点是具有匹配语句的真实图像。整个配方使用MA-GP的模型损失如下：L= −���EP [（0，−1 +（，）]������������表1CUB和Oxford-102统计数据。数据集训练测试CUB 9414 2374牛津-102 7034 11553.4. DF-GAN中AraBERT的融合AraBERT [15]已经在11种自然语言理解中应用并显示了潜在的结果。如图首先，我们利用ArabBERT作为一个强大的架构，它是在数十亿阿拉伯语单词上进行预训练的，可以在无需学习的情况下生成每个文本描述的句子嵌入。我们通过在DF-GAN上训练一个完全连接到生成器和递归的层来降低句子向量的维度，以实现与其输入形状的一致性。同时，与以前的架构不同[4，7，9]，DF-GAN成功地合成了高分辨率的文本匹配和逼真的图像，给出了文本描述，只需一对编码器和生成器。如前所述，生成器有两个输入，噪声向量和句子向量。此外，通过增加一个全连接层，将句子向量降维到生成器中。此外，这个完全连接的层是在架构内部训练的 以弱监督的方式，这意味着层的参数在反向传播阶段更新。 因此，如图所示。1，我们在整体UPBlocks上注入缩减的句子向量。 UPBlock由Upsample和两个DFBlock组成。DFBlock由一系列仿射变换、ReLu激活、仿射变换、另一个ReLu激活和卷积层组成。我们在图2中清楚地展示了在DFBlock中融合句子向量和图像特征的过程。此外，仿射变换过程在DF-GAN部分中详细描述。此外，减少的句子向量与图像特征连接到DownBlock中，以计算对抗损失并评估视觉和语义一致性 的投入。我们的架构展示了生成高分辨率，文本匹配和逼真的阿拉伯语文本描述图像的能力。4. 实验在本节中，我们将介绍数据集、训练细节和评估指标，然后是我们的方法变体的定量和定性。4.1. 数据集如以前的作品[4，5，7]，我们在两个具有挑战性的数据集上评估了所提出的模型，即，CUB [11]和Oxford-102 flowers [12]，我们在表1中列出了两个数据集上训练和测试的示例数量CUB数据集包含11788幅图像，属于200个���–类，牛津-102包含8189花的图像，从102个不同的E（）P���[（0，−1 −（（），）]������������������������������������–+ ������������������E联系我们������������（L= −E（）���P（（），）���（三）类别CUB和Oxford-102图像有10个文本描述，我们使用DeepL Translator模型将这些文本从英语翻译为阿拉伯语，并重建新的阿拉伯语文本描述。其中，是句子向量。是从高斯分布采样的噪声向量。和是两个超参数，以平衡梯度惩罚的有效性。���P、P、P分别表示生成的、真实的和不匹配的数据分布。���MA-GP帮助4.2. 培训详情我们利用Adam [32]作为优化器，其中，1= 0.01，2= 0.9。���的生成器从给定的文本描述生成文本匹配和真实的图像，而不使用额外的网络来计算文本-图像语义相似度。学习率对于学习器被设置为0.0005，对于生成器被设置为0.0002，我们在CUB和Oxford-102花上训练我们的模块，具有300个时期以防止过拟合。M. Bahani等人阵列16（2022）1002604|| ||Fig. 1. AraBERT和DF-GAN的融合架构，用于生成高分辨率（256 × 256）的真实感图像，并以阿拉伯语文本描述为条件。图二、 该过程已被用于DFBlock内部，以融合文本和图像表2CUB测试集中的初始评分和FID。IS评分FID评分AttnGAN 4.36 23.98价格：+3.70 51.89我们的建筑3.51 55.96表3Oxford-102测试集的初始评分和FID。IS FID评分堆栈++3.20 55.28AttnGAN我们的建筑3.06 59.45功能.其中，和是真实数据和生成数据，、和、������������������是4.3. 评价详情DF-GAN和以前的作品[4如果条件分布（）和边际分布（）之间的偏差，则初始得分公式为：���������=（E���L（（）（），（4）������������������其中，IS是生成的图像，IS是使用预先训练的Inception v3网络预测的图像标签[33]，更高的IS意味着生成的图像质量更高，并且每个图像显然属于特定的类别。FID是另一种度量，用于计算真实图像和合成图像分布之间的弗雷歇距离，在预先训练的Inception v3网络的特征空间中，FID方程如下：（，）=−2+（+− 2（）1 scin2）），（5）���������������������������������������实际和生成数据分布的均值和协方差。与IS相反，较低的FID意味着更真实的图像，并且分布看起来相似。4.4. 定量评价：在本节中，我们将我们的架构成果与之前工作[4，5]成果的FID和SI进行了比较，然而，之前的作品生成的图像以英语文本描述为条件，这些描述需要大量技术处理，我们的框架使用阿拉伯语文本描述作为一种具有挑战性和有意义的语言。如表2和表3所示，使用两个数据集实现的IS和FID在之前的框架和我们的框架中，我们在FID上实现了55.96，在SI上实现了3.51，而StackGAN++ [4]在FID上实现了51.89，在CUB数据集上实现了3.70。此外，我们还实现了59.45 在FID得分和3.06在SI和StackGAN++达到55.28在FID和3.20在SI在牛津-102数据集，我们的结果是接近StackGAN++的结果，尽管语言和阿拉伯语文本处理的难度之间的差异。因此，定量比较显示出显着的成功和综合能力，M. Bahani等人阵列16（2022）1002605图3. 使用我们的 框架在CUB测试集上 生 成 的 图 像 以阿拉伯语文本描述为条件。图四、 使用我们的 框架在牛津-102测试集上 生 成 的 图 像 ， 条 件 是阿拉伯语文本描述。M. Bahani等人阵列16（2022）1002606图五. 在CUB和Oxford-102数据集上训练我们的框架期间。现实和高分辨率的图像条件与阿拉伯语文本描述。4.5. 定性评价：在本节中，我们分析图1和图2中所示的视觉结果。3和4. 如可见于图3、我们的架构能够在CUB测试集上实现我们的目标。同样地，正如除了最后一张图像之外的所有列所示，我们的框架成功地确保了生成图像的多样性和保真度以及真实感。虽然我们使用了句子向量，并在图中的两个图像所示。4.我们提出的架构能够捕捉有意义的单词，并将与该特定单词相关的多个对象合成为逼真的图像。例如，阿拉伯语中的“花”和“花”。这意味着我们的框架能够区分单数和复数单词。4.6. 未完成的生成图像：图5250和300个时期之间的FID评分似乎是恒定的。这意味着模型在局部最小值处是稳定的。 尽管FID分数仍然较高，但它接近于以前的一些作品。同样，如图所示。在图3和图4中，我们可以看到在CUB和Oxford测试集上生成的一些不完整的图像。具体来说，在两个图中的最后一个图像上。我们认为这是由于早期停止学习和一些矛盾的文字描述此外，对色彩描写的低估和夸大，以及词汇的脱离。因此，这项艰巨的任务需要来自专业来源的一致的文本描述。最终，由于这些具有挑战性的数据集和这个缺点，我们的框架是第一个在阿拉伯语文本到图像生成方面取得巨大成功的框架。5. 结论在本文中，我们提出了一个强大的架构，旨在生成高分辨率的现实，文本图像匹配的图像条件下，与阿拉伯语文本描述。为了实现这一目标，首先，我们应用DeepL翻译器在CUB和Oxford-102花卉数据集上将文本描述从英语翻译为阿拉伯语。然后，我们降低了由AraBERT产生的句子向量维数以匹配FD-GAN输入形状。在此基础上，通过将句子嵌入向量注入DF-GAN生成器和嵌入向量，实现了AraBERT和DF-GAN的融合。与使用英文文本描述的stackGAN++相比，该方法在CUB和Oxford-102数据集上的FID得分分别为55.96和59.45，SI得分分别为3.51和3.06，但阿拉伯语文本相对于英文文本来说比较复杂。我们的框架是第一个在阿拉伯语文本中取得巨大成功的框架图像生成任务。CRediT作者贡献声明Mourad Bahani：概念化，方法论，软件，数据管理，写作-原始草稿。Aziza El Ouaazizi：方法、调查、监督、修订。哈利勒·马尔米：监督，重新审视.竞合利益作者声明，他们没有已知的竞争性财务利益或个人关系，可能会影响本文报告的工作数据可用性文章中描述的研究未使用任何数据引用[1] [10] Goodfellow I，Abadie PJ，Mirza M，Xu B，Warde-Farley D，Ozair S，etal. 生成对抗网。在：神经信息处理系统的进展。2014，p. 2672-80[2]吴红，郑S，张杰，黄凯. GP-GAN：实现逼真的高分辨率图像混合。在：第27届ACM多媒体国际会议论文集，ser. MM.纽约：计算机协会; 2019，p. 2487-95[3]Henrique Kiyoiti dos Santos Tanaka F，Aranha C.使用gans的数据扩充。 In：Proceedings of Machine Learning Research XXX，1：16，2019。[4]Zhang H，Xu T，Li H，Zhang S，gang Wang X，Huang X，et al. Stackgan++：Realisticimagesynthesiswithstackedgenerativeadversarialnetworks.IEEETPAMI2018;41（8）：1947-62.[5]徐涛，张平，黄勤，张宏，甘正，黄新，等.细粒度注意力生成对抗网络的文本到图像生成。在：IEEE计算机视觉和模式识别会议论文集，2018年。p. 1316-24。[6]Zhang H，Xu T，Li H，Zhang S，Wang X，Huang X，et al. Stackgan：Text tophoto-realistic image synthesis with stacked generative adversarial networks.In：Proceedings of the IEEE International Conference on Computer Vision，2017.第5907-15页。[7]作者：Zhu MP，Chen W，Yang Y. DM-GAN：用于文本到图像合成的动态记忆生成对抗网络。在：IEEE计算机视觉和模式识别会议论文集。2019，第5802-10页https://arxiv.org/[8]Li W，Zhang P，Zhang L，Huang Q，He X，Lyu S，et al. Object-driven text-to-image synthesis via adversarial training.在：IEEE计算机视觉和模式识别会议论文集，2019年。p. 12174-82[9]乔T，张杰，徐东，陶东. Mirrorgan：通过重新描述学习文本到图像的生成。在：IEEE计算机视觉和模式识别会议论文集，2019年。p. 1505-14[10] Tao M，Tang H，Wu S，Sebe N，Jing X，Wu F，et al. Deep fusion generativeadversarial networks for text-to-image synthesis. 2020年，arXiv预印本，arXiv：2008.05865v2。[11] 黄文辉，陈文辉. Caltech-UCSD birds-200-2011数据集。技术报告CNS-TR 2011 -001，加州理工学院;2011年。[12] Nilsback M，Zisserman A.大量花卉的自动分类的阶级。ICVGlP2008;2008：722729。[13] 放大图片作者：Robin R，Patrick E，Bjorn O.使用条件可逆神经网络进行网络到网络的翻译。2020，arXiv：2005.13580v2.[14] 放大图片作者：J.用于高保真自然图像合成的大规模GAN训练。第七届学习表征国际会议，ICLR，2019。[15] Antoun W，Baly F，Hajj H，Antoun W，Baly F，Hajj H.阿拉伯语BERT。2021年，https://arxiv.org/abs/2003.00104v4。[16] 张丽萍，李伟，李伟. Bert：用于语言理解的深度双向转换器的预训练。2018年，arXiv预印本arXiv：1810。04805[17] Socher R ， Perelygin A ， WuJ ， ChuangJ ， Manning DC ， Ng A ， et al.Recursive deep models for semantic compositionality over a sentimenttreebank.2013年自然语言处理经验方法会议论文集，2013年。p. 1631-42年。[18] Tjong Kim Sang EF，Meulder FD. conll-2003共享任务介绍：独立于数据库的命名实体识别。在：CoNLL。2003年。[19] Rajpurkar P，ZhangJ， Lopyrev K，Liang P. Squad：100，000 + questions formachine comprehension of text.在：2016年自然语言处理经验方法会议论文集，2016年。p. 2383-92.M. Bahani等人阵列16（2022）1002607[20] Hochreiter S，Bengio Y，Frasconi P，SchmidhuberJ.递归网络中的梯度流：学习长期依赖的困难，动态递归神经网络的现场指南。New Jersey：IEEE Press.[21] 作 者 ： J.J. T ， J.J. 关 于 训 练 递 归 神 经 网 络 的 困 难 。 JMLR ： W 和 CP 。 In ：Proceedings of the 30th International Conference on Machine Learning ， 28 ，Atlanta，Georgia，USA，2013.[22] 放大图片作者：J. 2019.用于高保真自然图像合成的大规模gan训练。上一篇：学习表征[23] Zhang H，Goodfellow I，Metaxas D，Odena A.自我注意生成对抗网络。在：2019年机器学习国际会议p. 7354-7363。[24] 作者：Jiang H，Jiang T，Jiang S. 提高泛化能力和稳定性 生成式对抗网络。在：国际会议上学习表示，2019年。[25] Salimans T，Goodfellow I，Zaremba W，Cheung V，Radford A，Chen X.训练甘斯的改进技术。在：神经信息处理系统的进展。2016，p. 2234-42[26] Heusel M，Ramsauer H，Unterthiner T，Nessler B，Hochreiter S.甘斯训练师两时间尺度更新规则收敛到局部纳什均衡。在：预付款在神经信息处理系统中。2017年，p.6626-37[27] Zhu Y， Kiros R， Zemel R， Salakhutdinov R， Urtasun R， Torralba A，et al.Aligning books and movies：Towards story-like visual explanations by watchingmovies and reading books.在：2015年IEEE计算机视觉国际会议论文集。p. 十九比二十七[28] 埃尔海尔IA。1.5十亿字阿拉伯语语料库。2016年，arXiv预印本，arXiv：1611。04033[29] [10] 杨 晓 ， 王 晓 . OSIAN ： 开 源 国 际 阿 拉 伯 语 新 闻 语 料 库 - 准 备 和 集 成 到clarininfrastructure中。第四届阿拉伯语自然语言处理研讨会论文集。佛罗伦萨，意大利：计算语言学协会; 2019，p. 175比82[30] 黄志，徐伟，余凯.用于序列标记的双向LSTM-CRF模型。 2015年，arXiv预印本arXiv：1508.01991。[31] LimJ， Ye HJC.几何Gan。2017年，arXiv预印本，arXiv：1705.02894。[32] 金玛·P，巴·DJ。Adam：一种随机优化方法。2015年：国际[33] Szegedy C，Vanhoucke V，Ioffe S，ShlensJ， Wojna Z.重新思考计算机视觉的初始架构。In：Proceedings of the IEEE conference on computer vision andpattern recognition，2016.p. 2818-26