增强PLM鲁棒性的声学组块混淆语言模型微调策略

本文主要探讨了如何增强预训练语言模型（Pre-trained Language Models, PLMs）在口语语言理解（Spoken Language Understanding, SLU）任务中的鲁棒性。随着PLMs在自然语言理解（Natural Language Understanding, NLU）领域取得显著成果，它们在书面文本处理上表现出强大的能力。然而，当将这些模型应用到口语环境时，由于自动语音识别（Automatic Speech Recognition, ASR）的误差，SLU的性能会受到影响，导致理解精度下降。 针对这一问题，研究者李荣军、郭秀焱和杨静远提出了一种新颖的声学组块混淆语言模型微调算法。该算法首先通过比较ASR的识别结果与人工转录的精确文本，识别出由于连读和删除等现象导致的文本组块混淆。接着，他们设计了一个新的预训练任务，目的是让PLM学习到发音相近的文本组块应具有相似的特征嵌入表示，以此来抵消ASR错误对模型理解的影响。 通过在三个基准数据集上的实验，作者证明了这种方法相较于传统方法，显著提升了SLU模型的鲁棒性。研究结果表明，他们的算法能够有效减轻ASR错误对PLM性能的影响，从而实现更准确的口语理解。论文的关键技术和术语包括意图识别（Intent Recognition）、语言模型微调（Language Model Fine-tuning）、深度学习（Deep Learning）以及自然语言理解和口语语言理解的区分（Difference between NLU and SLU）。 总结来说，本文的核心贡献在于提出了一种基于深度学习的策略，通过优化PLM对声学混淆文本组块的处理，提高了口语理解任务中的模型鲁棒性，这对于实际应用中的语音交互系统具有重要意义。此外，文章还提供了详细的实验结果和标准引用格式，便于其他研究人员进一步评估和扩展该领域的研究。