SELF-INSTRUCT：提升预训练语言模型的指令理解能力

"self-instruct 自动生成指令数据是 ACL2023 上提出的一种新框架，旨在提高预训练语言模型的指令执行能力。该框架通过利用模型自身的生成能力，自动生成指令、输入样本和输出样本，然后进行过滤和优化，用于微调原始模型，从而在没有大量人类编写指令数据的情况下也能提升模型的泛化能力。实验结果显示，该方法能显著提升模型在新任务上的零样本泛化性能。" 在当前的自然语言处理领域，大型的“指令调优”语言模型（如经过微调以响应指令的模型）已经展示出在零样本情况下处理新任务的出色能力。然而，这些模型严重依赖于人类编写的指令数据，而这些数据在数量、多样性和创造性上往往有限，这限制了模型的泛化性能。SELF-INSTRUCT 框架就是为了克服这一挑战而提出的。 SELF-INSTRUCT 的工作流程如下：首先，它使用一个预训练的语言模型生成一系列指令、输入和期望的输出样本。这个过程是自动化的，允许模型在无监督的环境中自我学习和创造任务描述。接着，系统会执行一个过滤步骤，剔除无效或相似的生成样本，确保用于后续微调的数据质量。最后，这些经过筛选的指令和样例被用来微调原始的预训练模型，增强其理解并执行自动生成指令的能力。 实验中，研究人员将该方法应用于基础版的 GPT3 模型。结果显示，通过 SELF-INSTRUCT 方法，模型在新任务上的绝对性能提升了 33%，这表明这种方法对于提升模型的指令理解和执行效率具有显著效果。此外，这种方法的创新之处在于其自我强化的特性，可以利用模型自身的生成能力来不断优化其自身，无需大量的人工标注数据，降低了对昂贵且耗时的人工干预的依赖。 SELF-INSTRUCT 为提升语言模型的零样本学习和泛化能力提供了一个有效且高效的新途径，尤其在面对多样化和复杂任务时，这种自动化的指令生成和微调策略有望进一步推动人工智能在理解和执行任务方面的进步。