Anthropic团队发布新论文：大型语言模型的道德自我修正能力

"近期，一家名为'Anthropic'的初创公司，由OpenAI早期和核心团队成员创建，与ChatGPT竞争的劲敌团队发布了一篇重要的学术论文《The Capacity for Moral Self-Correction in Large Language Models》(大规模语言模型的道德自我修正能力)。论文旨在探讨大型语言模型是否具备通过自然语言指令进行自我修正，从而避免输出有害言论的能力。 论文指出，随着模型参数规模达到22B，模型展现出显著的道德自我纠正特性，表现为两个关键方面：一是能够遵循指令，二是能够理解并学习复杂的规范概念，如刻板印象、偏见和歧视。这些能力使得模型在接收到相关指令时，能有效地抵制道德上负面的输出。研究者通过三个实验提供了有力的证据，证明了这种自我修正能力随着模型规模的增大和强化学习的去偏见训练（RLHF，Regularized Language Model Fine-tuning）的增强而提升。 值得注意的是，随着模型尺寸的增加，尽管整体性能得到增强，但大型语言模型也可能放大社会偏见问题，这是一个亟待解决的挑战。T.Schick等人先前的研究曾发现，像GPT-2和T5这样的模型在提示下可以自我诊断其文本中的刻板偏见和毒性。然而，'Anthropic'团队的研究则进一步深入，提出了通过编程式的道德引导，使模型具备自我约束的能力，这对于AI安全性和道德责任的讨论具有重大意义。 这篇论文不仅关注技术层面的进步，也触及到了人工智能伦理的前沿议题，强调了在推动技术发展的同时，如何确保AI的行为符合社会价值观和道德标准。这对于未来的大模型设计和应用具有指导作用，预示着在AI领域，道德和责任将成为不可忽视的重要考量因素。"