AI模型安全：后门攻击与数据窃取策略

AI安全白皮书深入探讨了在当前人工智能技术广泛应用的背景下，模型窃取攻击（Model Stealing Attack）作为AI安全面临的主要威胁之一。这种攻击方式包括药饵攻击和后门攻击，它们主要针对AI模型的生成、传输和使用过程。 药饵攻击利用神经网络模型的特性，通过在模型中植入特定神经元，形成对特定输入的控制，这种后门具有高度隐蔽性，仅在输入包含预设的模式时才会触发。例如，Gu等人的研究展示了如何在图像识别模型中嵌入难以察觉的后门，使得模型对外部观察者来说看似正常，但实际上受到攻击者的操控。 模型/训练数据窃取攻击，类似于Software-as-a-Service中的知识产权盗用问题，通过云服务商提供的AI-as-a-Service接口进行多次调用，攻击者能够推断出模型的参数和训练数据，这不仅侵犯了知识产权，还可能导致黑盒闪避攻击，即利用窃取的模型创建对抗样本，干扰模型的正常判断。 模型窃取攻击涉及对模型完整性和保密性的威胁，特别是在关键应用领域，如图像识别、语音识别和自然语言处理。这些攻击不仅精准，还具有可传递性，特别针对深度神经网络（DNN）模型，增加了AI系统的安全风险。例如，攻击者可能在训练阶段注入恶意数据，或者在判断阶段对样本添加噪声，甚至植入后门进行高级攻击。 华为作为AI安全的重要研究者，强调了构建多层次防御体系的重要性。首先，攻防安全关注设计针对已知攻击的防御机制，以保护AI系统的运行。其次，模型安全通过模型验证提升模型的健壮性，确保其在受到攻击时仍能保持正确判断。最后，架构安全在业务层面设计安全机制，确保AI应用在实际部署中的安全性。 未来，华为将继续投入AI可解释性研究，理解机器学习的工作机制，并开发机制性防御措施，同时关注AI在实际产品中的应用案例，确保技术的安全性和可靠性。在智能社会的构建过程中，华为呼吁与全球客户和伙伴共同应对AI安全的挑战，共同推动AI技术的安全发展。