对抗鲁棒性是什么意思
时间: 2023-09-20 12:09:36 浏览: 53
对抗鲁棒性是指一个系统或模型对抗复杂适应系统的能力。它不同于稳定性,稳定性通常指的是系统的特性随时间不变化的能力,而鲁棒性更全面地考虑了系统面对复杂环境和对抗性情况的适应能力。
在机器学习领域,对抗鲁棒性通常指的是模型对付对抗样本的能力。对抗样本是经过微小的、人眼无法察觉的扰动后,使得机器学习模型产生错误分类结果的输入。对抗鲁棒性研究旨在提高模型对抗样本的识别能力,使其不易受到对抗性攻击。
传统的基于经验风险最小化的神经网络在面对对抗样本时往往不具备鲁棒性。为了提高模型的鲁棒性,需要进行对抗训练,即将对抗样本加入到训练数据中,使模型能够学习并适应对抗样本的特点,从而提高其鲁棒性。然而,有时候越鲁棒的模型在干净测试集上的精度反而会降低,这是一个仍然需要深入研究的问题。<span class="em">1</span><span class="em">2</span><span class="em">3</span>
#### 引用[.reference_title]
- *1* [鲁棒性通俗理解](https://blog.csdn.net/The_Time_Runner/article/details/89643644)[target="_blank" data-report-click={"spm":"1018.2226.3001.9630","extra":{"utm_source":"vip_chatgpt_common_search_pc_result","utm_medium":"distribute.pc_search_result.none-task-cask-2~all~insert_cask~default-1-null.142^v93^chatsearchT3_2"}}] [.reference_item style="max-width: 50%"]
- *2* *3* [「万字综述」对抗鲁棒性-AI桥头堡「AI核心算法」](https://blog.csdn.net/u9Oo9xkM169LeLDR84/article/details/108413682)[target="_blank" data-report-click={"spm":"1018.2226.3001.9630","extra":{"utm_source":"vip_chatgpt_common_search_pc_result","utm_medium":"distribute.pc_search_result.none-task-cask-2~all~insert_cask~default-1-null.142^v93^chatsearchT3_2"}}] [.reference_item style="max-width: 50%"]
[ .reference_list ]