NSGANetV2：多目标进化代理辅助神经架构搜索提升效率与普适性

NSGANetV2是一种进化多目标代理辅助神经架构搜索（NAS）方法，旨在解决计算机视觉领域中常见的神经网络架构搜索（NAS）问题。传统基于进化计算（EC）的NAS方法在速度和计算成本上存在显著短板，且往往局限于标准数据集如ImageNet、CIFAR-10和CIFAR-100，其成果尚未在更广泛的实际应用中得到验证。NSGANetV2的目标是实现更高效的搜索策略，特别是在自定义的非标准数据集上找到高性能模型，同时减少计算负担。 该研究的主要贡献在于构建了两个关键的代理模型：一个用于架构层面（上层目标函数），通过提高采样效率来指导搜索过程；另一个在权值层面（下层目标函数），利用超网权值共享来提升梯度下降训练的效率。这种设计旨在优化搜索过程中的效率，使得在标准基准数据集上，NSGANetV2能够生成性能至少与现有方法相当，甚至超越的模型，同时搜索的样本效率比传统方法高几个数量级。 搜索空间的设计着重于卷积神经网络（CNN）的四个核心维度：深度（如层数）、宽度（通过通道数）、内核大小和输入分辨率。每个block至少包含两层，并限制特征图的输入大小在192到256像素之间。通过整数编码来表示这些结构选择，确保所有架构编码具有固定长度，便于处理。 NSGANetV2的具体实施方式是将CNN分解为五个连续的block，每个block内的设计包括可变的层数、步长2的使用策略（仅在特征图尺寸减小时）、倒置瓶颈结构（搜索膨胀率和卷积核大小）、以及保持残差连接的1×1卷积，以避免模型性能退化。 实验结果显示，NSGANetV2不仅在标准数据集上表现出色，而且在六个不同类型的非标准数据集上验证了其有效性和通用性。这表明NSGANetV2不仅针对特定任务进行了优化，而且具有较强的适应性，能够在各种场景下提供高质量的模型设计。NSGANetV2为解决计算密集型的NAS问题提供了创新的解决方案，对于推动深度学习在计算机视觉领域的实际应用具有重要意义。