深度学习的未来：神经架构搜索

【导读】我们中的很多人知道ResNet的成功，当我们使用ResNet作为预训练网络时，有没有好奇过，怎么会有人能够想出这样的网络呢？这就是神经架构搜索做的事。我们只需要将数据集输入神经架构搜索系统，它就能针对该数据集找到最适合的神经架构。神经架构搜索可以看出是一个AutoML的一个子领域，并与超参数优化有显著的替身。为了理解神经架构搜索，我们需要仔细思考它在做什么。它是在所有可能的结构中，以一定的搜索策略，找到最大化性能的结果。下图是对神经架构搜索的一个总结。它有三个主要组成部分：搜索空间、搜索策略与性能评估。搜索空间定义了神经架构搜索可能给出的模型。它可以是链式的结构，第n-1层的输出作为第