基于递归结构的神经网络架构搜索算法

摘要

神经网络架构搜索算法旨在通过计算机的启发式搜索代替人工搜索,在巨大的神经网络结构空间中寻找更为高效的神经网络结构.许多研究通过引入各种对搜索空间的约束来解决早期神经网络结构搜索效率低下、耗时长的问题.然而,对于搜索空间的约束虽然能够提升并稳定所搜索到的模型的性能,但同时也导致了很多潜在的高性能模型结构无法被搜索到.构建了一种更为关注神经网络宏观结构的递归型搜索空间,并提出通过分步渐进搜索方案探索这个搜索空间的神经网络架构搜索算法.实验表明,该算法能在复杂的搜索空间中高效完成神经网络架构搜索任务,但与最新的基于受约束搜索空间的神经网络架构搜索算法相比仍稍有差距.

关键词

神经网络架构搜索 / 图像分类 / 卷积神经网络