神经架构搜索研究进展与未来展望

摘要

针对人工设计神经网络架构效率低、寻优困难等问题，梳理了神经架构搜索（NAS）领域近几年的研究进展，不同于传统综述逐一分析NAS核心组件的方式，该文基于2017年以来的NAS文献，构建了一个包含“核心方法-多目标优化-跨领域协同”的三维综述框架。通过分析，归纳出NAS基于强化学习、进化算法、梯度优化、零成本代理以及单次训练的5种核心方法，分析了这些方法对应的多目标优化策略，同时从硬件架构与领域知识融合两个层面探讨了跨领域协同机制。利用该三维分析框架，阐述了NAS技术的演进规律，指出了NAS在核心方法、多目标优化、跨领域协同方面面临的技术挑战和未来研究方向，为解决现有方法的问题提供了参考，有助于NAS技术的进一步发展。

关键词

神经架构搜索 / 自动化机器学习 / 深度学习 / 架构优化 / 多目标优化 / 跨领域协同