基于深度强化学习的编译器指令调度与代码生成优化

史晓伦; 赵春芳

doi:10.16009/j.issn.1009-5624.2026.13.017

信息记录材料 ›› 2026, Vol. 27 ›› Issue (13) : 55 -57+69. DOI: 10.16009/j.issn.1009-5624.2026.13.017

基于深度强化学习的编译器指令调度与代码生成优化

史晓伦, 赵春芳

作者信息 +

Author information +

文章历史 +

摘要

针对传统编译器指令调度与代码生成优化面临的搜索空间庞大、优化目标耦合度高、启发式规则依赖专家经验等问题，本文提出一种基于深度强化学习的编译器优化方法。通过构建马尔可夫决策过程的优化框架，研究状态空间中代码图的表示方法与动作空间粒度的设计，并设计兼顾性能与开销的奖励函数；针对搜索空间的冗余分支问题，引入融合蒙特卡洛树搜索的智能剪枝策略。以神经网络编译器自动调优模块为例进行验证，实验结果表明，该方法在多种处理器架构上显著提升了代码执行性能与搜索效率。