基于Cache功能模拟的GPU内存系统建模

摘要

重用距离分析是一种常用的基于Trace的Cache性能分析方法.然而，随着现代GPU微架构的持续演进，现有基于重用距离理论的GPU内存分析模型由于简化了过多硬件特性，导致了显著的失真.为此，本文提出一种基于Trace和Cache功能模拟的GPU内存系统建模框架，针对现代GPU的关键内存特性进行了精确建模，包括Sector Cache、自适应L1缓存分配机制以及写直达与写回策略等.通过在Volta架构及多个基准测试套件上的实验验证，论文模型相较现有最先进模型PPT-GPU-Mem在多个关键指标上显著提升了预测精度：L2命中率误差从43.39%降至15.86%,显存读写事务次数误差从42%降至16.85%.

关键词

GPU / 内存模型 / 重用距离 / 功能模拟 / NVIDIA NVBit

基金资助

中国科学院战略性先导科技专项项目(XDB0500102)资助