RISC-V向量滑动指令在编译器中的自动生成方法

姚金阳 ,  刘福东 ,  戚旭衍

信息工程大学学报 ›› 2026, Vol. 27 ›› Issue (2) : 169 -177.

PDF (893KB)
信息工程大学学报 ›› 2026, Vol. 27 ›› Issue (2) : 169 -177. DOI: 10.3969/j.issn.1671-0673.2026.02.006
计算机科学与技术

RISC-V向量滑动指令在编译器中的自动生成方法

作者信息 +

Automatic Generation Method of RISC-V Vector Sliding Instructions in Compilers

Author information +
文章历史 +
PDF (913K)

摘要

针对RISC-V V扩展向量滑动指令在图形处理、信号处理等领域实用价值显著,但现有编译器自动向量化框架不支持其自动生成、性能潜力受限的问题,提出一种面向该指令的自动向量化框架。首先,该框架可识别具有目标特征的标量循环,并将其自动转换为含向量滑动指令的向量化循环;其次,该框架已集成至GCC编译器(GNU C/C++ Compiler)。基于gem5模拟器,选取多领域典型应用核心函数开展测试。实验结果表明,所提框架可有效完成向量滑动指令的自动生成。性能对比显示,与标量版本相比,经向量滑动指令优化后的核心函数性能提升显著,最高加速比为20.1,几何平均加速比为8.44。

Abstract

Although vector sliding instructions in the RISC-V V extension exhibit significant practical value in graphics processing, signal processing and other fields, automatic generation of such instructions is not supported in the existing compiler auto-vectorization frameworks, thus limiting their performance potential. To address this issue, an auto-vectorization framework oriented to vector sliding instructions is proposed. Firstly, scalar loops with target characteristics can be identified in the framework, which is further automatically transformed into vectorization loops containing vector sliding instructions. Secondly, the framework has been integrated into the GCC compiler. Kernel functions of typical applications across multiple domains are selected for testing based on the gem5 simulator. Experimental results demonstrate that automatic generation of vector sliding instructions can be effectively achieved in the proposed framework. Performance comparisons indicate that the kernel functions optimized with vector sliding instructions gain remarkable performance improvements compared with those of their scalar counterparts, with a maximum speedup of 20.1 and a geometric mean speedup of 8.44.

Graphical abstract

关键词

编译器 / 自动向量化 / 单指令多数据 / RISC-V架构 / 向量滑动指令

Key words

compiler / auto-vectorization / single instruction multiple data / RISC-V architecture / vector sliding instructions

引用本文

引用格式 ▾
姚金阳,刘福东,戚旭衍. RISC-V向量滑动指令在编译器中的自动生成方法[J]. 信息工程大学学报, 2026, 27(2): 169-177 DOI:10.3969/j.issn.1671-0673.2026.02.006

登录浏览全文

4963

注册一个新账户 忘记密码

向量扩展部件已成为现代处理器的标配组件,其通过数据并行计算显著提升程序运行效率,在高性能计算、嵌入式系统等领域发挥核心作用。开源指令集架构RISC-V凭借模块化、可扩展及无许可成本的特性,已成为学术界与工业界的研究热点,逐步在处理器设计及应用开发中得到广泛应用。RISC-V架构集成的V扩展指令集是面向现代计算需求的新型向量扩展标准,其核心创新在于将向量寄存器长度与指令操作解耦,突破了传统固定宽度向量指令的限制,显著提升了向量指令的应用灵活性。
RISC-V V扩展不仅涵盖经典的单指令多数据(Single Instruction Multiple Data, SIMD)向量指令,还提供了丰富的向量整理指令集,其中向量滑动指令是一类关键的指令,包括vslideup、vslidedown、v[f]slide1up及v[f]slide1down等。该类指令可实现向量寄存器内元素沿槽位的灵活滑动,支持数据插入、删除及对齐等核心操作,在数组偏移优化等场景中表现出比向量聚集指令更优的性能,其通过规避不规则访存带来的开销,大幅提升数据重组效率。然而,这一高性能指令尚未被GNU C/C++ Compiler(GCC)等主流编译器支持自动生成,目前仅能通过嵌入式汇编、Intrinsic函数等向量编程接口以手工向量化方式调用,严重限制了其在实际应用中的普及。
手工向量化是当前调用特殊向量指令的主要手段,具体包括嵌入式汇编、Intrinsic函数、C++类库扩展及SIMD库函数等实现方式[1-2]。该方法可在应用开发阶段直接规划数据并行逻辑,从而有效提升程序的并行计算性能[3-4]。尽管手工向量化的性能优化效果常优于编译器自动向量化,但存在显著两点弊端:一方面,要求开发人员投入大量精力掌握特定架构的向量指令集及映射策略;另一方面,手工编写的代码可移植性差,难以适配不同处理器架构,增加了软件维护成本。因此,提升编译器自动向量化能力以生成高效向量代码,已成为编译器优化领域的核心研究问题之一[5]。
针对非SIMD向量指令的自动向量化问题,学术界已开展相关探索。Chen等[6]提出向量生成器VeGen,用于解决现代处理器中非SIMD向量指令的自动向量化难题。该方法引入通道级并行性(Lane Level Parallelism, LLP)概念,可统一刻画SIMD与非SIMD向量指令的并行模型;其核心设计是将目标架构相关的向量优化工具与目标无关的向量化算法解耦,从而无需在编译器各阶段间进行临时协调即可实现非SIMD指令的系统优化。需要指出的是,VeGen的优化对象聚焦于Intel AVX2等架构的非SIMD指令,比如vhaddpd、vpmaddwd,这类指令在图像处理、数字信号处理及机器学习领域应用广泛,但该方法并未覆盖RISC-V架构下的向量滑动指令,无法解决前述RISC-V平台的性能瓶颈问题。
编译器作为基础软件,在各领域的程序开发中发挥着不可替代的作用[7]。传统编译器自动向量化技术主要分为循环级向量化与基本块级向量化两大方向,二者分别针对程序中不同类型的并行性展开优化。循环作为程序运行时间的主要消耗部分,是自动向量化的核心优化对象,主流编译器大部分向量优化工作均围绕循环展开[8]。目前,Intel C/C++ Compiler(ICC)[9]、GCC[8]、LLVM/Clang[10]等主流编译器均已支持循环级向量化,但各编译器的优化能力存在显著差异。
循环级向量化是传统向量化技术的基石,由Allen等[11]首次提出。该技术核心目标是挖掘循环迭代间的并行性,通过依赖关系分析识别无循环间依赖的语句集合,将数组操作转换为向量单元操作,从而实现内层循环的并行加速。研究者在此基础上进行多方面扩展。Nuzman等[12]提出基于循环展开的外层循环向量化方法,在特定应用场景下取得优于内层循环向量化的加速效果。部分研究则将多面体技术[13]应用于多层嵌套循环的分组优化,即多面体循环向量化技术。该技术通过迭代域、仿射调度及访存函数统一表示程序变换,为复杂循环的向量化问题提供系统性解决方案。
基本块级向量化是自动向量化的另一重要方向,旨在挖掘基本块内部语句的向量并行性。Larsen等[14]于2000年提出的超字并行(Superword Level Parallelism, SLP)方法是该领域的奠基性成果,其通过分析基本块内的连续内存访问及数据复用特征,识别可并行执行的同构语句并将其转换为向量指令。近年来,学术界围绕SLP方法开展大量改进研究:Rosen等[15]提出循环感知型SLP向量化方法,通过扩展可向量化计算的范围、重用编译器现有分析与转换基础设施,减少数组重组操作以提升向量化效率;Porpodas等[16]提出可变宽度SLP(Variable-Width SLP, VW-SLP)算法,其可在指令粒度动态调整向量宽度,更精准地适配代码的SIMD并行特性,从而暴露更多潜在的向量并行性。
自动向量化技术已取得长足发展,但随着向量指令集不断丰富,现有编译器仍无法实现对所有向量指令的自动生成支持,针对开源架构RISC-V的向量滑动指令便是典型例证。现有技术要么聚焦于特定架构的非SIMD指令,要么局限于传统循环或基本块的通用向量化,均未针对RISC-V向量滑动指令的结构特征与应用场景设计专项优化方案。为此,提出面向RISC-V向量滑动指令的自动向量化框架,旨在实现编译器支持对该类指令自动生成,释放RISC-V向量扩展的性能潜力。

1 向量滑动指令自动生成方法设计

针对RISC-V向量滑动指令缺乏编译器自动生成支持的问题,设计一种面向编译器自动向量化系统的方法。通过识别具有特定访存与计算特征的标量代码,实现向量滑动指令的自动化生成与替换。该方法已集成至GCC编译器的向量化框架,其核心设计围绕指令特征解析与目标代码识别展开。

1.1 RISC-V向量滑动指令解析

RISC-V V扩展指令集在提供向量计算指令的同时,集成了大量面向数据重组的向量整理指令,向量滑动指令是其中实现高效数据移位的核心指令类别[17]。根据RISC-V架构规范[18],向量滑动指令通过在向量寄存器组内实现元素的定向移位,相比vmerge、vcompress之类的通用寄存器聚集指令可减少30%以上的访存与运算开销,其核心优势在于将多步数据重组操作压缩为单指令完成,规避了不规则访存带来的延迟。

向量滑动指令家族涵盖3类核心指令,其功能与参数特征存在明确划分。1)通用向量滑动指令:包括向上滑动指令(vslideup)与向下滑动指令(vslidedown),支持通过向量寄存器值或立即数指定移位偏移量,实现多元素批量滑动;2)整数单元素滑动指令:包括vslide1up与vslide1down,固定每次仅滑动1个元素,无需指定偏移量参数,适用于相邻元素重组场景;3)浮点单元素滑动指令:包括v[f]slide1up与v[f]slide1down,功能与整数单元素指令一致,专门适配浮点型向量数据的移位操作。

上述指令均以向量寄存器组为操作对象,通过固定或可变偏移量实现元素有序移位,且操作过程中保持向量长度(Vector Length, VL)与元素类型的一致性,这为编译器自动生成指令提供了参数匹配基础。

1.2 目标代码特征识别

向量滑动指令的自动生成依赖于对特定代码特征的精准识别,该特征的核心是重叠内存访问模式,即程序在循环迭代过程中,相邻迭代或同一次迭代内对同一内存区域存在重复访问。这种模式广泛存在于图形渲染、信号滤波、流体力学模拟等领域的核心算法中,Jacobi-2-D迭代算法的核心循环便是典型案例,如图1所示的标量版本。

在图1所示的标量循环中,第(k-1)次迭代对数组a[k-2]、a[k-1]、a[k]访问,第k次迭代对a[k-1]、a[k]、a[k+1]访问,第(k+1)次迭代对a[k]、a[k+1]、a[k+2]访问。上述3次迭代访问存在内存区域重叠,即单个数组元素a[k]被连续3次迭代重复读取。当该循环被向量化后,这种重叠访存特征会在单次向量迭代内进一步凸显。向量寄存器中存储的当前迭代数据,如a[i]的向量片段,与下1次迭代需加载的a[i+1]、上1次迭代已加载的a[i-1]存在元素级重叠,传统向量化方法需通过3次独立向量加载操作获取完整数据,导致访存开销激增。

向量滑动指令恰好可匹配该特征并优化性能,图2与图3分别对比了基于向量滑动指令与传统向量聚集—散播指令的向量化实现方案,二者的核心差异体现在数据获取方式与指令开销上。

图2方案中,仅通过1次向量加载操作获取当前迭代所需的a[i]向量片段,上1次迭代残留的a[i-1]向量片段通过vslide1up指令向上滑动1个元素得到,下1次迭代需提前获取的a[i+1]向量片段则通过vslide1down指令向下滑动1个元素得到。整个过程仅需3条核心向量指令(1次加载+2次滑动),且无需额外设置偏移量参数。

图3方案中,需通过3次独立向量加载操作分别获取a[i-1]、a[i]、a[i+1]的向量片段,且每次加载前需通过3条向量索引设置指令(如vsetvl)配置字节偏移量,总计需6条以上核心指令。由于向量加载指令的延迟通常是寄存器运算指令的4~8倍,该方案的访存延迟与指令条数均显著高于滑动指令方案。

当前LLVM、GCC等主流编译器的自动向量化模块,虽能识别重叠访存模式,但无法将其与向量滑动指令关联。编译器通常默认采用聚集—散播指令或标量循环展开方式处理该模式,导致优化效果受限。手工向量化虽可调用滑动指令,但需开发人员掌握RISC-V V扩展指令集细节与底层架构特性,且代码可移植性差。因此,构建从重叠访存模式识别到指令参数匹配,再到滑动指令生成的自动化链路,是解决该问题的核心技术路径。

1.3 向量滑动指令自动生成框架设计

1.3.1 设计目标

现有GCC循环向量化方法在处理跨迭代元素依赖的滑动窗口场景时,常依赖多次向量加载或显式内存重排操作,导致内存访问开销增加、寄存器利用率下降,在滤波器、卷积运算、移动平均等典型算法中性能瓶颈尤为突出[19]。针对GCC自动向量化系统对滑动窗口访问模式支持不足的核心问题,设计一种面向RISC-V架构的优化框架,实现向量滑动指令(vslideup、vslidedown等)的自动化识别与生成。

该框架的核心设计目标体现在3个方面。1)透明性:无需修改用户源代码,通过增强编译器内部分析能力实现优化;2)高效性:将同一基址的多偏移访存合并为单次向量加载,配合滑动指令完成数据重组,减少访存次数与指令条数;3)兼容性:与GCC现有向量化基础设施可以无缝集成,通过扩展GIMPLE中间表示(Intermediate Representation, IR)、新增指令匹配模板及边界处理机制,确保生成代码的正确性与高效性。具体而言,框架在GIMPLE IR层引入滑动操作符,在后端指令选择阶段匹配RISC-V指令模板,并自动处理边界掩码与尾部循环,形成从模式识别到IR扩展,再到指令生成的完整路径。

1.3.2 自动生成框架设计

自动生成框架由滑动模式检测、滑动向量化生成、中间表示扩展、后端模式匹配及汇编生成与优化5个核心模块构成,处理流程如图4所示。

该流程遵循GCC编译链路:源代码经前端处理生成与硬件无关的GIMPLE SSA IR,SSA为静态单赋值(Static Single Assignment),向量化系统基于IR完成依赖分析与模式转换,最终由后端适配生成RISC-V汇编指令。为支持向量滑动指令,框架在向量化系统中增设前3个核心模块,实现从模式识别到IR扩展的关键转换。

1.3.2.1 滑动模式检测模块

滑动模式检测模块位于向量化前期分析阶段,是框架的核心判别单元,负责识别循环体中适合使用滑动窗口的访存模式,与编译器现有循环分析器、数据依赖分析器协同工作,避免冲突[20]。本文设计了滑动窗口检测与转换算法来实现该模块的4个部分核心功能:基址分组、固定偏移集合检测、滑动窗口判定、越界安全性分析,如算法1所示。算法的输入为待优化函数的GIMPLE IR;输出为含滑动优化方案的函数IR、是否生成向量滑动方案的标志。

算法1 滑动窗口检测与转换算法

输入:F // 待优化函数IR

输出:F', flag // 含优化方案的函数IR及是否变换标志

1. F' ← F // 初始设为输入函数

2. flag ← false // 标记尚未发生变换

3. L ← CollectLoops(F') // 收集函数中的所有循环

4. for each loop ℓ in L do // 遍历每个循环ℓ

5. R ← CollectDataReferences(ℓ) // 收集循环中的内存访问

6. G ← GroupByBase(R) // 按基地址对访问分组

7. for each base group g in G do // 遍历每个基地址分组g

8. O ← CollectConstantOffsets(g) // 收集常量偏移

9. if IsConsecutive(O) and Stride(g) = 1 then

10. pattern ← CreateSlidingPattern(g, O) // 构造滑动窗口模式

11. plan ← GenerateSlidingPlan(pattern) // 生成具体变换方案

12. if HasValidTransformation(plan) then // 若方案合法且可行

13. ApplySlidingPlan(ℓ, plan) // 应用选中方案

14. flag ← true // 记录已发生变换

15. end if

16. end if

17. end for

18. end for

19. return (F', flag)

1)基址分组。基于编译器内存引用分析接口扫描循环体所有访存语句,使用GroupByBase函数将访存语句按内存访问基址分组。例如,a[i]、a[i+1]、a[i+2]因共享基址a归为一组,而b[i]因基址不同单独分组。分组结果存储于基址—引用映射表,为后续分析提供基础。

2)固定偏移集合检测。对每组基址g,使用CollectConstantOffsets(g)函数提取所有访问地址相对于基址的偏移量,如i对应偏移0,(i+1)对应偏移1,形成偏移集合O。使用IsConsecutive(O)函数检测O是否满足连续模式,即偏移量为编译器可确定的常量。此外,使用Stride(g)函数判断相邻偏移的步长是否为固定值,即支持步长1或N个元素,适配整数/浮点型数据的连续加载。例如:偏移集合{0,1,2,3}满足步长1的连续模式;{0,2,4,6}满足步长2的连续模式。

3)滑动窗口判定。在连续模式基础上,结合向量长度判断是否可以通过单次加载+滑动指令实现数据复用。该功能在CreateSlidingPattern函数中实现,核心判定逻辑为:若循环第k次迭代访问a[i],…,a[i+VL-1],第(k+1)次迭代访问a[i+1],…,a[i+VL],则两次访问的重叠率为(VL-1)/VL,可通过vslideup指令移除首元素、补充新元素实现,无需重复加载。该判定需结合循环迭代步长与向量长度动态计算,支持VL配置场景。最后使用GenerateSlidingPlan函数生成具体变换方案。

4)越界安全性分析。该功能在HasValidTransformation函数中实现,调用编译器的边界检查接口判断访存是否可能越界。若存在越界风险,例如在循环迭代的后半部分,新生成的数组索引值(i+VL-1)大于等于原标量数组长度N,则在引用表中标记需掩码处理,为后续生成带掩码的滑动指令提供依据。HasValidTransformation函数用于对候选变换方案进行最终的合法性与可行性校验,确保应用该方案不会改变原程序语义。它重点检查滑动或重排后是否仍满足数据依赖关系与别名约束,并能正确处理边界条件(如首尾元素、mask与tail)。同时,该函数验证方案是否满足目标RISC-V V指令的操作数与配置约束,如标准元素宽度(Standard Element Width, SEW)、向量长度乘数(Length Multiplier, LMUL)、VL及滑动量限制,避免生成不可编码或不可执行的指令序列。若任一检查失败,则拒绝该变换并回退到更保守的实现路径,从而保证代码生成的正确性与稳健性。

该算法对函数内每个循环遍历1次,并对循环中的所有内存引用做收集、基址分组、提取常量偏移、连续性与步长判定等步骤操作,整体时间复杂度可近似写为O∑loopRloop,相当于对IR中访存引用总数做线性扫描,其中R表示需要分析的内存访问引用(load、store)总数。此外,算法需要存一些临时结构,比如某一基址下的所有引用、偏移列表。存放元素数量不会超过所有访存引用的总数,因此额外内存开销与R同阶,即空间复杂度为O(R)。所以,其效率主要取决于循环体内访存语句数量,属于编译阶段可接受的轻量级模式检测。

以图5所示标量代码为例,说明算法的具体执行过程,该代码每次迭代需访问数组a中4个相邻元素,存在典型滑动窗口特征。

算法对该循环的分析与转换步骤如下。1)基址分组:提取循环体中a的所有访问引用,得到refs={a[i],a[i+1],a[i+2],a[i+3]},按基址a归为group;2)固定偏移集合检测:提取偏移集合offsets={0,1,2,3},经is_consecutive(offsets)判定为步长1的连续模式;3)滑动窗口判定与越界安全性分析:构造滑动模式描述符pattern={base=a,window_size=4,slide_step=1},生成优化计划plan;4)代码转换:将原始标量操作替换为向量加载与向量滑动指令等向量操作的IR描述,转换后的IR如图6所示。

该IR经后端处理后,最终生成汇编指令,如图7所示。通过vsetivli配置向量参数、vle32.v加载向量等即可完成1轮迭代的主要计算,有效降低访存开销。

该算法适用于连续、相对简单的内存访问场景。对于如下场景,算法并不适用:1)变步长或非连续偏移的内存访问场景,例如滤波函数中使用动态采样间隔,其内存访问步长随输入信号幅度动态调整,该算法无法识别此类特征;2)含间接内存访问的场景,如通过索引数组实现的稀疏矩阵卷积操作,内存访问基址由动态索引间接映射,无法通过该算法中访问分组函数完成有效分组;3)循环内存在复杂控制流的场景,例如图像处理中含条件分支的边缘检测函数,分支语句导致内存访问路径不固定,算法中的CollectDataReferences函数无法提取稳定的访问模式。

1.3.2.2 滑动向量化生成模块

该模块运行于IR转换阶段,基于检测模块输出的滑动方案,生成符合GCC规范的向量操作IR。核心功能包括4个方面。

1)主加载语句确定。在循环首次迭代时选择覆盖窗口内所有元素的主向量加载语句(如v0 = vec_load a[i],…,a[i+VL-1]),作为滑动操作的初始数据来源,确保后续滑动仅依赖寄存器内数据,无需重复访存。

2)虚拟滑动操作符扩展。在GCC向量操作符表(optab)中新增两个平台无关的虚拟操作符:VEC_SLIDEUP与VEC_SLIDEDOWN,分别对应向上与向下滑动语义。通过实现vect_recog_slide_pattern识别函数,将这两个操作符注册为合法向量模式,确保GCC向量化系统可解析。

3)边界掩码生成。对检测模块标记“需掩码处理”的场景,调用GCC的向量掩码生成接口,生成基于迭代计数的掩码(如mask=(i+VL)≤N,全1:尾端有效位为1)。掩码与滑动操作绑定,确保循环尾部迭代仅更新有效元素,避免非法访存。

4)流水线调度优化。为避免滑动指令与计算指令的寄存器依赖冲突,在IR节点中插入数据依赖标记,提示GCC指令调度器将滑动操作与后续计算指令错开执行,确保流水线并行效率。

图8以向量寄存器数据变化为例,直观展示了VEC_SLIDEUP操作符的语义。初始主加载向量v0存储a[i],…,a[i+3],经VEC_SLIDEUP(偏移1)后,v0变为a[i-1],…,a[i+2],实现数据窗口的滑动更新。

1.3.2.3 中间表示扩展模块

该模块将虚拟滑动操作符转化为GIMPLE IR可识别的语句节点,通过设计vect_create_slide_stmt核心接口完成扩展,接口功能包括3个部分。1)生成类型为GIMPLE_VEC_SLIDE的语句节点,携带滑动方向(UP/DOWN)、偏移量、掩码信息等元数据;2)将该节点插入循环控制流图的对应位置,更新数据流链,如将滑动结果作为后续计算的操作数,确保依赖关系与原代码一致;3)为RTL转换阶段生成语义描述,如SLIDE_OPCODE、SLIDE_OFFSET属性,使后端能精准映射为机器指令。

该扩展具有架构无关性,可无缝迁移至支持滑动语义的其他处理器架构(如ARM SVE)。

1.3.2.4 后端模式匹配模块

进入后端RTL阶段后,模块通过扩展RISC-V目标描述文件(riscv.md),实现GIMPLE IR到机器指令的映射。新增两类RTL模式匹配规则,覆盖无掩码、带掩码场景。

1)将VEC_SLIDEUP映射为vslideup.vx(寄存器偏移)与vslideup.vi(立即数偏移),简化后的匹配模板如下。

(define_insn “riscv_vec_slideup”

[(set (match_operand:V4SI 0 “register_operand” “=v”)

(vec_slideup:V4SI (match_operand:V4SI 1 “register_operand” “v”)

(match_operand:SI 2 “register_operand” “r”)))]

“TARGET_VECTOR”

“vslideup.vx %0, %1, %2”)

2)将VEC_SLIDEDOWN映射为vslidedown.vx/vi,带掩码时追加“.vm”后缀以确保边界安全。匹配过程中,模块自动根据IR元数据选择指令变体,如立即数偏移优先使用vslideup.vi,减少寄存器占用。

1.3.2.5 汇编生成与优化模块

该模块复用GCC后端的指令发射器与寄存器分配器,并新增针对滑动指令的窥孔优化规则。若检测到连续多次滑动操作,如vslideup后紧跟vslideup,则合并为单次滑动,减少指令条数;将滑动指令与后续向量计算指令调度至同一指令束,利用RISC-V的指令级并行特性隐藏滑动操作延迟。最终生成的汇编代码经GCC后端的liveness分析与寄存器重命名优化,确保寄存器利用率最大化。

5个模块通过数据传递接口,如滑动计划描述符、IR节点属性实现协同,形成从标量循环到RISC-V向量滑动指令的全自动化生成链路,既保证代码正确性,又充分释放硬件性能。

2 实验方法与结果

2.1 测试集构建

测试集的选取遵循覆盖典型应用领域、突出滑动窗口特征的原则,从SPEC基准测试集、Rodinia基准套件、PolyBench等权威测试集及实际应用中,筛选出7个具有重叠访存特征的核心函数。这些函数涵盖动态规划、数字信号处理、流体力学等6大领域,其循环结构均适配向量滑动指令的优化场景,具体特征如表1所示。测试用例的多样性确保了实验结果的普适性,既包含含分支跳转的复杂循环(如Pathfinder),也涵盖纯计算型的规则循环(如conv1d),可全面验证框架对不同代码特征的适配能力。

2.2 实验环境与编译配置

2.2.1 实验环境

采用交叉编译和模拟器验证结合的方案,兼顾测试效率与结果精度。1)宿主机配置:联想台式机,Intel Core i7-14700KF处理器(3.40 GHz,20核),64 GB DDR5内存,操作系统为Linux 6.6.87.2-microsoft-standard-WSL2;2)交叉编译工具链:RISC-V GNU Toolchain 15.1.0,启用RISC-V V1.0扩展指令集支持;3)模拟器配置:gem5 25.0.0.1全系统模拟器,模拟RISC-V RV64GV架构(支持V扩展),CPU模型为RiscvTimingSimpleCPU,无缓存配置,内存延迟设为默认值以模拟真实硬件访存特性。

2.2.2 编译配置

设置3组编译选项,形成递进式对比,以量化框架的优化增益。1)基准组(-O0):关闭所有编译优化,循环保持标量执行,作为性能基准;2)对照组(-O3):启用GCC最高级别优化,依赖编译器原生向量化能力;3)实验组(-O3+vslide):在-O3基础上集成本文提出的向量滑动指令自动生成框架,支持滑动模式检测与vslide系列指令生成。所有测试用例均通过交叉编译生成RISC-V可执行文件,在gem5中运行时记录指令数、执行周期等性能指标,每个测试用例重复运行3次取平均值。

2.3 实验结果与分析

2.3.1 性能加速比分析

3组编译选项的性能加速比(以-O0为基准)如图9所示,核心结论如下。

1)整体优化效果显著。实验组的几何平均加速比为8.44,较对照组(5.13)提升64.5%,表明引入向量滑动指令有效突破传统向量化的性能瓶颈。

2)最优测试用例突出。Pathfinder函数的加速比最高(20.1倍),其原因是该函数含大量if分支的标量循环,传统-O3优化因分支预测失效性能受限,而实验组通过滑动指令将分支逻辑转化为向量掩码操作,同时减少75%的访存次数,实现分支优化、访存优化双重增益。

3)特殊测试用例解读。stencil7函数的加速比提升最缓,实验组较对照组提升约12%。核心原因是其标量循环仅含3条计算语句,向量化后虽实现数据并行,但引入了向量长度配置、标量—向量转换等额外开销,导致性能增益被部分抵消。

4)无法自动向量化的回退分析。需要说明的是,本文方法并不保证对所有循环均生成向量滑动指令。当循环访存模式不满足“同一基址、连续常量偏移、可建立滑动窗口复用”的必要条件,或存在间接寻址、复杂控制流使数据引用集合不稳定时,框架会在检测阶段判定HasValidTransformation(plan)为false,从而不实施滑动变换并回退到编译器原优化路径。这类回退在性能结果上通常表现为实验组与对照组差异较小,或仅获得来自常规向量化或其他优化带来的增益。该设计保证了优化的保守性与正确性,即框架只在可证明安全且收益明确的场景启用滑动指令生成。

2.3.2 指令条数优化分析

为进一步揭示性能提升的内在机制,表2统计了测试用例在循环向量化后的指令条数变化。

1)多数测试用例指令显著减少。除conv1d与jacobi-2d外,其余5个函数的指令条数减少幅度为47.37%~68.42%,原因是实验组将传统多轮向量加载加偏移配置的形式替换为单次加载加滑动指令(仅3条核心指令),大幅降低访存相关指令开销。

2)指令增加测试用例解析。conv1d(单精度浮点)与jacobi-2d(整型)的指令条数反而增加,源于其标量循环过于精简,仅2~3条计算语句,而向量化后需额外执行向量类型配置、尾部循环处理等操作,这些开销在标量指令基数较小时占比突出。但需注意,尽管指令条数增加,二者的执行时间仍较对照组有减少,这是因为向量指令的并行性抵消了指令数增加的影响。

3)最优指令优化测试用例。compute_tran_temp的指令减少幅度达68.42%,因其循环含4重嵌套的邻域访问,实验组通过vslide1up/1down将8次向量加载合并为2次,同时通过掩码操作消除了分支指令,实现指令条数与执行周期的双重优化。

3 结束语

在RISC-V等开源架构向量指令不断丰富的背景下,传统向量化系统难以快速匹配硬件指令特征,导致高性能指令的应用受限。针对这一问题,提出并实现面向RISC-V V扩展的向量滑动指令自动生成框架。首先,基于基址分组、偏移模式验证与越界分析,实现对重叠访存循环的精准识别,解决了定位滑动指令适用场景的关键问题。其次,通过扩展GIMPLE IR引入滑动操作符、新增RISC-V后端指令模板,构建了前端识别、IR扩展、后端匹配的框架,确保与编译器现有基础设施无缝兼容。最后,在gem5模拟器上的实验表明,框架使7个典型领域函数的几何平均加速比为8.44,较GCC原生-O3优化提升64.5%,同时实现多数案例指令条数减半。作为该工作的延续,未来研究主要聚焦两个方面。1)扩展框架对动态向量长度场景的支持,提升对变长滑动窗口的适配能力;2)将检测算法推广至更多RISC-V V扩展指令(如vmerge、vcompress),构建更全面的向量指令自动生成体系,进一步释放开源架构的向量计算潜力。

参考文献

[1]

KRETZ M, LINDENSTRUTH V. Vc: a C++ library for explicit vectorization[J]. Software: Practice and Experience, 2012,42(11):1409-1430.

[2]

MILEFF P. Improving performance with SIMD intrinsics[J]. Multidiszciplináris Tudományok, 2022,12(1):79-89.

[3]

KUSSWURM D. AVX C++ programming: part 1[M]//KUSSWURM D. Modern parallel programming with C++ and assembly language. Berkeley, USA: Apress, 2022:17-51.

[4]

BENSON L, EBELING R, RABL T. Evaluating SIMD compiler-intrinsics for database systems[C]//Proceedings of the 49th International Conference on Very Large Data Bases. Aachen, Germany: CEUR-WS, 2023:No.5.

[5]

AMIRI H, SHAHBAHRAMI A. SIMD programming using Intel vector extensions[J]. Journal of Parallel and Distributed Computing, 2020,135:83-100.

[6]

CHEN Y S, MENDIS C, CARBIN M, et al. VeGen: a vectorizer generator for SIMD and beyond[C]//Proceedings of the 26th ACM International Conference on Architectural Support for Programming Languages and Operating Systems. New York, USA: ACM, 2021:902-914.

[7]

刘毅,朱雨,许瑾晨,等.分布式强化学习驱动的量子编译自动调优方法[J].信息工程大学学报,2025,26(4):462-469.

[8]

徐颖,李春江,董钰山,等.GCC编译器中编译指导的自动向量化实现[J].计算机科学,2014,41():364-367.

[9]

MOLDOVANOVA O V, KURNOSOV M G. Auto-vectorization of loops on intel 64 and intel xeon phi: analysis and evaluation[M]//MALYSHKIN V. Parallel computing technologies. Cham, Swizterland: Springer, 2017:143-150.

[10]

TIAN X M, SAITO H, SU E, et al. LLVM compiler implementation for explicit parallelization and SIMD vectorization[C]//Proceedings of the Fourth Workshop on the LLVM Compiler Infrastructure in HPC. New York, USA: ACM, 2017:No.4.

[11]

ALLEN J R, KENNEDY K, PORTERFIELD C, et al. Conversion of control dependence to data dependence[C]//Proceedings of the 10th ACM SIGACT-SIGPLAN Symposium on Principles of Programming Languages. New York, USA: ACM, 1983:177-189.

[12]

NUZMAN D, ZAKS A. Outer-loop vectorization: revisited for short SIMD architectures[C]//Proceedings of the 17th International Conference on Parallel Architectures and Compilation Techniques. New York, USA: ACM, 2008:2-11.

[13]

ZHAO J, LI B J, NIE W, et al. AKG: automatic kernel generation for neural processing units using polyhedral transformations[C]//Proceedings of the 42nd ACM SIGPLAN International Conference on Programming Language Design and Implementation. New York, USA: ACM, 2021:1233-1248.

[14]

LARSEN S, AMARASINGHE S. Exploiting superword level parallelism with multimedia instruction sets[J]. ACM SIGPLAN Notices, 2000,35(5):145-156.

[15]

ROSEN I, NUZMAN D, ZAKS A. Loop-aware SLP in GCC[C]//Proceedings of the GCC Developers Summit. [S.l.: s.n.], 2007:131-142.

[16]

PORPODAS V, ROCHA R C O, GÓES L F W. VW-SLP: auto-vectorization with adaptive vector width[C]//Proceedings of the 27th International Conference on Parallel Architectures and Compilation Techniques. New York, USA: ACM, 2018:No.12.

[17]

中国科学院软件研究所.RISC-V指令集手册中文版[EB/OL].(2023-11-04)[2025-11-25].

[18]

MÜLLNER C. RISC-V GNU compiler toolchain[EB/OL]. (2025-11-04)[2025-11-25].

[19]

VANHATTUM A, NIGAM R, LEE V T, et al. Vectorization for digital signal processors via equality saturation[C]//Proceedings of the 26th ACM International Conference on Architectural Support for Programming Languages and Operating Systems. New York, USA: ACM, 2021:874-886.

[20]

HAJ-ALI A, AHMED N K, WILLKE T, et al. NeuroVectorizer: end-to-end vectorization with deep reinforcement learning[C]//Proceedings of the 18th ACM/IEEE International Symposium on Code Generation and Optimization. New York, USA: ACM, 2020:242-255.

AI Summary AI Mindmap
PDF (893KB)

0

访问

0

被引

详细

导航
相关文章

AI思维导图

/

〈 〉