多函数混合的程序控制流执行逻辑与混淆方法

摘要

针对目前基于LLVM的控制流混淆局限于函数内部执行程序流程控制的问题，提出一种多函数混合的程序控制流混淆方法.基于汇编实现函数外部基本块跳转逻辑，以汇编文件中的所有函数的基本块为单位，将其杂乱混合在一个函数中，并采用两种改进混淆算法，首先是实施多函数混合的基本块虚假控制流混淆，在正常的控制流中插入函数内或外的虚假跳转，其次是执行多函数混合的基本块控制流扁平化混淆，由一个变量和一个分发器控制所有的跳转，最终达到多函数混合的控制流有效混淆目的.该方法能实现隐藏基本块所属函数，使得只能从一个大函数对执行逻辑进行逆向分析.此外，优化了代码分发器实现，时间复杂度从原来的O(n)降为了O(1).实验结果表明，多函数混合的控制流混淆方案相对于已有的控制流混淆可进一步降低代码相似度，其中多函数混合虚假控制流下降达63.48%,多函数混合控制流扁平化方法在较高复杂度程序上运行速度提升至其他扁平化混淆的2～3倍.

关键词

软件安全 / 代码混淆 / 虚假控制流 / 控制流扁平化 / 执行逻辑

基金资助

国家自然科学基金项目(62062028)资助; 广西可信软件重点实验室基金项目(KX202320)资助; 广西研究生教育创新计划项目(YCSW2024328)资助