基于黑盒模糊测试的安全协议逻辑漏洞检测

摘要

针对安全协议实现中可能存在的逻辑错误，提出一种基于黑盒模糊测试的安全协议逻辑漏洞检测方法。将异常的协议交互行为建模为确定有限自动机（DFA），从模糊测试交互数据中提取抽象执行序列并判断其能否被DFA接受，以实现在黑盒条件下检测目标逻辑错误和异常行为的功能；基于DFA状态信息驱动测试序列生成，引导模糊测试探索深层协议状态空间，以提高模糊测试发现错误和异常的概率。基于该方法实现通用的黑盒协议模糊测试框架BDFuzz以及特定于IPsec协议的测试模块，在多个广泛应用的IPsec协议实现上进行实验，发现多个违反协议规范的异常行为和能够导致目标程序崩溃的漏洞。

关键词

安全协议 / 密码协议 / 模糊测试 / 网络安全 / 漏洞挖掘