真实与虚拟场景下自动驾驶车辆的主动安全性验证与确认综述

Review of active safety verification and validation for autonomous vehicles in real and virtual scenarios

摘要

首先，概述了自动驾驶车辆安全性验证和确认的流程以及标准法规，基于人-车-路系统理论进一步提出一个新的分类方法，分类综述当前自动驾驶车辆安全性的验证和确认技术与评估标准。其次，对基于真实场景的验证和确认方法、基于虚拟场景的验证和确认方法，以及基于真实场景和虚拟场景相结合的验证和确认方法进行了归纳总结与对比解析，从8个特性维度对16种验证和确认方法的局限性和优缺点进行比较和评估。最后，对自动驾驶车辆安全验证和确认方案研究所面临的挑战和未来机遇进行简短的引申。

Abstract

This article initially provides an overview of the processes and standard regulations involved in the safety verification and validation of autonomous vehicles. Building upon the human-vehicle-road system theory， the article further introduces a novel classification approach， categorizing and summarizing the current technologies and assessment standards for safety verification and validation in autonomous vehicles. It also consolidates and comparatively analyzes three major categories of methods： those based on real-world scenarios， virtual scenarios， and a combination of both. The article conducts a comparative evaluation of the limitations， advantages， and disadvantages of 16 different verification and validation methods across eight characteristic dimensions. Finally， it briefly extrapolates on the challenges and future prospects in the research of safety verification and validation schemes for autonomous vehicles.

Graphical abstract

关键词

车辆工程 / 自动驾驶车辆 / 安全性 / 验证和确认 / 形式化验证

Key words

vehicle engineering / autonomous vehicle / safety / verification and validation / formal verification

0 引 言

自动驾驶技术的应用能够避免人为错误，增加交通安全性、方便特殊交通参与者出行并缓解交通拥堵状况，极大地提高未来交通系统的智能化水平^［1］。然而，当前自动驾驶技术仍然未具备全天候全场景下的完全安全驾驶能力。在探索自动驾驶技术的边界时，面临一系列复杂且多元的安全挑战，比如，由于海量复杂交通场景与极端天气环境的未知性、自动驾驶系统感知认知能力与决策执行功能的局限性、自动驾驶系统数据隐私性、合理可预见的人为误用^［2］和伦理法律的合理性等潜在危险因素。这些因素共同促生了一系列紧迫的安全问题，如预期功能安全问题^［3］（Safety of the intended functionality，SOTIF）、电子系统软硬件功能失效产生的功能安全问题^［4］（Functional safety，FuSa）、自动驾驶系统网络数据泄露产生的信息安全问题^［5］、基于社会属性的交互安全问题以及关于法律责任界定的法律和道德伦理问题^［6］等。自动驾驶车辆（Autonomous vehicle，AV）面临的这些多维度安全问题相互交织，增加了行驶风险，导致交通事故频率升高，严重威胁到驾驶者及相关人员的生命和财产安全。这些问题还引发了公众对自动驾驶技术的信任危机，进而在一定程度上阻碍了该技术的普及和推广。

美国国家公路交通安全管理局（National Highway Traffic Safety Administration， NHTSA）发布了L2级自动驾驶事故数据报告。在2021年7月1日至2022年5月15日，发生了392起与L2级ADAS辅助驾驶系统相关的事故。相比于人类驾驶员，人们对自动驾驶技术有更高的安全标准。一项民调显示，与经济影响或隐私问题相比，安全性是自动驾驶汽车需要解决的首要问题^［2］。

自动驾驶车辆安全性提升的措施当前主要集中在技术开发层面，如感知融合、冗余决策与控制以及安全人机交互^［3］等，对自动驾驶系统安全性验证和确认（Verification and validation，V&V）的方法论研究关注较少^［4］。随着更高度自动驾驶系统在现实世界中的部署，面向现实交通环境以高覆盖度验证和确认自动驾驶车辆安全性至关重要。验证技术指在开发的各个阶段，从技术人员的角度，测试当前的开发成果主观上是否符合设计的规范^［7］。确认技术是从用户的角度，测试当前的开发成果，客观上是否符合用户的真正需求。自动驾驶通过驾驶系统安全性的验证与确认，能够有效减少由于自动驾驶系统软硬件功能失效以及感知、决策局限或人机交互技术本身而导致的自动驾驶事故，达到已知不安全与未知不安全降到可容忍的FuSa和SOTIF驾驶决策目标^［8-10］，保障自动驾驶车辆在现实世界中拥有应对任意复杂的交通场景的能力。因此，自动驾驶车辆安全性的验证和确认也被定义为自动驾驶安全框架的基础。

目前，对自动驾驶车辆安全性的验证与确认多为离线进行，主要的方式赖于量产前的仿真和实车测试，业内关于自动驾驶系统安全验证的评估指标主要包括行驶里程、脱离率与功能通过性等^{［9，11-15］}。基于离线安全的验证与确认方法具备数据驱动属性，验证结果的有效性依赖选取的交通场景，主要挑战在于量化保证合理所需的测试场景覆盖范围；同时，该方式的主要局限性在于难以对决策算法进行在线修正，实时在线地规约危险决策确保自车安全性^［16］。近几年，基于形式化的在线验证方法从另一个角度尝试解决场景覆盖度与在线实时规约问题^［17］。

本文首先概述了自动驾驶车辆安全性验证和确认的流程以及标准法规；其次，分类综述当前自动驾驶车辆安全性的验证和确认技术；最后通过8个特征维度对16种具体验证与确认方法进行比较和评估，分析各个方法的局限性和优缺点，并对目前研究所面临的问题及未来的发展趋势进行分析和展望，简单概括来说：自动驾驶安全验证面临技术、法规与社会多方面的挑战，但通过深化技术研究、完善法规标准、提升社会接受度以及强化跨领域合作，有望构建一个更加全面、高效且可持续的验证体系，从而推动自动驾驶技术迈向更安全、更可靠的未来，为实现自动驾驶汽车的大规模商业化应用奠定坚实基础。本文的研究结果有助于加速兼顾有高安全性、高覆盖度以及高效率自动驾驶车辆的安全验证与确认技术研究，以达到自动驾驶零伤亡的愿景。。

1 自动驾驶车辆安全性验证与确认概述

1.1　自动驾驶车辆安全验证与确认概述

自动驾驶车辆安全性验证与确认中的验证和确认是一个通用的概念，常缩写为“V&V”。根据GB/T 19000-2016的质量体系术语定义^［18］，其中，验证技术是在开发的各个阶段，从技术人员的角度，测试当前的开发成果主观上是否符合设计的规范，而确认技术是从用户应用的角度，测试当前的开发成果，客观上是否符合用户的真正需求。从自动驾驶系统安全性方面来说，验证是确保自动驾驶系统的各个部分和功能符合预定的技术和安全标准。确认是评估整个系统是否符合用户的实际需求和期望，特别是在现实世界的各种驾驶场景下表现的安全性能。当前，L3及以下级别的自动驾驶车辆安全性的验证与确认，主要面向现有的自动驾驶系统在固定运行设计域（Operational design domain， ODD）中的安全性能^［19］，L4与L5级别的自动驾驶车辆安全性的验证与确认则分别面向自动驾驶技术在非极端场景与多变且复杂的全域场景下的安全性能，以期达到驾驶决策的FuSa和SOTIF目标^［7］，如图1所示。

1.2　自动驾驶汽车安全验证与确认流程

自动驾驶车辆的安全性验证和确认流程可分为2个主要阶段：功能设计开发阶段和功能实际应用阶段，如图2所示，具体介绍如下：

（1）功能设计开发阶段：此阶段关注自动驾驶车辆在设计开发阶段的安全性验证和确认。根据国际标准化组织（International organization for standardization， ISO）颁布的ISO 26262和ISO 21448系列标准^{［10，20］}，自动驾驶系统的安全性验证和确认涵盖了针对功能安全和预期功能安全的设计分析、工具验证、过程确认以及域操作和更新这4个方面。

（2）功能实际应用阶段：此阶段专注于车辆运行的安全性验证和确认。完整的系统安全验证并不止于功能验证阶段，还涉及确认过程和测试场景工具的验证。根据ISO 4804标准^［10］，自动驾驶车辆在功能实际应用阶段需进行3个步骤的车辆安全性验证和确认。

第一个步骤是对系统进行验证，以确保其满足通过设计安全策略确定的所有安全要求。这可能包括列举所有已知的不安全场景，并采取合理措施来应对，从而确保整体的安全性和可靠性。该步骤旨在保证覆盖所有已知场景并确保系统的预期运行。为了提高验证过程的经济效益和泛化能力，考虑边际成本变得尤为重要。一种可能的方法是通过借用现有车辆系统进行验证，以减少开销和增加效率。

第二个步骤专注于未知不安全场景的验证。由于某些不安全场景无法预见或明确设计，使系统的100%可靠性无法实现。因此，这个步骤的重点为在多种环境下，如仿真场景、封闭场地和现实世界道路，对自动驾驶系统可能遇到的未知不安全场景进行验证和自适应解决。

第三个步骤针对自动驾驶系统部署后的安全性能进行实时监控和迭代验证。这一过程不仅需要持续关注并解决发现的安全问题，还需在更新和迭代时谨慎管理变更，以防解决一个问题时引入新的风险。这一步骤强调了自动驾驶安全验证的持续性和动态管理。

1.3　自动驾驶车辆安全性验证与确认法规与标准

随着自动驾驶技术的日益发展，有关于自动驾驶安全验证的法规逐渐发布，表1概述了当前国际上常用的自动驾驶开发和验证环节涉及的一些主要自动驾驶法规和标准，领域内仍在进一步探讨L3级别以上自动驾驶系统的开发规范和验证标准及流程。

表1　关于自动驾驶安全及验证确认相关的

国内外法规和标准

Table 1　Domestic and international regulations and

standards related to autonomous driving

safety and verification/validation

1.3.1　自动驾驶车辆安全性验证确认相关的国际和国内法规

为了确保自动驾驶技术的安全性，各国都在积极推进自动驾驶车辆验证确认的发展，以确保自动驾驶技术的安全性和可靠性。自2012年以来，美国至少有41个州和哥伦比亚特区考虑了自动驾驶汽车相关的法律，其中29个州已颁布了相关立法^［36］，另有11个州已发布了行政命令^［37］。2016年9月，美国交通部（DOT）推出全球第一部《联邦自动驾驶汽车政策》，提出了15项安全评估标准，同时对监管机构的创建，协助自动驾驶汽车测试和部署进行了描述^［22］。随后，各国也纷纷提出了各自针对自动驾驶安全性的相关法规。在2020年，联合国世界车辆法规协调论坛（UN/WP.29）发布了3项关于智能网联汽车的法规R155、R156和R157等，分别涉及信息安全、软件升级、自动车道保持系统^{［24，25］}以及自动驾驶安全验证等。2021年，我国也推出了《道路交通安全法》，维护道路交通秩序，保护民众财产及人身安全。

1.3.2　自动驾驶车辆安全性验证确认相关的国际和国内标准

为解决自动化、系统化的信息安全问题^［35］，汽车工程师协会（Society of Automotive Engineers，SAE）2014年发布了汽车信息安全指南SAE J3016^［31］。国际标准化组织于2018年更新了ISO 26262，针对电子系统及控制程序的可控性进行评价^［20］。非营利组织（Underwriters Laboratories，UL）于2019年发布了UL 4600，成为第一个针对无人驾驶车辆的安全评估标准^［33］。SAE于2020年提出了SAE J3018，为3到5级自动驾驶汽车的公共道路安全测试提供指导^［34］。ISO于2020年提出了关于道路车辆的技术报告ISO 4804，描述了开发和验证自动驾驶系统的全球适用基本安全原则的步骤。同年，我国汽标委规划了10余个与自动驾驶相关的国标，其中也包括关于仿真验证的国标^［29］。2022年，国际标准化组织颁布了新标准ISO 21448^［7］，也被称为“预期功能安全”。这些标准和指导方针共同构成了全球自动驾驶汽车安全的复杂和多层次的法规体系，反映了行业对确保自动驾驶安全性的持续努力。

2 自动驾驶车辆安全性验证和确认分类方法

在自动驾驶车辆安全性验证与确认的领域内，目前的分类方法主要可以分为四大类：基于技术的分类、基于应用场景的分类、基于安全目标的分类以及基于数据类型的分类。基于技术的分类方法着重于不同的技术或测试手段，如实车测试与计算机模拟，但这种方法可能忽视了系统的整体性能和多样性。基于应用场景的分类，如将方法区分为城市驾驶和高速公路驾驶，虽然关注了不同的驾驶环境，但是可能无法全面覆盖所有潜在的驾驶情况和环境变化。基于安全目标的分类方法，如依据系统可靠性、错误容忍度或响应时间来分类，可能会过分强调某些安全指标，而忽视其他同样重要的安全因素。最后，基于数据类型的分类，如真实数据与合成数据之间的区分，可能未能充分展现不同数据类型在安全性验证和确认过程中的互补性和综合应用的重要性。然而，现有分类方法可能过度侧重于特定技术或特定应用场景，如城市道路或高速公路驾驶，忽略了人、车、路之间的复杂交互以及相互作用。此外，传统分类缺乏综合性和实用性，可能无法全面考虑驾驶过程中人的行为、车辆性能以及路况环境对安全性的细粒度影响。

鉴于现有自动驾驶安全性验证分类方法的诸多限制，本文提出了一种创新的分类方法：基于“人-车-路”概念的场景验证分类方法。这种新颖的方法主要突破在于它通过综合考虑驾驶者行为、车辆性能和路况环境等因素，提供了一个更为全面的分析框架。它的优势在于提供了广泛的覆盖范围，综合考虑了各种因素组合，涵盖了目前所有的验证方法。这样的方法能够根据特定的验证目标灵活调整，从而选择最适合的验证方式。该方法不仅覆盖了技术和应用场景，还特别关注了驾驶环境的多样性和技术的快速发展。通过这种跨领域和多维度的综合分析，该方法更贴近实际驾驶情境，有效提高了自动驾驶系统在现实世界中的验证场景覆盖率和验证方法的灵活性。综上所述，本文提出的“人-车-路”场景验证分类方法，不仅提升了自动驾驶安全性验证的覆盖度和实用性，而且为未来自动驾驶系统的评估和改进提供了更为全面和精准的分析工具。

依据人-车-路系统理论，并结合自动驾驶的场景分层要素，本文构建了一套更精细的自动驾驶车辆安全性验证与确认方法的分类框架。在此框架内，对各种验证与确认方法进行了全面概括和综述。

本文将自动驾驶系统的测试要素划分为驾驶员、自车和交通环境场景3个部分，如图3所示。进一步地，结合智能网联汽车的预期功能安全测试场景框架^［38］，将场景细分为7个层次。

（1）道路信息层，包括车道线、路口形状、车道数、道路几何和拓扑结构等。

（2）道路基础设施层，包括交通指示牌、树木、护栏、交通设施等。

（3）道路信息层与道路设施层的特殊动态变化层，包括树木折断、障碍物移动、道路维修、施工现场几何或拓扑结构等。

（4）动态目标层，包括行人、其他交通参与者、动态、交互、操作等其他交通参与者。

（5）气候环境状况层，包括天气、光照、风速、温度、湿度、电磁波、机械波等。

（6）数字通信信息层，包括如V2X信息、高精地图、车-车、车-人、车-路、车-云、车-网等之间的通信信息等。

（7）自车的状态层，包括移动平台（车）车载设备，如告知设备、定位设备、计算设备、通信设备等；车载人员，如驾驶员、乘客、动物等。

在动态场景中，根据自车、驾驶员、场景这3个关键要素，本文构建了一个自动驾驶汽车使用的模型M（代表自车的执行能力）。这一模型旨在确保驾驶员（在此上下文中指自动驾驶车辆）的某一动态驾驶行为\Phi满足自动驾驶汽车的安全要求ψ。该模型整合了内部决策参数p\in P（代表驾驶员的决策能力）以及具体场景空间u\in U（划分为场景的7个层次）作为外部输入。根据所调查的论文范围及其引用的参考文献^［66］，本文进一步探讨了如何测试一个特定场景Û是否满足安全要求ψ。

\mathrm{检查}:\left.\Phi (M,p,Û)\right|=\psi forÛ\inU（1）

如图4所示，进一步根据自车、驾驶员、场景3个要素是真实数据或者是虚拟数据，将自动驾驶车辆的验证和确认方法进行如下分类。

（1）基于真实数据的验证确认：驾驶员、自车、场景的验证要素全部基于真实数据。

（2）基于真实数据和仿真数据相结合的验证确认：根据驾驶员、自车、场景的验证要素部分基于虚拟数据，部分基于真实数据进一步分为5个子类别：①基于虚拟数据验证场景要素，基于真实数据验证驾驶员与自车要素的情况，如基于虚拟试驾^［43］的真实要素和虚拟要素相结合的验证和确认方法；②基于虚拟数据验证驾驶员要素，基于真实数据验证场景与自车要素的情况，如基于实车测试^［44］的真实要素和虚拟要素相结合的验证和确认方法；③基于虚拟数据验证自车和驾驶员要素，基于真实数据验证场景要素的情况，如基于数字孪生的真实要素和虚拟要素相结合的验证和确认方法；④基于虚拟数据验证场景和驾驶员要素，基于真实数据验证自车要素的情况，如基于整车在环^［45］的真实要素和虚拟要素相结合的验证和确认方法；⑤基于虚拟数据验证自车和场景要素，基于真实数据验证驾驶员要素的情况，如基于驾驶模拟器测试^［46］真实要素和虚拟要素相结合的验证和确认方法。

（3）基于虚拟数据的验证确认：驾驶员、自车、场景的验证要素全部基于虚拟数据，常用测试方式为模型在环、硬件在环、系统在环、基于形式化的验证方法和基于强化学习的验证方法等。

3 自动驾驶车辆验证和确认方法概述以及评估标准

3.1　自动驾驶车辆验证和确认方法概述

根据自车、驾驶员、场景3个要素为真实数据或是虚拟数据，本文同样将自动驾驶汽车的安全验证与确认方法分为三大类别，涵盖真实要素、虚拟要素以及两者的结合。本节将深入探讨当前自动驾驶车辆的安全性验证和确认技术，并细致分析每一类的具体方法和评估标准，对比当前各类技术的优缺点，如表2所示。

3.1.1　基于真实要素的验证和确认方法

基于真实要素的验证和确认方法旨在评估车辆自动驾驶系统在现实世界复杂环境中是否能够安全完成目标任务。当前基于真实要素的验证和确认方法主要包括下面几种。

（1）基于行驶里程的真实要素验证和确认方法：在真实场景中，“行驶里程”的验证认证方法基于统计论证，其试图表明自动驾驶汽车在统计数据上优于人类驾驶员。初期自动驾驶汽车安全验证采用统计驾驶数据，随里程增加而变严谨。NHTSA的数据显示，人类驾驶每小时死亡概率为{\mathrm{10}}^{-\mathrm{6}}。社会可能要求机器驾驶的死亡率降至每小时{\mathrm{10}}^{-\mathrm{9}}，即减少3个数量级。为确保这一标准，需要使用“行驶里程”统计方法，大约需300亿英里的数据来证明其合理性和解释性^［39］。

（2）基于脱离度的真实要素验证和确认方法：该方式采用“脱离率”作为安全衡量指标，其中脱离是指人类安全驾驶员必须干预自动驾驶汽车的操作，防止其作出可能导致事故的不安全的决策^［13］。虽然“脱离度”常用作安全性的指标，但在测试中汇总分析具有一定难度^［39］。

（3）基于真实要素的形式化在线验证和确认方法：该方式采用基于显性交通规则与隐性人类驾驶规则的安全形式化规约模型，在线判断自动驾驶系统决策是否违背安全规则，并给予约束。基于形式化的真实要素验证和确认方法，如Mobileye提出的责任敏感模型（Responsibility-sensitive safety，RSS）^［39］、英伟达提出的安全立场模型^［42］等，被广泛应用于真实的行驶车辆，以实时监控车辆安全性。

其中，RSS模型已经得到了多个组织的认可并被采用，包括百度阿波罗和法国法雷奥等组织。基于Mobileye责任敏感安全模型的验证和确认方法^［41］是一种专门针对自动驾驶汽车的在线形式化安全验证方法。如图5所示，RSS通过5个基于驾驶常识的规则为车辆行为提供数学指导，以确保符合安全标准。Gassmann等^［67］将责任敏感安全模型集成为C++责任敏感安全库，该库作为一个开放可执行文件实现了RSS模型在高速路场景下和交汇路口场景下的安全约束。Hekmatnejad等^［68］为了将RSS在更多的场景中使用，通过信号时间逻辑（STL）编码RSS模型；Salay等^［69］结合了RSS和形式化感知模型解决了自动驾驶中传感器感知不充分的问题。

Chai等^［70］将RSS模型与模型预测控制（MPC）相结合，解决了关于自适应巡航控制算法相关问题。Liu等^［71］将RSS模型嵌入基于TTC的自适应巡航模型中，有效提高了算法应对前方车辆切入的安全性能。Tran等^［72］基于RSS模型提出了一种无信号交叉口自动驾驶模型，可用于增强交通安全性和平稳性。总体而言，RSS为自动驾驶汽车的安全验证提供了一个严谨和灵活的框架，有助于推动整个行业的安全性和可靠性进一步提升。基于安全力场（Safety-force-field，SFF）的虚拟要素验证和确认方法与责任敏感安全模型相似，是由英伟达的研究人员^［41］提出的一种形式化在线验证技术，验证自动驾驶系统的安全性。

SFF技术清晰地将避障与复杂的道路规则长尾区分开，同时考虑了纵向和横向约束，以一种直接的方式可视化^［42］。SFF可视化是将系统内部安全力场正在监视的约束可视化。与应力场可视化相似，将软件及其运作机制绘制的目标集作为一个可视化的体积包络，或者将约束与传感器数据（如相机投影）相结合；也可以结合摄动分析的方法，研究随机离散事件动态系统的性能优化并使其更精确；或者将集合之间成对重叠的度量定义为一个安全势，通过考虑安全潜力随时间的变化，更灵活地考虑自车的状态和其他交通参与者状态的变化。如图6所示，随着自车或者其他交通参与者的运动，安全潜力会随着时间发生变化，可以通过链式法则表现出安全势能的变化。Suk等^［52］实现了基于SFF的自动驾驶政策，并在CARLA模拟器上进行了集成。这一政策针对ISO 26262的安全目的功能要求，提供了一种与动态交通流融合的类似人类的驾驶方法，无须为不同安全条件制订单独计划。

3.1.2　基于真实要素和虚拟要素相结合的验证和确认方法

基于真实要素和虚拟要素相结合的验证确认是一种综合方法，结合了现实环境和数学模型进行全方位验证和确认。这一方法旨在实现3个主要目标。首先，提高了验证准确性：通过在现实环境中选取难以建立数学模型的要素，如复杂气候下的驾驶场景；其次，提升了验证效率与经济性：利用数学模型处理烦琐任务，如数字孪生中的基于里程的验证，不仅提高了效率，还增加了经济效益；最后，整合资源进行低成本验证：考虑经济性因素，通过低成本方式（如影子驾驶技术）对验证要素进行验证。

根据驾驶员（或自动驾驶/驾驶员决策能力）、自车（控制执行能力）、场景这3个要素基于真实数据或虚拟数据，本文将该类方法细分为5种不同情况。

（1）仅场景要素为虚拟数据的验证和确认方法：仅场景为虚拟仿真的验证技术，可以理解为基于场景要素的验证技术。当将优秀的驾驶员和操控优良的自车作为现有条件时，能够测试仿真软件对高精度世界模型场景建模能力；相反，当建立了一个优秀的高精世界模型时，能够测试驾驶员的决策能力和自车的执行能力（其他的4种情况同理）。例如，宝马采用的VR 3D虚拟试驾项目，其使用MR混合实境（Mixed reality）技术^［43］应用形式，不仅融合了现实和数字世界，还用于测试高精世界模型场景的建模能力。此外，高价值场景模拟是该类方法的关键，一些基于对抗的场景生成技术^［73］，旨在找到值得开发人员更多关注的安全角案例（Corner case），如高安全关键性场景^［74］。

（2）仅驾驶员要素为虚拟数据的验证和确认方法：该类方法采用真实场景与车辆测试要素，即自动驾驶决策系统部署在真车上进行实车测试^［44］。实车测试分为公开道路测试与封闭试验场测试。道路测试包含社会车流、交通设施、行人和交通参与者等。这种方法能够最真实、直接地反映自动驾驶车辆的表现，但是实车测试难度大，且需注意安全问题^［75］。

（3）仅场景要素为真实数据的验证和确认方法：该类方法采用真实场景测试要素，如数字孪生、特斯拉的“影子驾驶”等。数字孪生^［76］是物理系统在计算机中的精确模型，能实时分析和模拟真实世界数据以预测或解释行为。在车辆安全测试中，它可以模拟各种驾驶情境和环境，无须冒实际风险便可测试车辆性能。“影子驾驶”^［77］是在车辆主大脑之外的另一个“分身大脑”，其同时在进行决策验证，是一种端到端的验证。

（4）仅自车要素为真实数据的验证和确认方法：该类方法采用真实自车测试要素，如车辆在环测试等。车辆在环测试是将整车嵌入到虚拟测试环境中进行测试，通过仿真场景测试整车性能，主要包括封闭场地车辆在环^［45］和转毂平台车辆在环，其关键在于将车辆信息传递给模拟环境以及将模拟环境中产生的传感器信息传递给车辆控制器^［78］。Fettamanti等^［79］开发了一种基于开源交通流量模拟器 SOMU的仿真测试环境，其可以模拟测试车辆周围的道路环境、其他交通参与者等，实现了在现实空旷环境中的车辆在环测试。

（5）仅驾驶员要素为真实数据的验证和确认方法：该类方法采用真实驾驶员测试要素，结合虚拟试驾，驾驶员通过模拟器进行验证。如驾驶员在环（Driver in the loop，DIL）^［46］、虚拟重构与模型孪生验证，是一种通过虚拟要素的手段，利用动态驾驶员模拟器（驾舱）、环境视听模拟设备及相关人车检测设备重现“人-车-环境”在实际车辆驾驶中的相互作用的新型测试系统。

3.1.3　基于虚拟要素的验证和确认方法

计算机虚拟技术已广泛运用于自动驾驶系统的测试，成为未来发展的趋势^［80］。相较于实车测试，基于虚拟要素的验证确认方法具有许多优势，如测试速度快、成本低、无安全风险，还可覆盖实车测试难以触及的边缘场景。根据被测主体所属的类别，传统的基于虚拟要素的测试与验证方法被划分为模型在环测试、硬件在环测试。现有的仿真验证方法，如模型在环测试和硬件在环测试已被广泛应用，目标是通过仿真平台完成大部分的测试，达到更高效和经济的状态^［81］。此外，包括基于形式化、机器学习、数据挖掘和故障注入4种基于虚拟要素的验证确认方法也被越来越多地使用在自动驾驶车辆的验证确认阶段，为全面覆盖自动驾驶系统中的自车、驾驶员和场景等核心要素提供了方法。传统的验证主要在设计阶段进行，被称为静态确认，这一过程主要分析和评估系统设计中可能的问题和风险，但不涉及实时或动态环境的考虑。由于自动驾驶汽车所面临的不确定环境要求更加灵活的验证手段^［82］，在线方式逐步被引入，如通过逻辑推理^{［83，84］}或避免不可避免的碰撞状态^{［85，86］}等策略，以及离线与在线验证的结合，共同构成了一套更全面、更灵活的安全验证体系^［87］，为自动驾驶技术的成熟提供了坚实支撑。下面将专注于综合评述这6种主要的基于虚拟要素的验证和确认方法。

（1）模型在环测试：模型在环测试采用仿真场景、车辆动力学模型、传感器模型、决策规划算法在仿真环境下进行AV测试。在研发初期，这种方法被用于验证模型的准确性。模型在环测试的关键在于对非验证虚拟要素进行建模，Wang^［47］对车辆动力学建模仿真系统进行了总结，如采用基于理论、数据驱动^［88］与面向对象的方法^［89］对车辆动力学进行建模，以及对自动驾驶汽车传感器、关键性的自动驾驶场景、道路、交通信号和其他交通参与者等相关要素进行建模。现有多种仿真平台满足了各个相关要素测试验证的需求，如Prescan、PanoSim、VTD、CarMaker、Carsim等，合理的仿真平台应用，会在保证安全性的前提下，为自动驾驶验证进程节约时间成本的同时降低边际成本^［90］。

（2）硬件在环测试：硬件在环测试与模型在环测试类似，对自动驾驶系统中某一部分进行在环测试，将相关功能及算法部署到硬件中，与仿真环境相连接，进而形成一个仿真闭环进行验证，如图7所示。结合感知-决策-控制理论，将硬件在环测试分为环境感知系统在环测试、决策规划系统在环测试和控制执行系统在环测试^［48］。环境感知系统在环测试包括相机在环测试^［91］、雷达在环测试^［92］、V2X在环测试^［93］以及多源传感融合系统在环测试^［94］等。决策规划系统在环是指将真实的车辆控制器放入虚拟的整车环境中，通过仿真模型来模拟受控对象的状态，并通过CAN接口、I/O接口等将车辆控制器与仿真模型进行连接^［95］。如Drolia等^［96］通过模型模拟车辆的加速、横摆、驱动力等参数，实现车辆牵引力控制、巡航控制等控制器在环测试。控制执行系统在环测试主要包括制动系统在环测试、转向系统在环测试、驱动系统在环测试等。一方面，Duan等^［63］的算法综合考虑了场景复杂性和测试成本，并通过贝叶斯优化实现平衡，有效提高了测试效率和故障发现能力。在硬件在环测试平台上，针对车道偏离警告系统的测试证明了其有效性，显著提高了测试场景的综合复杂度和覆盖率。另一方面，Guo等^［64］的策略基于场景复杂度，通过贝叶斯优化生成高效的测试场景集，并使用层次聚类进行分组。在交通拥堵辅助系统的硬件在环测试中，该策略展示了复杂场景在揭示系统缺陷方面的优势。这两种方法都为自动驾驶系统的测试提供了有效的解决方案。

（3）形式化模型的虚拟要素验证和确认方法：与传统方法相比，“形式化”验证方法以其严格的数学基础脱颖而出。它基于逻辑推理^［97］，通过建立形式语言、语义和推理证明三位一体的逻辑体系，实现对系统完整状态空间的自动化遍历和求解。当状态空间复杂难以描述时，可以设计新型模型对边角案例进行可控性验证，解决自动驾驶汽车安全性的“长尾”问题，从而从理论上确保系统安全性验证的完整性和严密性。形式化方法^［98］的数学严格性和完备性不仅使其能精确、清晰地描述系统结构和特性，而且能在复杂的交通环境下，对自动驾驶技术的安全性进行深入的验证，为整个系统的可靠性提供了有力保障^［99］。基于道路可达集的虚拟要素形式化验证方法被认为是验证自动驾驶系统安全性最有效的分析方法之一^［54］。基于可达集分析的方法，通过计算并穷举系统中车辆随时间变化的连续安全状态边界，然后求解出自车机动行为的空间安全状态集合。基于可达集分析的系统安全性验证问题可以抽象为^［54］：

SA=(S,I,T)（2）

式中：I,T\subset R^n，S为系统模型；I为系统初始状态集；T为目标集合（不安全集），R^n为n维状态空间。具体地说，自车从初始集I开始，经过系统模型S给出的连续轨迹得到一个自车可达集。这个自车集合根据与其他交通参与者可达集T是否有交集来推断自主车辆未来机动行为的安全性^［100］，将系统分解成多个连续子系统，以精进车辆安全性验证的可靠性。基于可达集分析的验证方法可以在实现自适应驾驶决策的同时，提高验证效率^{［101，102］}。

结合道路可达集的方法和在线验证技术，Pek等^［17］提出了一种基于形式化在线验证的仿真场景验证和确认方法，在多变且复杂的交通场景下，形式化在线验证通过对其他交通参与者的未来可达集预测，对自动驾驶汽车轨迹规划器给出的轨迹是否安全进行在线验证。如图8所示，当被判断为不安全时，形式化在线验证技术给出故障安全轨迹用以通过，或是在指定的安全区域内（一组安全状态集合）停止作为突发情况的后备计划。

（4）基于机器学习的虚拟要素验证和确认方法：机器学习已广泛用于AV的开发^{［103-105］}，机器学习技术，如深度学习（Deep learning，DL）和强化学习（Reinforcement learning，RL）方法，其更多地用于测试场景的生成以验证AV安全性^［106］。基于深度学习的仿真要素验证和确认方法与传统的机器学习方法（如支持向量机、线性回归等）^［107］相比，DL技术在生成AV测试场景时，更有能力处理高维数据，并探索数据的深层结构^［59］。基于有限的数据集，DL方法可以广泛应用于多种场景的泛化^{［108，109］}以及其他交通参与者的行为预测等^{［110，111］}。此外，Krajewski等^［112］还运用无监督的DL方法训练神经网络，用于非碰撞场景的建模。Rowe^［113］探讨了使用深度强化学习在模拟培训中自动生成场景的方法。模拟培训是重要的学习工具，但其场景创建往往资源密集且专业知识依赖性强。Rowe^［113］的研究指出，现有场景难以重用，且一旦学习目标达成，额外训练的效果有限。此外，这些模拟场景通常无法动态适应学习者的个体差异。

基于强化学习的仿真要素验证和确认方法^［58］通过智能体（自动驾驶车辆）与环境（场驾驶景）交互，通过获得奖励的反馈机制，智能体能够迭代学习优化的策略，如传感器融合、驾驶规划和决策目标优化^［114］，从而解决在交互过程中如何最大化回报或实现特定目标，如转向、制动和变道超车的问题^［58］。Li等^［115］结合了特定的博弈论形式主义（层次推理）和交互属性，生成了多步场景^［115］，进一步创建了用于验证边角场景的多车交通模型。通过将多智能体训练成三层决策逻辑规则^［116］，并调整奖励函数中的权重，这一方法能够更真实地反映现实世界，并拓宽模拟场景的范围^［117］。Feng等^［118］开发了一种针对连接和自动驾驶车辆的高效测试场景库生成方法，通过强化学习在3种典型场景下加速评估过程。Kang等^［119］提出了一个结合描述语言的强化学习框架，用于生成关键驾驶情景，并通过行动遮罩技术优化参数空间。Humeniuk等^［120］提出了一种结合强化学习的进化搜索方法，用于高效测试自动系统，实验显示其生成测试场景的优越性。Wang等^［121］提出了一个评估高度自动化车辆安全性的框架，专注于环岛进入场景，结合强化学习和博弈论代理，有效覆盖了失败模式。Lu^［122］使用强化学习生成自动驾驶系统测试场景，通过142种环境配置动作发现了多样化且关键的碰撞场景。Gao等^［123］结合图像处理及可视化技术，提出了一种基于机器学习的GUI测试场景自动生成方法。

目前，基于对抗强化学习生成验证性故障场景的应用颇为广泛，如图9所示。其通过利用AV的安全弱点，同时结合显性交规、隐性交规和知识等约束，使智能体能够被引导生成更具挑战性的驾驶场景^［124］，从而更有效地找到潜在的事故场景，并提高评估效率^［125］。Niu等^［126］开发了一种强化学习法，结合实际和仿真数据生成多样、对抗性的自动驾驶测试场景。实验表明，该方法在风险性和适用性方面优于现有方法，可有效提升自动驾驶车辆性能。深度强化学习结合了深度学习的感知能力和强化学习的决策能力，以一种更符合人类思维的方式进行控制。通过在模拟仿真中实现分层决策，DRL能够减少崩溃率，并更真实地反映现实世界。与深度Q学习相比，DRL可以模拟更广泛的场景。最近，Behzadan等^［127］提出了一种基于DRL的自动驾驶车辆极端情况下运动规划和防撞机制的可靠性评估框架。此外，Chen等^［128］则运用非参数贝叶斯方法，对交互式车辆的对抗性策略进行了聚类，生成对抗性测试场景。

（5）基于数据挖掘的仿真要素验证确认方法：数据挖掘在自动驾驶验证中有助于从自然驾驶数据集中提取关键场景^［129］。PEGASUS项目^［130］通过将实际交通场景集成到数据库中来测试自动驾驶汽车性能。尽管这个方法有效地统一了信号名称和数据结构，并提供了连续场景的信息，但是由于场景生成数据相对固定，它可能无法自动探索到罕见但关键的边角案例。这些局限性提出了在场景生成技术方面的进一步改进需求。

（6）基于故障注入的仿真场景验证和确认方法：故障注入是一种针对计算和网络物理系统在故障情况下的弹性和错误处理能力^［131］的测试方法，已被广泛应用于自动驾驶汽车的验证和验证过程^［132］。这种方法通过故意引入可能在常规测试中难以触发的故障，有助于检验系统级的稳健性^［133］。故障注入可以从软件和硬件两个方面进行，并且按照故障类型进一步细分为硬件故障和软件故障。例如，Juez等^［134］提出了一种基于模拟的故障注入方法，将其应用于动态运动规划系统的一个基本子功能，即用于危害分析和风险评估的行为模型。这一方法展示了故障注入在提高系统健壮性和发现潜在漏洞方面的重要作用，对确保自动驾驶汽车的运行安全具有实际意义。一方面，Tian等^［65］提出了一种基于故障注入和基于模型的系统工程的SoS（Systems of systems，SoS）自动测试生成方法。另一方面，Karunakaran^［135］提出了一种基于强化学习的场景误证方法，旨在行人交通情境中发现高风险场景。这对自动驾驶车辆的安全性验证至关重要，尤其在高度自动化水平下，安全责任从驾驶员转移至系统。该方法采用基于英特尔责任敏感安全（RSS）、欧几里得距离和潜在碰撞距离的奖励函数，有助于在车辆上路前发现系统缺陷。

3.2　自动驾驶车辆验证和确认方法的评价标准

在推进自动驾驶技术的道路上，AV安全性验证与确认的可靠性成为一项关键任务。为确保AV的安全性和效能，本文形成了一套综合的评价标准，通过多种维度对AV的验证确认的行为和性能进行评估。如表3所示，本文共总结归纳出8个影响因子，对多种验证技术进行客观性评测：

（1）场景覆盖度（覆盖范围广度）：指包含的验证场景类别的多少。

（2）数据穿透性（保真度）：指数据传输的过程中数据准确度，本文中指模型中仿真数据与真实数据的相似程度。

（3）时间经济性（验证效率）：高测试效率意味着V&V方法用于检查在一定时间内测试的需求是否满足预期，以及发现关键功能的安全性问题是否准确。

（4）具有数学模型（可解释性）：可解释性是指验证方法的模拟模型可以使用白盒或者灰盒的方式进行分析。

（5）验证实时性（在线验证）：在线验证指对自动驾驶汽车的安全性进行实时监测。

（6）验证模型的定向性：定向性就是固定方向的性质。

（7）验证模型的泛化性（可演化性）：指模型对未知新数据的适应能力。例如，应对不同的国家的气候、地理环境、道路拓扑结构、驾驶员风格、交通法规和道德约束感等。

（8）验证模型的结果时效性：验证技术一般都具有时效性，指有效时间域。例如，环境：全球变暖；行驶道路：特殊高架道路的出现。结果实效性受影响因子较多，且多受限于客观环境变化，所以暂不用于评估各种类验证方法。

从表3分析来看，全部基于真实要素的验证和确认方法相对于全部基于虚拟要素的方法，具有较高的场景覆盖度；而基于真实要素和虚拟要素相结合的验证和确认方法具有经济性、可解释性且更具定向性，可以根据不同的验证需求进行差异化验证；全部基于虚拟要素的验证和确认方法将更具备可解释性，且在验证场景泛化性上具有更好的发展潜力，为自动驾驶汽车安全性验证的场景覆盖度深化提升上展现了更多的可能性。

4 结论与展望

本文系统回顾了自动驾驶汽车安全性验证与确认的研究现状，包括其定义、流程、现有标准与法规，并提出了一种基于“人-车-路”系统理论的分类方法。在此基础上，归纳总结了三大类共16种典型验证与确认方法，并据此提出8个评价指标，以系统评估不同方法的适用性和有效性。基于研究分析，本文识别并总结出当前及未来自动驾驶汽车验证与确认工作面临的主要挑战与发展方向，具体如下。

（1）技术层面的挑战： 当前的验证体系在应对复杂多变的驾驶场景和长尾问题时仍存在局限性。实现真实验证与虚拟验证方法的有效协同，是提升验证效率和覆盖度的关键^［75］。未来研究应聚焦以下技术方向：深化形式化验证模型^［136］与控制合成的结合^［137］；优化算法的鲁棒性，以提高对极端场景的应对能力；提升样本覆盖度的量化能力，从而降低系统风险；加强数据采集与预处理能力，以增强模拟环境的真实性和有效性。通过这些技术突破，有望显著提升自动驾驶验证体系的性能和可靠性，为自动驾驶技术的广泛应用奠定坚实基础。

（2）法规与标准化挑战： 缺乏统一法规与标准是当前制约自动驾驶汽车跨地域、跨场景推广的关键因素^［24］。未来应推动制定全球统一的自动驾驶安全验证标准；明确ODD覆盖要求与场景定义，保障验证体系的合理性^［38］；强化测试场景的代表性与可重构性，以支持持续评估与更新。建立健全的法规与标准体系，是自动驾驶技术实现规模化推广的必由之路，也是保障公众安全和社会信任的重要保障。

（3）经济和社会因素：安全验证不仅是技术问题，还涉及市场与社会层面的接受与推广。未来应强化成本效益分析，平衡验证投入与技术成熟度；提升消费者对自动驾驶技术的信任度；加强对隐私保护、伦理等社会问题的关注；鼓励跨学科协作，推动技术、政策、社会等层面的融合发展。只有在经济可行性和社会接受度方面取得突破，自动驾驶技术才能真正实现可持续发展和广泛应用。

（4）研究展望：面向未来，自动驾驶安全验证与确认的研究应聚焦以下方向，构建更全面的验证框架，涵盖“已知已知”“已知未知”与“未知未知”的风险类型；推动仿真验证、道路测试与形式化分析的深度融合；强化跨行业、跨学科合作，促进政策、法规与技术的共同演进；实现安全验证的可持续发展，助力自动驾驶汽车达到更高的安全标准。通过持续的创新与协同努力，自动驾驶安全验证有望在技术、法规和社会层面实现突破，推动自动驾驶技术迈向更安全、更可靠的未来。

参考文献

[1] 刘新. 工信部: 规范智能网联汽车道路测试与示范应用[J]. 中国设备工程, 2021(16): 1.

[2] Liu Xin. Ministry of Industry and Information Technology: regulating road testing and demonstration of intelligent connected vehicles[J]. China Equipment Engineering, 2021(16): 1.

[3] Ho S S. Complementary and competitive framing of driverless cars: framing effects, attitude volatility, or attitude resistance?[J]. International Journal of Public Opinion Research, 2021, 33(3): 512-531.

[4] Yurtsever E, Lambert J, Carballo A, et al. A survey of autonomous driving: common practices and emerging technologies[J]. IEEE Access, 2020, 8: 58443-58469.

[5] Koopman P, Wagner M. Autonomous vehicle safety: an interdisciplinary challenge[J]. IEEE Intelligent Transportation Systems Magazine, 2017, 9(1): 90-96.

[6] 暴爽, 李丽香, 彭海朋. 智能车联网信息安全研究[J]. 信息安全与通信保密, 2023(3): 10-20.

[7] Bao Shuang, Li Li-xiang, Peng Hai-peng. Research on information security in intelligent internet of vehicles [J]. Information Security and Communications Privacy, 2023(3): 10-20.

[8] 董友建, 周文华. 关于人工智能的一些科技伦理问题——从“阿尔法狗”谈起[C]∥云南省第4、5届科学技术哲学与科学技术史研究生论坛优秀论文集, 中国, 昆明, 2015: 178-185.

[9] ISO/PAS 21448—2019 .International Standard Organization Road Vehicles-Safety of the Intended Functionality [S].

[10] Chen L, Jiao J, Zhao T. A novel hazard analysis and risk assessment approach for road vehicle functional safety through integrating STPA with FMEA[J]. Applied Sciences, 2020, 10: No. 7400.

[11] Wachenfeld W, Winner H. The release of autonomous vehicles[J]. Autonomous Driving: Technical, Legal and Social Aspects, 2016(5): 425-449.

[12] ISO/TR 4804—2020,Road vehicles—Safety and cybersecurity for automated driving systems—Design, verification and validation [S].

[13] 张鑫. 基于卡车行驶数据的驾驶行为分析评价系统研究[D].天津:天津大学机械工程学院, 2021.

[14] Zhang Xin. Research on driving behavior analysis and evaluation system based on truck driving data[D].Tianjin: School of Mechanical Engineering, Tianjin University, 2021.

[15] 方一格. 基于续驶里程及安全性能的电池包轻量化设计[D]. 长沙: 湖南大学机械与运载工程学院, 2021.

[16] Fang Yi-ge. Lightweight design of battery pack based on driving range and safety performance[D]. Changsha: School of Mechanical and Vehicle Engineering, Hunan University, 2021.

[17] 涂辉招, 崔航, 鹿畅, 面向自动驾驶路测驾驶能力评估的避险脱离率模型[J]. 同济大学学报: 自然科学版, 2020, 48(11): 8-16.

[18] Tu Hui-zhao, Cui Hang, Lu Chang, et al. Evasion disengagement rate model for assessing driving capability in autonomous road testing [J]. Journal of Tongji University(Natural Science), 2020, 48(11): 8-16.

[19] 王慧然. 基于预期功能安全的自动驾驶汽车换道控制关键技术研究[D]. 合肥:合肥工业大学汽车与交通工程学院, 2021.

[20] Wang Hui-ran. Research on key technologies of lane change control of autonomous vehicles based on expected functional safety[D]. Hefei: School of Automotive and Traffic Engineering, Hefei University of Technology, 2021.

[21] 夏春艳, 黄松, 郑长友, 自动驾驶交叉路口测试场景建模及验证方法[J]. 软件学报, 2023, 34(7):3002-3021.

[22] Xia Chun-yan, Huang Song, Zheng Chang-you, et al. Modeling and verification methods of autonomous driving intersection test scenarios [J]. Journal of Software, 2023, 34(7): 3002-3021.

[23] 王殿林. 自动在线规约挖掘技术研究[D]. 长沙:国防科学技术大学研究生院, 2011.

[24] Wang Dian-lin. Research on automatic online protocol mining technology[D]. Changsha: Graduate School of National University of Defense Technology, 2011.

[25] Pek C, Manzinger S, Koschi M, et al. Using online verification to prevent autonomous vehicles from causing accidents[J]. Nature Machine Intelligence, 2020(9): 518-528.

[26] 中华人民共和国国家标准. 质量管理体系基础和术语[J]. 质量春秋, 2009(6): 12.

[27] Standardization Administration of China. Fundamentals and vocabulary of quality management systems [J]. Quality Spring and Autumn, 2009(6): 12.

[28] 高雅, 朱西产. L3级自动驾驶系统安全认证方法[J].佳木斯大学学报:自然科学版, 2022, 40(3): 46-49.

[29] Gao Ya, Zhu Xi-chan. Safety certification method for L3-level autonomous driving systems[J]. Journal of Jiamusi University(Natural Science Edition), 2022, 40(3): 46-49.

[30] 刘佳熙, 郭辉, 李君. 汽车电子电气系统的功能安全标准ISO26262[J]. 上海汽车, 2011(10): 57-61.

[31] Liu Jia-xi, Guo Hui, Li Jun. Functional safety standard ISO 26262 for automotive electrical and electronic systems[J]. Shanghai Automobile, 2011(10): 57-61.

[32] 赵晨熙. 《道路交通安全法》大修[J]. 人民交通, 2021(10): 54-56.

[33] Zhao Chen-xi. Major revision of the Road Traffic Safety Law[J]. People's Transportation, 2021(10): 54-56.

[34] Leung K, Schmerling E, Zhang M, et al. On infusing reachability-based safety assurance within planning frameworks for human-robot vehicle interactions[J]. The International Journal of Robotics Research, 2020, 39(10/11): 1326-1345.

[35] 叶强. 德国自动驾驶立法评析[J]. 国外社会科学, 2022(2): 73-86, 197.

[36] Ye Qiang. Review of legislation on autonomous driving in Germany [J]. Foreign Social Sciences, 2022(2): 73-86, 197.

[37] Small M M, Johnston I. Lane keeping systems for light vehicles: draft ADR 107/00[R]. Canberra: Australasian College of Road Safety, 2022.

[38] Tenbrock A, König A, Keutgens T, et al. The conscend dataset: concrete scenarios from the highd dataset according to alks regulation unece r157 in openx[C]∥IEEE Intelligent Vehicles Symposium Workshops, Beijing, 2021: 174-181.

[39] T/ CECS G: V21-01-2020. 自动驾驶汽车试验道路技术标准[S].

[40] 李沛盈. 《关于加强智能网联汽车生产企业及产品准入管理的意见》解读与应对[J]. 网络安全和信息化, 2021(9): 47.

[41] Li Pei-ying. Interpretation and response to the opinions on strengthening the access management of intelligent connected vehicle manufacturers and products[J]. Cybersecurity and Informatization, 2021(9): 47.

[42] GB 7258—2017. 机动车运行安全技术条件 [S].

[43] 张行, 孙航. GB/T 40429—2021《汽车驾驶自动化分级》分析[J]. 中国汽车, 2022(5): 3-5, 7.

[44] Zhang Xing, Sun Hang. Analysis of GB/T 40429—2021 classification of driving automation for vehicles [J]. China Auto, 2022(5): 3-5, 7.

[45] 孙航, 张路, 季国田. 智能网联汽车标准体系及重点标准研究与展望[J]. 汽车安全与节能学报, 2024,15(6): 795-812.

[46] Sun Hang, Zhang Lu, Ji Guo-tian. Research and prospects of the standard system and key standards for intelligent connected vehicles[J]. Journal of Automotive Safety and Energy, 2024, 15(6): 795-812.

[47] SAE J3016_201401, Taxonomy and definitions for terms related to on-road motor vehicle automated driving systems [S].

[48] Riedmaier S, Ponn T, Ludwig D, et al. Survey on scenario-based safety assessment of automated vehicles[J]. IEEE Access, 2020, 8: 87456-87477.

[49] Koopman P. UL 4600: What to include in an autonomous vehicle safety case[J]. Computer, 2023, 56(5): 101-104.

[50] International SAE. SAE international releases updated J3018™ Standard for On-Road Testing of SAE Level 3, 4 and 5 Prototype Automated Driving System (ADS)[R]. Warrendale: Newswire P, 2019.

[51] Forest Thomas M. Cybersecurity Guidebook for Cyber-Physical Vehicle Systems[M]. New York:SAE International, 2016.

[52] van Den Berg J, Ferguson D, Kuffner J. Anytime path planning and replanning in dynamic environments[C]∥Proceedings of IEEE International Conference on Robotics and Automation, Shanghai, China, 2006: 2366-2371.

[53] Schmidt C, Oechsle F, Branz W. Research on trajectory planning in emergency situations with multiple objects[C]∥IEEE Intelligent Transportation Systems Conference, Toranto, Canada, 2006: 988-992.

[54] BMVI. Germany will be the World Leader in Autonomous Driving[R]. Federal Ministry of Transport and Digital Infrastructure, Germany, 2021.

[55] Shalev-Shwartz S, Shammah S, Shashua A. On a formal model of safe and scalable self-driving cars[J/OL].[2023-08-22].

[56] Wang X, Liu X, Zhong F, et al. A scenario generation method for typical operations of power systems with pv integration considering weather factors[J]. Sustainability, 2023, 15(20): No.15007.

[57] Shalev-Shwartz S, Shammah S, Shashua A. On a formal model of safe and scalable self-driving cars[J/OL].[2023-08-22].

[58] David N, Hon-Leung L, Ng Julia, et al. An Introduction to the Safety Force Field[M]. City of Santa Clara: NVIDIA Corporation, 2019.

[59] 电子发烧友网. 自动驾驶的关键技术有哪些?[EB/OL]. [2023-08-22].

[60] 梁耘瀚, 张慧珺, 刘斌, 驾驶员弯道操纵能力实车测试与分析方法研究[J]. 汽车技术, 2022(6): 47-54.

[61] Liang Yun-han, Zhang Hui-jun, Liu Bin, et al. Experimental testing and analysis method of driver's cornering operation ability [J]. Automotive Technology, 2022(6): 47-54.

[62] Zhang Y, Lu S, Yang Y, et al. Internet-distributed vehicle-in-the-loop simulation for HEVs[J]. IEEE Transactions on Vehicular Technology, 2018, 67(5):3729-3739.

[63] 刘俊, 郭洪艳, 戴启坤, 基于驾驶员在环实验的人车协同转向控制器评价方法[P]. 中国: CN111752168A, 2025-03-28.

[64] 王孝鹏, 吴龙. 车辆动力学建模与仿真[M]. 成都: 西南交通大学出版社, 2020.

[65] 朱冰, 张培兴, 赵健, 基于场景的自动驾驶汽车虚拟测试研究进展[J]. 中国公路学报, 2019, 32(6): 1-19.

[66] Zhu Bing, Zhang Pei-xing, Zhao Jian, et al. Research progress of scenario-based virtual testing for autonomous vehicles[J]. China Journal of Highway and Transport, 2019,32(6): 1-19.

[67] Xu X, Wang X, Wu X, et al. Calibration and evaluation of the responsibility-sensitive safety model of autonomous car-following maneuvers using naturalistic driving study data[J]. Transportation Research Part C: Emerging Technologies, 2021, 123:No.102988.

[68] Strauss M, Mitsch S. Slow down, move over: a case study in formal verification, refinement, and testing of the responsibility-sensitive safety model for self-driving cars[C]∥The 17th International Conference on Tests and Proofs,Leicester, UK, 2023: 149-167.

[69] Wang X, Ye C, Quddus M, et al. Pedestrian safety in an automated driving environment: calibrating and evaluating the responsibility-sensitive safety model[J]. Accident Analysis and Prevention, 2023, 192: No.107265.

[70] Suk H, Kim T, Park H, et al. Rationale-aware autonomous driving policy utilizing safety force field implemented on CARLA simulator[J/OL].[2023-08-22].

[71] Ji X, Cui X, Li Z, et al. Research and evaluation of the allosteric protein-specific force field based on a pre-training deep learning model[J]. Journal of Chemical Information and Modeling, 2023, 63(8):2456-2468.

[72] 刘秀芳, 曹凯, 杨旭, 基于可达集的自主车辆安全性验证方法[J]. 广西大学学报: 自然科学版, 2018, 43(2): 488-497.

[73] Liu Xiu-fang, Cao Kai, Yang Xu, et al. Safety verification method for autonomous vehicles based on reachable sets[J]. Journal of Guangxi University (Natural Science Edition), 2018, 43(2): 488-497.

[74] Althoff M, Frehse G, Girard A. Set propagation techniques for reachability analysis[J]. Annual Review of Control, Robotics, and Autonomous Systems, 2021, 4(1): 369-395.

[75] Wetzlinger M, Kulmburg A, Althoff M. Adaptive parameter tuning for reachability analysis of nonlinear systems [C]∥Proceedings of the 24th International Conference on Hybrid Systems, Nashville Tennessee, USA, 2021: 1-11.

[76] Wetzlinger M, Kulmburg A, Le Penven A, et al. Adaptive reachability algorithms for nonlinear systems using abstraction error analysis[J]. Nonlinear Analysis: Hybrid Systems, 2022, 46: No.101252.

[77] 邱锡鹏. 神经网络与深度学习[M]. 北京: 电子工业出版社, 2020: 448.

[78] LeCun Y. 1.1 Deep learning hardware: past, present, and future[C]∥IEEE International Solid-State Circuits Conference-(ISSCC),San Francisco, USA, 2019: 12-19.

[79] Ribeiro C, Pinto T, Silva M, et al. Data mining approach for decision support in real data based smart grid scenario[C]∥The 26th International Workshop on Database and Expert Systems Applications (DEXA), Valencia, Spain, 2015: 73-77.

[80] Yang Y, Yuan Z, Meng R. Exploring traffic crash occurrence mechanism toward cross-area freeways via an improved data mining approach[J]. Journal of Transportation Engineering, Part A: Systems, 2022, 148(9): No.04022052.

[81] Yichao Z, Zhenda H, Linyao Z, et al. Study on scenario generation based on deep clustering and its application in supply-demand imbalance assessment[C]∥ The 8th Asia Conference on Power and Electrical Engineering(ACPEE), Tianjin, China, 2023: 1903-1910.

[82] Duan J, Gao F, He Y. Test scenario generation and optimization technology for intelligent driving systems[J]. IEEE Intelligent Transportation Systems Magazine, 2020, 14(1): 115-127.

[83] Guo P, Gao F. Automated scenario generation and evaluation strategy for automatic driving system[C]∥ The 7th International Conference on Information Science and Control Engineering(ICISCE),2020: 1722-1733.

[84] Tian Y C, Jing D L. Towards an automatic test generation method for systems of systems based on fault injection and model-based systems engineering[J]. Applied Sciences, 2022,12(22): No.11863.

[85] 陈琦. 《智能网联汽车生产企业及产品准入管理指南》为产业变革吹响号角[J]. 汽车与配件, 2021(11):28-29.

[86] Chen Qi. The Guidelines for access management of enterprises and products of intelligent connected vehicles: a clarion call for industrial reform[J]. Automobile and Parts, 2021(11): 28-29.

[87] Gassmann B, Oboril F, Buerkle C, et al. Towards standardization of AV safety: C++ library for responsibility sensitive safety[C]∥IEEE Intelligent Vehicles Symposium (IV), Paris, France, 2019:2265-2271.

[88] Hekmatnejad M, Yaghoubi S, Dokhanchi A, et al. Encoding and monitoring responsibility sensitive safety rules for automated vehicles in signal temporal logic[C]∥Proceedings of the 17th ACM-IEEE International Conference on Formal Methods and Models for System Design, 2019: 1-11.

[89] Salay R, Czarnecki K, Elli M S, et al. PURSS: towards perceptual uncertainty aware responsibility sensitive safety with ML[C]∥Workshop on Artificial Intelligence Safety, New York,USA, 2020:91-95.

[90] Chai C, Zeng X, Wu X, et al. Evaluation and optimization of responsibility-sensitive safety models on autonomous car-following maneuvers[J]. Transportation Research Record, 2020, 2674(11): 662-673.

[91] Liu S, Wang X, Hassanin O, et al. Calibration and evaluation of responsibility-sensitive safety (RSS) in automated vehicle performance during cut-in scenarios[J]. Transportation Research Part C: Emerging Technologies, 2021, 125: No.103037.

[92] Tran D Q, Bae S H. Improved responsibility-sensitive safety algorithm through a partially observable Markov decision process framework for automated driving behavior at non-signalized intersection[J]. International Journal of Automotive Technology, 2021, 22(2): 301-314.

[93] 罗嗣卿, 陈慧. 基于生成对抗网络的图像场景转换[J].计算机工程, 2023, 49(4): 217-225.

[94] Luo Si-qing, Chen Hui. Image scene transformation based on generative adversarial networks[J]. Computer Engineering, 2023, 49(4): 217-225.

[95] Junietz P, Bonakdar F, Klamann B, et al. Criticality metric for the safety validation of automated driving using model predictive trajectory optimization[C]∥2018 21st International Conference on Intelligent Transportation Systems (ITSC), 2018: 60-65.

[96] Kress-Gazit H, Eder K, Hoffman G, et al. Formalizing and guaranteeing human-robot interaction[J]. Communications of the ACM, 2021, 64(9): 78-84.

[97] 陶飞, 张辰源, 戚庆林, 数字孪生成熟度模型[J]. 计算机集成制造系统, 2022, 28(5): 1267-1281.

[98] Tao Fei, Zhang Chen-yuan, Qi Qing-lin, et al. Digital twin maturity model[J].Computer Integrated Manufacturing Systems, 2022, 28(5): 1267-1281.

[99] 李鑫武, 陈雨轩, 丁华杰, 基于仿真的自动驾驶影子模式数据采集[P]. 中国: CN202211178589.5, 2022-12-2.

[100] Pfeffer R, Leichsenring T. Continuous development of highly automated driving functions with vehicle-in-the-loop using the example of Euro NCAP scenarios[C]∥The 7th Conference on Simulation and Testing for Vehicle Technology, Berlin, Germany, 2016: 33-42.

[101] Tettamanti T, Szalai M, Vass S, et al. Vehicle-in-the-loop test environment for autonomous driving with microscopic traffic simulation[C]∥IEEE International Conference on Vehicular Electronics and Safety (ICVES), Madrid, Spain,2018: 1-6.

[102] Weng B, Capito L, Ozguner U, et al. Towards guaranteed safety assurance of automated driving systems with scenario sampling: an invariant set perspective[J]. IEEE Transactions on Intelligent Vehicles,2021, 7(3): 638-651.

[103] 武小倩, 李国玄, 冷露露. 自动驾驶汽车技术研究[J]. 汽车测试报告, 2023(5): 40-42.

[104] Wu Xiao-qian, Li Guo-xuan, Leng Lu-lu. Research on autonomous vehicle technology[J]. Automobile Testing Report, 2023(5): 40-42.

[105] Koopman P, Wagner M. Challenges in autonomous vehicle testing and validation[J]. SAE International Journal of Transportation Safety, 2016, 4(1): 15-24.

[106] Tumova J, Hall G C, Karaman S, et al. Least-violating control strategy synthesis with safety rules[C]∥Proceedings of The 16th International Conference on Hybrid Systems: Computation and Control, Marrakech, Morocco, 2013: 1-10.

[107] Kress-Gazit H, Fainekos G E, Pappas G J. Temporal-logic-based reactive mission and motion planning[J]. IEEE Transactions on Robotics, 2009, 25(6): 1370-1381.

[108] Fraichard T, Asama H. Inevitable collision states—a step towards safer robots? [J]. Advanced Robotics, 2004, 18(10): 1001-1024.

[109] Chan N, Kuffner J, Zucker M. Improved motion planning speed and safety using regions of inevitable collision[C]∥The 17th CISM-IFToMM Symposium on Robot Design, Dynamics, and Control, Tokyo, Japan, 2008 :103-114.

[110] Dahl J, de Campos G R, Olsson C, et al. Collision avoidance: a literature review on threat-assessment techniques[J]. IEEE Transactions on Intelligent Vehicles, 2018, 4(1): 101-113.

[111] 聂隐愚. 数据驱动的车辆动力学建模与仿真研究[D]. 成都: 西南交通大学牵引动力国家实验室, 2016.

[112] Nie Yin-yu. Research on data-driven vehicle dynamics modeling and simulation[D]. Chengdu: State Key Laboratory of Traction Power,Southwest Jiaotong University, 2016.

[113] 徐学进. 基于驾驶模拟器的车辆动力学建模研究[D].武汉: 武汉理工大学汽车工程学院, 2007.

[114] Xu Xue-jin. Research on vehicle dynamics modeling based on driving simulator[D]. Wuhan: School of Automotive Engineering, Wuhan University of Technology, 2007.

[115] Huang H M, Pavek K, Albus J, et al. Autonomy levels for unmanned systems(ALFUS) framework: an update[J].Unmanned Ground Vehicle Technology VII,2005, 5804: 439-448.

[116] 赵文博. 智能汽车行人避撞系统相机在环测试方法研究[D]. 长春: 吉林大学汽车工程学院, 2021.

[117] Zhao Wen-bo. Research on camera-in-the-loop test method of pedestrian collision avoidance system for intelligent vehicles[D].Changchun: College of Automotive Engineering, Jilin University, 2021.

[118] 邢星飞, 翟洪涛, 郑英东, 智能网联汽车毫米波雷达在环测试研究[J]. 汽车电器, 2022(6): 4-7.

[119] Xing Xing-fei, Zhai Hong-tao, Zheng Ying-dong, et al. Hardware-in-the-loop testing of millimeter-wave radar for intelligent connected vehicles [J]. Automotive Electronics, 2022(6): 4-7.

[120] 马谦. 车辆V2X功能硬件在环仿真测试系统研究[J].上海汽车, 2023(4): 27-30.

[121] Ma Qian. Hardware-in-the-loop simulation test system for V2X functions of vehicles [J]. Shanghai Automobile, 2023(4): 27-30.

[122] 夏宋鹏程, 裴凌, 朱一帆, 基于GNSS硬件在环的多源融合定位高逼真仿真方法[J]. 中国惯性技术学报, 2020, 28(2): 8-12.

[123] peng-cheng Xia-Song, Pei Ling, Zhu Yi-fan, et al. High-fidelity simulation method for multi-source fusion positioning based on GNSS hardware-in-the-loop [J]. Journal of China Inertial Technology, 2020, 28(2): 8-12.

[124] 呼啸. 应用ECU在环仿真的EPS系统嵌入式软件测试研究[D]. 长春:吉林大学汽车工程学院, 2012.

[125] Hu Xiao. Research on embedded software testing of EPS system using ECU-in-the-loop simulation[D].Changchun: College of Automotive Engineering, Jilin University, 2012.

[126] Drolia U, Wang Z, Vemuri S, et al. Demo abstract: AutoPlug—an automotive test-bed for ECU testing, validation and verification[C]∥Proceedings of the 10th ACM/IEEE International Conference on Information Processing in Sensor Networks, Chicago, USA, 2011: 131-132.

[127] Zhao T, Yurtsever E, Paulson J A, et al. Formal certification methods for automated vehicle safety assessment[J]. IEEE Transactions on Intelligent Vehicles, 2022,8(1): 232-249.

[128] 卜磊, 解定宝. 混成系统形式化验证[J]. 软件学报, 2014, 25(2): 15-25.

[129] Bu Lei, Xie Ding-bao. Formal verification of hybrid systems[J]. Journal of Software, 2014, 25(2): 15-25.

[130] Domenici A, Fagiolini A, Palmieri M. Integrated simulation and formal verification of a simple autonomous vehicle[C]∥Software Engineering and Formal Methods: SEFM 2017 Collocated Workshops: DataMod, FAACS, MSE, CoSim-CPS, and FOCLASA, Trento, Italy, 2017: 300-314.

[131] 刘秉政, 曹凯, 马建军. 自主车辆行为决策的安全验证方法[J]. 山东理工大学学报: 自然科学版, 2011, 25(6): 7-10.

[132] Liu Bing-zheng, Cao Kai, Ma Jian-jun. Safety verification method for behavior decision-making of autonomous vehicles [J]. Journal of Shandong University of Technology(Natural Science Edition), 2011, 25(6): 7-10.

[133] 张雅顺. 混合系统的形式验证方法及其应用[D].合肥:合肥工业大学电气与自动化工程学院, 2006.

[134] Zhang Ya-shun. Formal verification method of hybrid system and its application[D].Hefei: School of Electrical Engineering and Automation, Hefei University of Technology, 2006.

[135] Mitchell I M. A toolbox of level set methods version 1.0[J]. Journal of Molecular Graphics & Modelling, 2004, 25(4): 442-454.

[136] Kiran B R, Sobh I, Talpaert V, et al. Deep reinforcement learning for autonomous driving: a survey[J]. IEEE Transactions on Intelligent Transportation Systems, 2021, 23(6): 4909-4926.

[137] Li L, Lin Y L, Cao D P, et al. Parallel learning-a new framework for machine learning[J]. Acta Automatica Sinica, 2017, 43(1): 1-8.

[138] Ly A O, Akhloufi M. Learning to drive by imitation: an overview of deep behavior cloning methods[J]. IEEE Transactions on Intelligent Vehicles, 2020, 6(2): 195-209.

[139] Ma Y, Wang Z, Yang H, et al. Artificial intelligence applications in the development of autonomous vehicles: a survey[J]. IEEE/CAA Journal of Automatica Sinica, 2020, 7(2): 315-329.

[140] Chauhan N K, Singh K. A review on conventional machine learning vs deep learning[C]∥International Conference on Computing, Power and Communication Technologies(GUCON), Beijing, China, 2018: 347-352.

[141] Sun C, Su L, Gu S, et al. Cross validation for CNN based affordance learning and control for autonomous driving[C]∥IEEE Intelligent Transportation Systems Conference (ITSC), Auckland, New Zealand, 2019: 1519-1524.

[142] Al-Sharman M, Murdoch D, Cao D, et al. A sensorless state estimation for a safety-oriented cyber-physical system in urban driving: deep learning approach[J]. IEEE/CAA Journal of Automatica Sinica, 2020, 8(1): 169-178.

[143] Ding W, Wang W, Zhao D. A multi-vehicle trajectories generator to simulate vehicle-to-vehicle encountering scenarios[C]∥International Conference on Robotics and Automation (ICRA), Montreal,Canada, 2019: 4255-4261.

[144] Wang W, Ramesh A, Zhu J, et al. Clustering of driving encounter scenarios using connected vehicle trajectories[J]. IEEE Transactions on Intelligent Vehicles, 2020, 5(3): 485-496.

[145] Krajewski R, Moers T, Nerger D, et al. Data-driven maneuver modeling using generative adversarial networks and variational autoencoders for safety validation of highly automated vehicles[C]∥The 21st International Conference on Intelligent Transportation Systems(ITSC), Maui, USA, 2018: 2383-2390.

[146] Rowe J, Smith A, Pokorny B, et al. Toward automated scenario generation with deep reinforcement learning in GIFT[C]∥Proceedings of the Sixth Annual GIFT User Symposium,Orlando,USA, 2018: 65-74.

[147] Littman M L. Reinforcement learning improves behaviour from evaluative feedback[J]. Nature, 2015, 521(7553): 445-451.

[148] Li N, Oyler D W, Zhang M, et al. Game theoretic modeling of driver and vehicle interactions for verification and validation of autonomous vehicle control systems[J]. IEEE Transactions on Control Systems Technology, 2017, 26(5): 1782-1797.

[149] Oyler D W, Yildiz Y, Girard A R, et al. A game theoretical model of traffic with multiple interacting drivers for use in autonomous vehicle development[C]∥American Control Conference (ACC), Boston, USA, 2016: 1705-1710.

[150] Albaba B M, Yildiz Y. Driver modeling through deep reinforcement learning and behavioral game theory[J]. IEEE Transactions on Control Systems Technology, 2021, 30(2): 885-892.

[151] Feng S, Feng Y, Sun H, et al. Testing scenario library generation for connected and automated vehicles, part Ⅱ: case studies[J]. IEEE Transactions on Intelligent Transportation Systems, 2020, 22(9):5635-5647.

[152] Kang S, Guo H, Su P, et al. Ecsas: exploring critical scenarios from action sequence in autonomous driving[C]∥2023 IEEE 32nd Asian Test Symposium (ATS), Beijing, China, 2023: 1-6.

[153] Humeniuk D, Khomh F, Antoniol G. Reinforcement learning informed evolutionary search for autonomous systems testing[J]. ACM Transactions on Software Engineering and Methodology, 2024, 33(8): 1-45.

[154] Wang X, Zhang S, Peng H. Comprehensive safety evaluation of highly automated vehicles at the roundabout scenario[J]. IEEE Transactions on Intelligent Transportation Systems, 2022, 23(11): 20873-20888.

[155] Lu C. Test scenario generation for autonomous driving systems with reinforcement learning[C]∥IEEE/ACM 45th International Conference on Software Engineering: Companion Proceedings(ICSE-Companion), Melbourne,Australia, 2023: 317-319.

[156] Gao J, Li S, Tao C, et al. An approach to GUI test scenario generation using machine learning[C]∥ IEEE International Conference on Artificial Intelligence Testing(AITest), Newark, USA, 2022: 79-86.

[157] Wachi A. Failure-scenario maker for rule-based agent using multi-agent adversarial reinforcement learning and its application to autonomous driving[J/OL].[2023-08-22].

[158] Ma Y, Sun C, Chen J, et al. Verification and validation methods for decision-making and planning of automated vehicles: a review[J]. IEEE Transactions on Intelligent Vehicles, 2022, 7(3): 480-498.

[159] Niu H, Ren K, Xu Y, et al. (Re) 2H₂O: Autonomous driving scenario generation via reversely regularized hybrid offline-and-online reinforcement learning[C]∥IEEE Intelligent Vehicles Symposium(IV), Anchorage, Alaska, USA, 2023 :1-8.

[160] Behzadan V, Munir A. Adversarial reinforcement learning framework for benchmarking collision avoidance mechanisms in autonomous vehicles[J]. IEEE Intelligent Transportation Systems Magazine, 2019,13(2): 236-241.

[161] Chen B, Chen X, Wu Q, et al. Adversarial evaluation of autonomous vehicles in lane-change scenarios[J]. IEEE Transactions on Intelligent Transportation Systems, 2021, 23(8): 10333-10342.

[162] Erdogan A, Kaplan E, Leitner A, et al. Parametrized end-to-end scenario generation architecture for autonomous vehicles[C]∥The 6th International Conference on Control Engineering & Information Technology(CEIT),Hong Kong, China, 2018:1-6.

[163] Pütz A, Zlocki A, Küfen J, et al. Database approach for the sign-off process of highly automated vehicles[C]∥25th International Technical Conference on the Enhanced Safety of Vehicles (ESV) National Highway Traffic Safety Administration, Detroit, Michigan, USA, 2017: 1-8.

[164] Hsueh M C, Tsai T K, Iyer R K. Fault injection techniques and tools[J]. Computer, 1997,30(4): 75-82.

[165] Juez G, Amparan E, Lattarulo R, et al. Early safety assessment of automotive systems using sabotage simulation-based fault injection framework[C]∥International Conference on Computer Safety, Reliability, and Security,Vienna, Austria, 2017: 255-269.

[166] Fu Y, Terechko A, Bijlsma T, et al. A Retargetable Fault Injection Framework for Safety Validation of Autonomous Vehicles[M]. Hamburg:ICSA-C,2019:69-76.

[167] Juez G, Amparan E, Lattarulo R, et al. Early safety assessment of automotive systems using sabotage simulation-based fault injection framework[C]∥International Conference on Computer Safety, Reliability, and Security, Vienna, Austria, 2017: 255-269

[168] Karunakaran D, Berrio JS, Worrall S, et al. Critical concrete scenario generation using scenario-based falsification[C]∥IEEE International Conference on Recent Advances in Systems Science and Engineering (RASSE), Tainan, China, 2022: 1-8.

[169] Leung K, Schmerling E, Zhang M, et al. On infusing reachability-based safety assurance within planning frameworks for human-robot vehicle interactions[J]. The International Journal of Robotics Research, 2020, 39(10-11): 1326-1345.

[170] Chen M, Tam Q, Livingston S C, et al. Signal temporal logic meets reachability: connections and applications[C]∥International Workshop on the Algorithmic Foundations of Robotics, Shenzhen, China, 2018:581-601.

基金资助

国家自然科学基金青年基金项目(52202494)

国家自然科学基金青年基金项目(52202495)