[论文解读] Exploring the Relationship Between "Positive Risk Balance" and "Absence of Unreasonable Risk"

Francesca Favarò|arXiv (Cornell University)|Oct 20, 2021

Risk and Safety Analysis被引用 4

一句话总结

本文澄清了自动驾驶安全中“正向风险平衡”（PRB）与“无不合理风险”（AUR）之间的概念关系。它识别出PRB的两种不同解释——风险权衡的正当性与风险优化——并论证这两种解释可在非规定性安全准则中并存，从而解决国际监管话语中的模糊性。

ABSTRACT

International discussions on the overarching topic of how to define and quantify what a "safe enough" Automated Driving System (ADS) is are currently hinged on the question of determining the relationship between "positive risk balance" (PRB) and "absence of unreasonable risk" (AUR). In order to advance the conversation on these important safety topics at the international level, it is first important to start from a shared common understanding, grounded in clear definitions and terminology. To that end, this paper will start with an overview of the notions of PRB and AUR; it will then summarize different positions of the present debate; finally, it will conclude that two possible interpretations exist for PRB, and that failure to distinguish them can lead to misunderstanding different parties' positions. The argumentation in this paper is aimed at showing that the two interpretations for PRB can actually complement each other, but can be considered independently, and can both be subsumed within non-prescriptive guidelines toward ADS safety assurance.

研究动机与目标

• 建立自动驾驶系统中‘正向风险平衡’（PRB）与‘无不合理风险’（AUR）的术语基础共识理解。
• 分析当前国际社会关于定义‘足够安全’的自动驾驶系统（ADS）的辩论。
• 解决因监管和技术讨论中对PRB解释模糊而引发的概念混淆。
• 证明PRB的两种解释可在非规定性安全保证框架中并存并相互补充。
• 通过澄清基础概念与术语，支持国际间在ADS安全方面的协调一致。

提出的方法

• 基于国际监管和技术文献中的定义，对PRB与AUR进行概念分析。
• 调查并总结当前国际关于ADS安全阈值的辩论中存在分歧的立场。
• 区分PRB的两种解释：(1) 风险权衡的正当性，(2) 风险优化。
• 分析每种PRB解释与AUR原则的关系，而不规定具体的安全指标。
• 提出两种解释可整合进非规定性安全保证准则。
• 运用逻辑与概念推理，表明两种PRB解释之间是互补而非矛盾关系。

实验结果

研究问题

• RQ1 在自动驾驶安全背景下，'正向风险平衡'（PRB）存在哪两种不同的解释？
• RQ2 在监管和技术话语中，'无不合理风险'（AUR）概念如何与PRB相关联？
• RQ3 为何未能区分PRB的两种解释会导致国际讨论中的误解？
• RQ4 两种PRB解释能否在统一的安全保证框架中共存？
• RQ5 非规定性准则如何同时纳入PRB的两种解释，同时支持国际监管协调？

主要发现

• 存在两种不同的‘正向风险平衡’（PRB）解释：一种聚焦于风险权衡的正当性，另一种聚焦于风险水平的优化。
• 区分这两种解释对于避免在自动驾驶安全的国际监管与技术讨论中产生误解至关重要。
• 未能区分这两种解释，可能导致利益相关方对自动驾驶系统（ADS）安全阈值的理解出现偏差。
• 两种PRB解释均可有意义地纳入非规定性安全保证准则，从而提升灵活性与国际一致性。
• 本文结论认为，两种PRB解释是互补而非矛盾的，有助于构建更细致且稳健的安全框架。
• 该分析支持发展非规定性安全保证方法，以容纳不同司法管辖区间多样的风险管理理念。