[论文解读] AUTO-DISCERN: Autonomous Driving Using Common Sense Reasoning

Suraj Kothawade, Vinaya Khandelwal+3 more|arXiv (Cornell University)|Oct 17, 2021

Logic, Reasoning, and Knowledge参考文献 19被引用 7

一句话总结

本文提出 Auto-Discern，一种自动驾驶系统，通过答案集编程（ASP）和基于目标驱动的 s(CASP) 系统，以常识推理取代机器学习进行决策。通过形式化表达人类驾驶决策的常识规则，该系统实现了可解释、合乎伦理且可证明正确的决策，为实现 SAE 级别 5 自动化提供了可行路径。

ABSTRACT

Driving an automobile involves the tasks of observing surroundings, then making a driving decision based on these observations (steer, brake, coast, etc.). In autonomous driving, all these tasks have to be automated. Autonomous driving technology thus far has relied primarily on machine learning techniques. We argue that appropriate technology should be used for the appropriate task. That is, while machine learning technology is good for observing and automatically understanding the surroundings of an automobile, driving decisions are better automated via commonsense reasoning rather than machine learning. In this paper, we discuss (i) how commonsense reasoning can be automated using answer set programming (ASP) and the goal-directed s(CASP) ASP system, and (ii) develop the AUTO-DISCERN system using this technology for automating decision-making in driving. The goal of our research, described in this paper, is to develop an autonomous driving system that works by simulating the mind of a human driver. Since driving decisions are based on human-style reasoning, they are explainable, their ethics can be ensured, and they will always be correct, provided the system modeling and system inputs are correct.

研究动机与目标

• 为解决在实现 SAE 级别 5 自动驾驶方面进展停滞的问题，从过度依赖机器学习转向类人常识推理。
• 开发一种决策系统，通过推理而非模式匹配，模拟人类驾驶员的认知过程。
• 确保自动驾驶决策具备可解释性、伦理一致性，并在输入和规则建模正确时具有正确性。
• 克服传统基于 SAT 求解器的 ASP 系统在实时自动驾驶应用中可扩展性和可解释性方面的局限。
• 构建一种系统，可通过更新常识规则而非重新训练机器学习模型，适应不同国家的驾驶规范。

提出的方法

• 将交通规则、物体交互和场景动态等驾驶知识表示为答案集编程（ASP）中的逻辑规则。
• 使用 s(CASP)，即 ASP 的目标驱动实现方式，执行这些规则，从而在可扩展性和可解释性方面优于传统基于 SAT 求解器的系统（如 CLINGO）。
• 将传感器和感知数据（来自基于深度学习的场景理解）作为输入谓词集成到 ASP 知识库中。
• 通过有序场景处理，利用时间推理建模场景序列，如闪烁的交通信号灯或预测物体运动。
• 设计模块化架构，其中感知（通过深度学习）为推理引擎（通过 s(CASP)）提供输入，以生成决策。
• 通过确保决策源自逻辑一致的规则集和经过验证的输入描述，验证系统的正确性。

实验结果

研究问题

• RQ1 通过 ASP 形式化的常识推理是否能够取代机器学习在自动驾驶决策中的应用，同时保持正确性和可解释性？
• RQ2 像 s(CASP 这样的目标驱动 ASP 系统，如何克服传统 ASP 求解器在实时自动驾驶中可扩展性和可解释性方面的局限？
• RQ3 基于常识规则的系统在多大程度上能够处理复杂驾驶场景，如闪烁的交通信号灯或预测物体轨迹？
• RQ4 基于常识推理的系统如何在不重新训练感知模型的前提下，适应不同地区的驾驶规范？
• RQ5 如果输入和规则正确，此类系统是否可以被证明在伦理上合理且无错误决策？

主要发现

• Auto-Discern 系统成功使用形式化常识规则（以 ASP 表达）建模驾驶决策，实现可解释且可证明正确的行为。
• s(CASP) 的使用实现了高效的目标驱动推理，克服了基于 SAT 求解器的 ASP 系统（如 CLINGO）在可扩展性和可追溯性方面的关键局限。
• 通过在场景序列上进行时间推理，系统能够处理如闪烁交通信号灯和预测运动建模等复杂场景。
• 与基于机器学习的系统不同，Auto-Discern 可通过更新规则集而非重新训练感知模型，轻松适应新国家的驾驶规范。
• 当输入准确时，系统通过依赖推理中的逻辑一致性，弥补基于机器学习感知的潜在错误，确保决策的正确性。
• 该方法通过模拟人类驾驶决策中的认知过程，展示了通往 SAE 级别 5 自动化的可行路径。