[论文解读] CausalCity: Complex Simulations with Agency for Causal Discovery and Reasoning

Daniel McDuff, Yale Song+8 more|arXiv (Cornell University)|Jun 24, 2021

Bayesian Modeling and Causal Inference被引用 10

一句话总结

CausalCity 引入了一个高保真、具备代理能力的仿真环境，用于在复杂且安全关键的驾驶场景中进行因果发现与反事实推理。通过使车辆能够基于高层次目标自主决策，该平台支持系统性地生成具有现实共变量的多样化因果场景，相较于更简单的基准，其在真实动态交通环境中展现出更优的因果结构学习与轨迹预测挑战。

ABSTRACT

The ability to perform causal and counterfactual reasoning are central properties of human intelligence. Decision-making systems that can perform these types of reasoning have the potential to be more generalizable and interpretable. Simulations have helped advance the state-of-the-art in this domain, by providing the ability to systematically vary parameters (e.g., confounders) and generate examples of the outcomes in the case of counterfactual scenarios. However, simulating complex temporal causal events in multi-agent scenarios, such as those that exist in driving and vehicle navigation, is challenging. To help address this, we present a high-fidelity simulation environment that is designed for developing algorithms for causal discovery and counterfactual reasoning in the safety-critical context. A core component of our work is to introduce \ extit{agency}, such that it is simple to define and create complex scenarios using high-level definitions. The vehicles then operate with agency to complete these objectives, meaning low-level behaviors need only be controlled if necessary. We perform experiments with three state-of-the-art methods to create baselines and highlight the affordances of this environment. Finally, we highlight challenges and opportunities for future work.

研究动机与目标

• 开发一个支持在复杂、类现实驾驶场景中系统性进行因果与反事实推理的仿真环境。
• 解决现有数据集与仿真器的局限性，这些局限通常缺乏动态代理能力、现实共变量以及足够的场景多样性。
• 通过最小化低层级控制实现高层次场景定义，使研究人员能够在多智能体时序环境中探索因果关系。
• 为在真实、受共变量影响的条件下评估因果发现与轨迹预测算法提供基准。
• 通过支持可控干预与反事实分析，推动可解释人工智能与鲁棒决策研究的未来发展。

提出的方法

• 仿真环境具备高保真的视觉与物理动态，模拟真实世界驾驶条件，包含现实的车辆行为与交通规则。
• 每辆车辆均具备“代理能力”，可基于高层次目标自主决定低层级行为（如制动、车道保持），从而减少对手动动作指定的需求。
• 通过高层次配置（如“从 A 驱动到 B”）定义场景，系统自动生成智能体之间的复杂且现实的交互。
• 环境记录丰富的多模态数据（如轨迹、视觉观测、事件日志），以支持因果推断与轨迹预测任务的数据集构建。
• 平台支持可控干预——例如在交通灯处改变某辆车的行为——以实现反事实推理实验。
• 基线采用最先进的方法（NRI、V-CDN、NS-DR）在合成数据与 CausalCity 生成的数据上进行因果发现与轨迹预测。

实验结果

研究问题

• RQ1 现实且动态的共变量（如遵守规则、避碰）的存在如何影响多智能体驾驶场景中的因果发现性能？
• RQ2 与静态或基于规则的仿真相比，代理能力在多大程度上提升了因果场景的真实感与复杂性？
• RQ3 当在高保真、动态的仿真环境（如 CausalCity）与更简单的基准上评估时，最先进的因果发现与轨迹预测模型表现如何？
• RQ4 该仿真环境能否支持有意义的反事实推理实验，例如“如果主角车辆在红灯处没有停车会怎样”？
• RQ5 当潜在因果图稀疏且共变量既可测量又隐藏时，因果发现面临的主要挑战是什么？

主要发现

• 在 CausalCity 数据集上，轨迹预测误差的增长速度明显快于简单玩具数据集，尤其对 NS-DR 模型更为显著，表明现实世界共变量显著挑战现有模型。
• 因果发现性能（以 F1 分数衡量）在 CausalCity 上始终低于玩具数据集，尤其在 8 辆车的情况下，归因于交互的复杂性与现实感提升。
• 随着车辆数量的增加，因果发现变得更加困难，即使因果连接比例保持不变，凸显可扩展性挑战。
• 更高的因果连接比例（如 80%）可提升因果发现性能，表明因果图的稀疏性是主要障碍。
• 该仿真环境可通过在相同初始条件下实施策略性干预（如改变某辆车在交通信号灯处的行为）来支持可控的反事实实验。
• 结果表明，当前最先进的方法在真实、受共变量影响的环境中，于因果发现与轨迹预测方面均表现吃力，凸显了对更鲁棒因果推理框架的迫切需求。