[论文解读] SafeDiffuser: Safe Planning with Diffusion Probabilistic Models

Wei Xiao, Tsun-Hsuan Wang+2 more|arXiv (Cornell University)|May 31, 2023

Model Reduction and Neural Networks被引用 4

一句话总结

SafeDiffuser 通过使用控制屏障函数（CBFs）引入有限时间扩散不变性，将安全保证直接嵌入扩散概率模型的去噪过程中，以实现机器人规划的安全性。通过将 CBFs 集成到扩散时间范围内，它确保在整个生成过程中轨迹始终处于安全集合内，在迷宫导航、足式运动以及 3D 操控任务中均展现出鲁棒且保证安全的性能，优于原始扩散模型的安全性和可靠性。

ABSTRACT

Diffusion model-based approaches have shown promise in data-driven planning, but there are no safety guarantees, thus making it hard to be applied for safety-critical applications. To address these challenges, we propose a new method, called SafeDiffuser, to ensure diffusion probabilistic models satisfy specifications by using a class of control barrier functions. The key idea of our approach is to embed the proposed finite-time diffusion invariance into the denoising diffusion procedure, which enables trustworthy diffusion data generation. Moreover, we demonstrate that our finite-time diffusion invariance method through generative models not only maintains generalization performance but also creates robustness in safe data generation. We test our method on a series of safe planning tasks, including maze path generation, legged robot locomotion, and 3D space manipulation, with results showing the advantages of robustness and guarantees over vanilla diffusion models.

研究动机与目标

• 解决基于扩散模型的规划在安全关键型机器人应用中缺乏安全保证的问题。
• 正式将规范符合性（尤其是安全约束）嵌入扩散生成过程中。
• 克服在扩散模型中应用控制屏障函数（CBFs）的挑战，因为扩散模型与系统动力学无直接关联。
• 通过在扩散过程中引入时变不变性约束，缓解规划中的局部陷阱问题。
• 在通过基于二次规划（QP）的校正机制强制执行安全性的前提下，保持扩散模型的泛化能力和性能。

提出的方法

• 提出一种新颖的有限时间扩散不变性概念，确保在整个去噪过程中轨迹始终处于安全集合内。
• 将控制屏障函数（CBFs）集成到扩散时间范围内，以确保安全集合的前向不变性。
• 通过二次规划（QP）修改去噪步骤，将预测轨迹投影到由 CBFs 定义的可行集合上，同时保持生成性能。
• 结合基于扩散的路径生成与滚动时域控制，实现渐进式、安全的轨迹计算。
• 采用基于李雅普诺夫的分析方法，正式验证在去噪序列结束时，扩散过程仍保持对安全约束的不变性。
• 采用时变 CBFs 以处理动态约束，并避免在复杂规划环境中陷入局部陷阱。

实验结果

研究问题

• RQ1 扩散概率模型能否在形式上保证仅生成机器人规划任务中的安全轨迹？
• RQ2 如何有效将控制屏障函数（CBFs）集成到扩散时间过程中，而该过程并不直接依赖系统动力学？
• RQ3 能否在不牺牲标准扩散模型泛化能力与样本质量的前提下，实现有限时间扩散不变性？
• RQ4 如何通过在扩散过程中嵌入时变不变性约束，缓解规划中的局部陷阱问题？
• RQ5 在基于扩散的规划中，安全保证与生成保真度之间的性能权衡如何？

主要发现

• SafeDiffuser 在所有测试任务中成功生成了安全轨迹——包括迷宫导航、足式机器人运动以及 3D 空间操控任务——且未违反任何安全约束。
• 该方法通过有限时间扩散不变性实现形式化安全保证，确保在每个去噪步骤中轨迹均保持在安全集合内。
• 定量评估表明，尽管存在安全约束，SafeDiffuser 仍保持了与原始扩散模型相当的高轨迹质量和泛化性能。
• 通过二次规划集成 CBFs，保留了模型探索多样化路径空间的能力，同时强制执行安全性。
• 与标准扩散模型相比，SafeDiffuser 在安全关键环境（如具有狭窄通道的迷宫）中表现出显著更低的失败率。
• 该方法具有良好的泛化能力，可扩展至机器人领域之外，潜在应用于图像生成，以确保一致地生成所需物体图案。