[논문 리뷰] SafeDiffuser: Safe Planning with Diffusion Probabilistic Models

Wei Xiao, Tsun-Hsuan Wang외 2명|arXiv (Cornell University)|2023. 05. 31.

Model Reduction and Neural Networks인용 수 4

한 줄 요약

SafeDiffuser는 제어 장벽 함수(CBF)를 사용하여 유한 시간 내의 확산 불변성을 도입함으로써, 로봇 계획을 위한 확산 확률 모델의 노이즈 제거 과정에 직접적으로 안전 보장을 통합한다. CBF를 확산 시간 영역에 통합함으로써 생성 과정 全 과정 동안 궤적이 안전 집합 내에 머무르도록 보장하며, 미로 주행, 다리로 이동하는 동작, 3D 공간 조작 작업 등에서 강력하고 보장된 안전한 성능을 입증한다. 기존의 단순 확산 모델보다 안전성과 신뢰성 면에서 뛰어나다.

ABSTRACT

Diffusion model-based approaches have shown promise in data-driven planning, but there are no safety guarantees, thus making it hard to be applied for safety-critical applications. To address these challenges, we propose a new method, called SafeDiffuser, to ensure diffusion probabilistic models satisfy specifications by using a class of control barrier functions. The key idea of our approach is to embed the proposed finite-time diffusion invariance into the denoising diffusion procedure, which enables trustworthy diffusion data generation. Moreover, we demonstrate that our finite-time diffusion invariance method through generative models not only maintains generalization performance but also creates robustness in safe data generation. We test our method on a series of safe planning tasks, including maze path generation, legged robot locomotion, and 3D space manipulation, with results showing the advantages of robustness and guarantees over vanilla diffusion models.

연구 동기 및 목표

• 안전한 임계 로봇 응용 분야에서의 확산 모델 기반 계획에 대한 안전 보장의 부재를 해결하기 위해.
• 특히 안전 제약 조건을 포함한 사양 준수를 확산 생성 과정에 형식적으로 통합하기 위해.
• 시스템 동역학과 직접 연결되지 않은 확산 모델에 제어 장벽 함수(CBF)를 적용하는 데 도전하는 문제를 해결하기 위해.
• 시간에 따라 변화하는 불변성 제약 조건을 확산 과정에 통합하여 계획에서의 국소적 함정 문제를 완화하기 위해.
• 안전성을 강화하면서도 일반화 능력과 성능를 유지하기 위해 2차 프ogram 기반 보정 메커니즘을 활용하기 위해.

제안 방법

• 유한 시간 내의 확산 불변성이라는 새로운 개념을 제안하여, 노이즈 제거 과정 全 과정 동안 궤적이 안전 집합 내에 머무르도록 보장한다.
• 제어 장벽 함수(CBF)를 확산 시간 영역에 통합하여 안전 집합의 전방 불변성을 강제한다.
• 예측된 궤적을 CBF로 정의된 타당 집합에 투영하기 위해 2차 프로그램(QP)을 사용하여 노이즈 제거 단계를 수정함으로써, 생성 성능를 유지한다.
• 확산 기반 경로 생성과 함께 후행 수평 제어를 적용하여 점진적이고 안전한 궤적 계산을 가능하게 한다.
• 리아푸노프 기반 분석을 사용하여 노이즈 제거 시퀀스의 끝에서 확산 과정이 안전 제약 조건에 대해 불변성을 유지함을 형식적으로 검증한다.
• 시간에 따라 변화하는 CBF를 사용하여 동적 제약 조건을 처리하고 복잡한 계획 환경에서의 국소적 함정을 피한다.

실험 결과

연구 질문

• RQ1 확산 확률 모델이 로봇 계획 작업에서 형식적으로 안전 궤적만 생성하도록 보장할 수 있는가?
• RQ2 시스템 동역학과 직접 연결되지 않은 확산 시간 과정에 제어 장벽 함수(CBF)를 효과적으로 통합할 수 있는가?
• RQ3 표준 확산 모델의 일반화 능력과 샘플 품질을 희생시키지 않고도 유한 시간 내의 확산 불변성을 달성할 수 있는가?
• RQ4 시간에 따라 변화하는 불변성 제약 조건을 확산 과정에 통합함으로써 계획에서의 국소적 함정 문제를 어떻게 완화할 수 있는가?
• RQ5 확산 기반 계획에서 안전 보장과 생성 품질 간의 성능 트레이드오프는 어떠한가?

주요 결과

• SafeDiffuser는 모든 테스트 작업—미로 주행, 다리로 이동하는 로봇의 행동, 3D 공간 조작—에서 안전 제약 조건을 위반하지 않고 안전 궤적을 성공적으로 생성한다.
• 유한 시간 내의 확산 불변성을 통해 형식적인 안전 보장을 달성하여, 노이즈 제거 단계의 모든 시점에서 궤적이 안전 집합 내에 머무르도록 보장한다.
• 정량적 평가 결과, 안전 제약 조건에도 불구하고 기존의 단순 확산 모델과 비교해도 높은 궤적 품질과 일반화 성능를 유지함을 입증하였다.
• 2차 프로그램 기반 통합을 통해 CBF를 통합함으로써, 다양성 있는 경로 공간 탐색 능력을 유지하면서도 안전성을 강화하였다.
• 기존의 표준 확산 모델에 비해 안전 임계 환경(좁은 통로가 있는 미로 등)에서 실패율이 크게 감소함을 보였다.
• 이 방법은 로봇 분야를 초월해 일반화 가능하며, 이미지 생성 분야에도 응용 가능하여 원하는 객체 패턴이 일관되게 생성되도록 보장할 수 있다.