[논문 리뷰] Distributional Uncertainty Propagation via Optimal Transport

Liviu Aolaritei, Nicolas Lanzetti외 2명|arXiv (Cornell University)|2022. 04. 30.

Bayesian Modeling and Causal Inference인용 수 4

한 줄 요약

이 논문은 최적 운반(Optimal Transport, OT) 불확실성 집합을 통한 분포적 불확실성 전파(Distributional Uncertainty Propagation, DUP)를 제안한다. 이는 낙관적 및 확률적 불확실성 모델을 일반화하면서도 선형 및 비선형 동적 시스템을 통해 해석적으로 다룰 수 있는 전파를 가능하게 한다. 주요 기여는 OT 불확실성 집합이 결정적 및 확률적 변환을 통해 정확하거나 날카로운 상한선으로 전파되며, 분포 이동과 블랙 스완 사건에 대한 미래 상태 불확실성의 닫힌 형태 특성화를 가능하게 한다.

ABSTRACT

This paper addresses the limitations of standard uncertainty models, e.g., robust (norm-bounded) and stochastic (one fixed distribution, e.g., Gaussian), and proposes to model uncertainty via Optimal Transport (OT) ambiguity sets. These constitute a very rich uncertainty model, which enjoys many desirable geometrical, statistical, and computational properties, and which: (1) naturally generalizes both robust and stochastic models, and (2) captures many additional real-world uncertainty phenomena (e.g., black swan events). Our contributions show that OT ambiguity sets are also analytically tractable: they propagate easily and intuitively through linear and nonlinear (possibly corrupted by noise) transformations, and the result of the propagation is again an OT ambiguity set or can be tightly upper bounded by an OT ambiguity set. In the context of dynamical systems, our results allow us to consider multiple sources of uncertainty (e.g., initial condition, additive noise, multiplicative noise) and to capture in closed-form, via an OT ambiguity set, the resulting uncertainty in the state at any future time. Our results are actionable, interpretable, and readily employable in a great variety of computationally tractable control and estimation formulations. To highlight this, we study three applications in trajectory planning, consensus algorithms, and least squares estimation. We conclude the paper with a list of exciting open problems enabled by our results.

연구 동기 및 목표

• 블랙 스완 사건과 분포 이동과 같은 실제 현상을 포괄하지 못하는 표준 낙관적(노름 유계) 및 확률적(고정 분포) 불확실성 모델의 한계를 해결한다.
• 낙관적 및 확률적 프레임워크를 일반화하면서도 해석적 및 계산적 타당성을 유지하는 통합적이고 표현력 있는 불확실성 모델을 개발한다.
• 가감성 및 승법성 노이즈 하에서 선형 및 비선형 동적 시스템을 통해 분포적 불확실성의 정확하거나 날카로운 상한선 전파를 가능하게 한다.
• 시간에 따라 상태 분포의 불확실성 변화를 특성화하여 분포 기반 강건 제어 및 추정의 기초를 마련한다.

제안 방법

• 기준 분포 중심의 워셔슈타인 볼로 구성된 최적 운반(OT) 불확실성 집합을 사용하여 풍부하고 기하학적으로 의미 있는 불확실성 표현을 가능하게 한다.
• 선형 맵 $ f(x) = Ax $ 포함된 결정적 맵 $ f(x) $를 통해 OT 불확실성 집합을 전파하며, OT 거리의 구조를 활용한다.
• 점별 합 $ f(x) = x + y $ 및 곱 $ f(x) = x \cdot y $를 포함한 확률적 맵으로 전파를 확장하며, 여기서 $ y $는 불확실한 랜덤 벡터이다.
• 가감성 및 승법성 노이즈를 갖는 선형 시간 불변(LTI) 시스템에 프레임워크를 적용하여, 상태 분포에서 전파된 불확실성 집합에 대한 닫힌 형태 표현식을 유도한다.
• 단사 맵 하에서 비선형 동적 시스템에 결과를 특수화하며, 반복적 푸시포워드 및 역함수를 사용하여 불확실성 전파를 특성화한다.
• 삼각형 계획, 일치 알고리즘, 최소 제곱 추정에 프레임워크를 활용하여 제어 및 추정 분야에서의 유용성을 입증한다.

실험 결과

연구 질문

• RQ1 OT 불확실성 집합은 어떻게 낙관적 및 확률적 모델을 일반화하면서도 희귀 사건을 포괄하는 분포적 불확실성을 모델링할 수 있는가?
• RQ2 동적 시스템 내에서 결정적 및 확률적 변환을 통한 OT 불확실성 집합 전파의 해석적 성질은 무엇인가?
• RQ3 OT 기반 불확실성 전파가 다중 불확실성 원천이 존재하는 선형 및 비선형 시스템에서 상태 분포에 대해 닫힌 형태 표현식을 도출할 수 있는가?
• RQ4 제안된 프레임워크는 어떤 방식으로 더 타당성 있고 해석 가능한 분포 기반 강건 제어 및 추정 알고리즘 설계에 응용될 수 있는가?

주요 결과

• OT 불확실성 집합은 낙관적 및 확률적 모델을 일반화하며 블랙 스완 사건과 분포 이동을 자연스럽게 포괄한다.
• 가감성 및 승법성 노이즈를 갖는 선형 시스템에서, 어떤 미래 시점의 상태 불확실성은 정확히 OT 불확실성 집합으로 특성화되며, 이를 제18조에서 보여준다.
• 선형 시간 불변 시스템의 경우, 추정기 $ \hat{x} $의 분포적 불확실성은 $ \hat{x} - x_0 \sim \mathbb{Q} \in \mathbb{B}_{m\varepsilon}^{\|\cdot\|_{2}^{2} \circ A}}(A^{\dagger}_{\#} \widehat{\mathbb{P}}^{\otimes m}) $로 완전히 기술되며, 비정규 분포 기반의 분포 기반 강건 특성화를 제공한다.
• 단사 동역학을 갖는 비선형 시스템의 경우, 시간 $ t $에서 상태 분포는 $ x_t \sim \mathbb{Q}_t \in \mathbb{B}_{\varepsilon}^{c \circ (f^{-t} \times f^{-t})}(f^t_{\#} \mathbb{P}_0) $로 특성화되며, 정확한 불확실성 전파를 가능하게 한다.
• 이 프레임워크는 제어 및 추정에서 계산적으로 타당하고 해석 가능하며 실행 가능한 설정을 가능하게 하며, 제어 수평에 영향을 받지 않는 최적화 차원을 제공한다.
• 결과적으로 OT 불확실성 집합을 통해 확률 측도 공간에 불확실성 전파를 통합함으로써 분포 기반 강건 제어, 필터링 및 안정성 분석의 새로운 길을 열어준다.