[논문 리뷰] Towards Differentiable Resampling

Michael Zhu, Kevin D. Murphy외 1명|arXiv (Cornell University)|2020. 04. 24.

Target Tracking and Data Fusion in Sensor Networks참고 문헌 10인용 수 21

한 줄 요약

이 논문은 기존의 비미분 가능(resampling)을 대체하기 위해 미분 가능한 신경망 리샘플러인 파티클 트랜스포머를 제안한다. 가능도 기반 손실 함수로 리샘플러를 훈련하고 엔드 투 엔드 최적화를 가능하게 함으로써, 합성 데이터와 시뮬레이션된 로봇 위치 추정에서 기존 리샘플링보다 뛰어난 성능을 달성하며, 특히 다모달 후행 분포 추정에서 더 뛰어난 강건성과 입자 다양성을 보여준다.

ABSTRACT

Resampling is a key component of sample-based recursive state estimation in particle filters. Recent work explores differentiable particle filters for end-to-end learning. However, resampling remains a challenge in these works, as it is inherently non-differentiable. We address this challenge by replacing traditional resampling with a learned neural network resampler. We present a novel network architecture, the particle transformer, and train it for particle resampling using a likelihood-based loss function over sets of particles. Incorporated into a differentiable particle filter, our model can be end-to-end optimized jointly with the other particle filter components via gradient descent. Our results show that our learned resampler outperforms traditional resampling techniques on synthetic data and in a simulated robot localization task.

연구 동기 및 목표

• 기존의 비미분 가능한 리샘플링으로 인해 시간 단계 간 역전파가 차단되는 기존의 미분 가능한 입자 필터에서의 문제를 해결하기 위해.
• 학습된 리샘플링이 상태 추정 작업에서 기존 리샘플링 방법보다 뛰어난 성능을 낼 수 있는지 조사하기 위해.
• 집합 순열 불변성과 가중치 기반 어텐션을 고려한 입자 리샘플링에 특화된 신경망 아키텍처를 설계하기 위해.
• 리샘플링 단계를 학습된, 기울기 호환 가능한 메커니즘을 통해 미분 가능하게 만들어 입자 필터의 엔드 투 엔드 훈련을 가능하게 하기 위해.
• 낮은 무게 영역에서도 다양한 입자를 생성함으로써 모델 오차와 다모달 후행 분포에 대한 강건성을 향상시키기 위해.

제안 방법

• 입자 집합을 처리하고 재샘플된 입자를 생성하기 위해 가중치 기반 다중 헤드 어텐션을 사용하는 세트 기반 신경망인 파티클 트랜스포머를 제안한다.
• 스케일 불변성과 가중치 기반 어텐션을 도입하여 모델이 입자 무게를 존중하고 공간 일관성을 유지하도록 보장한다.
• 예측된 입자 집합과 진짜 집합 간의 후행 가능도를 비교하는 가능도 기반 손실 함수를 사용해 리샘플러를 훈련한다.
• 리샘플러, 운동 모델, 측정 모델을 거쳐 기울기를 역전파할 수 있도록 하여 전체 미분 가능한 입자 필터의 엔드 투 엔드 훈련을 가능하게 한다.
• 다중 단계에 걸쳐 시간을 거슬러 기울기를 역전파하는(BPTT) 동안 훈련을 안정화시키기 위해 기울기 클리핑을 사용한다.
• 두 단계 훈련 전략을 활용한다: 먼저 합성 데이터를 사용해 가능도 손실 함수로 리샘플러를 사전 훈련하고, 이후 전체 필터링 파이프라인에서 엔드 투 엔드로 미세 조정한다.

실험 결과

연구 질문

• RQ1 학습된 신경망 리샘플러가 기존 리샘플링보다 기존의 미분 가능한 입자 필터에서 더 뛰어난 성능을 낼 수 있는가?
• RQ2 미분 가능한 리샘플링 메커니즘이 다수 시간 단계에 걸쳐 기울기 역전파가 가능한 안정적인 엔드 투 엔드 훈련을 입자 필터에 가능하게 하는가?
• RQ3 파티클 트랜스포머는 기존 리샘플링과 비교해 다모달 또는 노이즈가 많은 상황에서 더 다양하고 강건한 입자 집합을 생성하는가?
• RQ4 학습된 리샘플러는 높은 가능도 영역에 더 잘 분포된 입자를 생성함으로써 과도하게 복잡한 운동 모델과 측정 모델의 필요성을 줄일 수 있는가?
• RQ5 모델 불확실성과 노이즈 수준이 다양한 조건에서 파티클 트랜스포머의 성능은 시스템적 리샘플링 및 기타 리샘플링 방법과 비교해 어떻게 되는가?

주요 결과

• 파티클 트랜스포머는 합성 데이터에서 시스템적 리샘플링보다 우수한 성능을 보이며, 리샘플러를 동결한 경우 오차율을 4.3%에서 3.7%로 감소시키고, 엔드 투 엔드 훈련한 경우 4.9%에서 1.9%로 감소시킨다.
• 파티클 트랜스포머를 사용한 엔드 투 엔드 훈련은 특히 BPTT에서 k=1을 사용할 경우 가장 뛰어난 성능을 달성하며, 동결된 리샘플러 및 비동결 리샘플러 변종보다 뛰어나다.
• 파티클 트랜스포머는 낮은 무게 영역에 입자를 생성하고 다모달 후행 분포 피크 근처에서 더 다양한 샘플을 생성하지만, 시스템적 리샘플링은 이러한 영역을 기각한다.
• 시뮬레이션된 로봇 위치 추정 작업에서, 학습된 리샘플러를 사용한 입자 필터는 네 단계에 걸쳐 진짜 로봇 자세를 성공적으로 추적하는 반면, 기존 리샘플러는 입자 고갈로 실패한다.
• 파티클 트랜스포머가 여러 가설 근처의 입자를 유지함으로써, 훈련 중에 관측되지 않은 드문 관측 상태나 모델 오차에 대한 강건성을 향상시킨다.
• 기울기 클리핑은 특히 다수 시간 단계에 걸쳐 BPTT를 수행할 때 훈련의 안정성과 성능을 향상시키지만, 완전한 엔드 투 엔드 훈련은 여전히 도전 과제로 남아 있다.