[논문 리뷰] Rethinking resampling in the particle filter on graphics processing units

Lawrence M. Murray, Anthony Lee외 1명|arXiv (Cornell University)|2013. 01. 17.

Target Tracking and Data Fusion in Sensor Networks참고 문헌 22인용 수 5

한 줄 요약

이 논문은 GPU에서 입자 필터의 리샘플링에 사용할 수 있는 새로운 알고리즘을 제안하며, 합계와 같은 집합 연산을 피하고 메트로폴리스 및 기각 샘플링을 사용한다. 이러한 방법들은 기존의 다항, 계층적, 체계적 리샘플러와 비교해 더 빠른 성능과 단일 정밀도 산술에서 훨씬 뛰어난 수치적 안정성을 확보한다.

ABSTRACT

Modern parallel computing devices such as the graphics processing unit (GPU) have gained significant traction in scientific computing, and are particularly well-suited to dataparallel algorithms such as the particle filter. Of the components of the particle filter, the resampling step is the most difficult to implement well on such devices, as it often requires a collective operation, such as a sum, across weights. We present and compare a number of resampling algorithms in this work, including rarelyused alternatives based on Metropolis and rejection sampling. We find that these alternative approaches perform significantly faster on the GPU than more common approaches such as the multinomial, stratified and systematic resamplers, a speedup attributable to the absence of collective operations. Moreover, in single-precision (particularly relevant on GPUs due to its faster performance), the common approaches are numerically unstable for plausibly large numbers of particles, while these alternative approaches are not. Finally, we provide a number of auxiliary functions of practical use in resampling, such as for the permutation of ancestry vectors to enable in-place propagation of particles.

연구 동기 및 목표

• 기존에 합계와 같은 집합 연산에 의존하는 바탕이 되는 GPU에서 입자 필터의 리샘플링 단계에서 발생하는 성능 저하 문제를 해결한다.
• 큰 입자 수를 사용할 경우 단일 정밀도 산술에서 일반적인 리샘플러에 영향을 미치는 수치적 불안정성 문제를 해결한다.
• GPU의 데이터 병렬성에 더 잘 맞는 대안 리샘플링 전략을 탐색하고 평가한다.
• 효율적인 인-플레이스 입자 전파를 지원하기 위해 GPU에 최적화된 보조 기능을 개발한다.

제안 방법

• 전체 감소 연산인 누적합 또는 스캔과 같은 것을 피하기 위해 메트로폴리스 및 기각 샘플링 기반 리샘플링 알고리즘을 설계한다.
• 이 알고리즘들을 GPU의 세밀한 병렬성 특성을 활용해 완전히 데이터 병렬 방식으로 실행한다.
• 입자들의 인덱스 순서를 재배열하는 기법을 사용해 인-플레이스 전파를 가능하게 하여 메모리 대역폭을 줄이고 캐시 효율을 향상시킨다.
• 메모리 접근 패턴과 커널 실행을 최적화해 GPU 아키텍처에서 지연을 최소화하고 할당량을 극대화한다.
• 다양한 리샘플러, 즉 다항, 계층적, 체계적 및 제안된 대안들 간의 성능과 수치적 안정성을 비교한다.
• 현대 GPU에서 성능상의 이점으로 널리 사용되는 단일 정밀도 부동소수점 산술 환경에서 모든 방법을 평가한다.

실험 결과

연구 질문

• RQ1 메트로폴리스 및 기각 기반 리샘플링 알고리즘이 다항 및 체계적 리샘플러와 비교해 GPU에서 어떻게 성능을 발휘하는가?
• RQ2 큰 입자 수를 사용할 경우, 대안 리샘플러가 단일 정밀도 산술에서 얼마나 효과적으로 수치적 불안정성을 피하는가?
• RQ3 집합 연산을 제거한 리샘플링 알고리즘이 GPU 아키텍처에서 더 높은 처리량을 달성할 수 있는가?
• RQ4 실제로 입자 전파의 효율성을 향상시킬 수 있는 GPU에 최적화된 보조 기능은 무엇인가?
• RQ5 전역 감소 연산이 없는 환경에서 현대 GPU에서 입자 필터의 확장성과 성능에 어떤 영향을 미치는가?

주요 결과

• 메트로폴리스 및 기각 기반 리샘플러는 GPU에서 다항, 계층적, 체계적 리샘플러와 비교해 실행 속도 면에서 뛰어난 성능을 발휘한다.
• 이러한 대안 리샘플러는 누적합 및 감소 연산과 같은 비용이 많이 드는 집합 연산을 피하기 때문에 더 높은 성능을 달성한다.
• 단일 정밀도 산술에서 표준 리샘플러는 큰 입자 수를 사용할 경우 수치적으로 불안정해지지만, 제안된 방법은 안정성을 유지한다.
• 기존 방법이 실패하는 수천 개의 입자를 포함하는 영역에서도 제안된 알고리즘이 수치 정확도를 유지한다.
• 저자들은 효율적인 인-플레이스 입자 전파를 가능하게 하는 조상 벡터 순서 변경을 위한 보조 기능을 구현하고 공개하였다.
• 성능 향상은 GPU 가속 입자 필터링 응용에서 흔히 나타나는 고처리량 환경에서 가장 두드러진다.