[논문 리뷰] Fast Algorithms for Earth Mover's Distance Based on Optimal Transport and L1 Type Regularization I

Wuchen Li, Stanley Osher외 1명|arXiv (Cornell University)|2016. 09. 01.

Sparse and Compressive Sensing Techniques참고 문헌 15인용 수 9

한 줄 요약

이 논문은 최적 운반 이론을 활용하여 지구 이동 거리(EMD)를 근사화하기 위한 빠른 알고리즘을 제안한다. EMD를 동차 도수 1 정규화 최소화 문제로 재구성함으로써, 압축 감지 및 영상 처리에서 유래한 원시-쌍대 방법을 활용하여 단순한 반복 업데이트를 통해 빠른 수렴을 달성하고, 기존 EMD 계산 방식에 비해 계산 효율성을 크게 향상시킨다.

ABSTRACT

Abstract : We propose a new algorithm to approximate the Earth Mover's distance(EMD). Our main idea is motivated by the theory of optimal transport, in which EMDcan be reformulated as a familiar homogeneous degree 1 regularized minimization. Thenew minimization problem is very similar to problems which have been solved in the eldsof compressed sensing and image processing, where several fast methods are available.In this paper, we adopt a primal-dual algorithm designed there, which uses very simpleupdates at each iteration and is shown to converge very rapidly. Several numericalexamples are provided.

연구 동기 및 목표

• 이미지 및 신호 처리 분야에서 널리 사용되는 지표인 지구 이동 거리(EMD)를 효율적으로 근사화하는 계산 효율성이 높은 방법을 개발하기 위해.
• 최적 운반 이론의 프레임워크 내에서 EMD를 동차 도수 1의 구조를 가진 정규화 최소화 문제로 재구성하기 위해.
• 압축 감지 및 영상 처리 분야에서 개발된 빠른 원시-쌍대 알고리즘을 EMD 문제의 재구성된 형태에 적응하여 효율적으로 해결하기 위해.
• 단순한 업데이트 규칙을 통해 빠른 수렴을 달성하고, 기존 표준 EMD 솔버에 비해 계산 비용을 감소시키기 위해.

제안 방법

• 최적 운반 이론을 활용하여 EMD를 동차 도수 1 정규화 최소화 문제로 재구성하기 위해.
• 압축 감지 및 영상 처리 분야의 응용에서 개발된 원시-쌍대 알고리즘을 채택하기 위해.
• 각 단계에서 단순한 반복 업데이트 규칙을 사용하여 계산 효율성을 유지하기 위해.
• 원시-쌍대 방법의 강력한 수렴 성질을 활용하여 EMD 근사 문제의 해를 가속화하기 위해.
• L1 유형 정규화를 통해 알고리즘이 수치적으로 안정적이고 확장 가능하도록 보장하기 위해.

실험 결과

연구 질문

• RQ1 최적 운반 이론의 프레임워크 내에서 EMD를 정규화 최소화 문제로 재구성함으로써 효율적인 근사가 가능한가?
• RQ2 속도와 정확도 측면에서 원시-쌍대 알고리즘의 성능은 기존 EMD 솔버와 어떻게 비교되는가?
• RQ3 원시-쌍대 방법의 단순한 업데이트 규칙을 EMD 근사에 적용할 수 있는 정도는 어느 정도이며, 수렴성에 영향을 주지 않는가?
• RQ4 EMD의 동차 도수 1 구조를 활용하여 계산 효율성을 향상시킬 수 있는가?

주요 결과

• 제안된 알고리즘은 잘 정립된 원시-쌍대 프레임워크와 단순한 업데이트 규칙을 활용하여 빠른 수렴을 달성한다.
• EMD를 도수 1 정규화 최소화 문제로 재구성함으로써 기존의 빠른 최적화 기법을 효율적으로 적용할 수 있다.
• 정확도를 유지하면서도 기존 표준 EMD 계산에 비해 계산 비용을 크게 감소시킨다.
• 수치적 예제를 통해 다양한 시험 케이스에서 이 방법의 효과성과 확장 가능성을 입증한다.