[논문 리뷰] Learning to Prune: Speeding up Repeated Computations

Daniel Alabi, Adam Tauman Kalai외 4명|arXiv (Cornell University)|2019. 04. 26.

Advanced Bandit Algorithms Research참고 문헌 19인용 수 8

한 줄 요약

이 논문은 과거 해결책을 기반으로 검색 공간의 관련 없는 부분을 동적으로 제거함으로써 반복 계산을 가속화하는 학습 기반 제거(learn-to-prune) 알고리즘을 제안한다. 일부 완전한 계산을 통해 제거의 타당성을 점검하는 '탐색-이용' 전략을 사용하여, 정확도를 고려하면서도 런타임을 줄이며, 최단경로 라우팅, 문자열 매칭, 선형 프로그래밍 문제 등에서 상수 요인 내에서 거의 최적에 가까운 제거 성능을 달성한다.

ABSTRACT

It is common to encounter situations where one must solve a sequence of similar computational problems. Running a standard algorithm with worst-case runtime guarantees on each instance will fail to take advantage of valuable structure shared across the problem instances. For example, when a commuter drives from work to home, there are typically only a handful of routes that will ever be the shortest path. A naive algorithm that does not exploit this common structure may spend most of its time checking roads that will never be in the shortest path. More generally, we can often ignore large swaths of the search space that will likely never contain an optimal solution. We present an algorithm that learns to maximally prune the search space on repeated computations, thereby reducing runtime while provably outputting the correct solution each period with high probability. Our algorithm employs a simple explore-exploit technique resembling those used in online algorithms, though our setting is quite different. We prove that, with respect to our model of pruning search spaces, our approach is optimal up to constant factors. Finally, we illustrate the applicability of our model and algorithm to three classic problems: shortest-path routing, string search, and linear programming. We present experiments confirming that our simple algorithm is effective at significantly reducing the runtime of solving repeated computations.

연구 동기 및 목표

• 반복적이고 구조적으로 유사한 계산 문제에 대해 표준 최악의 경우 알고리즘의 비효율성을 해결하기 위해, 문제 간 공유되는 해 구조를 활용한다.
• 정확도를 훼손하지 않으면서도 검색 공간을 최소화하는 학습 기반 제거 전략을 설계한다. 이는 악성 입력 순서에 대해서도 적용 가능하다.
• 입력 변화에 대한 분포 가정 없이도 거의 최적의 제거 성능을 달성하고, 정확도 보장이 가능한 증명 가능성을 확보한다.
• 최단경로 라우팅, 문자열 검색, 선형 프로그래밍 등 다양한 문제에 적용 가능하고 효과적인지를 입증한다.

제안 방법

• 알고리즘은 이전에 반환된 모든 해를 포함하는 제거된 검색 공간 S_i를 유지하며, 점차적으로 관련 영역으로 검색을 좁혀간다.
• 이용 라운드와 탐색 라운드를 번갈아 수행한다. 이용 라운드에서는 S_i를 사용해 현재 문제를 신속하게 해결하고, 탐색 라운드에서는 완전한 최악의 경우 알고리즘을 실행하여 S_i의 타당성을 검증하고 확장한다.
• 탐색 확률 p_i = 1/√i는 점차 감소하는 탐색 빈도를 보장하면서도 장기적으로 고확률 정확도를 유지한다.
• 이 방법은 최적의 후행 제거 기준에 비해 누적 런타임 측면에서 상수 요인 내에서 최적임을 엄밀히 증명하였다.
• 빠른 검증이 가능한 문제(예: 선형 프로그래밍)의 경우, 잘못된 해는 후행 검증을 통해 탐지하고 수정할 수 있어 오류 없는 실행이 가능하다.
• 이 알고리즘은 최단경로 라우팅(Dijkstra’s), 문자열 매칭, 선형 프로그래밍(Simplex 방법) 등 세 가지 고전 문제에 적용되었으며, 실험적 검증이 이루어졌다.

실험 결과

연구 질문

• RQ1 학습 기반 제거 전략은 정확도를 유지하면서 반복 계산의 런타임을 크게 줄일 수 있는가?
• RQ2 누적 런타임을 최소화하기 위해 알고리즘은 어떻게 탐색(완전한 계산)과 이용(제거)의 균형을 이룰 수 있는가?
• RQ3 입력 변화에 대한 분포 가정 없이도 거의 최적의 제거 성능를 달성할 수 있는가?
• RQ4 실제 문제인 최단경로 라우팅 및 선형 프로그래밍에서 동적 제거가 검색 공간을 얼마나 줄일 수 있는가?
• RQ5 실제로 알고리즘의 실수 비율과 제거 효율은 시간이 지남에 따라 어떻게 변화하는가?

주요 결과

• Pittsburgh 도로 네트워크에서 최단경로 라우팅을 수행한 결과, Dijkstra’s 알고리즘 대비 평균 노드 탐색 수를 최대 70%까지 줄였으며, 150,000라운드 동안 실수 해의 비율은 0.068%에 불과했다.
• CATS 테스트 세트에서 얻은 선형 프로그래밍 인스턴스에서는 평균 심플렉스 반복 수를 50% 이상 감소시켰고, 150,000라운드 동안 실수율은 0.018%였다.
• 평균 제거 집합 크기는 시간이 지남에 따라 느리게 증가하여, 효과적인 학습과 관련 없는 영역의 점진적 제거가 이루어졌음을 시사한다.
• 알고리즘의 누적 런타임은 최적의 후행 제거 기준과 상수 요인 내에서 수렴하여 이론적으로 거의 최적임을 입증했다.
• 실험 결과는 입력 변화가 악성 또는 최악의 경우일지라도 다양한 문제 영역에서 이 방법이 효과적임을 확인했다.
• 해결책 검증이 빠른 문제에서는 이 접근 방식이 상당한 속도 향상을 이끌 수 있으며, 후행 수정을 통해 오류 없는 실행이 가능하다.