[논문 리뷰] Polynomial-Time Approximation Schemes for Knapsack and Related Counting Problems using Branching Programs

Parikshit Gopalan, Adam R. Klivans외 1명|arXiv (Cornell University)|2010. 08. 18.

Machine Learning and Algorithms참고 문헌 10인용 수 23

한 줄 요약

이 논문은 0-1 배낭문제, 다차원 배낭문제, 정수값을 가진 배낭문제, 그리고 소수의 행을 가진 교차표에 대해 최초로 결정적 다항시간 근사계량법(PTAS)을 제안한다. 이 접근법은 근사 오차를 최소화하기 위해 철저히 선택된 분포 하에서 작동하는 소형 폭, 읽기 한 번만 가능한 분기 프로그램(ROBPs)을 사용하여 해 공간을 근사함으로써, n, log W, 및 1/ε에 다항시간 내에 (1+ε)-승수 정확도로 효율적인 수세기 및 샘플링을 가능하게 한다.

ABSTRACT

We give a deterministic, polynomial-time algorithm for approximately counting the number of {0,1}-solutions to any instance of the knapsack problem. On an instance of length n with total weight W and accuracy parameter eps, our algorithm produces a (1 + eps)-multiplicative approximation in time poly(n,log W,1/eps). We also give algorithms with identical guarantees for general integer knapsack, the multidimensional knapsack problem (with a constant number of constraints) and for contingency tables (with a constant number of rows). Previously, only randomized approximation schemes were known for these problems due to work by Morris and Sinclair and work by Dyer. Our algorithms work by constructing small-width, read-once branching programs for approximating the underlying solution space under a carefully chosen distribution. As a byproduct of this approach, we obtain new query algorithms for learning functions of k halfspaces with respect to the uniform distribution on {0,1}^n. The running time of our algorithm is polynomial in the accuracy parameter eps. Previously even for the case of k=2, only algorithms with an exponential dependence on eps were known.

연구 동기 및 목표

• 0-1 배낭문제 및 다차원 배낭문제와 같은 #P-어려움 문제에 대해 최초로 결정적 다항시간 근사계량법(PTAS)을 개발하는 것.
• 이러한 알고리즘을 일정 수의 제약 조건을 가진 정수값을 가진 배낭문제 및 소수의 행을 가진 교차표로 확장하는 것.
• 사전 처리 단계 이후에 효율적인 샘플링 알고리즘을 제공하는 것.
• 균일, 대칭, 곱 분포 하에서 k개의 반공간 함수를 다항시간에 학습하는 것 — 1/ε에 대한 다항적 의존성 확보.

제안 방법

• 근사 오차를 최소화하기 위해 선택된 분포 하에서 해 공간을 근사하는 소형 폭, 읽기 한 번만 가능한 분기 프로그램(ROBPs)을 구성한다.
• 각 층에서 거리 측도 d(fx, fy)에 따른 거리가 유한한 접두사 집합을 유지하는 그리디 계층별 구성 방식을 사용한다.
• 표본 추출을 통한 거리 d(fx◦b, fy)의 랜덤 추정을 사용하며, 찬프라우의 부등식을 적용해 고확률로 오차 범위를 보장한다.
• 다차원 배낭문제의 수세기를 비균일 분포 하에서 단일 배낭문제의 수세기로 감소시키기 위해 다이어의 라운딩 기법을 적용한다.
• 반공간이 (ε, 1/ε, n)-거의 ROBPs임을 활용하여 균일 및 곱 분포 하에서의 학습 가능성을 보장한다.
• 거의 ROBPs에 대한 결과와 조합 레미마를 결합하여, k개의 반공간 함수가 (2kε, W^k, n)-거의 ROBPs임을 보여준다.

실험 결과

연구 질문

• RQ1 표준 배낭문제에 대해 결정적 다항시간 알고리즘이 (1+ε)-근사 수세기를 달성할 수 있는가?
• RQ2 이러한 알고리즘은 일정 수의 제약 조건을 가진 다차원 배낭문제로 확장될 수 있는가?
• RQ3 동일한 프레임워크는 정수값을 가진 배낭문제 및 소수의 행을 가진 교차표에 적용될 수 있는가?
• RQ4 균일 및 곱 분포 하에서 1/ε에 대한 다항적 의존성으로 k개의 반공간 함수를 효율적으로 학습할 수 있는가?
• RQ5 사전 처리 후 소형 폭 분기 프로그램을 사용하여 효율적인 샘플링 알고리즘을 설계할 수 있는가?

주요 결과

• 알고리즘은 O(n³ log W log(n/ε)/ε) 시간 내에 |KNAP(a,b)|에 대해 (1+ε)-승수 근사치를 계산하며, 이는 이 문제에 대해 최초로 결정적 PTAS임을 나타낸다.
• k개의 제약 조건을 가진 다차원 배낭문제의 경우, 알고리즘은 O((n/ε)^{O(k²)} log W) 시간 내에 실행되며, 결정적 PTAS를 제공한다.
• 정수값을 가진 배낭문제의 경우, 알고리즘은 O(n⁵ (log U)² log W / ε²) 시간 내에 실행되며, 결정적 FPTAS를 달성한다.
• m개의 행을 가진 교차표의 경우, 알고리즘은 (n^{O(m)} (log R)/ε)^m 시간 내에 실행되며, 결정적 FPTAS를 제공한다.
• 이 프레임워크는 균일 및 곱 분포 하에서 k개의 반공간 함수 학습을 1/ε에 대한 다항시간 내에 가능하게 하여 이전의 지수적 의존성보다 향상된 결과를 이룬다.
• 모든 수세기 알고리즘은 빠른 샘플링도 가능하다: 사전 처리 후, 각 새로운 샘플은 근선형 시간 내에 생성될 수 있다.