[논문 리뷰] Computational Separations between Sampling and Optimization

Kunal Talwar|arXiv (Cornell University)|2019. 11. 05.

Machine Learning and Algorithms인용 수 5

한 줄 요약

이 논문은 비볼록 베이지안 학습에서 샘플링과 최적화 간의 계산적 분리를 확립하며, 매끄럽고 리프시츠 함수일지라도 샘플링은 효율적이지만 최적화는 NP-난이도일 수 있고, 그 반대의 경우도 존재함을 보여준다. 또한, 임계 온도 매개변수 λ에서 샘플링 복잡도에 급격한 단계 전이가 발생하며, λ가 임계값을 초과하면 효율적인 샘플링이 불가능해지고 NP-난이도로 전이됨을 규명한다.

ABSTRACT

Two commonly arising computational tasks in Bayesian learning are Optimization (Maximum A Posteriori estimation) and Sampling (from the posterior distribution). In the convex case these two problems are efficiently reducible to each other. Recent work (Ma et al. 2019) shows that in the non-convex case, sampling can sometimes be provably faster. We present a simpler and stronger separation. We then compare sampling and optimization in more detail and show that they are provably incomparable: there are families of continuous functions for which optimization is easy but sampling is NP-hard, and vice versa. Further, we show function families that exhibit a sharp phase transition in the computational complexity of sampling, as one varies the natural temperature parameter. Our results draw on a connection to analogous separations in the discrete setting which are well-studied.

연구 동기 및 목표

• 베이지안 학습에서 사후 분포에서의 샘플링과 로그우도 함수 최적화 간의 계산적 관계를 조사하는 것.
• 온도 매개변수 λ를 변화시킬 때, 비볼록 설정에서 최적화보다 샘플링이 더 쉬울 수 있는지 여부를 규명하는 것.
• 샘플링과 최적화가 증명 가능하게 상호비교 불가능하다는 것을 확립하는 것: 일부 함수 가중치에서 한쪽은 쉬운 반면 다른 쪽은 NP-난이도임을 보여주는 것.
• 역온도 λ에 대한 함수로서 샘플링 복잡도의 날카로운 임계점(임계값)을 규명하는 것.
• 오라클 모델의 분리를 NP-난이도로 강화하여, 특정 경우에 블랙박스 알고리즘과 비블랙박스 알고리즘 모두를 배제하는 것.

제안 방법

• 그래프의 독립집합 문제에서의 감소를 통해, 샘플링은 효율적이지만 최적화는 NP-난이도인 연속적이고 리프시츠 함수의 가중치를 구성한다.
• 초입방체의 점을 그래프의 독립집합인지 여부에 따라 벌점으로 매핑하는 함수 f를 통해 연속적에서 이산적 감소를 적용한다.
• 역온도 λ를 사용하여 깁스 분포를 제어하고, 이로써 샘플링 문제를 Δ-정규 그래프에서의 독립집합 분포와 연결한다.
• Weitz (2006)와 Sly & Sun (2012)의 임계점 존재 결과를 적용하여, 독립집합 샘플링의 FPRAS 복잡도에서 단계 전이가 존재함을 규명한다.
• 정리 4를 적용하여 λ ≥ 1/d일 때 exp(−λf(x))에서의 샘플링이 exp(λ|I|)에서의 샘플링을 근사함을 보이고, 이로써 이산 복잡도 결과를 연속 설정으로 이전할 수 있음을 보장한다.
• 밀도 그래프에서 독립집합의 수를 근사하는 데 어려움이 있음을 가정하여, 샘플링의 NP-난이도를 증명한다.

실험 결과

연구 질문

• RQ1 비볼록 베이지안 학습에서 조건이 매끄럽고 리프시츠일지라도 샘플링이 최적화보다 엄밀히 더 쉬울 수 있는가?
• RQ2 최적화는 쉬우나 샘플링은 NP-난이도인 함수 가중치가 존재하는가? 특히 역온도 λ에 대한 함수로서 존재하는가?
• RQ3 λ 증가에 따라 샘플링의 계산 복잡도에 비슷한 이산 사례와 유사한 급격한 단계 전이가 존재하는가?
• RQ4 샘플링과 최적화 간의 오라클 모델 분리를 NP-난이도로 강화할 수 있는가? 이는 비블랙박스 알고리즘을 배제하는가?
• RQ5 연속 분포에서 샘플링과 최적화의 복잡도가 온도 매개변수 λ에 얼마나 의존하는가?

주요 결과

• d차원 구 위에서 정의된 연속적이고 1-리프시츠 함수의 가중치가 존재하며, 이 경우 샘플링은 효율적이지만 최적화는 NP-난이도이며, f와 그 기울기의 블랙박스 액세스가 가능하더라도 마찬가지다.
• λ ≥ 2d 이고 η < 1 − exp(−Ω(d))일 때, 깁스 분포 exp(−λf(x))에서의 샘플링은 NP-난이도이며, NP = RP가 아닐 경우에 한하여 성립한다.
• 샘플링 복잡도에 날카로운 단계 전이가 발생한다: λ < λ_c일 경우 poly(d/η) 시간 내에 효율적인 η-샘플링이 가능하지만, λ > λ_c일 경우 polynomial 시간 내의 η-샘플러는 존재하지 않는다. (NP = RP가 아닐 경우에 한하여)
• 샘플링의 난이도는 총변화 거리 이외에도 워샤르 거리 1/16에 대해서도 성립한다. 이는 비고의 4에서 감소를 통해 보여진다.
• 최적화는 약한 액세스 모델에서도 여전히 쉬운 편이다: 무작위 초기화에서의 경사하강법은 높은 확률로 전역 최소화점을 수렴하며, 모든 국소 최소점은 전역 최소점이다.
• 함수 가중치는 x의 t비트 표현이 주어지면 poly(d,t) 시간 내에 효율적으로 계산 가능하므로 실용적인 구현이 가능하다.