[논문 리뷰] Piecewise deterministic simulated annealing

Pierre Monmarché|HAL (Le Centre pour la Communication Scientifique Directe)|2014. 10. 07.

Theoretical and Computational Physics참고 문헌 19인용 수 27

한 줄 요약

이 논문은 ℝᵈ에서 속도 변화 과정을 사용하여 구 Gibbs 측도를 샘플링하는 조각적 결정론적 시뮬레이티드 어닐링 알고리즘을 제안한다. 일차원에서 저온에서 국소 최소값에서의 탈출 시간에 대해 Eyring–Kramers 유형의 공식을 유도하고, 전역 최소값으로의 수렴을 보장하는 필요 및 충분한 냉각 스케줄 조건(고전적 확산 과정과 유사)을 확립하며, 높은 차원으로의 확장을 비최적의 충분 조건을 통해 수행한다.

ABSTRACT

Given an energy potential on the Euclidian space, a piecewise deterministic Markov process is designed to sample the corresponding Gibbs measure. In dimension one an Eyring-Kramers formula is obtained for the exit time of the domain of a local minimum at low temperature, and a necessary and sufficient condition is given on the cooling schedule in a simulated annealing algorithm to ensure the process converges to the set of global minima. This condition is similar to the classical one for diffusions and involves the critical depth of the potential. In higher dimension a non optimal sufficient condition is obtained.

연구 동기 및 목표

• Fokker-Planck 확산 과정의 대안으로 더 효율적인 방법을 개발하기 위해, 속도 변화를 갖는 조각적 결정론적 마르코프 과정(PDMP)을 활용한다.
• 저온 영역에서의 비정상성과 운동형 PDMP를 사용한 국소 최소값에서의 탈출 시간 추정을 분석한다.
• 전역 최소값으로의 수렴을 보장하는 1차원에서의 필요 및 충분한 냉각 스케줄 조건을 수립하며, 고전적 시뮬레이티드 어닐링 결과와 유사하게 다룬다.
• 이 분석을 고차원으로 확장하여, 동일한 알고리즘 프레임워크 하에서 전역 최소값으로의 수렴을 위한 비최적의 충분 조건을 제공한다.
• 스토케스틱 최적화에서 에너지 장벽과 엔트로피 장벽을 극복하는 데 있어 관성과 경로 구조가 차지하는 역할을 탐색한다.

제안 방법

• ℝᵈ × 𝕊ᵈ⁻¹에서 PDMP를 설계하며, dXₜ = Yₜdt 및 Yₜ가 단위 구면에서 점프 과정으로 진동하도록 하여, 점프 간에 결정론적 운동을 보장한다.
• 무한소 생성자 Lf(x,y) = y∂ₓf(x,y) + λ(x,y)(f(x,−y) − f(x,y))의 형태를 사용하여 생성자를 정의하며, 점프 빈도 λ는 불변 측도가 e⁻ᵁ⁽ˣ⁾dx ⊗ (δ₁ + δ₋₁)/2 비례하도록 선택한다.
• 시간이 지남에 따라 감소하는 냉각 스케줄 εₜ를 구현하여, 동질적 PDMP를 비동질적 과정으로 변환하여 시뮬레이티드 어닐링에 적합하게 한다.
• 냉각 스케줄의 감쇠율을 활용하여, 과정의 분포와 목표 Gibbs 측도 사이의 총 변동 거리의 상한을 구하기 위해 이산 시간 라플라스 유형의 추론을 적용한다.
• 저온 영역에서 국소 최소값에서의 탈출 확률을 추정하기 위해 라플라스 방법과 경로 근사 기법을 활용한다.
• 문헌 [19]과 [15]의 접근법을 변형하여 수렴 한계를 도출하며, 적분 추정과 평형 상태로부터의 거리의 지수 감쇠를 사용한다.

실험 결과

연구 질문

• RQ1 속도 변화를 갖는 조각적 결정론적 마르코프 과정은 시뮬레이티드 어닐링에서 Gibbs 측도를 효율적으로 샘플링하는 데 사용될 수 있는가?
• RQ2 저온에서 1차원 잠재 에너지 장벽에서 국소 최소값에서의 탈출 시간 분포는 무엇이며, 임계 깊이와 어떻게 관련되는가?
• RQ3 이 PDMP를 사용한 1차원 시뮬레이티드 어닐링에서 전역 최소값 집합으로의 거의 확실한 수렴을 보장하는 냉각 스케줄은 무엇인가?
• RQ4 속도 변화 과정에서의 관성은 확산 동역학과 비교해 복잡한 국소 최소값에서의 비정상성과 탈출에 어떻게 영향을 미치는가?
• RQ5 고차원에서 이 PDMP 기반 어닐링 프레임워크 하에서 전역 최소값으로의 수렴을 보장하는 냉각 스케줄에 대한 충분 조건은 무엇인가?

주요 결과

• 1차원에서 저온에서 국소 최소값에서의 탈출 시간은 Eyring–Kramers 유형의 공식을 만족하며, 탈출률은 잠재 에너지 장벽의 깊이에 따라 달라진다.
• 전역 최소값으로의 수렴을 위한 필요 및 충분한 냉각 스케줄 조건이 도출되었으며, 고전적 확산 과정과 유사하게 잠재 에너지의 임계 깊이 E*를 포함한다.
• 냉각 스케줄는 ∫(1/εₜ)dt가 발산하도록 충분히 느리게 감쇠되어야 하며, 이는 각 온도 수준에서 충분한 혼합 시간을 확보하기 위함이다.
• 고차원에서는 비최적의 충분 조건이 수립되었으며, 동일한 라플라스 추론과 감쇠율 분석에 기반한다.
• 과정의 분포와 목표 Gibbs 측도 사이의 총 변동 거리는 냉각 스케줄 매개변수에 따라 O(t⁻ᵞ)로 감소하며, γ > 0이다.
• 히우리스틱적 증거는 속도 변화 과정이 경로 구조와 관성이 유리한 경우, 확산 과정보다 엔트로피 장벽을 더 효율적으로 극복할 수 있음을 시사한다.