[논문 리뷰] A Distributed Newton Method for Network Utility Maximization

Ermin Wei, Asuman Ozdaglar외 1명|arXiv (Cornell University)|2010. 05. 14.

Distributed Control Multi-Agent Systems참고 문헌 30인용 수 6

한 줄 요약

이 논문은 네트워크 유용도 최적화(NUM) 문제를 위한 분산 뉴턴형 알고리즘을 제안하며, 뉴턴 방향을 계산하기 위해 반복적이고 분산된 행렬 분해를 사용하고, 비정확한 뉴턴 감소량에 기반한 분산 단계 크기 규칙을 도입하여 초선형 수렴성을 달성한다. 이 방법은 일阶 방법과 동일한 통신 패턴을 유지하면서도 수렴 속도를 크게 향상시키며, 유한 정밀도 계산 오차 조건 하에서도 성능을 유지를 한다.

ABSTRACT

Most existing work uses dual decomposition and subgradient methods to solve Network Utility Maximization (NUM) problems in a distributed manner, which suffer from slow rate of convergence properties. This work develops an alternative distributed Newton-type fast converging algorithm for solving network utility maximization problems with self-concordant utility functions. By using novel matrix splitting techniques, both primal and dual updates for the Newton step can be computed using iterative schemes in a decentralized manner with limited information exchange. Similarly, the stepsize can be obtained via an iterative consensus-based averaging scheme. We show that even when the Newton direction and the stepsize in our method are computed within some error (due to finite truncation of the iterative schemes), the resulting objective function value still converges superlinearly to an explicitly characterized error neighborhood. Simulation results demonstrate significant convergence rate improvement of our algorithm relative to the existing subgradient methods based on dual decomposition.

연구 동기 및 목표

• 대규모 NUM 문제를 해결하는 데 있어 기존 이중 분해 및 일阶 방법의 느린 수렴 문제를 해결하기 위해.
• 일阶 방법보다 더 빠른 수렴 속도를 달성하면서도 분산 정보 교환을 유지하는 분산 이阶 방법을 개발하기 위해.
• 반복적 방법과 공감 알고리즘을 사용하여 뉴턴 방향과 단계 크기를 분산 방식으로 계산할 수 있도록 하기 위해.
• 비정확한 뉴턴 방향과 단계 크기 계산 조건 하에서도 수렴성을 분석하여 초선형 수렴을 오차 이웃 영역으로 보장하기 위해.
• 유한한 반복 횟수로 잘라내어진 반복 계산 조건 하에서도 수렴을 보장하는 분산 오차 검증 절차를 설계하기 위해.

제안 방법

• 슬랙 변수와 로그(barrier) 함수를 사용하여 부등식 제약을 가진 NUM 문제를 등식 제약 문제로 변환한다.
• 새로운 행렬 분해 기법을 도입하여 뉴턴 단계에 필요한 헤시안 역행렬을 소스와 링크 간의 분산적이고 반복적인 업데이트로 분해한다.
• 임계값 이상일 경우 비정확한 뉴턴 감소량에 반비례하는 분산 단계 크기 규칙을 구현하며, 이하일 경우 순수한 뉴턴 단계를 사용한다.
• 일阶 방법과 동일한 통신 메커니즘을 사용하는 분산 공감 기반 절차를 통해 비정확한 뉴턴 감소량을 계산한다.
• 이중 단계 분산 오차 검증 방법을 도입한다: 첫 번째 단계에서는 사전에 정해진 반복 횟수를 사용해 오차 허용 범위를 검증하고, 두 번째 단계에서는 유한 반복 기준을 사용해 정밀화한다.
• 최대 공감 알고리즘을 사용하여 국소 노름과 상태 차이의 전역 최댓값을 계산함으로써 오차 지표의 분산 구현을 가능하게 한다.

실험 결과

연구 질문

• RQ1 일阶 방법과 동일한 통신 패턴을 유지하면서도 NUM 문제에 대해 분산 뉴턴형 방법을 설계할 수 있는가?
• RQ2 전체 행렬 역행렬 계산이 필요 없이도 뉴턴 방향을 분산 방식으로 어떻게 계산할 수 있는가?
• RQ3 뉴턴 방향과 단계 크기를 오차와 함께 계산할 경우, 국소 초선형 수렴을 보장하는 단계 크기 규칙은 무엇인가?
• RQ4 뉴턴 방향과 단계 크기를 계산하는 데 사용되는 반복적 방법의 유한한 잘라내기 조건 하에서도 수렴을 보장할 수 있는가?
• RQ5 비정확한 뉴턴 단계의 오차 허용 범위를 분산적이고 유한 시간 내에 검증할 수 있는 방법은 무엇인가?

주요 결과

• 제안된 알고리즘은 비정확한 뉴턴 방향과 단계 크기 조건 하에서도 목적 함수 값이 명시적으로 기술된 오차 이웃 영역으로 초선형 수렴을 달성한다.
• 원 primal 반복 수에 비해 수렴 속도가 초선형이며, 시뮬레이션 결과에서 일阶 이중 분해 방법보다 뚜렷이 뛰어나다.
• 오차 이웃 영역의 크기는 뉴턴 방향과 단계 크기 계산의 오차 범위에 대한 명시적 함수로 정량화되어 있다.
• 분산 오차 검증 절차는 유한 시간 내에 종료되며, 국소 정보 교환과 공감 알고리즘만을 사용하여 구현 가능하다.
• 첫 번째 단계에서는 최대 두 번의 최대 공감 연산이 필요하고, 두 번째 단계에서는 각 반복마다 하나의 최대 공감 연산이 필요하여 효율적인 분산 구현이 가능하다.
• 정보 교환을 위한 통신 패턴은 일阶 방법과 정확히 동일하여 확장성과 실용적 구현 가능성을 보장한다.