[논문 리뷰] Distributed Finite-time Least Squares Solver for Network Linear Equations

Tao Yang, Jemin George외 3명|arXiv (Cornell University)|2018. 09. 29.

Distributed Control Multi-Agent Systems인용 수 7

한 줄 요약

이 논문은 네트워크화된 선형 방정식을 위한 분산 유한시간 최소제곱 해법을 제안하며, 분산 계산 메커니즘을 사용하여 어떤 노드도 유한 시간 내에 최소제곱 해를 계산할 수 있도록 한다. 이 방법은 무방향 그래프에서 지수 수렴을 보장하며, 방향 그래프로도 확장 가능하여 기초 알고리즘이 발산하더라도 적용 가능하다.

ABSTRACT

In this paper, we study the problem of finding the least square solutions of over-determined linear algebraic equations over networks in a distributed manner. Each node has access to one of the linear equations and holds a dynamic state. We first propose a distributed least square solver over undirected interaction graphs, for which we establish the conditions on the interaction graphs and the step-size under which the proposed algorithm exponentially converges to the least square solution. Next, we develop a finite-time least square solver by equipping the proposed algorithm with a finite-time decentralized computation mechanism. The proposed finite-time computation mechanism enables an arbitrarily chosen node to compute the least square solution in a finite number of time steps, by using its own local successive state values obtained from the underlying algorithm. Finally, we discuss how to extend the proposed algorithm to directed interaction graphs and how the finite-time computation mechanism computes the least square solution even when the underlying algorithms diverge. The theoretical findings are validated and illustrated by numerical simulation examples.

연구 동기 및 목표

• 과잉 결정된 선형 시스템을 네트워크에서 유한 시간 내에 해결하기 위한 분산 알고리즘을 개발하기 위해.
• 무방향 상호작용 그래프에서 최소제곱 해로의 지수 수렴을 보장하기 위해.
• 모든 노드가 자신의 국소 상태 역사만을 사용하여 해를 계산할 수 있는 유한시간 분산 계산 메커니즘을 설계하기 위해.
• 기초 알고리즘이 발산하더라도 유한시간 해 계산을 유지할 수 있도록 프레임워크를 방향 상호작용 그래프로 확장하기 위해.
• 수치 시뮬레이션을 통해 이론적 결과를 검증하기 위해.

제안 방법

• 논문은 각 노드가 하나의 방정식을 보유하고 국소 정보 교환을 통해 상태를 갱신하는 무방향 상호작용 그래프에서 작동하는 분산 최소제곱 해법을 도입한다.
• 상호작용 그래프의 구조와 스텝 사이즈에 대한 조건을 설정하여 최소제곱 해로의 지수 수렴을 보장한다.
• 해결책을 유한한 단계 수 내에 계산할 수 있도록 알고리즘에 유한시간 계산 메커니즘을 통합한다. 이 메커니즘은 노드가 자신의 국소 상태 궤적만을 사용하여 해를 계산할 수 있도록 한다.
• 기초 알고리즘의 연속된 상태 값을 활용하여 종료 조건을 유도하고 해를 출력하는 데 기반한다.
• 비대칭 정보 흐름을 처리하기 위해 업데이트 규칙을 수정함으로써 이 접근법을 방향 그래프로 확장한다.
• 이론적 분석을 통해 기초 알고리즘이 발산하더라도 적절히 적용된 유한시간 메커니즋试에 의해 유한시간 수렴이 가능하다고 확인한다.

실험 결과

연구 질문

• RQ1 분산 최소제곱 해법이 무방향 그래프에서 어떤 조건에서 지수 수렴을 이루는가?
• RQ2 국소 상태 시퀀스에서 해를 유한시간 내에 복구할 수 있도록 유한시간 계산 메커니즘을 어떻게 설계할 수 있는가?
• RQ3 기초 알고리즘이 방향 그래프에서 발산하더라도 유한시간 메커니즘이 여전히 정확한 해를 산출할 수 있는가?
• RQ4 유한시간 수렴을 유지하면서 알고리즘을 방향 상호작용 그래프로 확장하기 위해 어떤 수정이 필요한가?
• RQ5 비대칭 통신 토폴로지가 존재하는 환경에서 유한시간 메커니즘이 정확성과 수렴성을 어떻게 유지하는가?

주요 결과

• 적절한 상호작용 그래프 및 스텝 사이즈 조건 하에서 제안된 분산 최소제곱 해법은 최소제곱 해로의 지수 수렴을 달성한다.
• 유한시간 계산 메커니즘은 어떤 노드도 자신의 국소 상태 역사만을 사용하여 정확한 최소제곱 해를 유한한 단계 수 내에 계산할 수 있도록 한다.
• 기초 알고리즘이 방향 그래프에서 발산하더라도 메커니즘이 효과를 유지하여 유한시간 해 복구를 보장한다.
• 이론적 분석을 통해 상태 궤적의 구조를 활용함으로써 방향 그래프에서도 유한시간 수렴이 가능하다고 확인된다.
• 수치 시뮬레이션은 이론적 결과를 검증하며, 다양한 네트워크 토폴로지에서 정확하고 유한시간 해 계산이 이루어지는 것을 보여준다.