[논문 리뷰] Fully Decentralized, Scalable Gaussian Processes for Multi-Agent Federated Learning

George P. Kontoudis, Daniel J. Stilwell|arXiv (Cornell University)|2022. 03. 06.

Gaussian Processes and Bayesian Inference인용 수 7

한 줄 요약

이 논문은 다중 에이전트 연합 학습을 위한 완전히 탈중앙화되고 확장 가능한 가우시안 프로세스(GP) 방법을 제안한다. 보조 변수 기반 ADMM를 사용해 탈중앙화된 초모수 학습을 하고, 예측을 위해 공감 기반 집합 방법을 사용한다. 공분산 기반 근접 이웃 선택 전략을 통해 O(N²) 예측 확장성을 달성하여 중앙 집중식 조정 없이도 효율적이고 프라이버시를 보장하는 분산 에이전트 간 학습을 가능하게 한다.

ABSTRACT

In this paper, we propose decentralized and scalable algorithms for Gaussian process (GP) training and prediction in multi-agent systems. To decentralize the implementation of GP training optimization algorithms, we employ the alternating direction method of multipliers (ADMM). A closed-form solution of the decentralized proximal ADMM is provided for the case of GP hyper-parameter training with maximum likelihood estimation. Multiple aggregation techniques for GP prediction are decentralized with the use of iterative and consensus methods. In addition, we propose a covariance-based nearest neighbor selection strategy that enables a subset of agents to perform predictions. The efficacy of the proposed methods is illustrated with numerical experiments on synthetic and real data.

연구 동기 및 목표

• 탈중앙화된 다중 에이전트 시스템에서 가우시안 프로세스의 확장성과 통신 병목 현상을 해결한다.
• 중앙 집중식 조정이나 데이터 집중 없이도 완전히 탈중앙화된 GP 학습과 예측을 가능하게 한다.
• 예측 정확도와 불확실성 측정을 유지하면서 계산 및 통신 오버헤드를 줄인다.
• 원시 데이터 전송을 방지함으로써 GDPR과 같은 프라이버시 규정을 준수한다.
• GPS 장애 또는 대역폭 제약 환경에서 실시간 응용에 적합한 확장 가능한 분산 추론 방법을 개발한다.

제안 방법

• 보조 변수 기반 ADMM를 사용해 GP 초모수에 대한 최대우도추정(MLE)을 탈중앙화하여, 이중 변수 갱신을 통한 국소 최적화를 가능하게 한다.
• 탈중앙화된 보조 변수 ADMM에 대해 닫힌 형태의 해를 유도하여 반복 계산 및 통신을 감소시킨다.
• 중앙 집합 노드 없이도 다수의 에이전트로부터의 예측을 통합하기 위해 반복적이고 공감 기반의 집합 프로토콜을 사용한다.
• 커널 감쇠를 활용해 관련 에이전트를 국소 예측에 대해 식별하는 공분산 기반 근접 이웃(CBNN) 선택 전략을 도입한다.
• 지역 협업을 통해 전역 GP 예측을 근사하기 위해 DEC-NPAE 및 DEC-NN-NPAE를 포함한 13가지 탈중앙화 예측 방법을 적용한다.
• 반경 커널 감쇠와 경로 그래프 구조 제약 조건을 활용해 근접 이웃 그래프의 강한 연결성을 유지한다.

실험 결과

연구 질문

• RQ1 ADMM를 사용해 가우시안 프로세스 초모수 학습을 완전히 탈중앙화할 수 있는가? 이때 수렴성과 정확도를 유지할 수 있는가?
• RQ2 최소한의 통신으로 탈중앙화된 다중 에이전트 시스템에서 GP 예측을 효율적으로 근사할 수 있는가?
• RQ3 공분산 기반 근접 이웃 선택 전략이 예측 정확도와 통신 효율성에 미치는 영향은 무엇인가?
• RQ4 제안된 방법은 중앙 집중식 GP와 비교해 에이전트 수와 관측 수가 증가함에 따라 어떻게 확장되는가?
• RQ5 탈중앙화된 GP 프레임워크는 계산 및 통신 비용을 줄이면서도 예측 불확실성 측정을 유지할 수 있는가?

주요 결과

• 제안된 보조 변수 ADMM 기반 GP 학습은 닫힌 형태의 해를 달성하여, 통신 횟수를 줄인 효율적인 탈중앙화 초모수 최적화를 가능하게 한다.
• 공분산 기반 근접 이웃(CBNN) 선택 전략은 예측에 참여하는 에이전트 수를 최소화하면서도 국소 예측 그래프의 강한 연결성을 보장한다.
• 특히 DEC-NN-NPAE를 포함한 탈중앙화 예측 방법들은 중앙 집중식 GP와 유사한 예측 정확도를 달성하면서도 통신 오버헤드를 줄인다.
• 합성 및 실세계 데이터에 대한 수치 실험을 통해 확장성과 강건성을 입증하였으며, 예측 성능은 중앙 집중식 GP 기준선과 유사하다.
• 이 방법은 다중 로봇 시스템이나 자율 주행 차량과 같은 대역폭 제약 환경에서 프라이버시를 보장하는 실시간 학습을 가능하게 한다.