[논문 리뷰] Partitioned Variational Inference: A unified framework encompassing federated and continual learning

Thang D. Bui, Cuong V. Nguyen외 2명|arXiv (Cornell University)|2018. 11. 27.

Gaussian Processes and Bayesian Inference참고 문헌 8인용 수 20

한 줄 요약

이 논문은 분할 변분 추론(PVI)을 소개한다. PVI는 다양한 알고리즘적 선택 사항을 통합하여 글로벌 및 로컬 변분 추론을 통합하는 유일한 프레임워크로, 연합 학습과 지속적 학습에 대해 효율적이고 확장 가능한 솔루션을 제공한다. 통신 효율적인 베이지안 신경망 학습과 가우시안 프로세스를 이용한 지속적 학습을 구현하며, 최신 기술을 능가하면서도 구현의 단순성을 유지한다.

ABSTRACT

Variational inference (VI) has become the method of choice for fitting many modern probabilistic models. However, practitioners are faced with a fragmented literature that offers a bewildering array of algorithmic options. First, the variational family. Second, the granularity of the updates e.g. whether the updates are local to each data point and employ message passing or global. Third, the method of optimization (bespoke or blackbox, closed-form or stochastic updates, etc.). This paper presents a new framework, termed Partitioned Variational Inference (PVI), that explicitly acknowledges these algorithmic dimensions of VI, unifies disparate literature, and provides guidance on usage. Crucially, the proposed PVI framework allows us to identify new ways of performing VI that are ideally suited to challenging learning scenarios including federated learning (where distributed computing is leveraged to process non-centralized data) and continual learning (where new data and tasks arrive over time and must be accommodated quickly). We showcase these new capabilities by developing communication-efficient federated training of Bayesian neural networks and continual learning for Gaussian process models with private pseudo-points. The new methods significantly outperform the state-of-the-art, whilst being almost as straightforward to implement as standard VI.

연구 동기 및 목표

• 문헌에서 산재해 있는 다양한 변분 추론 접근 방식을 하나의 프레임워크로 통합하여 문헌의 분열을 해결하는 것.
• 연합 학습과 지속적 학습의 과제를 해결하기 위해 효율적이고 분산형이며 점진적인 추론을 가능하게 하는 것.
• 변분 추론에서 알고리즘 선택 사항(예: 업데이트 세분성과 최적화 방법)을 체계적으로 선택하고 조합할 수 있는 방법을 제공하는 것.
• 데이터 부족, 분산형, 스트리밍 학습 환경에 특화된 새로운 변분 추론 알고리즘을 도출하는 것.
• 실제 벤치마크(예: MNIST 및 가우시안 프로세스 모델)에서 PVI 기반 방법의 실용적 슈퍼리오리티를 입증하는 것.

제안 방법

• PVI는 변분 목표 함수를 국소적 및 글로벌 성분으로 분할하여 계산 효율성과 추론 정확성 사이의 탄력적 트레이드오���을 가능하게 한다.
• 기존 방법을 일반화하기 위해 글로벌 VI, 로컬 VI, 변분 메시지 전달을 하나의 최적화 프레임워크에 통합한다.
• 감쇠된 고정점 업데이트와 자연 경사 최적화를 지원하며, 이를 변분 제한된 파wr EP와 연결한다.
• PVI는 미니배치 근사와 하이퍼파ram터 학습을 지원하여 대규모 및 스트리밍 데이터에 대한 확장성을 향상시킨다.
• 로컬 업데이트와 글로벌 집계를 분리함으로써 연합 베이지안 신경망에 대한 통신 효율적인 학습 프로토콜을 도입한다.
• 지속적 학습을 위해 PVI는 가우시안 프로세스에서 개인용 가짜 점을 사용하여 기존 지식을 유지하면서 점진적인 적응을 가능하게 한다.

실험 결과

연구 질문

• RQ1 글로벌 및 로컬 변분 추론이 어떻게 하나의 프레임워크로 공식적으로 통합될 수 있는가?
• RQ2 변분 추론에서 업데이트 세분성과 최적화 방법 사이의 알고리즘적 트레이드오프는 무엇인가?
• RQ3 PVI는 연합 환경에서 베이지안 신경망의 효율적이고 통신 부담이 적은 학습을 가능하게 할 수 있는가?
• RQ4 PVI는 기존 지식을 유지하면서 가우시안 프로세스를 이용한 지속적 학습을 지원할 수 있는가?
• RQ5 정확도와 수렴 속도 측면에서 PVI 기반 최적화는 최신 기술과 비교해 어떻게 성과를 내는가?

주요 결과

• PVI는 기존 방법(글로벌 VI, 로컬 VI, 파워 EP 포함)을 포함하고 일반화하며, 분열된 문헌 간의 이론적 연결을 수립한다.
• PVI는 통신 효율적인 연합 베이지안 신경망 학습을 가능하게 하여 수렴성과 테스트 정확도 측면에서 이전 접근 방식을 크게 능가한다.
• 가우시안 프로세스 모델의 경우, PVI에 개인용 가짜 점을 적용한 결과 지속적 학습에서 최신 기술 수준의 성능을 달성하며 치명적인 잊힘을 방지한다.
• SNGD와 Adam 기반 학습은 PVI 하에서 유사한 성능을 보이며, SNGD는 고정된 학습률을 사용함으로써 안정적인 수렴을 보인다.
• Adam과 SNGD의 최적 학습률 설정은 유사한 훈련 및 테스트 성능을 제공하여 PVI 하에서 하이퍼파ram터 튜닝에 대한 강건성을 보여준다.
• 베이지안 신경망을 사용한 MNIST 실험 결과, PVI 기반 방법은 낮은 음의 로그확률과 분류 오차를 달성하였으며, 800–1000 에포크 내에 수렴이 관찰되었다.