[논문 리뷰] Byzantine Fault Tolerant Distributed Linear Regression

Nirupam Gupta, Nitin H. Vaidya|arXiv (Cornell University)|2019. 03. 20.

Bayesian Modeling and Causal Inference참고 문헌 42인용 수 15

한 줄 요약

이 논문은 다중 에이전트 시스템에서 분산 그래디언트 디센트를 강건하게 만들기 위해 노름 기반 필터링(노름 필터링 및 노름캡 필터링)을 사용하는 바르지안 결함 내성 분산 선형 회귀 알고리즘을 제안한다. 이 방법들은 유한한 노이즈와 부분적 이성성 조건 하에서 참값 파라미터 벡터 $ w^* $ 로의 결정론적 수렴을 보장하며, 계산 오버헤드는 $ O(n(d + \log n)) $ 수준이 되어 이전 연구에 비해 분포 가정을 제거하고 비동기 동작을 지원함으로써 향상된다.

ABSTRACT

This paper considers the problem of Byzantine fault tolerance in distributed linear regression in a multi-agent system. However, the proposed algorithms are given for a more general class of distributed optimization problems, of which distributed linear regression is a special case. The system comprises of a server and multiple agents, where each agent is holding a certain number of data points and responses that satisfy a linear relationship (could be noisy). The objective of the server is to determine this relationship, given that some of the agents in the system (up to a known number) are Byzantine faulty (aka. actively adversarial). We show that the server can achieve this objective, in a deterministic manner, by robustifying the original distributed gradient descent method using norm based filters, namely 'norm filtering' and 'norm-cap filtering', incurring an additional log-linear computation cost in each iteration. The proposed algorithms improve upon the existing methods on three levels: i) no assumptions are required on the probability distribution of data points, ii) system can be partially asynchronous, and iii) the computational overhead (in order to handle Byzantine faulty agents) is log-linear in number of agents and linear in dimension of data points. The proposed algorithms differ from each other in the assumptions made for their correctness, and the gradient filter they use.

연구 동기 및 목표

• 바르지안 결함이 있는 에이전트가 존재하는 분산 시스템에서 참 회귀 파라미터 $ w^* $ 의 결정론적 계산을 가능하게 하기 위해.
• 기존의 강건 통계학적 학습 방법이 요구하는 데이터 분포에 대한 확률적 가정에 의존하지 않도록 하기 위해.
• 이전 연구들이 완전한 동기성 조건을 가정하는 것과는 달리 부분적 이성성 시스템을 지원하기 위해.
• 바르지안 결함 내성에 대한 계산 오버헤드를 최소화하여 $ O(n(d + \log n)) $ 복잡도를 달성하기 위해.
• 선형 회귀를 초월하여 일반적인 분산 최적화 문제 클래스로의 적용 가능성을 확장하기 위해.

제안 방법

• 각 $ \ell_2 $-노름 크기를 기반으로 악성 그래디언트를 식별하고 제거하기 위해 노름 필터링 및 노름캡 필터링을 활용한다.
• 오직 유한한 노름 범위 내의 그래디언트만 수용하는 강건화된 분산 그래디언트 디센트 프레임워크를 사용한다.
• 제곱 거리 $ \|w^t - w^*\|^2 $ 를 추적하는 리아푸노프 유사 함수 $ h_t $ 를 기반으로 한 수렴 분석 프레임워크를 적용한다.
• 정상 그래디언트의 기대 노름을 바탕으로 유도된 필터링 임계값 $ \widehat{D} $ 를 도입하여 바르지안 외곽치에 대한 강건성을 확보한다.
• 수렴을 보장하기 위해 조건 $ n\gamma > f(2\gamma + \mu) $ 를 활용하며, 여기서 $ \gamma $ 와 $ \mu $ 는 그래디언트의 스무스함과 강력한 볼록성과 관련된다.
• 유한한 지연이 허용되는 부분적 이성성 환경을 지원하기 위해, 수렴에 영향을 주지 않도록 그래디언트 업데이트의 지연을 허용한다.

실험 결과

연구 질문

• RQ1 특정 데이터 분포에 대한 가정 없이도 분산 선형 회귀를 바르지안 결함에 대해 강건하게 만들 수 있는가?
• RQ2 에이전트가 서로 다른 시간에 업데이트할 수 있는 부분적 이성성 시스템에서도 수렴을 보장할 수 있는가?
• RQ3 분산 최적화에서 바르지안 결함 내성을 확보하기 위해 필요한 최소한의 계산 오버헤드는 무엇인가?
• RQ4 결정론적으로 정상 그래디언트와 악성 그래디언트를 구분할 수 있는 그래디언트 필터링은 어떻게 설계할 수 있는가?
• RQ5 제안된 방법은 선형 회귀를 초월한 다른 분산 최적화 문제에 일반화될 수 있는가?

주요 결과

• 제안된 알고리즘은 조건 $ n\gamma > f(2\gamma + \mu) $ 하에 최대 $ f $ 명의 바르지안 결함 에이전트가 존재하는 상황에서도 참값 파라미터 $ w^* $ 로 결정론적 수렴을 달성한다.
• 이전의 확률적 방법과 달리 데이터 분포에 대한 가정 없이도 수렴이 보장된다.
• 유한한 지연에 강건하여 시스템의 부분적 이성성도 지원하며, 이는 이전 연구들이 가정한 완전한 동기성 조건에 비해 상당한 개선이다.
• 계산 비용은 $ O(n(d + \log n)) $ 로, 에이전트 수에 대해 로그-선형이며 차원 $ d $ 에 대해 선형이므로 확장성이 뛰어나다.
• 수렴 분석을 통해 모든 $ t \geq \tau $ 에 대해 $ \|w^t - w^*\| \leq D^* $ 를 증명하였으며, 여기서 $ D^* $ 는 시스템 파라미터에서 유도된 유한한 상한이다.
• 방법은 $ \sum_{t=0}^\infty \eta_t \phi_t < \infty $ 를 확보하며, 리아푸노프 함수 분석과 결합하여 $ w^* $ 근처로의 수렴을 암시한다.