[논문 리뷰] Collaborative Learning as an Agreement Problem

El Mahdi El Mhamdi, Sadegh Farhadkhani외 4명|arXiv (Cornell University)|2020. 08. 03.

Privacy-Preserving Technologies in Data인용 수 5

한 줄 요약

이 논문은 f개의 Byzantine 노드가 존재할 수 있는 상황에서도 정상 노드의 초기 벡터 평균을 함께 근사하는 데 목적이 있는 Byzantine 공동 학습을 위한 새로운 약한 형태의 공감(consensus)인 평균 공감(averaging agreement)을 소개한다. 이는 n ≥ 6f+1를 만족하는 최적의 이종성 없는 비동기 알고리즘과 n ≥ 3f+1를 만족하는 최적의 내성(resilience)을 달성하는 또 다른 알고리즘을 제안하며, 각각 공격적인 조건 하에서도 강건하고 확장 가능한 공동 학습을 가능하게 한다.

ABSTRACT

We address the problem of Byzantine collaborative learning: a set of $n$ nodes seek to collectively learn from each others' local data. The data distribution may vary from one node to another. No node is trusted and $f < n$ nodes can behave arbitrarily, i.e., they can be Byzantine. We prove that collaborative learning is equivalent to a new and weak form of agreement, which we call averaging agreement. In this problem, nodes start each with an initial vector and seek to approximately agree on a common vector, which is close to the average of honest nodes' initial vectors. More precisely, the error must remain within a multiplicative constant (which we call averaging constant) of the maximum $\ell_2$ distance between the honest nodes' initial vectors. Essentially, the smaller the averaging constant, the better the learning. We present two asynchronous solutions to averaging agreement, each we prove optimal according to some dimension. The first, based on the minimum-diameter averaging, requires $ n \geq 6f+1$, but achieves asymptotically the best-possible averaging constant up to a multiplicative constant. The second, based on reliable broadcast and coordinate-wise trimmed mean, achieves optimal Byzantine resilience, i.e., $n \geq 3f+1$. Each of these algorithms induces an optimal collaborative learning protocol.

연구 동기 및 목표

• Byzantine 장애 하에서 공동 학습을 공감 문제로 공식화하기.
• 평균 공감이라는 새로운 공감 원리(primitive)를 정의하고 분석하기. 이는 노드들이 정상 노드의 초기 벡터 평균에 가까운 벡터를 근사적으로 합의해야 하는 것을 의미한다.
• Byzantine 환경에서 최적의 내성과 최소한의 평균 공감 상수를 달성하는 비동기 알고리즘을 설계하기.
• 제안된 알고리즘이 악성 데이터 및 노드 행동에 대응하는 최적의 공동 학습 프로토콜을 유도함을 증명하기.

제안 방법

• 노드들이 정상 노드의 초기 벡터 평균에서 유한한 오차 범위 내에 수렴하도록 목표로 하는 평균 공감 문제로 공동 학습을 공식화한다.
• 최소 직경 평균화(minimum-diameter averaging) 기반의 첫 번째 알고리즘을 제안하며, 이는 n ≥ 6f+1 노드를 필요로 하며, 점점 최적에 가까워지는 평균 공감 상수를 점점 더 이상의 요소 없이 달성한다.
• 신뢰성 브로드캐스트와 좌표별 잘라내기 평균(coordinate-wise trimmed mean)을 사용하는 두 번째 알고리즘을 설계하여, n ≥ 3f+1 노드에서 최적의 Byzantine 내성(resilience)을 달성한다.
• 두 알고리즘이 각각의 설계 차원에서 최적임을 증명한다: 하나는 평균 공감 상수에서, 다른 하나는 내성에서 최적이다.
• 평균 공감 추상화를 활용하여 Byzantine 행동에 강건한 종단 간 공동 학습 프로토콜을 유도한다.
• Byzantine 공동 학습과 평균 공감 문제 사이의 동치성을 확립함으로써, 강건한 학습 시스템의 모듈러 설계를 가능하게 한다.

실험 결과

연구 질문

• RQ1 Byzantine 장애 하에서 공동 학습을 새로운 형태의 공감 문제로 환원할 수 있는가?
• RQ2 비동기 Byzantine 환경에서 달성 가능한 최소 평균 공감 상수는 무엇인가?
• RQ3 비동기 공동 학습에서 최적의 내성(n ≥ 3f+1)을 달성할 수 있는 방법은 무엇인가?
• RQ4 최적의 내성과 근접한 최적의 평균 공감 상수를 동시에 달성할 수 있는 해법이 존재하는가?
• RQ5 Byzantine 노드 존재 하에서, 기반 공감 기반 공동 학습의 근본적 한계는 무엇인가?

주요 결과

• 논문은 Byzantine 공동 학습이 평균 공감 문제를 해결하는 것과 동치임을 입증한다.
• 평균 공감은 정상 노드의 초기 벡터 간 ℓ₂ 거리의 곱셈 상수(평균 공감 상수) 범위 내에서 벡터를 합의해야 하는 공감 원리로 정의된다.
• 첫 번째 알고리즘은 점점 최적에 가까워지는 평균 공감 상수를 달성하며, 이는 이론적 최소값에 상수 요소를 곱한 범위로 수렴한다.
• 두 번째 알고리즘은 최적의 Byzantine 내성을 달성하며, n ≥ 3f+1 노드만으로도 충분하며, 이러한 프로토콜에 대해 가능한 최소 수이다.
• 두 알고리즘 모두 각각의 설계 차원에서 최적임이 증명되었다: 하나는 평균 공감 상수에서, 다른 하나는 내성에서 최적이다.
• 제안된 솔루션은 f개 이하의 노드가 임의로 행동하더라도 여전히 강건한 집합을 가능하게 하는 최적의 공동 학습 프로토콜을 유도한다.