[논문 리뷰] Collaborative Learning in the Jungle

El Mahdi El Mhamdi, Sadegh Farhadkhani외 4명|arXiv (Cornell University)|2020. 08. 03.

Privacy-Preserving Technologies in Data참고 문헌 29인용 수 4

한 줄 요약

이 논문은 이질적 데이터를 가진 노드들이 최대 f개의 노드가 임의로 행동하더라도 정직한 노드의 입력 평균에 가까운 벡터로 수렴해야 하는, 바르자인 협동 학습을 위한 기본 문제로 평균 합의를 도입한다. 비동기적 알고리즘 두 가지를 제안하며, 하나는 n ≥ 6f+1를 요구하고 근사적으로 최적의 평균화 상수를 달성하고, 다른 하나는 잘리지 않은 평균과 신뢰할 수 있는 브로드캐스트를 사용하여 n ≥ 3f+1에서 최적의 내성적 저항성을 확보한다. 협동 학습과 평균 합의의 동치성을 증명하고, 악성 및 이질적 환경에서 새로운 불가능성 정리들을 수립한다.

ABSTRACT

We study Byzantine collaborative learning, where $n$ nodes seek to collectively learn from each others' local data. The data distribution may vary from one node to another. No node is trusted, and $f < n$ nodes can behave arbitrarily. We prove that collaborative learning is equivalent to a new form of agreement, which we call averaging agreement. In this problem, nodes start each with an initial vector and seek to approximately agree on a common vector, which is close to the average of honest nodes' initial vectors. We present two asynchronous solutions to averaging agreement, each we prove optimal according to some dimension. The first, based on the minimum-diameter averaging, requires $ n \geq 6f+1$, but achieves asymptotically the best-possible averaging constant up to a multiplicative constant. The second, based on reliable broadcast and coordinate-wise trimmed mean, achieves optimal Byzantine resilience, i.e., $n \geq 3f+1$. Each of these algorithms induces an optimal Byzantine collaborative learning protocol. In particular, our equivalence yields new impossibility theorems on what any collaborative learning algorithm can achieve in adversarial and heterogeneous environments.

연구 동기 및 목표

• 바르자인 결함 하에서 협동 학습을 새로운 합의 문제로 체계화하는 것: 평균 합의.
• 이질적이고 악성 데이터 환경에서 최적의 저항성과 수렴성을 달성하는 비동기 알고리즘 설계.
• 바르자인 협동 학습과 평균 합의 간의 동치성을 증명하여 새로운 불가능성 결과를 도출하는 것.
• 임의의 노드 행동 조건 하에서 분산 학습의 수렴 정확도 및 고장 내성에 대한 최적의 경계 설정.

제안 방법

• 노드들이 정직한 노드의 초기 벡터 평균에 가까운 벡터로 수렴하는 새로운 합의 원리로 평균 합의를 도입한다.
• 최소 지름 평균화 기반의 첫 번째 알고리즘을 제안하며, n ≥ 6f+1 조건이 필요하고 渐진적으로 최적의 평균화 상수를 달성한다.
• 신뢰할 수 있는 브로드캐스트와 좌표별 잘린 평균을 사용하는 두 번째 알고리즘을 개발하여 n ≥ 3f+1에서 최적의 바르자인 내성성을 달성한다.
• 협동 학습과 평균 합의 간의 동치성을 활용해 악성 및 이질적 학습 환경에서 새로운 불가능성 정리들을 도출한다.
• 두 알고리즘의 고장 내성 및 수렴 정확도 측면에서의 최적성 증명.
• 두 알고리즘을 활용해 최적의 바르자인 협동 학습 프로토콜을 구성한다.

실험 결과

연구 질문

• RQ1 바르자인 협동 학습은 새로운 형태의 합의로 환원될 수 있는가, 만약 가능하다면 그 성질은 무엇인가?
• RQ2 비동기 바르자인 협동 학습에서 최적의 내성성을 확보하기 위해 필요한 최소한의 노드 수는 얼마인가?
• RQ3 임의의 노드 행동과 이질적 데이터 분포 조건 하에서 수렴 정확도를 어떻게 최대화할 수 있는가?
• RQ4 악성 및 이질적 환경에서 협동 학습의 근본적인 한계(불가능성 결과)는 무엇인가?
• RQ5 비동기 환경에서 고장 내성과 수렴 정확도 사이의 최적 트레이드오프를 달성할 수 있는가?

주요 결과

• 논문은 바르자인 협동 학습과 평균 합의 간의 엄밀한 동치성을 확립하여, 악성 조건 하에서의 분산 학습에 대한 새로운 이론적 통찰을 가능하게 한다.
• 최소 지름 평균화 기반 프로토콜은 渐진적으로 최적의 평균화 상수를 달성하며, 이 접근법에 대해 n ≥ 6f+1 조건이 필수적임을 입증한다.
• 신뢰할 수 있는 브로드캐스트와 좌표별 잘린 평균을 사용하는 두 번째 프로토콜은 n ≥ 3f+1에서 최적의 바르자인 내성성을 확보하며, 이론적 하한선과 정확히 일치한다.
• 두 알고리즘은 각각의 차원에서 최적임을 증명한다: 하나는 수렴 정확도(평균화 상수) 측면에서, 다른 하나는 고장 내성 측면에서.
• 협동 학습과 평균 합의 간의 동치성은 새로운 불가능성 정리로 이어지며, 악성 및 이질적 학습 환경에서 달성 가능한 한계를 보여준다.
• 결과적으로, 두 개의 제안된 비동기 알고리즘을 통해 최적의 바르자인 협동 학습이 각각 다른 성능 지표에서 최적임을 입증한다.