[논문 리뷰] Secure Aggregation for Buffered Asynchronous Federated Learning

Jinhyun So, Ramy E. Ali외 2명|arXiv (Cornell University)|2021. 10. 05.

Privacy-Preserving Technologies in Data참고 문헌 26인용 수 14

한 줄 요약

이 논문은 신뢰할 수 있는 실행 환경(TEE)을 사용하지 않는 버퍼링된 비동기 분산 학습 프로토콜인 BASecAgg를 제안한다. 이 프로토콜은 다양한 학습 라운드 동안 상쇄되는 라운드에 강건한 마스크를 설계함으로써, TEE에 의존하지 않고도 안전한 집계를 가능하게 한다. BASecAgg는 FedBuff—그의 TEE 기반 대응자—와 거의 동일한 수렴 성능를 달성하면서도, 임의의 버퍼 크기를 허용하고 유저의 프라이버시를 유한체에서의 양자화 기반 오버클로징을 통해 보호한다.

ABSTRACT

Federated learning (FL) typically relies on synchronous training, which is slow due to stragglers. While asynchronous training handles stragglers efficiently, it does not ensure privacy due to the incompatibility with the secure aggregation protocols. A buffered asynchronous training protocol known as FedBuff has been proposed recently which bridges the gap between synchronous and asynchronous training to mitigate stragglers and to also ensure privacy simultaneously. FedBuff allows the users to send their updates asynchronously while ensuring privacy by storing the updates in a trusted execution environment (TEE) enabled private buffer. TEEs, however, have limited memory which limits the buffer size. Motivated by this limitation, we develop a buffered asynchronous secure aggregation (BASecAgg) protocol that does not rely on TEEs. The conventional secure aggregation protocols cannot be applied in the buffered asynchronous setting since the buffer may have local models corresponding to different rounds and hence the masks that the users use to protect their models may not cancel out. BASecAgg addresses this challenge by carefully designing the masks such that they cancel out even if they correspond to different rounds. Our convergence analysis and experiments show that BASecAgg almost has the same convergence guarantees as FedBuff without relying on TEEs.

연구 동기 및 목표

• 제한된 메모리로 인해 버퍼 크기가 제한되는 TEE 기반 안전한 집계의 한계를 해결한다.
• 기존의 안전한 집계 프로토콜이 라운드 마스크가 일치하지 않아 비동기 업데이트와 호환되지 않는 문제를 해결한다.
• 신뢰할 수 있는 하드웨어에 의존하지 않고도 프라이버시를 유지하는 안전한 집계 프로토콜을 설계하여 확장 가능하고 효율적인 비동기 분산 학습을 가능하게 한다.
• 양자화와 늦음(Staleness)에 대한 수렴 보장을 확보하여 실세계의 분산 학습 시스템에 실제 구현에 필수적인 요건을 충족시킨다.
• TEE를 제거하고 양자화 노이즈를 도입함에도 불구하고, 제안된 프로토콜이 FedBuff와 유사한 성능을 달성함을 입증한다.

제안 방법

• 다른 학습 라운드에서 상쇄되도록 마스크 설계를 재정의함으로써, LightSecAgg 프로토콜을 버퍼링된 비동기 분산 학습 환경에 적응시킨다.
• 유한체에서의 프라이버시 보호를 위해 국소 모델 업데이트를 양자화를 사용해 유한체로 변환하며, 값들은 소수 $ q = 2^{32} - 5 $ 에 매핑된다.
• FedBuff의 실수 값 스탤리니 함수의 행동을 그대로 유지하면서도, 양자화된 늦음 보정 함수 $ s_{\text{quant}}(\tau) $ 를 설계한다.
• 최적의 파rameter 조정을 통해 양자화 오차를 최소화하기 위해, 무작위 반올림과 모듈로 연산을 적용하여 실수 값 기울기를 유한체로 매핑한다.
• 개별로 버려진 사용자 마스크를 재구성하지 않고도 집합을 효율적으로 계산하기 위해, 한 번에 마스크 재구성 기법을 사용한다. 이는 확장성 향상에 기여한다.
• 지연된 업데이트의 영향을 줄이기 위해, 늦음에 기반한 가중치 함수(상수 또는 다항식 $ (1+\tau)^{-\beta} $) 를 통합한다.

실험 결과

연구 질문

• RQ1 신뢰할 수 있는 실행 환경(TEEs)이나 신뢰할 수 있는 제3자 없이, 버퍼링된 비동기 분산 학습 환경에서 안전한 집계를 달성할 수 있는가?
• RQ2 비동기 버퍼에서 서로 다른 라운드 동안 마스크가 상쇄되도록 설계할 수 있는가? 이는 라운드 불일치에도 불구하고 안전한 집계를 가능하게 한다.
• RQ3 양자화가 버퍼링된 비동기 분산 학습에서 수렴에 미치는 영향은 무엇이며, 이를 보완하여 모델 정확도를 유지할 수 있는가?
• RQ4 제안된 TEE 없는 프로토콜의 수렴 성능는 최신의 TEE 기반 솔루션인 FedBuff와 비교해 어떻게 되는가?
• RQ5 유한체 연산에서 반올림 오차와 감싸짐 오차를 균형 잡는 데 최적의 양자화 수준는 무엇인가?

주요 결과

• BASecAgg는 MNIST 및 CIFAR-10 데이터셋에서 FedBuff와 거의 동일한 수렴 성능를 보이며, 유의미한 정도의 정확도 저하가 양자화 노이즈로 인해 발생한다.
• 실험 결과에 따르면, BASecAgg의 수렴 속도는 FedBuff와 동일하며, 추가적인 분산 항 $ \frac{d}{4c_l^2} $ 를 제외하고는 동일한 성능를 보인다. 이 항은 $ c_l $ 가 크면 무시할 수 있을 정도로 미미하다.
• $ c_l = 2^{16} $ 일 때, 자동 튜닝 분석을 통해 BASecAgg가 반올림 오차와 감싸짐 오차를 균형 잡는 최적의 성능를 달성함을 입증하였다.
• 다양한 늦음 수준에서도 프로토콜이 강건성을 유지하며, 다항식 가중치 함수 $ s_\alpha(\tau) = (1+\tau)^{-\alpha} $ 가 지연 영향을 효과적으로 완화함을 확인하였다.
• 실험 결과, 양자화가 적용된 상태에서도 BASecAgg가 FedBuff와 유사한 성능를 보이며, 프라이버시를 보존하는 유한체 연산이 모델 정확도를 크게 떨어뜨리지 않음을 입증하였다.
• 프로토콜은 제한된 TEE 메모리로 인해 확장성이 제한되는 FedBuff의 문제를 해결하고, 임의의 버퍼 크기를 허용한다.