[논문 리뷰] A Secure and Efficient Federated Learning Framework for NLP

Jie‐Ren Deng, Chenghong Wang외 8명|arXiv (Cornell University)|2022. 01. 28.

Privacy-Preserving Technologies in Data인용 수 6

한 줄 요약

이 논문은 자연어 처리를 위한 안전하고 효율적인 피어드 학습 프레임워크인 SEFL을 제안한다. 이 프레임워크는 신뢰할 수 있는 집계자(Trusted Aggregator)가 필요 없도록 두 개의 상호 작용하지 않는 서버(집계 서버와 암호 서비스 제공자)를 사용한다. 기존 방법과 비교해 유사하거나 뛰어난 모델 정확도를 달성하면서도, 클라이언트의 탈퇴에 강건하며, 모델 가중치와 업데이트의 블록 한켈 행렬 기반 정제를 통해 런타임 성능을 최대 13.7배 향상시킨다.

ABSTRACT

In this work, we consider the problem of designing secure and efficient federated learning (FL) frameworks. Existing solutions either involve a trusted aggregator or require heavyweight cryptographic primitives, which degrades performance significantly. Moreover, many existing secure FL designs work only under the restrictive assumption that none of the clients can be dropped out from the training protocol. To tackle these problems, we propose SEFL, a secure and efficient FL framework that (1) eliminates the need for the trusted entities; (2) achieves similar and even better model accuracy compared with existing FL designs; (3) is resilient to client dropouts. Through extensive experimental studies on natural language processing (NLP) tasks, we demonstrate that the SEFL achieves comparable accuracy compared to existing FL solutions, and the proposed pruning technique can improve runtime performance up to 13.7x.

연구 동기 및 목표

• 기존 피어드 학습 프레임워크가 신뢰할 수 있는 집계자에 의존하거나 클라이언트 탈퇴에 취약한 점을 해결하기 위해.
• 신뢰할 수 있는 제3자 없이도 차별적 프라이버시를 유지하는 안전한 피어드 학습 시스템을 설계하기 위해.
• RNN 및 트랜스포머와 같은 자연어 처리 모델을 위한 안전한 피어드 학습에서 계산, 통신, 저장 부하를 줄이기 위해.
• 학습 과정 중 최대 75%의 클라이언트가 탈퇴하더라도 안정적인 학습을 가능하게 하기 위해.
• 정확도를 훼손하지 않으면서 모델 크기를 줄이고 런타임 성능을 향상시키는 효율적인 정제 기법을 통합하기 위해.

제안 방법

• SEFL은 두 개의 상호 작용하지 않는 서버를 사용한다: 암호화된 모델 업데이트를 수집하고 안전하게 집계하는 집계 서버(AS)와 암호 해독 키를 보유하는 암호 서비스 제공자(CSP).
• 프레임워크는 암호화된 모델 업데이트의 안전한 집계를 가능하게 하는 덧셈형 히든 암호화(AHE)를 사용한다. 이는 개별 클라이언트 기여도를 드러내지 않는다.
• 차별적 프라이버시는 가우시안 메커니즘을 통해 강제되며, 모델 민감도에 비례하는 노이즈를 주입하여 멤버십 추론 공격으로부터 보호한다.
• 블록 한켈 행렬(BHM)-기반 국소 정제 기법을 적용하여 모델 가중치와 업데이트를 압축함으로써 공간 및 통신 복잡도를 O(l²)에서 O(2l−1)로 감소시킨다.
• 정제는 전송 이전에 국소적으로 적용되어 전송되는 데이터 부피를 최소화하고, 차별적 프라이버시 집계 단계에서의 노이즈 주입 횟수를 줄인다.
• 시스템은 클라이언트 탈퇴율이 높더라도 전역 모델이 안정적으로 유지되도록 설계되어 있어, 정확도와 수렴성을 유지한다.

실험 결과

연구 질문

• RQ1 신뢰할 수 있는 집계자가 없이도 강력한 프라이버시 보장을 달성할 수 있는 피어드 학습 프레임워크는 가능한가?
• RQ2 정확도를 떨어뜨리지 않고도 안전한 피어드 학습에서 클라이언트 탈퇴를 효과적으로 다룰 수 있는가?
• RQ3 블록 한켈 행렬 정제를 통한 모델 압축이 자연어 처리를 위한 안전한 피어드 학습에서 통신 및 계산 오버헤드를 어느 정도 줄일 수 있는가?
• RQ4 정제 기법과 차별적 프라이버시를 통합하면 효율성과 정확도 측면에서 피어드 학습의 성능을 향상시킬 수 있는가?
• RQ5 안전한 피어드 학습 시스템은 정확한 모델을 생성할 수 있도록 최대 몇 퍼센트의 클라이언트 탈퇴를 견딜 수 있는가?

주요 결과

• SEFL는 CDP-FL과 같은 최첨단 비밀 보장 피어드 학습 방법과 유사하거나 뛰어난 모델 정확도를 달성한다. 특히 정제 기법을 사용할 경우 트랜스포머 모델에서 최대 15% 높은 정확도, LSTM 모델에서 11% 높은 정확도를 기록한다.
• 제안된 BHM 기반 정제 기법은 LSTM 및 트랜스포머 모델 전반에서 미정제 SEFL 대비 최대 13.7배 런타임 성능 향상을 이룬다.
• 75%의 클라이언트 탈퇴 상황에서도 SEFL은 LSTM 모델의 경우 17.41, 트랜스포머 모델의 경우 46.34 높은 퍼플렉서티를 기록하며, 탈퇴가 없는 경우와 비교해도 모델 품질을 유지한다.
• 최적화된 SEFL은 최적의 정제 설정 하에서 LSTM 모델에서 19.3%, 트랜스포머 모델에서 12.8%의 정확도 향상을 미정제 SEFL 대비 기록한다.
• 프레임워크는 모델 표현 복잡도를 O(l²)에서 O(2l−1)로 감소시켜 저장 및 통신 비용을 크게 낮춘다.
• SEFL는 클라이언트 탈퇴에 강건하며, 다수의 클라이언트가 오프라인 상태임에도 불구하고 안정적인 수렴과 정확한 전역 모델을 유지한다.