[논문 리뷰] FLASHE: Additively Symmetric Homomorphic Encryption for Cross-Silo Federated Learning

Zhifeng Jiang, Wei Wang외 1명|arXiv (Cornell University)|2021. 09. 02.

Cryptography and Data Security참고 문헌 62인용 수 41

한 줄 요약

FLASHE는 교차 실로 FL을 위한 가벼운 덧셈 대칭형 HE 스킴을 제시하여 통신 오버헤드를 제거하고 희소화(sparsification)를 지원하며, 평문 대비 학습 시간 오버헤드는 ≤6%이다.

ABSTRACT

Homomorphic encryption (HE) is a promising privacy-preserving technique for cross-silo federated learning (FL), where organizations perform collaborative model training on decentralized data. Despite the strong privacy guarantee, general HE schemes result in significant computation and communication overhead. Prior works employ batch encryption to address this problem, but it is still suboptimal in mitigating communication overhead and is incompatible with sparsification techniques. In this paper, we propose FLASHE, an HE scheme tailored for cross-silo FL. To capture the minimum requirements of security and functionality, FLASHE drops the asymmetric-key design and only involves modular addition operations with random numbers. Depending on whether to accommodate sparsification techniques, FLASHE is optimized in computation efficiency with different approaches. We have implemented FLASHE as a pluggable module atop FATE, an industrial platform for cross-silo FL. Compared to plaintext training, FLASHE slightly increases the training time by $\leq6\%$, with no communication overhead.

연구 동기 및 목표

• 프라이버시를 보호하는 교차 실로 FL을 동기부여하고 HE 오버헤드를 줄인다.
• FL 집계에 적합한 최소한의 대칭 덧셈형 HE를 설계한다.
• 희소화 여부를 지원하기 위한 두 가지 변형을 제공한다.
• FLASHE를 FATE 플랫폼과 통합하고 지리적으로 분산된 환경에서 평가한다.

제안 방법

• 암호화가 모듈러 그룹 내 평문에 무작위 마스크를 더하는 덧셈형 HE를 제안한다.
• E_k(m) = (c, i, {j}) with c_d = m_d + F_k(i||j||d) - F_k(i||j+1||d) mod n.
• D_k로 합산된 마스킹된 합으로부터 m을 복호화한다.
• 두 가지 마스킹 전략(더블 마스킹과 싱글 마스킹)과 그 상호 보완점을 도입한다.
• 희소화 및 좌표 정렬을 지원하도록 암호문 구조를 조정한다.
• FATE 상에서 11대의 AWS 인스턴스를 다섯 개 데이터 센터에 걸쳐 엔드-투-엔드로 평가한다.

실험 결과

연구 질문

• RQ1 FLASHE가 FL 집계에 적합한 의미 보안성과 덧셈 동형성을 달성하는가?
• RQ2 FLASHE의 계산 및 통신 오버헤드가 평문 및 전통적 HE 스킴에 비해 어떤가?
• RQ3 희소화가 FLASHE와 어떻게 상호작용하며 마스킹 스킴이 성능을 적응적으로 최적화할 수 있는가?
• RQ4 실제 지리 분포 환경에서 엔드-투-엔드 성능(학습 시간, 금전적 비용)은 어떠한가?
• RQ5 희소화된 모델 업데이트에 대해 FLASHE가 속도와 네트워크 트래픽 측면에서 어떤 영향을 미치는가?

주요 결과

• FLASHE의 학습 시간 오버헤드는 평문 학습 대비 ≤6%이다.
• FLASHE는 평문과 비교하여 추가적인 네트워크 트래픽을 야기하지 않는다.
• FLASHE는 최적화된 Paillier, FV, CKKS 대비 비용을 최대 73%–94%까지 감소시킨다.
• 희소화된 업데이트에서 FLASHE는 Paillier 대비 13–63× 속도 향상과 네트워크 감소를 48× 달성한다.
• 더블 마스킹은 일반적인 교차 실로 드롭아웃 시나리오에서 복호화 효율을 더 잘 제공할 수 있으며, 싱글 마스킹은 암호화에 더 효율적이다.
• 교차 실로 FL에 대해 최적화된 엔드-투-엔드 성능을 제공하는 최초의 HE 제안이다.