[논문 리뷰] Secure Linear Aggregation Using Decentralized Threshold Additive Homomorphic Encryption For Federated Learning

Haibo Tian, Fangguo Zhang외 2명|arXiv (Cornell University)|2021. 11. 21.

Cryptography and Data Security참고 문헌 31인용 수 9

한 줄 요약

이 논문은 분산형 임계값 덧셈형 동형 암호화(DTAHE)를 사용하여 연합 학습을 위한 안전한 선형 집계 프로토콜을 제안한다. 이는 파rameter 서버가 사용자 입력의 가중치 합을 계산하면서도 기밀성을 유지할 수 있도록 한다. 프로토콜은 전체 선형 변환(예: 밀집 또는 컨볼루션 레이어)을 지원하며, Bonawitz 등에 의한 프레임워크를 통한 장애 내성 기능을 통합하고, 블록체인 스마트 컨tracts를 통해 서버의 정직성을 보장한다. 평가 결과, 격자 기반 DTAHE는 서버 측 계산을 최소화하고, 타원 곡선 기반 DTAHE는 사용자 측 통신을 최적화한다.

ABSTRACT

Secure linear aggregation is to linearly aggregate private inputs of different users with privacy protection. The server in a federated learning (FL) environment can fulfill any linear computation on private inputs of users through the secure linear aggregation. At present, based on pseudo-random number generator and one-time padding technique, one can efficiently compute the sum of user inputs in FL, but linear calculations of user inputs are not well supported. Based on decentralized threshold additive homomorphic encryption (DTAHE) schemes, this paper provides a secure linear aggregation protocol, which allows the server to multiply the user inputs by any coefficients and to sum them together, so that the server can build a full connected layer or a convolution layer on top of user inputs. The protocol adopts the framework of Bonawitz et al. to provide fault tolerance for user dropping out, and exploits a blockchain smart contract to encourage the server honest. The paper gives a security model, security proofs and a concrete lattice based DTAHE scheme for the protocol. It evaluates the communication and computation costs of known DTAHE construction methods. The evaluation shows that an elliptic curve based DTAHE is friendly to users and the lattice based version leads to a light computation on the server.

연구 동기 및 목표

• 기존의 안전한 집계 프로토콜이 합 계산 외에 일반적인 선형 변환을 지원하지 못하는 한계를 해결하기 위해.
• 사용자 입력에 대해 원시 데이터를暴露하지 않고도 파rameter 서버가 임의의 선형 연산(예: 가중치 합)을 수행할 수 있도록 하기 위해.
• 학습 라운드 중 사용자 탈락이 발생할 경우에도 장애 내성을 확보하기 위해.
• 블록체인 스마트 컨트랙트를 통해 서버의 정직성을 보장하여 악성 행동을 방지하기 위해.
• 특히 격자 기반 및 타원 곡선 기반 기법을 포함한 새로운 DTAHE 구성으로 통신 및 계산 비용을 최적화하기 위해.

제안 방법

• 프로토콜은 사용자가 입력을 암호화할 수 있도록 분산형 임계값 덧셈형 동형 암호화(DTAHE) 체계를 사용하여 서버가 동형적으로 선형 조합을 계산할 수 있도록 한다.
• 사용자 탈락을 처리하기 위해 Bonawitz 등이 제안한 장애 내성 프레임워크를 채택한다.
• 정확한 집계 결과를 검증하고 정직한 서버 행동을 유도하기 위해 블록체인 기반 스마트 컨트랙트를 사용한다.
• 의미적 보안과 선택 평문 공격에 대한 기밀성 보장을 보장하는 보안 모델에 기반한다.
• 두 가지 구체적인 DTAHE 구성이 평가되었으며, 하나는 격자 기반(서버 측 효율성 최적화), 다른 하나는 타원 곡선 ElGamal 기반(사용자 측 통신 최적화)이다.
• 계수 곱셈과 암호화된 입력에 대한 합산을 가능하게 하여, 사용자 입력에 대해 임의의 선형 연산(예: 전체 연결 또는 컨볼루션 레이어)을 지원한다.

실험 결과

연구 질문

• RQ1 기존의 안전한 집계 프로토콜이 합 계산 외에 일반적인 선형 변환을 지원하지 못하는 점을 감안할 때, 이를 연합 학습에서 일반적인 선형 변환을 지원하도록 확장할 수 있는가?
• RQ2 학습 라운드 중 사용자가 탈락할 수 있는 상황에서 장애 내성을 확보할 수 있는 안전한 선형 집계 프로토콜은 어떻게 설계할 수 있는가?
• RQ3 실제 연합 학습 환경에서 다양한 DTAHE 구성 간의 통신 및 계산 비용 트레이드오프는 어떻게 되는가?
• RQ4 블록체인 스마트 컨트랙트는 분산형 연합 학습 환경에서 서버의 정직성을 효과적으로 보장할 수 있는가?
• RQ5 실제 구현에 적합한 효율성과 기밀성의 균형을 고려할 때, 격자 기반 또는 타원 곡선 기반 DTAHE 구성 중 어느 것이 더 우수한가?

주요 결과

• 격자 기반 DTAHE 기법은 서버 측 계산 비용을 크게 감소시키며, n=35일 때 ParDec 단계에 총 51.17초, FinDec 단계에 1.64초가 소요된다.
• 타원 곡선 기반 DTAHE(예: EC-ElGamal)는 사용자 측 통신 오버헤드를 최소화하여 사용자 수가 20명을 초과할 경우 다른 방법보다 뛰어난 성능을 보인다.
• 사용자 수가 26명을 초과할 경우, 제안된 프로토콜은 BGGJK-2 및 BD 기반 DTAHE 기법보다 사용자 측 통신에서 뛰어난 성능을 보였다.
• EC-ElGamal 기반 DTAHE 기법은 사용자 측 총 계산 시간이 가장 낮아 441.25초였고, 격자 기반 기법은 서버 측에서 가장 효율적이었다.
• 프로토콜은 단순한 합 계산을 넘어서 밀집 또는 컨볼루션 레이어를 구축하는 것과 같은 일반적인 선형 연산을 성공적으로 지원한다.
• 보안 증명을 통해 프로토콜이 선택 평문 공격에 저항하고 DTAHE 가정 하에 의미적 보안을 확보하고 있음을 확인했다.