[논문 리뷰] On the relationship between (secure) multi-party computation and (secure) federated learning

Huafei Zhu|arXiv (Cornell University)|2020. 08. 06.

Privacy-Preserving Technologies in Data참고 문헌 12인용 수 10

한 줄 요약

이 논문은 페더레이티드 러닝(FL)과 다자간 계산(MPC) 사이의 형식적 관계를 수립하여, 각 FL 라운드를 m-항 기능으로 모델링함으로써 FL이 MPC의 부분집합임을 보여준다. 또한, FL이 시뮬레이션 기반 보안을 달성할 경우, 보안 페더레이티드 러닝(SFL)은 보안 다자간 계산(SMPC)의 부분집합이 되며, 이는 MPC 프레임워크 내에서 개인정보 보호 기반 러닝을 통합함을 의미한다.

ABSTRACT

The contribution of this short note, contains the following two parts: in the first part, we are able to show that the federate learning (FL) procedure presented by Kairouz et al. \cite{Kairouz1901}, is a random processing. Namely, an $m$-ary functionality for the FL procedure can be defined in the context of multi-party computation (MPC); Furthermore, an instance of FL protocol along Kairouz et al.'s definition can be viewed as an implementation of the defined $m$-ary functionality. As such, an instance of FL procedure is also an instance of MPC protocol. In short, FL is a subset of MPC. To privately computing the defined FL (m-ary) functionality, various techniques such as homomorphic encryption (HE), secure multi-party computation (SMPC) and differential privacy (DP) have been deployed. In the second part, we are able to show that if the underlying FL instance privately computes the defined $m$-ary functionality in the simulation-based framework, then the simulation-based FL solution is also an instance of SMPC. Consequently, SFL is a subset of SMPC.

연구 동기 및 목표

• 페더레이티드 러닝(FL)과 다자간 계산(MPC) 사이의 형식적 관계를 명확히 하는 것.
• FL 프로토콜이 MPC 프로토콜의 인스턴스로 간주될 수 있는지 조사하는 것.
• 시뮬레이션 기반 프레임워크 하에서 보안 페더레이티드 러닝(SFL)이 보안 다자간 계산(SMPC)의 부분집합인지 검토하는 것.
• FL 과정을 MPC 프레임워크 내에서 m-항 기능으로 형식화하는 것.

제안 방법

• 각 FL 라운드 j에 대해 m-항 기능 $f_j$ 를 정의하여, m명의 당사자(클라이언트 및 서버)의 입력을 모델 업데이트 포함 출력으로 매핑한다.
• 라운드 기능의 조합으로서 FL 절차를 모델링: $f_{\text{FL}} = f_n \circ \cdots \circ f_1$.
• 각 당사자의 뷰를 입력, 난수, 시스템 매개변수를 포함하는 추가 전용 데이터 구조 $\mathrm{View}_i^\Pi(\overline{x})$ 로 표현한다.
• SMPC 조합 정리 적용을 통해 각 라운드 $f_j$ 가 안전하게 계산된다면 전체 FL 기능 $f_{\text{FL}}$ 도 안전하게 계산됨을 보여준다.
• 오라클을 활용한 프로토콜을 사용하여 비밀 감소를 모델링하고, $f_j$ 를 통한 $f_{\text{FL}}$ 의 안전한 계산을 가능하게 한다.
• 시뮬레이션 기반 불변성에 의한 보안 정의: 시뮬레이터 $S$ 는 실제 프로토콜 뷰와 계산적으로 구분할 수 없는 뷰를 생성해야 한다.

실험 결과

연구 질문

• RQ1 페더레이티드 러닝 프로토콜을 다자간 계산(MPC)의 인스턴스로 형식적으로 모델링할 수 있는가?
• RQ2 페더레이티드 러닝(FL)은 다자간 계산(MPC)의 진정한 부분집합인가?
• RQ3 시뮬레이션 기반 보안 페더레이티드 러닝(SFL) 프로토콜은 보안 다자간 계산(SMPC)의 보안 보장을 만족하는가?
• RQ4 FL 과정은 m-항 기능의 조합으로 표현될 수 있으며, SMPC 하에서 비밀스럽게 계산 가능한가?

주요 결과

• 각 FL 라운드가 m-항 기능으로 모델링될 수 있으므로, 페더레이티드 러닝(FL)은 형식적으로 다자간 계산(MPC)의 부분집합으로 확립된다.
• Kairouz 등에 의한 정의 하에서의 FL 프로토콜 인스턴스는 m-항 기능의 구현이므로, FL은 MPC의 특정 사례이다.
• 만약 FL 프로토콜이 시뮬레이션 기반 프레임워크에서 자신의 기능을 안전하게 계산한다면, 이는 보안 다자간 계산(SMPC)의 인스턴스이기도 하다.
• 시뮬레이션 기반 보안 모델 하에서의 보안 페더레이티드 러닝(SFL)은 보안 다자간 계산(SMPC)의 부분집합이다.
• SMPC 조합 정리를 통해 안전한 라운드 기능의 조합은 전체 FL 과정에 대해 종단 간 보안을 보장한다.
• 오라클을 활용한 프로토콜의 사용은 전체 FL 기능을 개별 라운드 기능으로의 비밀스러운 감소를 가능하게 하여, 모듈러 보안 분석을 지원한다.