[논문 리뷰] Scalable and Privacy-Preserving Federated Principal Component Analysis

David Froelicher, Hyunghoon Cho외 7명|arXiv (Cornell University)|2023. 03. 31.

Biometric Identification and Security인용 수 4

한 줄 요약

이 논문은 다자간 동형 암호화와 엣지 컴퓨팅을 활용하여 분산된 비공개 데이터에서 원시 입력값이나 중간 결과를 드러내지 않고 주성분을 안전하게 계산할 수 있는 확장 가능하고 프라이버시를 보장하는 연합 PCA 시스템인 sf-pca를 제안한다. 이 시스템은 중심 집합 수준의 정확도를 달성하며, 데이터 크기와 참여자 수에 따라 선형적으로 확장되며, 이전의 프라이버시 보장 기반 대안들보다 3배에서 250배 빠르다.

ABSTRACT

Principal component analysis (PCA) is an essential algorithm for dimensionality reduction in many data science domains. We address the problem of performing a federated PCA on private data distributed among multiple data providers while ensuring data confidentiality. Our solution, SF-PCA, is an end-to-end secure system that preserves the confidentiality of both the original data and all intermediate results in a passive-adversary model with up to all-but-one colluding parties. SF-PCA jointly leverages multiparty homomorphic encryption, interactive protocols, and edge computing to efficiently interleave computations on local cleartext data with operations on collectively encrypted data. SF-PCA obtains results as accurate as non-secure centralized solutions, independently of the data distribution among the parties. It scales linearly or better with the dataset dimensions and with the number of data providers. SF-PCA is more precise than existing approaches that approximate the solution by combining local analysis results, and between 3x and 250x faster than privacy-preserving alternatives based solely on secure multiparty computation or homomorphic encryption. Our work demonstrates the practical applicability of secure and federated PCA on private distributed datasets.

연구 동기 및 목표

• 유전체학 및 헬스케어와 같은 분야에서 개인정보가 민감한 데이터를 위한 안전하고 정확하며 확장 가능한 연합 PCA 솔루션의 부족을 해결한다.
• 로컬 PCA 결과를 조합함으로써 정확도를 희생시키는 기존 메타분석 접근법의 한계를 극복한다.
• 데이터가 현지에 유지되고 중간 결과가 집계자에게조차도 암호화된 상태로 유지되는 엔드 투 엔드 프라이버시를 보장하는 연합 PCA를 가능하게 한다.
• 데이터셋 차원과 데이터 제공자의 수가 증가함에 따라도 효율적으로 확장되며, 수동 공격자 모델 하에서 보안을 유지하는 시스템을 개발한다.
• 최적화된 암호 기법을 활용하여 연합 분석에서 고복잡도 선형 대수 연산을 위한 실용적이고 구현 가능한 솔루션을 제공한다.

제안 방법

• 다자간 동형 암호화(MHE)를 활용하여 암호화된 데이터를 여러 데이터 제공자(DP) 간에 암호 해독 없이 안전하게 계산한다.
• 엣지 컴퓨팅을 통합하여 현지 클리어텍스트 계산과 집합적 암호화 연산을 번갈아 수행함으로써 통신량과 지연을 줄인다.
• 하이브리드 암호 기법을 적용하여 다양한 연산에 대해 MHE와 비밀 공유를 전환한다 — MHE는 대규모 행렬 연산에, 비다항 함수에 대한 소규모 입력에 대해서는 비밀 공유를 사용한다.
• 고정밀도를 확보하기 위해 핵심 계산으로 랜덤화된 PCA(RPCA) 알고리즘을 사용한다.
• MHE 최적화 루틴을 활용하여 행렬 곱셈, 분해, 직교화와 같은 핵심 선형 대수 연산을 최적화한다.
• MHE 비밀 키의 임계값 기반 비밀 공유를 통해 장애 내성 기능을 지원하여 일부 DP가 사용 불가능해져도 계산이 계속될 수 있도록 한다.

Figure 1: Randomized PCA Workflow. Matrix dimensions are shown with the box sizes and are indicated on the left and top of the corresponding box.

실험 결과

연구 질문

• RQ1 엔드 투 엔드 프라이버시를 유지하면서도 원시 데이터와 중간 결과를 모두 보호하는 연합 PCA 시스템이 중심 집합 수준의 PCA와 유사한 정확도를 달성할 수 있는가?
• RQ2 보안 다자 계산이 데이터 제공자의 수와 입력 차원 수에 비례하여 효율적으로 확장될 수 있는가?
• RQ3 MHE와 비밀 공유를 조합한 하이브리드 암호 기법이 연합 선형 대수의 혼합 워크로드에서 성능 향상에 효과적으로 작용할 수 있는가?
• RQ4 제안된 시스템은 속도, 정확도, 통신 오버헤드 측면에서 기존의 프라이버시 보장 기반 PCA 솔루션보다 어느 정도 뛰어나게 성능을 발휘하는가?
• RQ5 유전체학과 같은 민감한 데이터를 포함하는 실제 응용 분야에서 안전하고 확장 가능하며 정확한 연합 PCA 시스템을 구현할 수 있는가?

주요 결과

• sf-pca는 데이터 제공자 간 데이터 분포에 관계없이 비보안 중심 집합 솔루션과 동일한 정확도의 PCA 결과를 달성한다.
• 시스템은 데이터 제공자의 수와 입력 데이터의 차원 수에 따라 선형 또는 그 이상으로 확장된다.
• 기존의 보안 다자 계산 또는 동형 암호화 기반 대안들보다 sf-pca는 3배에서 250배 빠르다.
• 이중 제공자 환경에서 sf-pca는 데이터 크기가 증가함에 따라 거의 일정한 실행 시간을 유지하지만, SMC 기반 솔루션은 1.9배 느려진다.
• 1,773개의 특징을 가진 2,504명의 개인으로 구성된 유전체 데이터셋에서 sf-pca는 중심 집합 PCA와 동일하게 진짜 저차원 구조를 정확히 복원한다. 반면 메타분석 접근법은 데이터 구조를 왜곡한다.
• 각 데이터 제공자는 자신이 투영된 출력의 일부분만 보게 되며, 이는 보안 모델 하에서 비밀유지를 보장한다. 이는 집계자와 결과를 공유하더라도 마찬가지다.

Figure 2: sf-pca System Model and Functionality. Each DP i holds a $n_{i}\times m$ submatrix as input and collaboratively executes sf-pca to obtain encrypted PCs and/or the projection of its local data.