[논문 리뷰] PPCA: Privacy-preserving Principal Component Analysis Using Secure Multiparty Computation(MPC)

Xiaoyu Fan, Guosai Wang외 3명|arXiv (Cornell University)|2021. 05. 17.

Privacy-Preserving Technologies in Data참고 문헌 45인용 수 5

한 줄 요약

이 논문은 개인정보 보호를 위한 주성분 분석(PCA) 프레임워크인 PPCA를 제안한다. 이는 보안 다자간 계산(MPC)을 사용하여 기존 MPC 기반 PCA 방법 대비 200배 빠른 성능 향상을 이룬다. 알고리즘 설계를 MPC의 성능 특성에 맞게 최적화함으로써 달성된다. 이는 MPC 인식 기반 기법인 연산 치환, 배치 처리, 효율적인 고유값 분해를 활용하여 수평적 및 수직적 분할된 데이터셋에서 민감한 데이터 분포를 泄露하지 않고도 빠르고 비밀스럽게 PCA를 수행할 수 있도록 한다.

ABSTRACT

Privacy-preserving data mining has become an important topic. People have built several multi-party-computation (MPC)-based frameworks to provide theoretically guaranteed privacy, the poor performance of real-world algorithms have always been a challenge. Using Principal Component Analysis (PCA) as an example, we show that by considering the unique performance characters of the MPC platform, we can design highly effective algorithm-level optimizations, such as replacing expensive operators and batching up. We achieve about 200$ imes$ performance boost over existing privacy-preserving PCA algorithms with the same level of privacy guarantee. Also, using real-world datasets, we show that by combining multi-party data, we can achieve better training results.

연구 동기 및 목표

• PCA와 같은 복잡한 알고리즘에 대해 MPC 기반 개인정보 보호 데이터 마이닝에서 발생하는 핵심 성능 저하 문제를 해결한다.
• MPC의 계산 특성에 맞는 알고리즘 수준 최적화를 설계하여 난이도 높은 MPC 이식의 비효율성을 극복한다.
• 다양한 당사자로부터의 데이터 통합을 통해 민감한 정보를暴露하지 않으면서도 개인정보 보호 PCA가 효율적이고 효과적임을 입증한다.
• 다양한 소스의 데이터를 통합할 때 MPC 최적화 PCA가 후속 모델 성능을 향상시킬 수 있음을 보여준다.
• 연산 치환, 배치 처리, 알고리즘 재설계를 통해 MPC 플랫폼에서 다른 데이터 마이닝 알고리즘을 최적화하는 일반화 가능한 방법론을 제공한다.

제안 방법

• 원시 데이터의 전체 암호화를 피하기 위해 국소적으로 부분 결과를 계산하고 MPC를 통해 집계하는 방식으로 보안성 있는 공분산 행렬 계산을 설계한다.
• 역수 및 제곱근과 같은 고비용 MPC 연산을 비교 및 반복 근사(예: 뉴턴 방법)와 같은 저비용 대체 연산으로 대체하여 지연 시간을 줄인다.
• MPC가 다중 요소를 동시에 처리할 수 있는 능력을 활용하여, 고유값 순서 정렬에 있어 성능을 향상시키기 위해 배치 정렬 알고리즘(batch_sort)을 구현한다.
• 반복 횟수가 적고 병렬 처리 가능성이 더 높은 점을 고려하여 QR 시프트 대비 자지 고유값 분해 방법을 채택한다.
• 각 반복에서 두 개의 역수 연산을 하나의 비교로 대체하는 고유값 순서 정렬 감소 기법(EO-reduction)을 도입하여 계산 오버헤드를 18% 감소시킨다.
• 암호화된 데이터에서 고유값 분해를 수행하면서도 프라이버시를 유지하고 통신 라운드 수를 최소화하기 위해 MPC 호환 수치 방법을 사용한다.

실험 결과

연구 질문

• RQ1 알고리즘 수준 최적화가 개인정보 보호 보장을 훼손하지 않으면서도 MPC 기반 PCA의 성능을 크게 향상시킬 수 있는가?
• RQ2 MPC 제약 조건 하에서 다양한 고유값 분해 알고리즘(예: 자지 vs. QR 시프트)의 성능은 어떻게 다른가? 어떤 것이 더 안전한 계산에 적합한가?
• RQ3 연산 치환과 배치 처리를 통해 MPC 환경에서 나눗셈 및 정렬과 같은 복잡한 연산의 계산 비용을 얼마나 줄일 수 있는가?
• RQ4 MPC 기반 PCA를 사용해 다수의 당사자로부터 데이터를 통합하면 고립된 데이터셋을 사용할 때보다 후속 모델 성능이 향상되는가?
• RQ5 공분산 행렬을 통해 데이터 분포에 대한 정보가 얼마나 泄露되는가? 이를 보안 계산을 통해 완화할 수 있는가?

주요 결과

• 제안된 PPCA 프레임워크는 동일한 개인정보 보호 보장을 유지하면서도 기존 MPC 기반 PCA 알고리즘 대비 200배 빠른 성능 향상을 달성한다.
• 자지 방법은 더 나은 병렬 처리 가능성과 더 적은 순차적 의존성 덕분에 MPC 환경에서 QR 시프트보다 성능이 뛰어나며, 반복 횟수를 줄이고 더 효과적인 배치 처리를 가능하게 한다.
• EO-reduction 기법을 통해 각 반복에서 두 개의 역수 연산을 하나의 비교로 대체함으로써 고유값 분해의 성능을 18% 향상시켰다.
• 배치 정렬(batch_sort)을 사용하면 고유값 순서 정렬에 있어 성능 향상이 뚜렷하여 MPC 환경에서 지연 시간을 줄였다.
• 수평적 분할된 IoT 데이터를 사용한 실험에서 9台의 장치에서 온 데이터 통합으로 F1-스코어가 0.71에서 1.0으로 향상되어 다자간 데이터 통합의 이점을 입증했다.
• 수직적 분할된 MOOC 데이터를 사용한 실험에서 10개 과정의 특징을 통합함으로써 F1-스코어가 0.73에서 0.77로 상승하여 데이터 융합을 통한 모델 일반화 능력 향상을 보여주었다.