[논문 리뷰] Secure Computation for Machine Learning With SPDZ

Valerie Chen, Valerio Pastro외 1명|arXiv (Cornell University)|2019. 01. 02.

Cryptography and Data Security참고 문헌 9인용 수 44

한 줄 요약

이 논문은 SPDZ 다자간 계산 프레임워크를 보안 ML에 대해 평가하여, 평문 학습 및 이전 MPC 접근법과 비견되는 정확도를 보이고, Obliv-C에 비해 현저히 더 나은 효율성 및 더 큰 문제로의 확장성을 보임.

ABSTRACT

Secure Multi-Party Computation (MPC) is an area of cryptography that enables computation on sensitive data from multiple sources while maintaining privacy guarantees. However, theoretical MPC protocols often do not scale efficiently to real-world data. This project investigates the efficiency of the SPDZ framework, which provides an implementation of an MPC protocol with malicious security, in the context of popular machine learning (ML) algorithms. In particular, we chose applications such as linear regression and logistic regression, which have been implemented and evaluated using semi-honest MPC techniques. We demonstrate that the SPDZ framework outperforms these previous implementations while providing stronger security.

연구 동기 및 목표

• 데이터가 프라이버시 제약 하에 다수 당사자 간에 분리될 때 ML을 위한 보안 계산의 필요성을 제시한다.
• 일반적인 ML 작업(선형 회귀 및 로지스틱 회귀)에 대해 SPDZ 프레임워크를 평가하고, 반정직한(MPC) 방법들과 비교한다.
• 보안 ML 구현에서 정확도, 정밀도, 실행 시간 간의 트레이드오프를 분석한다.
• 다자 간 설정과 더 큰 데이터세트에 대한 SPDZ의 확장성을 시연한다.

제안 방법

• SPDZ 프레임워크에서 ML 알고리즘을 구현한다(선형 회귀는 CGD/LDLT/Cholesky를 이용, 로지스틱 회귀는 SGD를 이용).
• 고정 소수점 산술을 사용하여 부동 소수점 오버헤드를 피하고 선형 시스템 해법에 반복적 방법(CGD)을 채택한다.
• MPC 친화적 활성화 및 근사치를 사용하여 선형 및 로지스틱 회귀에 미니배치 SGD를 적용한다.
• MNIST 및 Arcene와 같은 데이터셋에서 SPDZ 결과를 평문 검증 및 이전 MPC 방법(Obliv-C)과 비교한다.
• 확장성을 평가하기 위해 2-, 3-, 4-party 분할 및 AWS EC2 배포에서 평가한다.

실험 결과

연구 질문

• RQ1 SPDZ가 악의적 보안 MPC를 ML 작업에 제공하여, 평문 학습과 비슷한 정확도를 달성할 수 있는가?
• RQ2 다양한 데이터 차원과 파티 수에 걸쳐 선형 및 로지스틱 회귀에서 지연(latency)과 정확도 측면에서 SPDZ의 성능은 어떠한가?
• RQ3 비보안 혹은 반정직 기본값과 동등한 성능에 도달하기 위해 SPDZ에서 필요한 정밀도와 반복 깊이는 무엇인가?
• RQ4 SDPG의 확장성 및 RMSE 측면에서 SPDZ가 Obliv-C 및 기존 MPC 방법들과 어떻게 비교되는가?
• RQ5 보안 로지스틱 회귀를 위한 SPDZ 내에서 어떤 활성화/근사 선택이 실행 가능하고 유효한가?

주요 결과

• SPDZ는 LDLT, Cholesky, CGD에 대해 Obliv-C와 비교할 만한 정확도를 달성하였고, 더 큰 행렬 크기에서 실행 시간이 한 차례 증가의 순서로 더 빠르다.
• SPDZ가 SGD를 사용할 때 Obliv-C보다 RMSE가 더 낮고, 일반적으로 이전 CGD/SGD 결과를 능가한다.
• SGD의 정확도/정밀도 요건은 데이터에 의존적이다; MNIST는 약 13비트의 정밀도로 평문과 유사한 정확도에 도달하고, Arcene은 약 28비트가 필요하다.
• 로지스틱 회귀의 경우, 제안된 새로운 활성화 함수가 테스트된 데이터세트에서 SPDZ 내의 테일러 급수 기반 근사보다 나은 성능을 보이지 않았다.
• UCI 데이터세트 전반에서 SPDZ 28비트 정밀도 SGD는 평문과 비슷한 RMSE를 보이며, 중간 오버헤드(5–20% RMSE 증가) 내에서 가능하다.
• 로컬 네트워크의 3- 및 4-파티(수직 분할) 런타임과 두 파티 EC2 배포에서 SPDZ가 더 많은 파티와 더 큰 행렬에서 합리적으로 확장됨을 시사한다.