[논문 리뷰] Outsourcing Private Machine Learning via Lightweight Secure Arithmetic Computation

Siddharth Garg, Zahra Ghodsi외 4명|arXiv (Cornell University)|2018. 12. 04.

Cryptography and Data Security참고 문헌 39인용 수 4

한 줄 요약

이 논문은 경량 보안 산술 계산을 사용하여 개인 기계 학습 계산을 외주하는 데에 적극적인 보안 프로토콜을 제안한다. 이는 악성 서버에 의한 공격에도 강력한 보안 보장을 제공하며, 개인 데이터에 대한 협업 추론을 가능하게 한다. 프로토콜은 이차 활성화 함수를 갖는 신경망에 대해 효율적이고 확장 가능한 보안 추론을 달성하며, 표준 보안 양자리 계산을 초과하는 최소한의 통신 및 계산 오버헤드로 실제 질병 예측 워크로드를 통해 실용성을 입증한다.

ABSTRACT

In several settings of practical interest, two parties seek to collaboratively perform inference on their private data using a public machine learning model. For instance, several hospitals might wish to share patient medical records for enhanced diagnostics and disease prediction, but may not be able to share data in the clear because of privacy concerns. In this work, we propose an actively secure protocol for outsourcing secure and private machine learning computations. Recent works on the problem have mainly focused on passively secure protocols, whose security holds against passive (`semi-honest') parties but may completely break down in the presence of active (`malicious') parties who can deviate from the protocol. Secure neural networks based classification algorithms can be seen as an instantiation of an arithmetic computation over integers. We showcase the efficiency of our protocol by applying it to real-world instances of arithmetized neural network computations, including a network trained to perform collaborative disease prediction.

연구 동기 및 목표

• 악성 클라우드 서버에 의한 공격에 대비한 적극적 보안을 제공함으로써 기존의 기계 학습 외주 보안의 격차를 메운다.
• 의료 기록과 같은 개인 데이터 간 협업 추론을 가능하게 하되, 입력 또는 모델 가중치가 폭 lộ되지 않도록 보장한다.
• 이전의 수동 보안 프로토콜의 한계를 극복한다. 이는 예측을 조작하는 악성 편향과 같은 활동적 공격에 실패한다.
• 이차 활성화 함수를 갖는 산술 회로를 사용하여, 고비용 암호 기반 원칙에 최소한도로 의존하는 효율적이고 실용적인 보안 신경망 추론 프로토콜을 설계한다.
• 최소한 한 서버가 정상일 경우에 한해 기밀성을 유지하면서도, 모든 서버가 손상된 경우에도 정확성을 유지한다.

제안 방법

• 클라이언트가 입력을 분할하고 공유를 클라우드 서버에 분배하는 비밀 공유 기반의 양자리 계산(2PC) 프레임워크를 사용한다.
• OLE(무관심 선형 평가)와 커밋먼트 원칙을 사용하여 수동 보안 2PC 프로토콜을 적극 보안 2PC 프로토콜로 변환하는 컴파일러를 적용한다.
• 각 클라이언트가 특정 서버를 감시하는 워치리스트 메커니즘을 포함하여, 전송된 메시지의 일관성 검사를 통해 조작 여부를 감지할 수 있도록 한다.
• 신뢰할 수 있는 오라클에 의존하는 대신, 커밋먼트 기반 프로토콜을 통해 동전 던지기 시뮬레이션을 수행하여 공유 난수를 생성한다.
• 승수 계산 및 통신 단계에서 악성 행동을 탐지하기 위해 차수 테스트 및 순열/등가 검사를 수행한다.
• 두 개의 OLE 호출을 사용하는 GMW 스타일 승수 프로토콜을 통해 공유 입력에서의 곱셈을 안전하게 계산한다.

실험 결과

연구 질문

• RQ1 모든 클라우드 서버가 적극적으로 악성일 경우에도 정확성과 기밀성을 유지할 수 있는 기계 학습 외주 보안 프로토콜을 설계할 수 있는가?
• RQ2 신뢰할 수 있는 하드웨어나 고비용 원칙에 의존하지 않고도, 다중 서버 환경에서 정확성과 입력 일관성을 효율적으로 강제할 수 있는가?
• RQ3 수동 보안에 비해 적극 보안을 달성하기 위한 통신 및 계산 오버헤드는 얼마나 되는가?
• RQ4 고비용 암호 기반 원칙을 사용하지 않고도, 질병 예측과 같은 실제 신경망 워크로드에 대해 실용적인 효율성을 달성할 수 있는가?
• RQ5 손상된 서버 수가 증가함에 따라 프로토콜의 보안 수준은 어떻게 악화되며, 어떤 임계값이 강건성을 보장하는가?

주요 결과

• 오차 한계가 (e+2)/|F|^σ + (1−e/n)^t + ((3e+2w+2t)/n)^t인 통계적 보안을 달성하여, 적극적 손상 상황에서도 강력한 보안 보장을 확보한다.
• 통신 복잡도는 주로 OLE 호출과 출력 전송에 의해 지배되며, 총 비용은 O(n·d·CC_ρ + n·d·log|F|)이다. 여기서 d는 네트워크 깊이이고, CC_ρ는 OLE 비용이다.
• 이차 활성화 함수를 갖는 실제 신경망에 대해 보안 추론을 지원하며, 협업 질병 예측 모델을 포함하여 실용적 타당성을 입증한다.
• 워치리스트와 일관성 검사를 통해 악성 행동, 특히 예측을 조작할 수 있는 악성 편향을 탐지할 수 있다.
• 모든 서버가 손상된 경우에도 정확성을 유지하며, 최소한 한 서버가 정상일 경우 기밀성을 유지한다.
• 표준 보안 계산을 초과하는 최소한의 오버헤드로 의료 진단과 같은 기밀성이 중요한 응용 분야에 배포할 수 있을 정도로 효율적이다.