[논문 리뷰] MPC-enabled Privacy-Preserving Neural Network Training against Malicious Attack

Ziyao Liu, Ivan Tjuawinata외 2명|arXiv (Cornell University)|2020. 07. 24.

Cryptography and Data Security참고 문헌 15인용 수 7

한 줄 요약

이 논문은 SPDZ 프레임워크를 기반으로 한 MPC를 사용하여 악성 대상자 조건에서도 악성 대상자에 대한 보안을 제공하는 효율적인 n명의 당사자에 대한 프라이버시 보장 신경망 학습을 위한 능동적 보안 프로토콜을 제안한다. LAN 및 WAN 환경에서 반준수 프로토콜 대비 2X–2.7X의 오버헤드로만 능동적 보안을 달성하며, MAC 보호된 산술을 위한 Beaver 삼중항 사용을 위한 정수 환 공유에서 유한체 공유로의 새로운 변환 기법을 도입한다.

ABSTRACT

The application of secure multiparty computation (MPC) in machine learning, especially privacy-preserving neural network training, has attracted tremendous attention from the research community in recent years. MPC enables several data owners to jointly train a neural network while preserving the data privacy of each participant. However, most of the previous works focus on semi-honest threat model that cannot withstand fraudulent messages sent by malicious participants. In this paper, we propose an approach for constructing efficient $n$-party protocols for secure neural network training that can provide security for all honest participants even when a majority of the parties are malicious. Compared to the other designs that provide semi-honest security in a dishonest majority setting, our actively secure neural network training incurs affordable efficiency overheads of around 2X and 2.7X in LAN and WAN settings, respectively. Besides, we propose a scheme to allow additive shares defined over an integer ring $\mathbb{Z}_N$ to be securely converted to additive shares over a finite field $\mathbb{Z}_Q$, which may be of independent interest. Such conversion scheme is essential in securely and correctly converting shared Beaver triples defined over an integer ring generated in the preprocessing phase to triples defined over a field to be used in the calculation in the online phase.

연구 동기 및 목표

• 기존의 프라이버시 보장 신경망 학습 프로토콜이 반준수 대상자만을 가정하는 데서 비롯하는 능동적 보안의 부재를 해결하기 위해.
• 최대 n−1명의 당사자가 악성일 수 있는 n명의 당사자 간에 보안 신경망 학습을 가능하게 하여, 정직한 당사자들이 보호받도록 보장하기 위해.
• 이전의 반준수 설계 대비 MPC 기반 신경망 학습에서 능동적 보안의 효율성 오버헤드를 줄이기 위해.
• MAC 보호된 산술을 위한 사용을 위해 정수 환 ℤₙ의 덧셈 공유에서 유한체 ℤ_q의 공유로의 안전하고 효율적인 변환 메커니즘을 개발하기 위해.

제안 방법

• 불량 다수 설정에서 능동적 보안을 가능하게 하기 위해 사전 계산된 Beaver 삼중항과 메시지 인증 코드(MAC)를 사용하는 SPDZ 프레임워크를 활용한다.
• MAC 검증을 지원하기 위해 두 개의 Paillier 암호시스템을 사용하는 새로운 공유 변환 프로토콜을 도입하여 ℤₙ에서 ℤ_q로의 덧셈 공유 변환을 수행한다.
• 사전 처리 모델을 사용하여 Beaver 삼중항을 ℤₙ에서 사전 생성하고, 온라인 계산 단계에서 사용하기 위해 ℤ_q로 변환한다.
• 기본 덧셈 동형 성질과 암호 기법을 사용하여 학습 중 정확성과 기밀성을 보장한다.
• 고정밀 산술을 위해 Gmpy2를 사용하고, 보안을 확보하기 위해 유한체 크기 Q > 2¹⁴⁵로 설정한다.
• LAN 및 WAN 네트워크 조건에서 배치 크기가 64와 128인 완전 연결 신경망과 컨볼루션 신경망을 사용하여 MNIST에서 성능을 평가한다.

실험 결과

연구 질문

• RQ1 불량 다수 설정에서 수용 가능한 성능 오버헤드로 악성 대상자에 대한 능동적 보안을 제공하는 MPC 기반 신경망 학습 프로토콜을 설계할 수 있는가?
• RQ2 MAC 기반 검증을 위한 SPDZ 스타일 프로토콜에서 사용하기 위해 정수 환 ℤₙ의 덧셈 공유에서 유한체 ℤ_q로의 안전한 변환 방법은 무엇인가?
• RQ3 반준수 대비 신경망 학습에서 능동적 보안을 달성하는 데 실질적인 성능 비용은 얼마인가?
• RQ4 실제 환경인 WAN에서 네트워크 지연과 대역폭에 따라 통신 및 계산 비용은 어떻게 증가하는가?
• RQ5 제안된 프로토콜은 악성 참가자가 존재하는 상황에서도 높은 모델 정확도를 유지할 수 있는가?

주요 결과

• 제안된 프로토콜은 LAN 및 WAN 환경에서 각각 반준수 프로토콜 대비 2.0x에서 2.7x의 성능 오버헤드로 불량 다수 설정에서 악성 대상자에 대한 능동적 보안을 달성한다.
• 10 에포크 및 배치 크기 64인 DNN의 경우, LAN에서 2.92시간, WAN에서 40.25시간이 소요되어 97.75%의 정확도를 달성한다.
• 10 에포크 및 배치 크기 64인 CNN의 경우, LAN에서 16.50시간, WAN에서 85.28시간이 소요되어 98.08%의 정확도를 달성한다.
• 모델 복잡도가 증가할수록 통신 비용이 크게 증가하여 WAN에서 CNN 학습 시 2.42 GB에 이를 수 있지만, 실용적 범위 내에 유지된다.
• 제안된 ℤₙ에서 ℤ_q로의 공유 변환은 MAC 보호된 SPDZ 프로토콜에서 Beaver 삼중항의 안전하고 정확한 사용을 가능하게 하며, 이는 능동적 보안에 필수적이다.
• 모델 정확도는 CNN의 경우 97.00%, DNN의 경우 95.03%로, 평판 학습과 유사하여 정확성과 실용성을 입증한다.