[논문 리뷰] Privacy-Preserving Classification of Personal Text Messages with Secure Multi-Party Computation: An Application to Hate-Speech Detection

Devin Reich, Ariel Todoki외 3명|arXiv (Cornell University)|2019. 06. 05.

Internet Traffic Analysis and Secure E-voting참고 문헌 51인용 수 12

한 줄 요약

이 논문은 개인 메시지에서 혐오 발언 탐지에 사용되는 보안 다자간 계산(SMC)을 활용한 처음으로 증명 가능하게 안전한, 기밀성을 보장하는 텍스트 분류 시스템을 제안한다. 로지스틱 회귀와 트리 앙상블를 사용한 분류를 가능하게 하며, 양 당사자가 상대방의 민감한 데이터를 파악하지 못하도록 보장한다. 분류 시간은 1초 미만으로, 이는 이전의 동형 암호화 기반 방법보다 두 배수 정도 빠르며, 정확도 손실이 없다.

ABSTRACT

Classification of personal text messages has many useful applications in surveillance, e-commerce, and mental health care, to name a few. Giving applications access to personal texts can easily lead to (un)intentional privacy violations. We propose the first privacy-preserving solution for text classification that is provably secure. Our method, which is based on Secure Multiparty Computation (SMC), encompasses both feature extraction from texts, and subsequent classification with logistic regression and tree ensembles. We prove that when using our secure text classification method, the application does not learn anything about the text, and the author of the text does not learn anything about the text classification model used by the application beyond what is given by the classification result itself. We perform end-to-end experiments with an application for detecting hate speech against women and immigrants, demonstrating excellent runtime results without loss of accuracy.

연구 동기 및 목표

• 개인 메시지가 애플리케이션에 노출되는 텍스트 분류에서 발생하는 기밀성 위험을 해결하기 위해.
• 분류 과정에서 메시지 내용과 모델 세부 정보가 泄露되지 않도록 보장하는 증명 가능하게 안전한 솔루션을 설계하기 위해.
• 기존 방법의 성능 제약을 극복하고, SMC를 활용한 기밀성 보장 텍스트 분류의 실용적 구현을 가능하게 하기 위해.
• 효율성과 정확도를 확보하기 위해 SMC 환경에 특화된 기계 학습 모델과 프로토콜을 최적화하기 위해.
• 실제 혐오 발언 탐지 사례를 통해 종단 간 실행 가능성(End-to-end feasibility)을 입증하기 위해.

제안 방법

• 보안 다자간 계산(SMC)을 사용하며, 두 당사자인 앨리스(메시지 소유자)와 밥(모델 소유자) 간에 상대방의 비밀 데이터를 알 수 없도록 보장한다.
• 계산 비용을 줄이기 위해 버킷화된 보안 동등성 테스트를 활용한 새로운 SMC 기반 프로토콜을 도입하여 비정형 텍스트에서 기밀 특징 추출을 수행한다.
• 로지스틱 회귀 및 아다부스트 모델에 최적화된 보안 계산을 적용하며, 보안을 유지하기 위해 더미 특징을 사용하지만 모델 정확도에 영향을 주지 않는다.
• 유니그램과 바이그램에 각각 13비트 및 17비트 표현을 사용하며, 실험에서 충돌이 관측되지 않았다.
• 효율성을 높이기 위해 러스트로 프로토콜을 구현하였으며, 통신 및 계산 비용을 종합적으로 고려하여 종단 간 성능 평가를 수행한다.
• 기본 이진 특징을 기반으로 한 결정 스태프 앙상블를 기반으로 한 새로운 프로토콜을 도입하여 기밀성 보장된 이진 분류를 수행한다.

실험 결과

연구 질문

• RQ1 정확도나 성능을 희생시키지 않고 기밀성 보장 텍스트 분류를 위한 증명 가능하게 안전한 SMC 기반 시스템을 설계할 수 있는가?
• RQ2 SMC 제약 조건 하에서 비정형 텍스트로부터의 보안 특징 추출을 어떻게 효율적으로 구현할 수 있는가?
• RQ3 실제 텍스트 분류 워크로드에서 SMC와 동형 암호화 간의 성능 상충 관계는 어떠한가?
• RQ4 로지스틱 회귀 및 아다부스트와 같은 표준 기계 학습 모델이 기밀 계산 환경에 적합하게 조정될 수 있는 정도는 어느 정도이며, 기능성 손실이 없는가?
• RQ5 종단 간 실행 시간이 1초 이내인 실용적인 기밀 분류가 가능할 수 있는가?

주요 결과

• 제안된 SMC 기반 시스템은 종단 간 분류를 몇 초 내로 수행하며, 이는 이전의 동형 암호화 기반 솔루션의 19분 분류 시간 대비 두 배수 정도 빠른 성능 향상이다.
• 기밀성 보장 변환으로 인한 정확도 저하 없이, 클리어 텍스트 분류와 동일한 정확도를 유지한다.
• 버킷화를 통해 필요한 보안 동등성 테스트 수를 줄여 계산 비용을 크게 낮추면서도 보안을 유지한다.
• 더미 특징을 도입하여 버킷 크기를 균형 있게 유지하고 정보 泄露를 방지하며, 이들의 계수나 가중치가 0이므로 모델 출력에 영향을 주지 않는다.
• 러스트로의 구현은 실용적인 효율성을 입증하였으며, 종단 간 실행 시간에 통신 및 계산 비용이 모두 포함되어 있다.
• 본 연구는 실세계 성능을 갖춘 증명 가능하게 안전한 종단 간 기밀성 보장 텍스트 분류가 실현 가능하다는 첫 번째 증거를 제공한다.