[논문 리뷰] Privacy-Preserving Image Classification in the Local Setting

Sen Wang, J. Morris Chang|arXiv (Cornell University)|2020. 02. 09.

Privacy-Preserving Technologies in Data참고 문헌 21인용 수 6

한 줄 요약

이 논문은 비밀유지 이미지 분류를 위한 로컬 차별적 프라이버시(LDP) 기반 프레임워크를 제안하며, 비신뢰할 수 있는 사용자에게 전송하기 전에 이미지 표현을 무작위 응답으로 흐리게 처리한다. 이는 다수의 벤치마크에서 강력한 프라이버시 보장을 유지하면서도 높은 분류 정확도를 달성할 수 있도록 하는 스케일러블 도메인 크기를 갖춘 감독형 특징 추출기인 DCAConv를 도입한다.

ABSTRACT

Image data has been greatly produced by individuals and commercial vendors in the daily life, and it has been used across various domains, like advertising, medical and traffic analysis. Recently, image data also appears to be greatly important in social utility, like emergency response. However, the privacy concern becomes the biggest obstacle that prevents further exploration of image data, due to that the image could reveal sensitive information, like the personal identity and locations. The recent developed Local Differential Privacy (LDP) brings us a promising solution, which allows the data owners to randomly perturb their input to provide the plausible deniability of the data before releasing. In this paper, we consider a two-party image classification problem, in which data owners hold the image and the untrustworthy data user would like to fit a machine learning model with these images as input. To protect the image privacy, we propose to locally perturb the image representation before revealing to the data user. Subsequently, we analyze how the perturbation satisfies ε-LDP and affect the data utility regarding count-based and distance-based machine learning algorithm, and propose a supervised image feature extractor, DCAConv, which produces an image representation with scalable domain size. Our experiments show that DCAConv could maintain a high data utility while preserving the privacy regarding multiple image benchmark datasets.

연구 동기 및 목표

• 긴급 구조 지원과 같은 민감한 응용 분야에서의 이미지 데이터 공유 시 발생하는 프라이버시 泄露 문제를 해결하기 위해.
• 비상호작용적, 로컬 차별적 프라이버시(LDP) 환경에서 프라이버시를 보장하는 이미지 분류를 가능하게 하기 위해.
• 카운트 기반(예: 나이브 베이즈) 및 거리 기반(예: KNN) 분류기의 프라이버시(ε)와 유용성 간의 트레이드오프를 분석하기 위해.
• LDP를 위한 스케일러블 도메인 크기를 지원하는 감독형 이미지 특징 추출기인 DCAConv를 설계하고 평가하기 위해.
• 다양한 프라이버시 제약 조건 하에서 실세계 이미지 데이터셋을 대상으로 프레임워크의 실증적 검증을 수행하기 위해.

제안 방법

• 전송 전에 로컬에서 이미지 표현을 무작위 응답으로 흐리게 처리하여 ε-LDP를 확보한다.
• 이미지 소유자와 비신뢰할 수 있는 데이터 사용자 간의 이중자 문제로 이미지 분류를 모델링한다.
• LDP 하에서 나이브 베이즈 및 KNN 분류기의 유용성 손실을 분석하고, 프라이버시-유용성 트레이드오프에 대한 경계를 유도한다.
• 조절 가능한 도메인 크기를 갖춘 압축되고 이산적인 이미지 표현을 학습하는 컨볼루션 신경망인 DCAConv를 제안한다.
• LDP 하에서 하류 분류 유용성과 일치하도록 특징 표현을 정렬하기 위해 감독형 학습 목표를 사용한다.
• 각 데이터 소유자에게 한 번의 흐림 처리만으로도 이루어지는 비상호작용 프rotocol을 적용하여 통신 오버헤드를 최소화한다.

실험 결과

연구 질문

• RQ1 로컬 차별적 프라이버시(ε-LDP)는 이미지 분류에서 카운트 기반 분류기(예: 나이브 베이즈)의 성능에 어떤 영향을 미치는가?
• RQ2 프라이버시 파라미터 ε와 도메인 크기 d는 거리 기반 분류기(예: KNN)의 유용성에 어떤 영향을 미치는가?
• RQ3 감독형 특징 추출기가 LDP 하에서도 프라이버시를 유지하면서 분류 유용성을 향상시킬 수 있는가?
• RQ4 이미지 표현의 도메인 크기는 LDP에서의 프라이버시-유용성 트레이드오프에 어떤 영향을 미치는가?
• RQ5 DCAConv는 실세계 이미지 벤치마크에서 기존의 특징 추출 방식보다 얼마나 뛰어나게 성능을 발휘하는가?

주요 결과

• 나이브 베이즈의 경우, 모델의 유용성은 LDP 하에서 빈도 추정의 정확도에 의해 제한되며, ε가 증가할수록 성능이 저하된다.
• KNN의 경우, ε ≥ ln(d + 1)일 때, 테스트 샘플과 학습 샘플 간의 진짜 근접성을 유지할 확률이 1/2를 초과한다. 여기서 d는 도메인 크기이다.
• DCAConv는 강력한 프라이버시 제약 조건(예: ε = 1) 하에서도 무늬 및 얼굴 이미지 데이터셋에서 높은 분류 정확도를 달성한다.
• 제안된 프레임워크는 ε-LDP를 유지하면서도 실용적인 분류 성능을 제공하며, 원시 픽셀에 대한 난이도 높은 흐림 처리 방식보다 뛰어난 성능을 보인다.
• 실험 결과 DCAConv는 분류 유용성을 포기하지 않고도 스케일러블한 도메인 크기를 제공함으로써 실세계 적용에 적합하다.
• 비상호작용 프로토콜의 특성 덕분에 반복적이고 상호작용적인 LDP 방법 대비 통신 비용을 줄이고 확장성을 향상시킨다.