[논문 리뷰] Privacy-Preserving Deep Inference for Rich User Data on The Cloud

Seyed Ali Ossia, Ali Shahin Shamsabadi외 5명|arXiv (Cornell University)|2017. 10. 04.

Privacy-Preserving Technologies in Data참고 문헌 39인용 수 16

한 줄 요약

이 논문은 사전 훈련된 합성곱 신경망을 모바일 기기와 클라우드 간에 분할하여 풍부한 사용자 데이터에 대한 프라이버시 보장 인퍼런스를 가능하게 하는 하이브리드 딥 러닝 프레임워크를 제안한다. 기기 측에서 초기 레이어를 미세 조정하고 차원 감소 및 노이즈 주입을 통한 시아모이스 네트워크 훈련을 적용함으로써, 성별 또는 감정 분류와 같은 작업별 정확도를 유지하면서도 신원과 관련된 특징의 泄露를 크게 줄여, 최소한의 로컬 계산 비용으로 강력한 프라이버시 보장을 달성한다.

ABSTRACT

Deep neural networks are increasingly being used in a variety of machine learning applications applied to rich user data on the cloud. However, this approach introduces a number of privacy and efficiency challenges, as the cloud operator can perform secondary inferences on the available data. Recently, advances in edge processing have paved the way for more efficient, and private, data processing at the source for simple tasks and lighter models, though they remain a challenge for larger, and more complicated models. In this paper, we present a hybrid approach for breaking down large, complex deep models for cooperative, privacy-preserving analytics. We do this by breaking down the popular deep architectures and fine-tune them in a particular way. We then evaluate the privacy benefits of this approach based on the information exposed to the cloud service. We also asses the local inference cost of different layers on a modern handset for mobile applications. Our evaluations show that by using certain kind of fine-tuning and embedding techniques and at a small processing costs, we can greatly reduce the level of information available to unintended tasks applied to the data feature on the cloud, and hence achieving the desired tradeoff between privacy and performance.

연구 동기 및 목표

• 풍부한 사용자 데이터(특히 얼굴 이미지)에 대한 클라우드 기반 딥 러닝에서의 프라이버시-정확도 트레이드오프를 해결한다.
• 클라우드 제공자가 사용자 데이터에 대해 2차 인퍼런스(예: 얼굴 인식)를 수행할 위험을 완화한다.
• 모델의 일부를 클라우드로 오프로딩하여 모바일 기기의 계산 및 통신 오버헤드를 줄인다.
• 감정 또는 성별 분류와 같은 작업별 유틸리티를 유지하면서 민감한 특징의 노출을 최소화하는 방법을 개발한다.
• 레이어 분포 및 특징 변환 최적화를 통해 스마트폰에서의 실용적 구현을 가능하게 한다.

제안 방법

• 사전 훈련된 딥 네트워크를 클라이언트 측(primary) 및 클라우드 측(secondary) 레이어로 분해하며, 후자는 특징 추출기로 기능한다.
• 신원을 드러내는 정보를 포함하지 않는 작업별 비일반적 특징을 학습하기 위해 시아모이스 네트워크 아키텍처를 사용해 주로 레이어를 미세 조정한다.
• 클라우드 전송 전에 추출된 특징에 차원 감소 및 통제된 노이즈 추가를 적용하여 프라이버시 유출 신호를 억제한다.
• 이전 학습 및 k-동일성 기반 K-same 알고리즘을 사용해 의도하지 않은 인퍼런스 작업에 대한 프라이버시 보장을 정량화하고 강화한다.
• 스마트폰에서 프레임워크를 평가하여 로컬 인퍼런스 비용, 통신 오버헤드 및 정확도 트레이드오프를 분석한다.
• 특징 추출은 현지에서 수행되고 최종 분류는 클라우드에서 이루어지는 하이브리드 인퍼런스 파이프라인을 설계하여 모델의 무결성과 프라이버시를 유지한다.

실험 결과

연구 질문

• RQ1 클라우드 기반 인퍼런스에서 정확도를 훼손하지 않고도 하이브리드 모델 아키텍처가 프라이버시 유출을 줄일 수 있는가? (예: 성별 또는 감정 분류와 같은 주요 작업에 대해)
• RQ2 차원 감소 및 노이즈 주입을 통한 특징 수준의 난독화가 클라우드 제공자가 수행하는 2차 인퍼런스(예: 얼굴 인식)를 어느 정도 방지할 수 있는가?
• RQ3 제안된 레이어 분할 기반 접근법을 사용할 경우, 모바일 기기에서의 인퍼런스 계산 비용은 전체 로컬 인퍼런스와 비교해 어떻게 되는가?
• RQ4 시아모이스 미세 조정이 딥 특징 표현에서 프라이버시-유용성 트레이드오프에 어떤 영향을 미치는가?
• RQ5 이러한 방법은 이미지 기반 분석 외의 다른 모odal(예: 음성 또는 비디오)에도 확장 가능한가?

주요 결과

• 제안된 방법은 성별 및 감정 분류와 같은 주요 작업에서 전체 모델 인퍼런스와 비교해 높은 정확도를 달성하면서도 2차 인퍼런스 가능성을 크게 줄였다.
• 중간 특징에 노이즈 주입 및 차원 감소를 적용함으로써, 클라우드에 저장된 특징에 대한 얼굴 인식 공격의 성공률이 감소했다.
• 전체 모델을 로컬에서 실행하는 것에 비해 모바일 기기에서의 계산 비용이 크게 감소하여 현대 스마트폰에서 실시간 인퍼런스가 가능해졌다.
• 원시 입력 데이터가 아닌 압축되고 난독화된 특징만 클라우드로 전송되기 때문에 통신 비용이 최소화되었다.
• 시아모이스 미세 조정을 통해 추출된 특징는 작업별로 특화되어 있으며, 의도하지 않은 목적에 재사용되기 어려워졌다.
• 이심 학습 및 k-동일성 기반 분석을 통한 검증 결과, 클라우드가 강력한 사전 훈련된 모델에 액세스하더라도 프라이버시 보장이 강력하게 확보됨을 입증했다.