[논문 리뷰] Privacy-Preserving Visual Learning Using Doubly Permuted Homomorphic Encryption

Ryo Yonetani, Vishnu Naresh Boddeti외 2명|arXiv (Cornell University)|2017. 04. 07.

Cryptography and Data Security참고 문헌 58인용 수 5

한 줄 요약

이 논문은 분산 사용자로부터 로컬로 훈련된 암호화된 분류기를 안전하게 집계할 수 있도록 이重치된 허모로픽 암호화(DPHE)를 사용하는 프라이버시 보장 시각 학습 프레임워크를 제안한다. 개인 정보를暴露하지 않고도 데이터를 보호한다. 희소성 조건을 적용하고 비밀번호를 두 번 적용한 DPHE를 사용하여 비밀번호가 없는 비어 있지 않은 가중치 값만 암호화하고 인덱스를 재배열함으로써, 높은 효율성과 강력한 프라이버시 보장을 달성한다. 공개 데이터셋에서 기존의 프라이버시 보장 방법보다 뛰어난 성능을 보이며, 최신 기준 수준의 인식 정확도를 유지한다.

ABSTRACT

We propose a privacy-preserving framework for learning visual classifiers by leveraging distributed private image data. This framework is designed to aggregate multiple classifiers updated locally using private data and to ensure that no private information about the data is exposed during and after its learning procedure. We utilize a homomorphic cryptosystem that can aggregate the local classifiers while they are encrypted and thus kept secret. To overcome the high computational cost of homomorphic encryption of high-dimensional classifiers, we (1) impose sparsity constraints on local classifier updates and (2) propose a novel efficient encryption scheme named doubly-permuted homomorphic encryption (DPHE) which is tailored to sparse high-dimensional data. DPHE (i) decomposes sparse data into its constituent non-zero values and their corresponding support indices, (ii) applies homomorphic encryption only to the non-zero values, and (iii) employs double permutations on the support indices to make them secret. Our experimental evaluation on several public datasets shows that the proposed approach achieves comparable performance against state-of-the-art visual recognition methods while preserving privacy and significantly outperforms other privacy-preserving methods.

연구 동기 및 목표

• 민감한 정보를暴露하지 않고 분산된 개인 정보가 포함된 이미지 데이터로부터 시각 분류기를 학습하는 데 도전하는 것.
• 프라이버시 보장 기계 학습에서 고차원 분류기에 대한 허모로픽 암호화의 높은 계산 비용을 해결하는 것.
• 연합 학습 환경에서 희소 고차원 모델 업데이트에 특화된 안전하고 효율적인 암호화 체계를 설계하는 것.
• 집계자나 다른 사용자가 암호화된 모델 업데이트에서 개인 사용자의 개인 정보 또는 비어 있지 않은 특징 인덱스를 유추할 수 없도록 보장하는 것.
• 데이터 프라이버시를 유지하면서도 최신 기준 수준의 시각 인식 방법과 비교할 수 있는 성능을 달성하는 것.

제안 방법

• 프레임워크는 허모로픽 암호 체계를 사용하여 집계자가 암호화된 로컬 업데이트된 분류기의 평균을 복호화 없이 계산할 수 있도록 한다.
• 로컬 분류기 업데이트에 희소성 제약 조건을 적용하여 허모로픽 암호화의 차원과 계산 비용을 감소시킨다.
• 비밀번호를 두 번 적용한 새로운 암호화 체계인 이중 순열 허모로픽 암호화(DPHE)를 제안하여 비어 있지 않은 가중치 값만 암호화하고 지지 인덱스에 대해 이중 순열을 적용하여 기밀성을 확보한다.
• DPHE는 각 분류기를 비어 있지 않은 값과 그들의 순열된 인덱스로 분해하며, 한 번의 순열은 집계자와 공유되고 다른 한 번은 사용자가 비밀리에 보관한다.
• 보안은 오직 두 번의 순열을 모두 가진 사용자만 원래의 인덱스를 재구성할 수 있다는 사실에 기반하며, 이로 인해 집계자나 다른 사용자가 개인 정보를 식별할 수 없다.
• 최소 세 명의 상호 협력하지 않는 당사자가 참여할 경우, 평균화된 모델조차도 개별 기여를 재구성할 수 없음을 보장한다.

실험 결과

연구 질문

• RQ1 민감한 정보를暴露하지 않고도 개인 정보가 포함된 데이터로부터 로컬로 훈련된 시각 분류기를 안전하게 집계할 수 있는가?
• RQ2 고차원적이고 희소한 모델 가중치에 대한 허모로픽 암호화의 계산 비용을 어떻게 줄일 수 있는가?
• RQ3 분산 학습 환경에서 비어 있지 않은 가중치 값과 그들의 인덱스에 대한 프라이버시를 보존하는 암호화 체계를 설계할 수 있는가?
• RQ4 여러 당사자가 암호화된 모델 업데이트를 기여하고 집계자가 그 평균을 계산할 경우, 어떤 수준의 프라이버시가 보장되는가?
• RQ5 기존의 프라이버시 보장 및 비프라이버시 시각 학습 접근법과 비교해 볼 때, 제안된 방법의 정확도와 효율성은 어떠한가?

주요 결과

• 제안된 DPHE 체계는 비어 있지 않은 값과 그들의 순열된 인덱스에만 작용함으로써 허모로픽 암호화의 계산 비용을 크게 감소시켜 고차원 시각 모델에 적용 가능하게 한다.
• 공개 데이터셋인 Caltech101 등에서 암호화된 훈련 데이터를 사용함에도 불구하고, 최신 기준 수준의 시각 인식 방법과 비교할 만한 분류 정확도를 달성한다.
• 정확도와 효율성 측면에서 기존의 프라이버시 보장 방법보다 뛰어나며, 프라이버시-유용성 트레이드오프 측면에서 뚜렷한 우월성을 보여준다.
• 보안 분석 결과, 집계자나 다른 사용자가 양쪽 순열을 모두 확보하지 못하는 한, 개인 사용자의 개인 정보나 비어 있지 않은 특징 인덱스를 식별할 수 없음을 입증한다.
• 이론적 및 실증적 결과는 세 명 이상의 상호 협력하지 않는 당사자가 참여할 경우, 원래의 모델 업데이트와 개인 정보가 암호화된 집계물과 구분 불가능하다는 것을 확인한다.
• 당사자 간의 공모가 없을 경우, 이중 순열과 허모로픽 집계의 복원 불가능성 덕분에 평균 모델이 공개되더라도 강력한 프라이버시를 유지할 수 있다.