[論文レビュー] Privacy-Preserving Image Classification in the Local Setting

Sen Wang, J. Morris Chang|arXiv (Cornell University)|Feb 9, 2020

Privacy-Preserving Technologies in Data参考文献 21被引用数 6

ひとこと要約

本稿では、非信頼できるユーザーに送信する前に、画像表現をランダム化応答で摂動することで、プライバシー保護型画像分類のためのローカル微分プライバシー（LDP）ベースのフレームワークを提案する。DCAConvと呼ばれる教師あり特徴抽出器を導入し、スケーラブルなドメインサイズを実現しながら、複数のベンチマークで高い分類精度を維持する。

ABSTRACT

Image data has been greatly produced by individuals and commercial vendors in the daily life, and it has been used across various domains, like advertising, medical and traffic analysis. Recently, image data also appears to be greatly important in social utility, like emergency response. However, the privacy concern becomes the biggest obstacle that prevents further exploration of image data, due to that the image could reveal sensitive information, like the personal identity and locations. The recent developed Local Differential Privacy (LDP) brings us a promising solution, which allows the data owners to randomly perturb their input to provide the plausible deniability of the data before releasing. In this paper, we consider a two-party image classification problem, in which data owners hold the image and the untrustworthy data user would like to fit a machine learning model with these images as input. To protect the image privacy, we propose to locally perturb the image representation before revealing to the data user. Subsequently, we analyze how the perturbation satisfies ε-LDP and affect the data utility regarding count-based and distance-based machine learning algorithm, and propose a supervised image feature extractor, DCAConv, which produces an image representation with scalable domain size. Our experiments show that DCAConv could maintain a high data utility while preserving the privacy regarding multiple image benchmark datasets.

研究の動機と目的

• 緊急対応など、機密性の高い応用分野における画像データ共有におけるプライバシー漏洩を是正すること。
• 非インタラクティブなローカル微分プライバシー（LDP）設定下でのプライバシー保護型画像分類を可能にすること。
• カウントベース（例：ナイーブベイズ）および距離ベース（例：KNN）の分類器における、プライバシー（ε）と有用性のトレードオフを分析すること。
• LDPにおけるスケーラブルなドメインサイズをサポートする、教師あり画像特徴抽出器DCAConvの設計と評価。
• さまざまなプライバシー制約下で、実世界の画像データセットに対してフレームワークの実証的妥当性を検証すること。

提案手法

• 送信前にローカルに画像表現をランダム化応答で摂動させることで、ε-LDPを保証する。
• 画像分類を、画像を保有するデータ所有者と、信頼できないデータユーザーの二者間問題としてモデル化する。
• LDP下でのナイーブベイズおよびKNN分類器における有用性損失を分析し、プライバシーと有用性のトレードオフの境界を導出する。
• ドメインサイズを調整可能な、コン act で離散的な画像表現を学習する畳み込みニューラルネットワーク（DCAConv）を提案する。
• LDP下での下流分類の有用性を考慮した教師あり学習目的関数を用いて、特徴表現を最適化する。
• 各データ所有者に対して一度だけ摂動が行われる非インタラクティブプロトコルを採用し、通信コストを最小限に抑える。

実験結果

リサーチクエスチョン

• RQ1 ローカル微分プライバシー（ε-LDP）は、画像分類におけるカウントベース分類器（例：ナイーブベイズ）の性能にどのように影響するか？
• RQ2 プライバシーパラメータεとドメインサイズdが、距離ベース分類器（例：KNN）の有用性に与える影響は何か？
• RQ3 教師あり特徴抽出器は、LDP下でプライバシーを維持しつつ分類の有用性を向上させることができるか？
• RQ4 画像表現のドメインサイズは、LDPにおけるプライバシーと有用性のトレードオフにどのように影響するか？
• RQ5 DCAConvは、実世界の画像ベンチマークにおいて、標準的な特徴抽出法と比較して、どの程度優れているか？

主な発見

• ナイーブベイズの場合、モデルの有用性はLDP下での周波数推定の精度に制限され、εが増加するにつれて劣化する。
• KNNの場合、ε ≥ ln(d + 1) であれば、テストサンプルと訓練サンプル間の真の近接性を保持する確率が1/2を超える。
• DCAConvは、強力なプライバシー制約（例：ε = 1）下でも、テクスチャおよび顔画像データセットで高い分類精度を達成する。
• 提案されたフレームワークは、強力なプライバシー（ε-LDP）を維持しながら、実用的な分類性能を実現し、生のピクセルを単純に摂動する手法を上回る。
• 実験により、DCAConvは分類の有用性を損なわせることなく、スケーラブルなドメインサイズを実現でき、実世界への導入に適していることが確認された。
• プロトコルの非インタラクティブ性により、反復的でインタラクティブなLDP手法と比較して、通信コストを低減し、スケーラビリティを向上させた。