[論文レビュー] Privacy-Preserving Important Passage Retrieval

Luís Marujo, José Portêlo+6 more|arXiv (Cornell University)|Jul 21, 2014

Handwritten Text Recognition Techniques参考文献 28被引用数 4

ひとこと要約

本稿では、情報理論的セキュリティを保証する一方で、類似度の近似を維持するように変換されたバイナリーベクトルに文書表現を変換する、プライバシー保護型の重要なパassage抽出（IPR）手法であるセキュアバイナリーエンコーディング（SBE）を提案する。正確な距離ではなく近似距離を使用しても、非プライベートなベースラインと比較してROUGE-1スコアが5%以内に収まるなど、高い性能を発揮し、機密コンテンツの漏洩がないことが確認された。

ABSTRACT

State-of-the-art important passage retrieval methods obtain very good results, but do not take into account privacy issues. In this paper, we present a privacy preserving method that relies on creating secure representations of documents. Our approach allows for third parties to retrieve important passages from documents without learning anything regarding their content. We use a hashing scheme known as Secure Binary Embeddings to convert a key phrase and bag-of-words representation to bit strings in a way that allows the computation of approximate distances, instead of exact ones. Experiments show that our secure system yield similar results to its non-private counterpart on both clean text and noisy speech recognized text.

研究の動機と目的

• 医療記録や機密文書などの機密文書に最新のIPRシステムを導入する際のプライバシーリスクに対処すること。
• 文書内容を露呈せずに第三者による処理を可能にすることで、有用性と機密性の両立を実現すること。
• 元データの再構築が不可能でありながら、検索性能を維持できる安全な表現手法を開発すること。
• 実世界のIPR環境における、プライバシー漏洩と検索精度のトレードオフを評価すること。

提案手法

• 本手法は、局所性に敏感なハッシュ化手法であるセキュアバイナリーエンコーディング（SBE）を用い、bag-of-wordsおよびキーフレーズ表現をバイナリーベクトルに変換する。
• SBEは、ランダム射影を実行した後、バンド化量子化を適用することで、情報理論的セキュリティを保証するように変換されたビットベクトルを生成する。
• システムは、ハミング距離を用いて埋め込みベクトル間の近似距離を計算し、類似するベクトルに対してはユークリッド距離を近似する。
• KPセントリティアルゴリズムは、SBE埋め込みベクトルを用いるように変更され、キーフレーズの中心性に基づいて重要なパassageを特定する。
• プライバシーはパラメータΔによって制御され、これは距離情報が露呈するハッシュの割合を制限する。
• 本手法は、クリーンなテキストとノイズの多い音声認識出力の両方をサポートしており、実世界の応用に適している。

実験結果

リサーチクエスチョン

• RQ1 プライバシー保護型IPRシステムは、第三者に対して機密情報が漏洩しない状態で、高い検索性能を維持できるか？
• RQ2 SBEによる近似距離計算の使用は、正確な距離法と比較して、重要なパassage抽出の質にどのような影響を与えるか？
• RQ3 SBEベースのIPRシステムにおいて、プライバシー漏洩（Δによって制御）と検索精度のトレードオフはどのように変化するか？
• RQ4 ビット/係数（bpc）パラメータが、安全な符号化下での検索性能にどの程度影響を与えるか？
• RQ5 SBEベースのIPR手法は、非プライベートな最新のIPR技術と比較して、ROUGEスコアで優れていたり同等の性能を発揮できるか？

主な発見

• SBEベースのIPRシステムは、Conciseusデータセットで95%の漏洩率の下でROUGE-1スコア0.517、PT BNデータセットで0.550を達成し、準最良の性能を示した。
• 95%の漏洩率であっても、ハミング距離の大部分が真のユークリッド距離を反映しているにもかかわらず、元のコンテンツの再構築が不可能であるため、強いプライバシー保証が維持された。
• Conciseusデータセットでは、デフォルトのセントリティ（ROUGE-1 = 0.443）やLexRank（ROUGE-1 = 0.428）といったベースライン手法を上回った。
• bpc値を高めても性能に顕著な向上が見られなかったため、KPセントリティ手法が複数の部分的表現を用いることで、高密度のビット表現の必要性が相殺されていると考えられる。
• クリーンなテキストとノイズの多い音声認識出力の両方で、安定した性能を維持したため、多様な入力タイプに応用可能であることが示された。
• 結果から、SBEは近似類似度測定を用いても、検索品質を損なわせることなく、安全かつプライベートなIPRを実現できることを確認した。