[論文レビュー] Modeling Language Vagueness in Privacy Policies using Deep Neural Networks

Fei Liu, Nicole Lee Fella+1 more|arXiv (Cornell University)|May 25, 2018

Internet Traffic Analysis and Secure E-voting参考文献 27被引用数 8

ひとこと要約

本稿では、二重タスクニューラルネットワークを用いて単語の密集表現を学習することで、Webサイトのプライバシーポリシーにおける言語の曖昧さを深層学習的手法でモデル化する手法を提案する。この手法は、次に続く語の予測と曖昧語の分類を同時に実行し、LSTMVisを用いて学習された表現を可視化することで、意味的・構文的に関連する曖昧表現を発見し、プライバシーテキストにおける洗練された言語的パターンを同定する可能性を示している。

ABSTRACT

Website privacy policies are too long to read and difficult to understand. The over-sophisticated language makes privacy notices to be less effective than they should be. People become even less willing to share their personal information when they perceive the privacy policy as vague. This paper focuses on decoding vagueness from a natural language processing perspective. While thoroughly identifying the vague terms and their linguistic scope remains an elusive challenge, in this work we seek to learn vector representations of words in privacy policies using deep neural networks. The vector representations are fed to an interactive visualization tool (LSTMVis) to test on their ability to discover syntactically and semantically related vague terms. The approach holds promise for modeling and understanding language vagueness.

研究の動機と目的

• プライバシーポリシーにおける言語の曖昧さが、利用者の理解と信頼を損なうという課題に対処すること。
• 深層ニューラルネットワークを用いて、プライバシーポリシー言語における曖昧語を同定・モデル化する計算的手法を開発すること。
• 学習された語ベクトル表現が、制御されたドメインにおける曖昧さに関連する意味的・構文的パターンを捉えられるかどうかを検討すること。
• 曖昧語のベクトル表現を可視化することで、研究者がプライバシーポリシーに対する知識発見を可能にすること。

提案手法

• 200次元の語ベクトル表現を、事前に定義された40個の曖昧語を用いて、文脈における次に来る語の予測と、語が曖昧語かどうかの分類を同時に最適化する深層ニューラルネットワークで学習する。
• 次に来る語の予測と曖昧語分類の両タスクで性能を最適化する反復的プロセスを通じて、語埋め込み表現を学習する。
• 200次元のベクトル表現は、再帰的ニューラルネットワークの隠れ状態ダイナミクスを調査するためのインタラクティブツールLSTMVisを用いて可視化される。
• 可視化インターフェースにより、ユーザーはフレーズを選択し、そのフレーズと文脈の両方における共有されたベクトル次元を特定することで、フレーズ固有の特徴を特定できる。
• 選択されたフレーズとその周囲の文脈との間でアクティブ化されたベクトル次元の共通部分に注目することで、曖昧な意味をエンコードする次元を特定する。
• 類似するフレーズは、共有されたアクティブ化次元と最小限の追加アクティブ化に基づいてランク付けされ、意味的・構文的に関連する曖昧表現が強調される。

実験結果

リサーチクエスチョン

• RQ1 深層ニューラルネットワークは、プライバシーポリシーにおける曖昧さの言語的特徴をエンコードするベクトル表現を学習できるか？
• RQ2 表面的な形が異なるにもかかわらず、学習された語ベクトルは、曖昧語同士の構文的・意味的関係を捉えられるか？
• RQ3 ベクトル表現のインタラクティブ可視化により、プライバシーポリシーテキスト内に意味的に類似した曖昧表現のクラスタが明らかになるか？
• RQ4 共有されたベクトル次元を用いて、曖昧語の言い換え（例：「as needed」と「as reasonably practicable」）をどの程度特定できるか？
• RQ5 大規模なアノテート済みデータセットを必要とせずに、ベクトルベースの可視化を用いてプライバシーポリシーテキストにおける知識発見を支援することは可能か？

主な発見

• 可視化ツールは、「as needed」と意味的・構文的に類似する複数のフレーズ、すなわち「as is appropriate to」、「as described below」、および「as reasonably practicable」を効果的に同定した。
• モデルは、共有されたベクトル次元を用いて、同じ意味を伝えるさまざまな曖昧表現の変種を捉え、埋め込み表現が洗練された意味的関係をエンコードしていることを示した。
• ターゲットフレーズとその文脈との間でアクティブ化されたベクトル次元の共通部分が、フレーズ固有の特徴を的確に特定できることを示し、曖昧語の焦点的な分析を支援した。
• この手法は、曖昧語の言い換えをグループ化する能力を示しており、ベクトル表現が表面的な形を超えた概念的類似性をエンコードしていることを示唆した。
• このアプローチは、プライバシーポリシーが同じ曖昧な概念を表すために多様な語彙的バリエーションを用いること、したがって包括的な語彙リスト作成が困難であることを明らかにした。
• 結果から、深層学習に基づくベクトル表現が、法的・プライバシーテキストにおける曖昧さの自動検出および分析の基盤として機能しうることが示唆された。