[論文レビュー] Enhancing Transparency and Control when Drawing Data-Driven Inferences about Individuals

Daizhuo Chen, Samuel P. Fraiberger+2 more|arXiv (Cornell University)|Jun 26, 2016

Privacy, Security, and Data Protection参考文献 8被引用数 4

ひとこと要約

本稿では、個人の特性に関するデータドリブンな推論を抑制するために、Facebookの「いいね」を意図的に隠す（クローキング）ことで、その推論を引き起こす最小限の「証拠の反事後」を同定するクローキング機構を提案する。結果は、ユーザーが平均して5〜6つのいいねを隠すことで推論を抑制可能であることを示しており、最小限の努力で効果的なクローキングが可能である。一方、企業側は特徴の相関を活用するNaive Bayesなどのモデルに切り替えることで、クローキングを著しく困難にすることができる。

ABSTRACT

Recent studies have shown that information disclosed on social network sites (such as Facebook) can be used to predict personal characteristics with surprisingly high accuracy. In this paper we examine a method to give online users transparency into why certain inferences are made about them by statistical models, and control to inhibit those inferences by hiding ("cloaking") certain personal information from inference. We use this method to examine whether such transparency and control would be a reasonable goal by assessing how difficult it would be for users to actually inhibit inferences. Applying the method to data from a large collection of real users on Facebook, we show that a user must cloak only a small portion of her Facebook Likes in order to inhibit inferences about their personal characteristics. However, we also show that in response a firm could change its modeling of users to make cloaking more difficult.

研究の動機と目的

• ユーザーが自身のソーシャルメディアデータから導かれる推論に対して意味のある制御を可能にできるかを調査すること。
• 予測に必要な最小限の証拠を同定することで、データドリブンな推論における透明性の可能性を評価すること。
• ユーザーが自分のいいねの小さなサブセットのみをクローキングすることで、推論を抑制できるかを評価すること。
• モデルのアプローチの変更（例：Naive Bayes とロジスティック回帰）が、クローキングの難易度にどのように影響するかを検討すること。
• このような制御メカニズムが、オンラインターゲティングシステムにおけるプライバシー、公平性、ユーザーの自律性に与える影響を検討すること。

提案手法

• 証拠の反事後を用いて、特定のユーザーの個人的特性に関する推論を防ぐために、どの入力特徴（いいね）を削除すればよいかを特定する。
• 各いいねを二値特徴として扱い、それに重み係数を付与する線形モデルを用い、モデルスコアをこれらの重み付き特徴の合計として定義する。
• クローキングは、影響度の高い順にいいねを順次削除することでシミュレートする。
• ロジスティック回帰（LR）、100次元のSVDを用いたロジスティック回帰（LRSVD）、およびNaive Bayes（NB）の複数のモデルを用いて、クローキングの難易度を比較する。
• Kosinskiら（2013）の実際のFacebookデータを用いて、性的指向、性別、宗教的関与などの特性を予測するモデルを訓練する。
• 『クローキング可能度』を、予測スコアを閾値未満に低下させるためにユーザーがクローキングする必要のあるいいねの数として測定し、真陽性と偽陽性の両者を区別する。

実験結果

リサーチクエスチョン

• RQ1 ユーザーが個人的特性に関するデータドリブンな推論を効果的に抑制するために、平均してどのくらいのいいねをクローキングする必要があるか？
• RQ2 推論が正しいユーザー（真陽性）と誤ったユーザー（偽陽性）の間で、クローキングの難易度にどのような差が生じるか？
• RQ3 異なる機械学習モデル（例：LR、NB）が、クローキングに要する作業量にどの程度影響を与えるか？
• RQ4 企業側がモデルのアプローチを変更することで、ユーザーの制御を困難にすることができるか？
• RQ5 統計的推論システムにおいて、モデルの性能とクローキング耐性の間にはどのようなトレードオフがあるか？

主な発見

• ロジスティック回帰またはLRSVDモデルを用いる場合、平均して5.5つのいいねをクローキングするだけで推論を抑制可能であり、効果的なクローキングに必要な努力は非常に小さいことが示された。
• 偽陽性ユーザー（誤って特定されたユーザー）のクローキングは、真陽性ユーザーよりも著しく容易であり、有意差（p < 0.05）が確認された。
• Naive Bayesモデルでは、クローキングの難易度が著しく上昇し、平均して50.6つのいいねをクローキングする必要があり、LRやLRSVDと比較して著しく高い負担が伴う。
• Naive Bayesにおける難易度の上昇は、いいねが条件付き独立であると仮定することで、相関するいいねが重複して影響を及ぼし、その影響が拡大するためである。
• 企業側は、ユーザーのデータを制限することなく、単にNaive Bayesのような特徴の相関を活用するモデルに切り替えることで、クローキングを著しく困難にすることができる。
• 結果から、現在のモデルではユーザーが最小限の努力で意味のある制御を可能にしているが、企業側がモデル戦略を変更することで、この制御を損なう可能性があることが示唆された。