[論文レビュー] Linear Regression as a Non-Cooperative Game

Stratis Ioannidis, Patrick Loiseau|arXiv (Cornell University)|Sep 30, 2013

Consumer Market Behavior and Pricing被引用数 6

ひとこと要約

この論文は、個人が自身のプライベートデータにノイズを意図的に追加することでプライバシー損失と推定誤差のバランスを取る非協力的ゲームとして線形回帰をモデル化する。非自明なナッシュ均衡が一意に存在することを証明し、一般化最小二乗推定量が戦略的行動下でも最適であることを示すことで、ガウス＝マルコフの定理を拡張する。

ABSTRACT

Abstract. Linear regression amounts to estimating a linear model that maps features (e.g., age or gender) to corresponding data (e.g., the an-swer to a survey or the outcome of a medical exam). It is a ubiquitous tool in experimental sciences. We study a setting in which features are public but the data is private information. While the estimation of the linear model may be useful to participating individuals, (if, e.g., it leads to the discovery of a treatment to a disease), individuals may be reluctant to disclose their data due to privacy concerns. In this paper, we propose a generic game-theoretic model to express this trade-off. Users add noise to their data before releasing it. In particular, they choose the variance of this noise to minimize a cost comprising two components: (a) a pri-vacy cost, representing the loss of privacy incurred by the release; and (b) an estimation cost, representing the inaccuracy in the linear model estimate. We study the Nash equilibria of this game, establishing the existence of a unique non-trivial equilibrium. We determine its efficiency for several classes of privacy and estimation costs, using the concept of the price of stability. Finally, we prove that, for a specific estimation cost, the generalized least-square estimator is optimal among all linear unbi-ased estimators in our non-cooperative setting: this result extends the famous Aitken/Gauss-Markov theorem in statistics, establishing that its conclusion persists even in the presence of strategic individuals.

研究の動機と目的

• 個人が自身のプライベートデータを制御する場合の線形回帰におけるプライバシーと推定精度のトレードオフをモデル化すること。
• プライバシー損失と推定誤差の両方を組み合わせたコストを最小化するように個人が意思決定する非協力的ゲームとしての形式化を行うこと。
• このゲームのナッシュ均衡を分析し、一意な均衡が存在するための条件を確立すること。
• さまざまなコスト関数に対して、安定価格（price of stability）を用いて均衡の効率性を評価すること。
• 一般化最小二乗推定量が戦略的行動下でも最適であることを示し、古典的なガウス＝マルコフの定理を戦略的状況に拡張すること。

提案手法

• 個人を非協力的ゲームのプレイヤーとしてモデル化し、プライバシーと推定誤差の両方のコストを最小化するようにノイズ分散を選択する。
• コスト関数を、ノイズ分散に応じて増加するプライバシーコストと、モデルの不正確さに応じて増加する推定コストの和として定義する。
• ゲーム理論的ツールを用いて、非自明なナッシュ均衡の存在と一意性を証明する。
• 安定価格（price of stability）の概念を用いて、均衡の効率性を最適な集団的結果と比較して評価する。
• 統計理論を適用し、特定の推定コスト関数に対して、一般化最小二乗推定量がこの戦略的状況下で、すべての線形不偏推定量の中で最適であることを示す。

実験結果

リサーチクエスチョン

• RQ1 戦略的データ提供者を想定した線形回帰のゲーム理論的モデルにおいて、一意なナッシュ均衡が存在するか？
• RQ2 安定価格（price of stability）で測定した場合、推定精度とプライバシーのトレードオフにおいて、均衡の効率性はどの程度か？
• RQ3 一般化最小二乗推定量が非協力的状況下でも最適であるための条件は何か？
• RQ4 プライバシーと推定コスト関数の異なる選択肢が、均衡行動とシステムの効率性にどのように影響するか？
• RQ5 ノイズを追加する戦略的個人が存在する状況においても、古典的なガウス＝マルコフの定理を拡張できるか？

主な発見

• 戦略的データ提供者を想定した線形回帰のゲーム理論的モデルにおいて、一意な非自明なナッシュ均衡が存在する。
• 安定価格（price of stability）で測定した均衡の効率性は有界であり、プライバシーと推定コスト関数の選択に応じて変動する。
• 特定の推定コスト関数に対して、一般化最小二乗推定量はすべての線形不偏推定量の中で最適であり、ガウス＝マルコフの定理が戦略的状況に拡張されることを示す。
• 均衡におけるノイズ分散は正の値をとるため、個人は常に推定精度を多少犠牲にしてでもプライバシーを保護している。
• このモデルは、指定された条件下では戦略的行動が一般化最小二乗推定量の最適性を損なわないことを示しており、重要な統計的保証が維持されることを裏付けている。