[論文レビュー] Truthful Linear Regression

Rachel Cummings, Stratis Ioannidis+1 more|arXiv (Cornell University)|Jun 10, 2015

Privacy-Preserving Technologies in Data参考文献 11被引用数 25

ひとこと要約

本稿では、個人がプライバシーを重視する設定において線形回帰のための真実性のあるメカニズムを提案する。微分プライバシー計算とピア予測に基づく報酬体系を組み合わせることで、漸近的に真実の報告が保証され、推定の正確性が保たれ、参加者数が増加するにつれて総報酬予算が消えるようになる。

ABSTRACT

We consider the problem of fitting a linear model to data held by individuals who are concerned about their privacy. Incentivizing most players to truthfully report their data to the analyst constrains our design to mechanisms that provide a privacy guarantee to the participants; we use differential privacy to model individuals' privacy losses. This immediately poses a problem, as differentially private computation of a linear model necessarily produces a biased estimation, and existing approaches to design mechanisms to elicit data from privacy-sensitive individuals do not generalize well to biased estimators. We overcome this challenge through an appropriate design of the computation and payment scheme.

研究の動機と目的

• プライバシーを重視する個人から真実のデータを引き出すという線形回帰の設定における課題に対処すること。
• 微分プライバシー推定器に内在するバイアスが、既存のインcentive-compatible（インcentive適合）メカニズムを損なうという問題を克服すること。
• 推定の正確性を維持しつつ、参加者が真実を報告するインセンティブを持つメカニズムを設計すること。
• 参加を促すために必要な総報酬予算を最小化し、漸近的な予算効率性を達成すること。
• 微分プライバシーによって生じるバイアスを持つ推定器に対応できるように、ピア予測メカニズムを一般化すること。

提案手法

• 微分プライバシーを用いて個人のプライバシー損失をモデル化・限定し、データ報告が保護されることを保証する。
• 強い凸性を持つ正則化損失関数を導入し、推定の安定化と収束の保証を図る。
• ピア予測メカニズムを適用し、参加者間の報告の一貫性に基づいて報酬を計算する。
• 個人のインセンティブを正確なモデル推定の目的と一致させることで、真実の報告を奨励する報酬体系を設計する。
• 微分プライバシーの合成特性を活用し、虚偽報告による期待効用損失を限定する。
• 参加者数が増加するにつれて、真実報告の期待効用が虚偽報告の期待効用を上回る余地を拡大するように保証する。

実験結果

リサーチクエスチョン

• RQ1 参加者がプライバシーを重視する状況において、真実の報告を促すメカニズムを設計できるか？
• RQ2 バイアスを必然的に含む微分プライバシーは、真実の報告インセンティブとどのように調和できるか？
• RQ3 推定器のバイアスが存在する中でも、真実の報告が優位戦略となる報酬メカニズムは何か？
• RQ4 参加者数が増加するにつれて、総報酬予算を漸近的に小さくできるか？
• RQ5 参加者数が増加する中でも、推定の正確性は維持されるか？

主な発見

• 提案されたメカニズムは漸近的真実性を達成しており、参加者がデータを虚偽報告するインセンティブを持たないことを意味する。
• 参加者数が増加するにつれて、推定器の真のモデルとの二乗L2距離がゼロに収束するため、正確性が保証される。
• 参加者数が増加するにつれて、メカニズムが要請する総報酬予算はゼロに近づき、漸近的な予算効率性が達成される。
• メカニズムは大多数の参加者に対して正の効用を保証し、参加を促進する。
• 理論的分析により、微分プライバシーとピア予測を組み合わせることで、真実かつ正確な回帰メカニズムが得られることを確認した。
• プライバシーコストの分布に対する弱い仮定と正則化損失関数の強い凸性の仮定のもとで、メカニズムは頑健である。