[論文レビュー] Fair Decision Making using Privacy-Protected Data

Satya Kuppam, Ryan McKenna+4 more|arXiv (Cornell University)|May 29, 2019

Privacy-Preserving Technologies in Data参考文献 25被引用数 8

ひとこと要約

本稿は、米国国勢調査の実際のデータを用いて、微分プライバシーがリソース配分意思決定における公平性に与える影響を調査し、厳格なプライバシー（低ε）が代表が不十分なグループに顕著に悪影響を及ぼす可能性があることを示している。公平性に配慮した指標と是正策を提案し、プライバシー機構からのノイズが、特に小規模集団や閾値ベースの意思決定において、結果の格差を拡大することを実証した。

ABSTRACT

Data collected about individuals is regularly used to make decisions that impact those same individuals. We consider settings where sensitive personal data is used to decide who will receive resources or benefits. While it is well known that there is a tradeoff between protecting privacy and the accuracy of decisions, we initiate a first-of-its-kind study into the impact of formally private mechanisms (based on differential privacy) on fair and equitable decision-making. We empirically investigate novel tradeoffs on two real-world decisions made using U.S. Census data (allocation of federal funds and assignment of voting rights benefits) as well as a classic apportionment problem. Our results show that if decisions are made using an $ε$-differentially private version of the data, under strict privacy constraints (smaller $ε$), the noise added to achieve privacy may disproportionately impact some groups over others. We propose novel measures of fairness in the context of randomized differentially private algorithms and identify a range of causes of outcome disparities.

研究の動機と目的

• 感受性の高い公共データを用いた現実世界の配分意思決定における微分プライバシーの影響を調査すること。
• プライバシー保護のためのノイズが、代表が不十分なグループや小規模集団に特に顕著に影響を及ぼす仕組みを同定すること。
• ランダム化された、微分プライバシーに適合するアルゴリズムに特化した公平性指標を開発すること。
• プライバシー保証を維持したまま結果の格差を低減する措置を提案・評価すること。
• 一般的に用いられるプライバシー機構（例：ラプラス機構）が、実際の場面で不平等な結果をもたらす可能性があるかどうかを評価すること。

提案手法

• 1971年のインディアン州の人口データを用いて、連邦資金配分、投票権の恩恵、議会議席の配分という3つの現実世界の意思決定を実証的に評価する。
• さまざまなε値を用いてラプラス機構を適用し、微分プライバシーに適合するデータの公開を模擬する。
• 平均予想偏差（クォータからの逸脱）と最大乗法的格差といった公平性指標を用いて、結果の公平性を評価する。
• 微分プライバシーに適合するデータの結果を、ベースライン（真の値）とランダム化された非プライベートな配分手法の結果と比較する。
• プライベートデータのノイズを考慮した修正された配分アルゴリズムを提案・テストし、プライバシー保証を維持したまま公平性を向上させる。
• 格差の原因を分析し、アルゴリズム的バイアス、閾値条件、人口規模の影響を含む。

実験結果

リサーチクエスチョン

• RQ1 プライバシー損失予算εの選択が、微分プライバシーに適合するデータに基づくリソース配分意思決定における公平性にどのように影響するか。
• RQ2 微分プライバシーが、大規模集団と小規模集団の間で配分結果に格差を生じさせたり、拡大させたりする程度はどの程度か。
• RQ3 ランダム化されたプライベートなアルゴリズムに特化した公平性指標は、従来の誤差測定では見えない格差を検出できるか。
• RQ4 プライバシー保護された意思決定システムにおける結果の格差の根本的原因は何か（例：閾値効果、偏ったノイズなど）。
• RQ5 修正された配分手順は、微分プライバシーの保証を維持したまま、不平等を是正できるか。

主な発見

• 一部のε値（例：ε ≈ 1.4×10⁻⁶ から 3.8×10⁻⁴）では、ラプラス機構からのノイズがクォータからの予想偏差を低下させ、平均的に配分の公平性を向上させる可能性がある。
• εが小さくなるにつれて、州間の最大乗法的格差が増加し、厳格なプライバシーが実際の結果における不平等を増大させることを示している。
• ε = 1.4×10⁻⁵ の場合、多くの州でクォータからの予想偏差が真のデータよりも顕著に低くなるが、これは達成不可能な予想結果である。
• 小規模集団はノイズの影響を特に強く受け、相対誤差が大きくなり、代表不十分のリスクが高まる。
• 少数語の投票権を求めるような意思決定における閾値条件は、プライベートデータが臨界閾値を越えると、格差を拡大させる可能性がある。
• 修正された配分手順などの是正策は不公平を低減できるが、規制的制約や一部のアルゴリズムにおける誤差境界のサポート不足によって複雑化される。