[論文レビュー] Decision Making with Differential Privacy under a Fairness Lens

Ferdinando Fioretto, Cuong Dinh Tran+1 more|arXiv (Cornell University)|May 16, 2021

Privacy-Preserving Technologies in Data参考文献 17被引用数 5

ひとこと要約

この論文は、人口調査データの微分プライバシー（DP）が、下流のリソース配分意思決定において、特に代表が不足しているグループに不利な影響を及える可能性があるかを調査している。形式的な公平性の定義を提示し、意思決定ルールにおけるバイアスの構造的要因を同定し、修正されたポストプロセッシングや予算調整といった緩和戦略を導入することで、プライバシーを保ちながら不公平性を低減する。

ABSTRACT

Agencies, such as the U.S. Census Bureau, release data sets and statistics about groups of individuals that are used as input to a number of critical decision processes. To conform to privacy and confidentiality requirements, these agencies are often required to release privacy-preserving versions of the data. This paper studies the release of differentially private data sets and analyzes their impact on some critical resource allocation tasks under a fairness perspective. {The paper shows that, when the decisions take as input differentially private data}, the noise added to achieve privacy disproportionately impacts some groups over others. The paper analyzes the reasons for these disproportionate impacts and proposes guidelines to mitigate these effects. The proposed approaches are evaluated on critical decision problems that use differentially private census data.

研究の動機と目的

• 微分プライバシーが人権調査データの公開に用いられる場合、特定のグループが重要な意思決定プロセスにおいて不利益を被る可能性があるかを理解すること。
• 微分プライバシー制約下での意思決定における公平性および境界付き公平性を形式的に定義すること。
• 論理述語の組み合わせやポストプロセッシングなど、意思決定ルールにおける構造的要因—特に、リソース配分ルールにおける不公平性を助長する要因—を同定すること。
• 強いプライバシー保証を維持しつつ、不公平性を低減する実用的な緩和戦略を提案すること。
• 微分プライバシーのノイズによる負の配分を回避するために必要な予算の増加という観点から、プライバシーのコストを定量化すること。

提案手法

• 微分プライバシー下での意思決定における公平性および境界付き公平性の形式的フレームワークを提案し、公平性違反が有限のまま保たれる条件を定義する。
• 資金配分、言語支援、ワクチン配布といった事例を検討し、公平性への影響を評価する意思決定問題を分析する。
• ノイズの出力を調整して非負の配分を保証する修正されたポストプロセッシング技術を導入し、正規化によるバイアスを低減する。
• 微分プライバシーによる負の配分を回避するために必要な予算増加を定量化する「プライバシーのコスト」指標を定義し、ベース予算でスケーリングされた絶対値の負の配分の合計として定義する。
• 10^4回のサンプリングに基づく誤差推定を用いて、さまざまなメカニズムにおける平均絶対誤差および公平性への影響を評価する。
• 論理的組み合わせ解析を用い、意思決定ルールにおけるブール論理述語の組み合わせが微分プライバシー下で公平性に与える影響を理解する。

実験結果

リサーチクエスチョン

• RQ1 微分プライバシーのデータを用いた意思決定問題が、どのような条件下で境界付き公平性違反を示すか？
• RQ2 意思決定ルールにおける論理的述語の組み合わせが、微分プライバシーのデータに適用された場合、公平性にどのように影響するか？
• RQ3 意思決定ルールの構造的要素—正規化やポストプロセッシングなど—の中で、DP保護データにおける不公平性を最も助長するものは何か？
• RQ4 修正されたポストプロセッシングは、プライバシー保証を損なわずに、どの程度不公平性を低減できるか？
• RQ5 微分プライバシーによる負の配分を排除するために必要な財政的コスト（予算増加）は、どの程度か？

主な発見

• 教育資金配分やワクチン配布といった高影響度の意思決定問題では、微分プライバシー保護下の人権調査データを用いることで、本質的な不公平性が生じる。
• DPメカニズムにおけるポストプロセッシングによる正規化が、小さなグループや代表が不足しているグループに特に大きなペナルティを課すバイアスを生じさせ、不公平性を増幅させる。
• 正規化を回避する修正されたポストプロセッシングは、平均絶対誤差にほとんど影響を与えないまま、不公平性を低減する。これは実証的評価で確認された。
• 負の配分を回避するために必要な予算増加として定義される「プライバシーのコスト」は、非常に大きな額に達する可能性がある—例えば、特定のメカニズムではニューヨーク州の郡で最大12億ドルにのぼる。
• 意思決定ルールにおける論理的述語の組み合わせは、公平性に顕著な影響を及ぼし、複雑な論理的組み合わせはDPノイズに起因するバイアスを拡大する。
• 本研究は、DPにおける公平性の問題が、データ収集に起因するだけではなく、意思決定ルールやメカニズムの設計そのものに内在していることを示している。