[論文レビュー] How Do Fair Decisions Fare in Long-term Qualification?

Xueru Zhang, Ruibo Tu+5 more|arXiv (Cornell University)|Oct 21, 2020

Ethics and Social Impacts of AI参考文献 25被引用数 9

ひとこと要約

本稿では、部分的に観測可能なマルコフ意思決定過程（POMDP）フレームワークを用いて、逐次的意思決定システムにおける静的公平性制約の長期的影響を検討する。公平性制約は、特徴分布の意思決定に対する感受性に応じて、資格格差を減少させることも、悪化させることもあることが示され、これらの制約下で均衡資格率を達成するしきい値ベースのポリシーを同定する。

ABSTRACT

Although many fairness criteria have been proposed for decision making, their long-term impact on the well-being of a population remains unclear. In this work, we study the dynamics of population qualification and algorithmic decisions under a partially observed Markov decision problem setting. By characterizing the equilibrium of such dynamics, we analyze the long-term impact of static fairness constraints on the equality and improvement of group well-being. Our results show that static fairness constraints can either promote equality or exacerbate disparity depending on the driving factor of qualification transitions and the effect of sensitive attributes on feature distributions. We also consider possible interventions that can effectively improve group qualification or promote equality of group qualification. Our theoretical results and experiments on static real-world datasets with simulated dynamics show that our framework can be used to facilitate social science studies.

研究の動機と目的

• アルゴリズム的意思決定における静的公平性制約が長期にわたりグループの資格率に与える影響を理解すること。
• 逐次的意思決定における意思決定、個人の行動、進化する特徴分布の間のフィードバックループをモデル化すること。
• POMDPフレームワークを用いて、公平性制約下での資格率の均衡状態を特徴づけること。
• 公平性制約が長期的結果において平等を促進するか、格差を悪化させるかの条件を同定すること。
• 均衡状態でのグループの資格率を向上させたり、公平性を促進する有効な干渉策を提案すること。

提案手法

• 個人の反応が時間経過とともに特徴と資格状態に影響を与える離散時間POMDPとして意思決定プロセスをモデル化する。
• 特徴分布に基づいて意思決定を決定するしきい値ベースのポリシーを用い、公平性と効用のバランスからしきい値を導出する。
• 遷移確率と公平性制約に依存する固定点方程式を用いて、均衡資格率を特徴づける。
• 平均値の定理と逆関数解析を用いて、特定の条件下で均衡の存在と一意性を証明する。
• 合成データおよび実世界のデータセットを用いてダイナミクスをシミュレートし、理論的発見を検証する。
• 遷移確率の調整や標的的なポリシー変更を含む干渉策を導入し、長期的公平性を向上させる。

実験結果

リサーチクエスチョン

• RQ1 静的公平性制約がグループ間の長期的資格格差を改善または悪化させる条件は何か？
• RQ2 意思決定と個人行動の間のフィードバックダイナミクスが、均衡資格率の安定性と公平性にどのように影響するか？
• RQ3 均衡状態でグループの資格率の平等を効果的に促進するポリシー干渉はどのようなものか？
• RQ4 しきい値ベースのポリシーは公平性制約下で安定な均衡資格率を達成できるか？ その均衡が一意である条件は何か？
• RQ5 特徴分布の意思決定結果に対する感受性が、公平性制約の長期的影響にどのように影響するか？

主な発見

• 静的公平性制約は、資格遷移の駆動要因が不利なグループを支援するか否かに応じて、資格格差を減少させることも、悪化させることもある。
• 異なるグループの遷移確率の可能性集合が重複する場合、資格率の唯一の均衡が存在し、安定した長期的結果が保証される。
• 遷移確率が意思決定結果に感受性を示す場合、フィードバックループにより公平性制約が意図しない長期的格差を引き起こす可能性がある。
• 不利なグループの努力の効果を高めるなど、遷移確率を調整する干渉策は、より高い均衡資格率と高い公平性をもたらす。
• 理論的分析により、しきい値ポリシーは資格率を安定化でき、逆関数比の逆関数が適切に定義されかつ単調である場合に均衡は一意であることが示された。
• 合成および実世界のデータセットを用いた実験により、フレームワークが長期的公平性結果を正確に予測でき、ドメインを超えたポリシー分析を支援することが確認された。