[論文レビュー] Dynamic Modeling and Equilibria in Fair Decision Making

Joshua Williams, J. Zico Kolter|arXiv (Cornell University)|Nov 15, 2019

Ethics and Social Impacts of AI参考文献 28被引用数 5

ひとこと要約

本稿では、ローン承認などの動的意思決定における長期的公平性を研究するため、連続的でベータ分布に従う人口モデルを提案する。非制約的なポリシーでは、富めるものほど富む（マシュー効果）、貧しいものほど貧しくなるという分岐が生じるが、機会均等やデモグラフィックパリティといった公平性制約を導入することで、両グループが同じ均衡に収束することが示された。しかし、支払い確率の誤推定が生じる場合、公平なポリシーのもとでも発散が生じる可能性がある。

ABSTRACT

Recent studies on fairness in automated decision making systems have both investigated the potential future impact of these decisions on the population at large, and emphasized that imposing ''typical'' fairness constraints such as demographic parity or equality of opportunity does not guarantee a benefit to disadvantaged groups. However, these previous studies have focused on either simple one-step cost/benefit criteria, or on discrete underlying state spaces. In this work, we first propose a natural continuous representation of population state, governed by the Beta distribution, using a loan granting setting as a running example. Next, we apply a model of population dynamics under lending decisions, and show that when conditional payback probabilities are estimated correctly 1) ``optimal'' behavior by lenders can lead to ''Matthew Effect'' bifurcations (i.e., ''the rich get richer and the poor get poorer''), but that 2) many common fairness constraints on the allowable policies cause groups to converge to the same equilibrium point. Last, we contrast our results in the case of misspecified conditional probability estimates with prior work, and show that for this model, different levels of group misestimation guarantees that even fair policies lead to bifurcations. We illustrate some of the modeling conclusions on real data from credit scoring.

研究の動機と目的

• 自動意思決定における人口動態を、グループレベルの返済確率を捉える連続時間プロセスとして、ベータ分布に従うモデル化を行う。
• 公平性制約が反復的意思決定システムにおける長期的結果に与える影響を調査し、特にグループ均衡が収束するか発散するかを明らかにする。
• 条件付き返済確率の誤推定が公平性結果に与える影響を検討する。特に、代表されていないグループに対してモデルがリスクを系統的に低く推定する場合に注目する。
• 公的信用スコアリングデータを用いて、公平性定義ごとのポリシーの実世界的影響を評価し、政策のパフォーマンスを検証する。
• 従来の仮定に挑戦し、推定誤差がグループ間で異なる場合、公平なポリシーであっても収束を達成できない可能性があることを示す。

提案手法

• 平均（μ）と集中度（c）でパrameter化されたベータ分布を用いて、個人の返済確率の分布を人口状態としてモデル化する。
• 機会均等やデモグラフィックパリティなどの公平性制約を、ベータ分布の累積分布関数に関する解析的条件として定義する。
• 期待リターンとグループレベルのダイナミクスに基づく決定的更新ルールに従い、ローン意思決定が人口状態を更新する動的システムを定式化する。
• 実世界の信用スコアリングデータを用いて、Blackおよび非ヒスパニック・ブラックでない白人申請者のμとcを推定し、時間経過に伴うポリシー軌道をシミュレートする。
• 非制約的、公平的、ブラインド（保護属性を無視する）ポリシーの下での均衡行動を分析し、収束、分岐、長期的福祉結果を比較する。
• グループ間で条件付き返済確率の推定値を変化させることで誤推定を導入し、公平性保証のロバストネスを評価する。

実験結果

リサーチクエスチョン

• RQ1 動的意思決定システムにおける公平性制約は、劣位・優位グループが同じ均衡に長期的に収束するか？
• RQ2 機会均等やデモグラフィックパリティといった異なる公平性定義は、時間経過に伴うグループレベルの返済確率の進化にどのように影響するか？
• RQ3 推定誤差、特にグループ間で異なる誤差率が、公平な結果を達成するための公平性制約の有効性をどの程度損なうか？
• RQ4 利益最大化を目的とする非制約的ポリシーは、長期的グループ福祉の観点から、公平なポリシーを上回るか下回るか、どのような条件下でそうなるか？
• RQ5 実世界の信用スコアリングデータのパターンは、提案された動的公平性モデルの理論的予測を、どの程度反映しているか、あるいは挑戦しているか？

主な発見

• 非制約的利益最大化ポリシーは、優位グループは向上し、劣位グループは停滞するという分岐を引き起こし、マシュー効果が生じる。
• 機会均等やデモグラフィックパリティといった公平性制約は、一時的な被害が生じても、両グループが同じ肯定的均衡に収束することを示す。
• 保護属性を無視するブラインドポリシーは、両グループの長期的結果を悪化させ、公平性のための適切なモデリングがなければ、公平性が逆効果になることを示している。
• デモグラフィックパリティは一時的に優位グループに被害を及げるが、最終的には全員にとってより良い長期的均衡をもたらす。短期的コストが長期的利益をもたらすことを示している。
• 条件付き返済確率が誤推定されると（特に歴史的に劣位とされたグループに対して高い誤差率がある場合）、公平なポリシーでも収束を保証できず、持続的な分岐が生じる。
• モデルは、正確なグループレベルの分布推定が、公平なポリシー制約のもとでも、公平な長期的結果を達成するために不可欠であることを示している。