[論文レビュー] Balanced Ranking with Diversity Constraints

Ke Yang, Vasilis Gkatzelis+1 more|arXiv (Cornell University)|Jun 4, 2019

Game Theory and Voting Systems参考文献 22被引用数 9

ひとこと要約

本稿は、多様性制約下でのセット選択およびランク付けアルゴリズムにおけるグループ内非対称性に注目し、歴史的に不利な立場にあったグループが、公平性の目標にもかかわらず体系的に代表されない問題を扱う。整数線形計画法（ILP）モデルを提案し、感受性属性ごとにグループ内公平性をバランスさせる。実験を通じて、効用と公平性のトレードオフを定量化し、最小限の性能損失で緩和可能であることを示している。

ABSTRACT

Many set selection and ranking algorithms have recently been enhanced with diversity constraints that aim to explicitly increase representation of historically disadvantaged populations, or to improve the overall representativeness of the selected set. An unintended consequence of these constraints, however, is reduced in-group fairness: the selected candidates from a given group may not be the best ones, and this unfairness may not be well-balanced across groups. In this paper we study this phenomenon using datasets that comprise multiple sensitive attributes. We then introduce additional constraints, aimed at balancing the \in-group fairness across groups, and formalize the induced optimization problems as integer linear programs. Using these programs, we conduct an experimental evaluation with real datasets, and quantify the feasible trade-offs between balance and overall performance in the presence of diversity constraints.

研究の動機と目的

• セット選択における多様性制約の意図しない副作用を同定・定量化すること：歴史的に不利な立場にあったグループにおけるグループ内公平性の低下。
• グループ内公平性を測定可能な指標として形式化し、異なる感受性属性グループ間での損失のバランスを取るための手法を提案すること。
• 多様性制約を満たしつつ、グループ内公平性をバランスさせるような最適化モデル（特に整数線形計画法）の開発。
• 多様なデータセットを用いた実験的評価を通じて、全体の効用と公平性のトレードオフを評価し、バランスの取れた結果の実現可能性を示すこと。
• グループ間のスコア格差がグループ内非対称性に与える影響を調査し、不均等な被害を緩和するための戦略を提案すること。

提案手法

• 各感受性属性グループ内の選択候補の質を、そのグループ内で最高の候補と比較することで、グループ内公平性を形式化する。
• 2つの公平性指標を導入：すべてのグループにおける最小のグループ内公平性、およびレキシミン公平性ベクトルを用いて損失をバランスさせる。
• 多様性制約と公平性バランスの目的関数を満たすように、総効用を最大化する整数線形計画法（ILP）を構築する。
• ILPフレームワークを、プレフィックスベースの多様性制約を伴うセット選択および順序付きリスト生成の両方に対応するように拡張する。
• レキシミン解を用いて、最も不利なグループに公平性を優先し、グループ内品質の損失をバランスさせる。
• 実世界のデータセットを用いた実験的評価を通じて、さまざまな制約設定下での効用と公平性のトレードオフを定量化する。

実験結果

リサーチクエスチョン

• RQ1 セット選択における多様性制約は、歴史的に代表が薄いグループに対して、どの程度不均等なグループ内非対称性を引き起こすか？
• RQ2 アルゴリズム的選択において、複数の感受性属性にわたるグループ内公平性をどのように形式的に測定・バランスさせるか？
• RQ3 多様性およびグループ内公平性制約を同時に適用した場合、全体の効用と公平性のトレードオフはどの程度か？
• RQ4 グループ間のスコア格差が、制約付き選択におけるグループ内非対称性の度合いにどのように影響するか？
• RQ5 整数線形計画法モデルは、実世界のデータセットにおいて、高い効用を維持しつつグループ間の公平性を効果的にバランスさせることができるか？

主な発見

• 本稿は、多様性制約が顕著なグループ内非対称性を引き起こす可能性があることを示している。特に、不利な立場にあるグループの低スコアメンバーが、高スコアメンバーよりも優先選択されることがある。
• 12人の候補者が関与する実世界の例では、多様性制約下での効用最大化解が、上位2名の男性（AとB）のみを選択し、上位2名の女性（CとD）を除外した。
• 代替解では、効用は372（対象373）とほぼ同等であり、全グループの上位候補（A、C、E、K）を含んでおり、公平性は顕著に向上したが、効用コストは最小限であった。
• 著者らは、グループ間のスコア格差が大きいほど、グループ内公平性の不均衡が顕著になる傾向があることを観察し、不利な立場にあるグループに構造的なリスクがあると示唆している。
• ILPベースのアプローチは、グループ間でグループ内公平性をうまくバランスさせることができ、実験結果から、全体の効用に著しい損失を伴わずに公平性を向上させられることを示している。
• NP困難な最適化問題であっても、ILPによる正確な解法を用いることで、実用的状況における非対称性を定量化・緩和可能であることが確認された。