[論文レビュー] Learning Fair and Transferable Representations

Luca Oneto, Michele Donini+2 more|arXiv (Cornell University)|Jun 25, 2019

Ethics and Social Impacts of AI参考文献 35被引用数 8

ひとこと要約

本論文は、低ランク行列分解を活用して、複数のタスクにわたる公平性を保証する共有の表現を学習するマルチタスク学習フレームワークを提案する。表現行列に対する直接的な公平性制約を課すことにより、未学習タスクにおいて予測精度および公平性指標の両面で優れた転送性能を達成し、3つの実世界データセットにおいて最先端の手法を上回る性能を示した。

ABSTRACT

Developing learning methods which do not discriminate subgroups in the population is a central goal of algorithmic fairness. One way to reach this goal is by modifying the data representation in order to meet certain fairness constraints. In this work we measure fairness according to demographic parity. This requires the probability of the possible model decisions to be independent of the sensitive information. We argue that the goal of imposing demographic parity can be substantially facilitated within a multitask learning setting. We leverage task similarities by encouraging a shared fair representation across the tasks via low rank matrix factorization. We derive learning bounds establishing that the learned representation transfers well to novel tasks both in terms of prediction performance and fairness metrics. We present experiments on three real world datasets, showing that the proposed method outperforms state-of-the-art approaches by a significant margin.

研究の動機と目的

• 機械学習における不公平なモデル行動の課題に取り組むこと、特に事前学習モデルを新しいタスクに微調整する際の課題に焦点を当てる。
• 新しいタスクにわたる差別の的転送のリスクを回避し、公平性が一般化することを保証すること。
• 複数のタスクにわたる共有表現を学習すると同時に、デモグラフィックパリティを強制すること。
• 学習済み表現が予測性能および公平性の両面で良好に一般化することを理論的および実験的に示すこと。

提案手法

• 本手法は、複数のタスクにわたる共有表現を学習するために低ランク行列分解を用いる。これにより、タスク間の類似性と転送性が促進される。
• 公平性制約を表現因子行列に直接課すことにより、デモグラフィックパリティを確保し、モデルの意思決定が感受性属性に依存しないようにする。
• アプローチは公平性をマルチタスク学習の目的関数に統合し、モデル出力経由での間接的強制を回避する。
• 感受性属性がモデルの関数形に含まれるか含まれないかの両方の状況をサポートする。
• 予測誤差および公平性指標の両面での一般化性能を分析するための理論的学習境界を導出する。
• 本手法は、感受性属性の有無にかかわらず、3つの実世界データセット（School, UNIGE, Movielens）で評価された。

実験結果

リサーチクエスチョン

• RQ1 低ランク制約を用いたマルチタスク学習で学習された共有表現は、新しい未学習タスクにおいて、公平性および予測性能の両面で良好に一般化できるか？
• RQ2 表現行列自体に公平性を直接制約することと、モデル出力経由での間接的公平性強制とでは、それぞれどのように異なるか？
• RQ3 学習済み表現の理論的一般化保証は、精度および公平性の両面でどのように評価できるか？
• RQ4 本手法は、実世界のデータセットにおいて、公平性および予測性能の両面で最先端の手法を上回るか？
• RQ5 モデルの関数形に感受性属性が存在するか否かが、公平な表現の性能にどのように影響するか？

主な発見

• 感受性属性がモデルの関数形に含まれない状況において、Movielensデータセットで新しいタスクに対して最小の公平性リスク（0.015 ± 0.003）を達成し、すべてのベースラインを上回った。
• Schoolデータセットでは、新しいタスクに対して誤差13.65 ± 0.82および公平性リスク0.017 ± 0.001を達成し、優れた転送性を示した。
• 制約なしまたはSTLベースの手法と比較して、高い精度（例：Schoolでは15.64 ± 0.79）を維持しながら、大幅に公平性リスクを低減した。
• すべての設定において、最先端の手法と同等またはそれ以上の精度を達成するとともに、より低い公平性リスクを実現した。
• 理論的学習境界は、予測誤差および公平性の両面で改善された一般化保証を示し、完全にデータに依存する境界により、転送能力が評価された。
• 実験的結果は、共有された公平な表現が未学習タスクに良好に一般化されることを確認しており、すべてのデータセットおよび設定で一貫した公平性の向上が見られた。