[論文レビュー] Fairness-Aware PAC Learning from Corrupted Data

Nikola Konstantinov, Christoph H. Lampert|arXiv (Cornell University)|Feb 11, 2021

Privacy-Preserving Technologies in Data被引用数 4

ひとこと要約

この論文は、悪意あるデータ汚染下における公平性に配慮したPAC学習の根本的限界を調査し、無限のデータが与えられても、悪意ある攻撃者が訓練データの一部を汚染する状況では、いかなる学習アルゴリズムでも公平性を保証できないことを示している。また、公平性指標における過剰バイアスが、代表が不足している保護群の頻度に反比例することを証明し、悪意ある敵対者モデル下で2つの自然な学習アルゴリズムに対して順序最適な保証を確立し、理論的境界が定数要因を除いてタイトであることを示している。

ABSTRACT

Addressing fairness concerns about machine learning models is a crucial step towards their long-term adoption in real-world automated systems. While many approaches have been developed for training fair models from data, little is known about the robustness of these methods to data corruption. In this work we consider fairness-aware learning under worst-case data manipulations. We show that an adversary can in some situations force any learner to return an overly biased classifier, regardless of the sample size and with or without degrading accuracy, and that the strength of the excess bias increases for learning problems with underrepresented protected groups in the data. We also prove that our hardness results are tight up to constant factors. To this end, we study two natural learning algorithms that optimize for both accuracy and fairness and show that these algorithms enjoy guarantees that are order-optimal in terms of the corruption ratio and the protected groups frequencies in the large data limit.

研究の動機と目的

• 最悪のデータ汚染下における公平性に配慮した機械学習のロバスト性を調査すること。
• 悪意ある攻撃者が訓練データを意図的に操作する状況でも、公平性の保証が維持可能かどうかを分析すること。
• 特に代表が不足している保護群に注目し、汚染されたデータが存在する状況下での公平性に配慮した学習の根本的限界を特定すること。
• 公平性学習における過剰バイアスと汚染耐性の理論的境界をタイトに確立すること。
• 大規模データ下での悪意ある汚染下における、自然な公平性最適化学習アルゴリズムの性能を評価し、順序最適性を証明すること。

提案手法

• 悪意ある敵対者によるデータ汚染をモデル化し、訓練データの一部を任意のデータに置き換える。敵対者は学習アルゴリズムとデータ分布を完全に把握している。
• 2つの標準的な公平性制約に焦点を当てる：バイナリ分類におけるデモグラフィックパリティと等しい機会。
• PAC学習理論を用いて、悪意ある汚染下での一般化境界を導出し、同時に精度と公平性を分析する。
• 集中不等式と和集合の不等式を適用し、汚染下での経験的リスクと公平性のずれに関する高確率境界を導出する。
• 2つの自然な学習アルゴリズムに対して上界を構築することで、ハードネス結果が定数要因を除いてタイトであることを証明する。
• 保護群の頻度が、根拠のない公平性バイアスに与える影響を分析し、よりレアなグループの頻度に反比例することを示す。

実験結果

リサーチクエスチョン

• RQ1 任意の悪意あるデータ汚染下でも、公平性に配慮した学習アルゴリズムが公平性を保証できるか？
• RQ2 悪意ある敵対者が訓練データを汚染する状況下で、学習における公平性の根本的限界は何か？
• RQ3 代表が不足している保護群の頻度は、汚染下での公平性指標における不可避バイアスにどのように影響するか？
• RQ4 大規模データ下で、汚染率とグループ頻度の両方に最適にスケーリングする学習アルゴリズムは存在するか？
• RQ5 データ汚染によって生じる過剰バイアスはバインド可能であり、その境界は定数要因を除いてタイトか？

主な発見

• 無限のデータが与えられても、悪意あるデータ汚染下では、いかなる公平性に配慮した学習アルゴリズムでも、精度-公平性パレートフロントへの収束を保証できない。
• 公平性指標における不可避な過剰バイアスは、より少ない保護群の頻度に反比例するため、代表が不足しているグループは特に脆弱である。
• 敵対者は、任意の学習者に対して、精度は保証されつつも極めて偏った分類器を生成させることができ、プライバシー保護システムでも検出を避けられる可能性がある。
• ハードネス結果は、2つの自然な学習アルゴリズムに対する一致する上界によって、定数要因を除いてタイトであることが示された。
• 両方のアルゴリズムは大規模データ下で順序最適な性能を達成し、汚染率と保護群頻度に最適にスケーリングする保証を持つ。
• 理論的境界は、保護群の頻度が低い場合、最適な学習戦略を採用しても、公平性のロバスト性が著しく低下することを示している。