[論文レビュー] FR-Train: A Mutual Information-Based Approach to Fair and Robust Training

Yuji Roh, Kangwook Lee+2 more|arXiv (Cornell University)|Feb 24, 2020

Machine Learning and Algorithms参考文献 45被引用数 12

ひとこと要約

FR-Train は、2つのディスクライバ（公平性のためのものと耐性のためのもの）を介して相互情報量を活用することで、モデルの公平性とデータ汚染に対する耐性を同時に最適化する、GANベースの新規フレームワークである。汚染攻撃下でも高い精度と公平性を維持し、データ汚染に弱い既存の公平性手法よりも優れている。

ABSTRACT

Trustworthy AI is a critical issue in machine learning where, in addition to training a model that is accurate, one must consider both fair and robust training in the presence of data bias and poisoning. However, the existing model fairness techniques mistakenly view poisoned data as an additional bias to be fixed, resulting in severe performance degradation. To address this problem, we propose FR-Train, which holistically performs fair and robust model training. We provide a mutual information-based interpretation of an existing adversarial training-based fairness-only method, and apply this idea to architect an additional discriminator that can identify poisoned data using a clean validation set and reduce its influence. In our experiments, FR-Train shows almost no decrease in fairness and accuracy in the presence of data poisoning by both mitigating the bias and defending against poisoning. We also demonstrate how to construct clean validation sets using crowdsourcing, and release new benchmark datasets.

研究の動機と目的

• 信頼できるAIモデルを訓練するという重要な課題に取り組む。そのモデルは、公平性とデータ汚染に対する耐性を両方備えている必要がある。
• 既存の公平性手法がデータ汚染に対して脆弱であることを特定し、その結果、精度と公平性のトレードオフが劣化することを明らかにする。
• バイアス低減と汚染防御を同時に実現する統合的な訓練フレームワークを提案する。その際、相互情報量を活用する。
• クラウドソーシングを用いて清澄な検証データセットを構築することで、耐性のキャリブレーションが可能であることを示す。
• 再現可能な研究を支援するため、新しいベンチマークデータセットを公開する。

提案手法

• FR-Train は、予測と感受性属性の間の独立性を強制するディスクライバを介して、相互情報量に基づく公平性の解釈を導入することで、敵対的バイアス低減を拡張する。
• 2番目のディスクライバを導入し、訓練データの予測と清澄な検証データセットのラベルとの間の相互情報量を用いて、予測の一貫性を保証する。
• 耐性のディスクライバは、訓練データの予測と清澄な検証ラベルの間の相互情報量を最小化するように訓練され、データ品質の基準として機能する。
• ジェネレータ（分類器）と2つのディスクライバを敵対的訓練により同時に最適化することで、エンドツーエンドの公平かつ耐性のある学習を実現する。
• ロバストネスディスクライバの出力をもとに例の再重み付けを適用することで、汚染下でもさらに公平性と精度を向上させる。
• 清澄な検証データセットは、Amazon Mechanical Turk を用いたクラウドソーシングにより構築され、耐性のキャリブレーションの信頼できる基準が得られる。

実験結果

リサーチクエスチョン

• RQ1 既存の公平性手法は、データ汚染攻撃下でも性能を維持できるか？
• RQ2 相互情報量をどのように活用することで、モデル訓練における公平性と耐性を同時に最適化できるか？
• RQ3 クラウドソーシングを用いて清澄な検証データセットを効果的に構築できるか、耐性のキャリブレーションに役立つか？
• RQ4 公平性と耐性の訓練を1つのフレームワークに統合することで、汚染下での精度と公平性のトレードオフが改善されるか？
• RQ5 清澄な検証データセットが小さくても、あるいは存在しなくても、FR-Train は公平性と精度を維持できるか？

主な発見

• アドバーサリアル・デバイアス低減などの既存の公平性手法は、データ汚染攻撃下で著しい性能低下を示し、精度が 0.8 から 0.6 に低下する一方、公平性は変化しない。
• FR-Train は、汚染攻撃下でもほぼ完全な公平性を維持し、精度の低下も最小限（例：5％未満）に抑えられ、耐性があることが示された。
• 相互情報量に基づくロバストネスディスクライバは、汚染された訓練例の影響を効果的に同定・低減する。
• 小さなまたは不完全な清澄な検証データセットに対しても、フレームワークは有効であり、実用的な適応性を示している。
• データクリーニングを併用した場合、FR-Train はベースラインの公平性手法を上回り、汚染下での性能劣化を防げる。
• 著者らは、今後の公平かつ耐性のある学習分野の研究を支援するため、クラウドソーシングを用いて作成された2つの新しいベンチマークデータセットを公開した。