[論文レビュー] Characterizing the risk of fairwashing

Ulrich Aïvodji, Hiromi Arai+2 more|arXiv (Cornell University)|Jun 14, 2021

Law, Economics, and Judicial Systems被引用数 7

ひとこと要約

本稿は、説明の整合性と不平等のトレードオフに着目し、不正なブラックボックスモデルを操作された公平らしく見える説明で正当化する『フェアウォッシュ』のリスクを調査する。フェアウォッシュされた説明はグループ間で一般化され、異なるモデル間で転送可能であり、検出が極めて困難であることが示され、FaiRSフレームワークを用いたリスク定量化手法が提案されている。

ABSTRACT

Fairwashing refers to the risk that an unfair black-box model can be explained by a fairer model through post-hoc explanation manipulation. In this paper, we investigate the capability of fairwashing attacks by analyzing their fidelity-unfairness trade-offs. In particular, we show that fairwashed explanation models can generalize beyond the suing group (i.e., data points that are being explained), meaning that a fairwashed explainer can be used to rationalize subsequent unfair decisions of a black-box model. We also demonstrate that fairwashing attacks can transfer across black-box models, meaning that other black-box models can perform fairwashing without explicitly using their predictions. This generalization and transferability of fairwashing attacks imply that their detection will be difficult in practice. Finally, we propose an approach to quantify the risk of fairwashing, which is based on the computation of the range of the unfairness of high-fidelity explainers.

研究の動機と目的

• 後処理説明システムにおけるフェアウォッシュ攻撃の操作可能性を調査すること。
• フェアウォッシュされた説明が、標的とされたグループ以外のデモグラフィックグループへも一般化可能かどうかを評価すること。
• 再トレーニングなしに、フェアウォッシュ攻撃が異なるブラックボックスモデル間で転送可能かどうかを評価すること。
• フェアネス・イン・ザ・ラシュモント・セット（FaiRS）フレームワークを用いて、フェアウォッシュのリスクを定量化する手法を提案すること。
• 整合性ベースの検出手法がフェアウォッシュに対して有効でないことを挑戦し、その限界を示すこと。

提案手法

• 説明の整合性と公平性制約の両立を最適化する多目的最適化問題を解くために、ϵ制約法を用いる。
• ルールリストやロジスティック回帰などのサーヴィレートモデルを訓練し、ブラックボックスモデルを説明するが、公平性制約（例：等しい機会、統計的同一性）を適用する。
• 一般化の評価は、フェアウォッシュされた説明が標的とされなかったグループに対して示す整合性を測定し、元の（訴訟を起こした）グループでの整合性と比較する。
• 転送性の評価は、同じフェアウォッシュされた説明を別のブラックボックスモデルに適用し、新たなモデルにおける整合性と不平等度を測定することで行う。
• リスク定量化は、ラシュモント集合内の高整合性説明における不平等度の範囲を計算するFaiRSフレームワークを用いて実施する。
• 複数のデータセット（Adult Income, COMPAS, Default Credit, Marketing）、ブラックボックスモデル（AdaBoost, DNN, RF, XGBoost）、公平性基準（EOdds, EOpp, PE, SP）を用いて実験を実施する。

実験結果

リサーチクエスチョン

• RQ1 フェアウォッシュされた説明は、特にその説明のために設計されたグループを超えて一般化可能か？
• RQ2 ブラックボックスモデル間でフェアウォッシュ攻撃が転送可能か。特に、新しいモデルの予測にアクセスできない状況でも同様か？
• RQ3 整合性のみがフェアウォッシュ攻撃の検出に信頼できる指標か？
• RQ4 フェアネス・イン・ザ・ラシュモント・セット（FaiRS）フレームワークは、フェアウォッシュのリスクを効果的に定量化できるか？
• RQ5 高整合性説明における不平等度の範囲は何か。また、それは操作可能性とどのように関係するか？

主な発見

• フェアウォッシュされた説明は訴訟を起こしたグループを超えて一般化され、非標的グループでも元のグループと同等の整合性を示すため、広範な正当化能力を持つことが示された。
• フェアウォッシュ攻撃はブラックボックスモデル間で転送可能であり、同じ説明が異なるモデルでも高い整合性を維持する。モデルが同一でなくても同様の結果が得られた。
• フェアウォッシュされた説明の整合性は、多様なデータセットおよび公平性制約においても高く維持される（例：0.94以上）、操作可能性の強さを示唆している。
• 整合性ベースのフェアウォッシュ検出は、攻撃の一般化および転送性の高さにより効果がなく、グループおよびモデル間で一貫した高い整合性スコアが得られたことから、その限界が明らかになった。
• FaiRSフレームワークは、高整合性説明における不平等度の範囲を明らかにすることで、フェアウォッシュのリスクを効果的に定量化でき、整合性のみに依存する指標の代替として強固であることが示された。
• Marketingデータセット（ϵ=0.03）では、すべてのモデルおよび公平性基準において整合性が0.94以上で維持され、不平等度は常に0.03未満であった。これは攻撃に対する高い耐性を示している。