[論文レビュー] FAHT: An Adaptive Fairness-aware Decision Tree Classifier

Wenbin Zhang, Eirini Ntoutsi|arXiv (Cornell University)|Jul 16, 2019

Data Stream Mining Techniques参考文献 17被引用数 17

ひとこと要約

FAHT は、予測精度と公平性のバランスを取るために、新しい公平性に配慮した情報利得分割基準を統合した、データストリーム分類のための Hoeffding Tree アルゴリズムの拡張版である。変化するデータストリームにおいて、差別のを段階的に低減しつつ、中程度の性能を維持し、モデルの解釈可能性を損なわず、標準的な Hoeffding Tree よりも公平性指標で優れている。

ABSTRACT

Automated data-driven decision-making systems are ubiquitous across a wide spread of online as well as offline services. These systems, depend on sophisticated learning algorithms and available data, to optimize the service function for decision support assistance. However, there is a growing concern about the accountability and fairness of the employed models by the fact that often the available historic data is intrinsically discriminatory, i.e., the proportion of members sharing one or more sensitive attributes is higher than the proportion in the population as a whole when receiving positive classification, which leads to a lack of fairness in decision support system. A number of fairness-aware learning methods have been proposed to handle this concern. However, these methods tackle fairness as a static problem and do not take the evolution of the underlying stream population into consideration. In this paper, we introduce a learning mechanism to design a fair classifier for online stream based decision-making. Our learning model, FAHT (Fairness-Aware Hoeffding Tree), is an extension of the well-known Hoeffding Tree algorithm for decision tree induction over streams, that also accounts for fairness. Our experiments show that our algorithm is able to deal with discrimination in streaming environments, while maintaining a moderate predictive performance over the stream.

研究の動機と目的

• 過去の偏りのあるデータに起因する自動意思決定システムにおける公平性の欠如に対処すること。
• 静的公平性アプローチの限界を克服し、変化するデータストリームの分布に適応可能な仕組みを提供すること。
• 高い予測性能を維持しながら、感受性グループに対する差別を最小限に抑える意思決定木分類器を開発すること。
• 木の構築過程において、精度と公平性の両方を最適化する公平性に配慮した情報利得基準を導入すること。
• 意思決定境界における感受性属性との相関が低い属性を優先することで、モデルの解釈可能性を保証すること。

提案手法

• 従来の情報利得に加え、差別を増加させる分割をペナルティ化する公平性利得項を組み合わせた、公平性に配慮した情報利得（FIG）分割基準を提案する。
• Hoeffding Tree アルゴリズムを改変し、ノード分割に標準的な情報利得の代わりに FIG を使用することで、データストリームからのオンライン学習を可能にする。
• 公平性の指標として統計的平等を採用し、感受性群と非感受性群の間で正例分類率が等しくなるように保証する。
• ラベルが入手可能になるたびにリアルタイムでモデルを更新できるように、事前順序（先にテストしてから学習）の評価設定を採用する。
• 感受性属性との相関を低減するように意思決定境界を再構築することで、相関する特徴に起因する間接的バイアスを低減する。
• データ分布の変化に応じて適応的にモデルを更新する仕組みを実装し、公平性制約を維持する。

実験結果

リサーチクエスチョン

• RQ1 予測性能を維持しつつ、進化するデータストリームに効果的に適応できる公平性に配慮した意思決定木は実現可能か？
• RQ2 提案された公平性に配慮した情報利得基準は、標準的な情報利得と比較して、公平性と精度の両面で優れているか？
• RQ3 標準的な Hoeffding Tree と比較して、FAHT は感受性属性と意思決定境界との相関をどの程度低減しているか？
• RQ4 公平性制約下で、FAHT のモデル複雑度（ノード数など）は標準的な Hoeffding Tree と比べてどうか？
• RQ5 ストリーミング環境下で、属性選択が公平性およびモデルの解釈可能性に与える影響はいかほどか？

主な発見

• FAHT は標準的な Hoeffding Tree よりも顕著に低い差別スコアを達成し、Adult データセットにおいて感受性属性と予測境界との相関が 21% 減少（-0.21 から -0.20 へ）した。
• FAHT のモデル複雑度は HT よりも低く、木のノード数が少ないため、より保守的で、解釈可能性に優れた構造であると示唆された。
• FAHT は中程度の予測性能を維持しており、予測値と実際のクラス境界との相関が 0.23 であった（HT では 0.52）ため、真値とよりよく一致していることが示された。
• 公平性に配慮した情報利得基準により、感受性属性が意思決定境界に与える影響が実際に低減されており、感受性属性と予測分割とのピアソン相関係数が低くなったことが裏付けられた。
• FAHT は「年齢」を複数回にわたりキースプリット属性として再選択しており、収入と強く相関するが「資本利益」よりもバイアスが小さいため、より公平で安定した予測が得られている。
• FAHT は、公平性を維持しながらデータストリームの変化に動的に対応する分割を調整できることを示しており、実世界のオンライン応用に適している。