[論文レビュー] Deontological Ethics By Monotonicity Shape Constraints

Serena Wang, Maya R. Gupta|arXiv (Cornell University)|Jan 31, 2020

Ethics and Social Impacts of AI参考文献 55被引用数 6

ひとこと要約

本稿では、機械学習モデルにおける単調性の形状制約を用いて、より高い収入や教育水準といった良い属性を罰しないというデオントロジカル倫理的原則を強制することを提案する。これにより、不公平なモデル行動を防ぐ。この手法は、モデルの性能を損なうことなく、倫理的適合性と結果志向的公平性指標の両方を向上させる。

ABSTRACT

We demonstrate how easy it is for modern machine-learned systems to violate common deontological ethical principles and social norms such as "favor the less fortunate," and "do not penalize good attributes." We propose that in some cases such ethical principles can be incorporated into a machine-learned model by adding shape constraints that constrain the model to respond only positively to relevant inputs. We analyze the relationship between these deontological constraints that act on individuals and the consequentialist group-based fairness goals of one-sided statistical parity and equal opportunity. This strategy works with sensitive attributes that are Boolean or real-valued such as income and age, and can help produce more responsible and trustworthy AI.

研究の動機と目的

• 現代の非線形機械学習モデルが、より高い収入や教育水準といった有益な入力を罰する形で、デオントロジカル倫理に無意識に反する行動をとる仕組みを特定すること。
• 単調性制約が、モデルの予測においてこうした不公平な罰則を効果的に防げるかどうかを示すこと。
• デオントロジカル単調性制約と結果志向的公平性目標（例：片側統計的同一性、等しい機会）との関係を分析すること。
• 単調性制約が、法科大学院入学、クレジットデフォルト、助成金申請など多様な実世界のデータセットにおいて、頑健で解釈可能かつ効果的であることを示すこと。

提案手法

• 特定の入力特徴（例：GPA、LSAT、収入）の値が高くなると予測出力が低下しないように保証する単調性を強制する形状制約を機械学習モデルに適用する。
• 最適化手法を用いて特徴空間全体で単調性の性質を保持する、単調性制約付きの一般化加法モデル（GAMs）を訓練する。
• 実世界のデータセットを用いて、単調性制約ありとなしのモデルを比較し、倫理的適合性と性能のトレードオフを評価する。
• 単調性制約がデオントロジカル公平性（例：良い属性の罰則なし）および結果志向的公平性（例：片側統計的同一性や等しい機会）に与える影響を測定する。
• 最大片側統計的同一性違反や最大片側等しい機会違反といった統計的指標を用いて、公平性の向上を定量的に評価する。
• 貧困度、GPA、LSAT、収入といった感受性のある属性を含むデータセットを用い、制約を関連する特徴にのみ適用することを保証する。

実験結果

リサーチクエスチョン

• RQ1 非線形機械学習モデルが実世界のデータを学習することで、より好ましい属性を持つ個人を罰するというデオントロジカル倫理的原則に反する行動をとる可能性はあるか？
• RQ2 単調性制約は、良い属性を罰しない、あるいは弱い立場の人々を優遇するといった倫理的原則の違反をどの程度軽減するか？
• RQ3 単調性制約は、片側統計的同一性や等しい機会といった結果志向的公平性指標にどのような影響を与えるか？
• RQ4 単調性を強制することは、実際のモデル性能や一般化能力を損なうのか？
• RQ5 複雑で非一様な特徴分布を示す実世界のデータセットに対しても、単調性制約は効果的に適用可能か？

主な発見

• 法科大学院入学データセットにおいて、制約なしの深層ニューラルネットワークや勾配ブースティング木は、GPA や LSAT スコアが高くなると申請者を罰する傾向を示し、能力に基づく公平性の原則に反していた。
• 形状制約付きの単調GAMは、この不公平な罰則を排除した一方で、テスト精度を維持し、最良の制約なしモデルの94.80％と比較して94.97％のテスト精度を達成した。
• クレジットデフォルトデータセットでは、単調性制約により最大片側統計的同一性違反が0.00751から0.00261に、等しい機会違反が0.00397から0.00331に低下した（28特徴）。
• 助成金申請データセットでは、単調性制約により片側統計的同一性違反が0.00704から0.00017に、等しい機会違反が0.00707から0.00037に低下した（2特徴）。
• すべての実験において、制約付きモデルは性能を維持、あるいはわずかに向上させ、倫理的制約にもかかわらずAUCや精度に顕著な低下は見られなかった。
• 単調性制約は、スパースなデータ領域や非一様な特徴分布においても有効であり、制約なしモデルが過学習や不公平な行動を示すのとは対照的であった。