[論文レビュー] Monotonicity for AI ethics and society: An empirical study of the monotonic neural additive model in criminology, education, health care, and finance

Dangxing Chen, Luyao Zhang|arXiv (Cornell University)|Jan 17, 2023

Ethics and Social Impacts of AI被引用数 6

ひとこと要約

本稿では、犯罪学、教育、医療、金融分野における公平性が重視されるAI応用において、個々の特徴およびペairワイズの単調性を強制するための単調性ニューラル加法モデル（MNAMs）を提案する。ドメイン知識をニューラル加法モデルに統合することで、MNAMsは単調性違反を低減し、公平性と解釈可能性を向上させる。実証結果では、標準的なNAMsと比較して、不公正なモデル行動が顕著に減少していることが示された。

ABSTRACT

Algorithm fairness in the application of artificial intelligence (AI) is essential for a better society. As the foundational axiom of social mechanisms, fairness consists of multiple facets. Although the machine learning (ML) community has focused on intersectionality as a matter of statistical parity, especially in discrimination issues, an emerging body of literature addresses another facet -- monotonicity. Based on domain expertise, monotonicity plays a vital role in numerous fairness-related areas, where violations could misguide human decisions and lead to disastrous consequences. In this paper, we first systematically evaluate the significance of applying monotonic neural additive models (MNAMs), which use a fairness-aware ML algorithm to enforce both individual and pairwise monotonicity principles, for the fairness of AI ethics and society. We have found, through a hybrid method of theoretical reasoning, simulation, and extensive empirical analysis, that considering monotonicity axioms is essential in all areas of fairness, including criminology, education, health care, and finance. Our research contributes to the interdisciplinary research at the interface of AI ethics, explainable AI (XAI), and human-computer interactions (HCIs). By evidencing the catastrophic consequences if monotonicity is not met, we address the significance of monotonicity requirements in AI applications. Furthermore, we demonstrate that MNAMs are an effective fairness-aware ML approach by imposing monotonicity restrictions integrating human intelligence.

研究の動機と目的

• 高リスク分野におけるAI応用の公平性と倫理的整合性を確保するうえで単調性が果たす重要な役割を調査すること。
• 現実の意思決定において極めて重要であるにもかかわらず、既存の機械学習研究が無視しているペアワイズ単調性のギャップを解消すること。
• MNAMsによる単調性の強制が、モデルの公平性、解釈可能性、ドメイン固有の因果的推論との整合性にどのように寄与するかを評価すること。
• 単調性違反がデータ由来（限界効果の逓減とノイズ）によって引き起こされ、AIシステムにおいて壊滅的な意思決定ミスを引き起こす可能性があることを示すこと。

提案手法

• ニューラル加法モデル（NAMs）の拡張として、個々の特徴およびペアワイズの単調性制約を組み込んだ単調性ニューラル加法モデル（MNAMs）を提案する。
• 理論的分析、シミュレーション実験、および4つのドメインの実世界データセットを用いた実証的評価を組み合わせたハイブリッド手法を採用する。
• 特徴ごとの単調性行動を強制するために、単調性誘導型活性化関数と重み共有を用いたパラメータ化されたニューラルネットワークを用いる。
• 非単調な予測をペナルティ化する損失関数を採用し、ドメイン知識に従ってモデル出力が入力特徴と一貫して増加または減少するように保証する。
• 分類誤差、AUCといった標準指標を用いてモデル性能を検証し、特徴重要度プロットを用いて単調性行動を可視化する。
• 複数の公平性および精度ベンチマークにおいて、MNAMsを標準NAMsおよび全結合ニューラルネットワーク（FCNNs）と比較する。

実験結果

リサーチクエスチョン

• RQ1 理論的単調性と実世界データにおける観察された非単調性の乖離を引き起こす数学的・統計的要因は何か？
• RQ2 MNAMsは、犯罪学、教育、医療、金融といった公平性が重視される分野で、個々の特徴およびペアワイズの単調性を効果的に強制できるか？
• RQ3 MNAMsは、標準NAMsおよびFCNNsと比較して、公平性、精度、単調性準拠性の観点でどのように異なるか？
• RQ4 高リスクAI応用において単調性を無視した場合の結果は何か？また、MNAMsはこれらのリスクをどのように軽減するか？

主な発見

• 機械学習モデルにおける単調性違反は、限界効果の逓減およびデータ内の高いランダムノイズによって体系的に生じており、逆説的かつ不公平な予測を引き起こす。
• シミュレーションの結果、正しいドメイン知識が存在しても、標準NAMsはノイズが多いまたは非単調なデータパターンに適合することで、頻繁に単調性違反を起こすことが確認された。
• FICO信用スコアリングデータセットでは、MNAMの分類誤差は27.0%、AUCは80.1%に低下し、NAM（27.3%、80.0%）およびFCNN（27.8%、80.0%）を上回った。
• 可視化分析の結果、NAMsは遅延特徴において個々の単調性およびペアワイズ単調性の両方を違反しているのに対し、MNAMsは最近の遅延をより予測的であると正しく強調している。
• MNAMsはペアワイズ単調性を効果的に強制し、最近の遅延イベントが過去のものよりも重み付けが高くなるように保証しており、ドメイン論理と整合している。
• 単調性制約の統合は、予測性能を損なうことなく、モデルの信頼性と解釈可能性を顕著に向上させた。