[논문 리뷰] Monotonicity for AI ethics and society: An empirical study of the monotonic neural additive model in criminology, education, health care, and finance

Dangxing Chen, Luyao Zhang|arXiv (Cornell University)|2023. 01. 17.

Ethics and Social Impacts of AI인용 수 6

한 줄 요약

이 논문은 형사학, 교육, 의료, 금융 분야의 공정성에 민감한 인공지능 응용 분야에서 개별적이고 쌍방향 단조성을 강제하기 위해 단조성 신경 가산 모델(MNAMs)을 제안한다. 도메인 지식을 신경 가산 모델에 통합함으로써 MNAMs는 단조성 위반을 줄이고 공정성 및 해석 가능성 향상을 이룬다. 실증 결과는 표준 NAMs에 비해 부정확한 모델 행동이 크게 감소했음을 보여준다.

ABSTRACT

Algorithm fairness in the application of artificial intelligence (AI) is essential for a better society. As the foundational axiom of social mechanisms, fairness consists of multiple facets. Although the machine learning (ML) community has focused on intersectionality as a matter of statistical parity, especially in discrimination issues, an emerging body of literature addresses another facet -- monotonicity. Based on domain expertise, monotonicity plays a vital role in numerous fairness-related areas, where violations could misguide human decisions and lead to disastrous consequences. In this paper, we first systematically evaluate the significance of applying monotonic neural additive models (MNAMs), which use a fairness-aware ML algorithm to enforce both individual and pairwise monotonicity principles, for the fairness of AI ethics and society. We have found, through a hybrid method of theoretical reasoning, simulation, and extensive empirical analysis, that considering monotonicity axioms is essential in all areas of fairness, including criminology, education, health care, and finance. Our research contributes to the interdisciplinary research at the interface of AI ethics, explainable AI (XAI), and human-computer interactions (HCIs). By evidencing the catastrophic consequences if monotonicity is not met, we address the significance of monotonicity requirements in AI applications. Furthermore, we demonstrate that MNAMs are an effective fairness-aware ML approach by imposing monotonicity restrictions integrating human intelligence.

연구 동기 및 목표

• 고위험 도메인에서 공정성과 윤리적 정당성을 확보하기 위한 단조성의 핵심적 역할을 조사하는 것.
• 실제 의사결정 과정에서 중요시되지만 기존 머신러닝 연구에서 간과되는 쌍방향 단조성의 격차를 해결하는 것.
• MNAMs를 통해 단조성을 강제함으로써 모델의 공정성, 해석 가능성, 도메인 특화 인과적 추론과의 일치도 향상되는지 평가하는 것.
• 단조성 위반은 감소하는 한계 효과와 노이즈에 의해 유도되는 데이터 기반의 것으로, 고위험 AI 시스템에서 치명적인 결정 오류를 초래할 수 있음을 보여주는 것.

제안 방법

• 신경 가산 모델(NAMs)의 확장으로 개별적이고 쌍방향 단조성 제약 조건을 통합한 단조성 신경 가산 모델(MNAMs)을 제안한다.
• 이론적 분석, 시뮬레이션 실험, 네 도메인의 실제 데이터셋을 활용한 실증 평가를 융합한 하이브리드 방법론을 사용한다.
• 특징별 단조성 행동을 강제하기 위해 단조성 유도 활성화 함수와 가중치 공유를 갖는 파rameterized 신경망을 통해 단조성 제약 조건을 적용한다.
• 비단조성 예측에 대한 페널티를 주는 손실 함수를 활용하여, 도메인 지식에 따라 모델 출력이 입력 특성과 일관되게 증가 또는 감소하도록 보장한다.
• 표준 평가 지표(분류 오차, AUC)를 사용해 모델 성능을 검증하고, 특징 기여도 플롯을 활용해 단조성 행동을 시각화한다.
• 다양한 공정성 및 정확도 기준에서 표준 NAMs와 완전 연결 신경망(FCNNs)과의 비교를 통해 MNAMs를 평가한다.

실험 결과

연구 질문

• RQ1 이론적 단조성과 실제 데이터에서 관찰된 비단조성성 간의 괴리를 유발하는 수학적·통계적 요인은 무엇인가?
• RQ2 MNAMs는 형사학, 교육, 의료, 금융과 같은 공정성에 민감한 도메인에서 개별적·쌍방향 단조성을 효과적으로 강제할 수 있는가?
• RQ3 공정성, 정확도, 단조성 준수 측면에서 MNAMs는 표준 NAMs 및 FCNNs와 어떻게 비교되는가?
• RQ4 고위험 AI 응용에서 단조성을 忽시할 경우 어떤 결과가 초래되며, MNAMs는 이러한 위험을 어떻게 완화하는가?

주요 결과

• 머신러닝 모델의 단조성 위반은 감소하는 한계 효과와 데이터 내 높은 랜덤 노이즈에 의해 체계적으로 발생하며, 이는 비직관적이고 부정확한 예측을 초래한다.
• 시뮬레이션 결과는 정확한 도메인 지식이 있음에도 불구하고, 표준 NAMs가 노이즈가 많거나 비단조성적인 데이터 패턴을 학습함으로써 빈번히 단조성 위반을 겪는다는 것을 확인한다.
• FICO 신용 평가 데이터셋에서 MNAM은 분류 오차를 27.0%로 줄였고 AUC는 80.1%로 개선하여 NAM(27.3%, 80.0%)과 FCNN(27.8%, 80.0%)를 모두 압도한다.
• 시각적 분석 결과, NAMs는 지각 위반과 쌍방향 단조성 위반을 모두 보였지만, MNAMs는 최근 지각 이력이 더 예측력이 높다는 점을 정확히 반영했다.
• MNAMs는 쌍방향 단조성을 성공적으로 강제하여 최근 지각 사건이 이전 사건보다 더 높은 가중치를 갖도록 보장함으로써 도메인 논리와 일치시켰다.
• 단조성 제약 조건의 통합은 예측 성능을 희생시키지 않은 채 모델의 신뢰성과 해석 가능성 향상에 크게 기여했다.