[논문 리뷰] Fair lending needs explainable models for responsible recommendation

Jiahao Chen|arXiv (Cornell University)|2018. 09. 12.

Explainable Artificial Intelligence (XAI)참고 문헌 26인용 수 23

한 줄 요약

이 논문은 금융 서비스에서 공정한 대출을 실현하기 위해 ECOA 및 FHA와 같은 차별금지법규정을 준수하기 위해 설명 가능성이 있는 머신러닝 모델이 필요하다고 주장한다. 이는 차별적 영향을 완화하기 위해 프록시 기반의 인종 추정과 모델 투명성을 통합함으로써 신용 추천 시스템에 공정성과 설명 가능성을 통합하는 것을 제안한다. 이로써 기관은 개인정보나 공정성을 훼손하지 않고도 결정을 감시할 수 있다.

ABSTRACT

The financial services industry has unique explainability and fairness challenges arising from compliance and ethical considerations in credit decisioning. These challenges complicate the use of model machine learning and artificial intelligence methods in business decision processes.

연구 동기 및 목표

• 금융 서비스에서 ECOA 및 FHA와 같은 규정을 준수해야 하는 머신러닝 모델이 존재하는 공정한 대출 관행을 확보하는 데 도전하는 것.
• 보호받는 집단과 관련이 있는 예측 특성(예: 우편번호, 신용 이력 등)을 사용하는 것과 차별적 영향을 피하는 것 사이의 갈등을 해결하는 것.
• 보호받는 집단 소속(예: 인종 등)이 알려지지 않은 경우 신용 추천 시스템의 공정성 평가 프레임워크를 개발하는 것.
• 규제 요건과 소비자 신뢰를 충족시키기 위해 AI 기반 신용 제안의 설명 가능성을 보장하는 것.
• 직접 접근이 불가능한 민감한 속성 없이도 인종 추정을 위한 프록시 모델을 사용하는 방법을 제안하는 것.

제안 방법

• 이름, 주소, 우편번호와 같은 비민감 특성에서 인종을 추론하기 위해 프록시 모델을 사용하여 차별적 영향을 평가하는 것.
• 소비자 금융보호국(CFPB)의 공정성 평가 방법론을 적용하여 보호받는 집단 간 모델 결과를 평가하는 것.
• LIME 또는 유사한 국소 대체 모델과 같은 설명 가능성 기법을 통합하여 개인별 신용 결정을 해석하는 것.
• 우편번호, 연령 등 보호받는 집단과 높은 상관관계가 있는 특성을 피하여 차별적 영향 위험을 줄이는 신용 추천 시스템을 설계하는 것.
• 통계적 및 프록시 기반 평가를 사용하여 보호받는 집단 간 부정적 영향을 테스트하는 모델 감시 파이프라인을 구현하는 것.
• FCRA가 사전 스크리닝된 제안을 공식적인 신용 제안으로 간주하므로, 직접 마케팅 워크플로우를 조정하여 FCRA 준수를 보장하는 것.

실험 결과

연구 질문

• RQ1 신용 결제 결정에서 사용되는 머신러닝 모델을 어떻게 설명 가능하게 만들 수 있을까? 이는 금융 서비스에서 규제 및 윤리적 요구사항을 충족하기 위해 필요하다.
• RQ2 인종이나 연령과 같은 보호받는 집단과 관련이 있는 특성(예: 우편번호, 신용 이력 등)을 사용할 경우 어떤 영향을 미칠 수 있는가?
• RQ3 직접 데이터 접근이 불가능한 상황에서 프록시 모델이 얼마나 정확하게 인종을 추정할 수 있는가?
• RQ4 보호받는 집단 레이블이 명시적으로 제공되지 않은 상황에서 신용 추천 시스템에서 차별적 영향을 어떻게 측정하고 완화할 수 있는가?
• RQ5 실제 금융 AI 시스템에 적용되었을 때 현재의 공정성 평가 방법의 한계는 무엇인가?

주요 결과

• 신용 모델에서 우편번호를 사용하는 것은 인종(공정한 대출법에 따라 보호받는 집단)과 강하게 상관관계가 있어 레드라인의 위험이 높다.
• 신용 이력 기간과 같은 특성은 연령과 간접적으로 상관관계가 있어 또 다른 보호받는 집단인 연령과 관련된 잠재적 차별적 영향을 유도할 수 있다.
• 규제 기관에서 사용하는 프록시 기반의 인종 추정 방법은 차별적 영향을 과도하게 평가하여 논란과 규제의 불확실성을 초래할 수 있다.
• 보통 중립적인 정책(예: 최소 대출 금액)조차도 보호받는 집단에 대해 편향을 유도할 수 있으므로, 사전에 공정성 점검이 필요하다.
• FCRA의 정의에 따라 사전 스크리닝된 제안이 공식적인 신용 제안으로 간주되므로, 신용 마케팅의 추천 시스템은 직접 신용 결제 결정과 동일한 공정성 및 설명 가능성 기준을 따라야 한다.
• 보호받는 집단 레이블이 알려지지 않은 상황에서 차별적 영향 평가에 대한 공정하고 책임감 있고 투명한 AI 분야의 핵심 격차가 여전히 존재한다.