[논문 리뷰] Generating User-friendly Explanations for Loan Denials using GANs

Ramya Srinivasan, Ajay Chander외 1명|arXiv (Cornell University)|2019. 06. 24.

Explainable Artificial Intelligence (XAI)참고 문헌 16인용 수 11

한 줄 요약

이 논문은 인간이 생성한, 신용 불승인 사유에 대한 사용자 우호적이고 자연스러운 설명을 제공하는 새로운 조건부 GAN, ARAE-GAN을 제안한다. 이는 교육 및 실천가능한 지침과 같은 다양한 목적을 충족시키며, 인간이 생성한 설명을 담은 세계 최초의 데이터셋을 기반으로 한다. 모델은 기준 GAN보다 광범위한 이유와 구체적인 이유를 더 잘 포착하며, 특히 이중 조건부 설정과 분류기 피드백을 통해 의미 정확도와 스타일 전이 능력이 크게 향상되어, 생성된 설명의 품질이 향상된다.

ABSTRACT

Financial decisions impact our lives, and thus everyone from the regulator to the consumer is interested in fair, sound, and explainable decisions. There is increasing competitive desire and regulatory incentive to deploy AI mindfully within financial services. An important mechanism towards that end is to explain AI decisions to various stakeholders. State-of-the-art explainable AI systems mostly serve AI engineers and offer little to no value to business decision makers, customers, and other stakeholders. Towards addressing this gap, in this work we consider the scenario of explaining loan denials. We build the first-of-its-kind dataset that is representative of loan-applicant friendly explanations. We design a novel Generative Adversarial Network (GAN) that can accommodate smaller datasets, to generate user-friendly textual explanations. We demonstrate how our system can also generate explanations serving different purposes: those that help educate the loan applicants, or help them take appropriate action towards a future approval.

연구 동기 및 목표

• 설명 가능한 AI(XAI) 시스템이 주로 AI 엔지니어를 대상으로 하는 데 반해, 대출 신청자와 같은 최종 사용자를 위한 시스템의 격차를 해소하기 위함.
• 아마존 메카니컬 터크에서의 설문 조사를 통해, 비전문가에게 의미 있고 수용 가능한 이유를 담은 세계 최초의 사용자 우호형 대출 거절 설명 데이터셋을 수집하고 구축하기 위함.
• 제한된 훈련 데이터에서 최종 사용자 요구에 맞게 의미적으로 정확하고 자연스러운 언어로 설명을 생성할 수 있는 조건부 GAN 아키텍처를 설계하기 위함.
• GAN 프레임워크 내에서 스타일 전이를 통해 교육 목적과 실천가능한 지침 목적을 구분하여 설명을 생성할 수 있도록 하기 위함.
• 모델 출력을 인간의 인지적 및 사회적 과정과 일치시켜, XAI 연구와 금융 서비스 분야의 실제 적용 사이의 격차를 메우기 위함.

제안 방법

• 저자들은 아마존 메카니컬 터크에서의 설문 조사로 1,000건의 인간이 생성한, 대출 신청자에게 우호적인 거절 설명 데이터셋을 수집하였으며, 비전문가가 이해하고 수용할 수 있는 의미 있는 이유에 집중하였다.
• 저희는 두 수준의 조건부 설정을 포함하는 새로운 조건부 GAN 아키텍처인 ARAE-GAN을 개발하였다. 이는 광범위한 이유(예: '신용')와 구체적인 이유(예: '낮은 신용 점수')를 포함하며, 생성 과정을 안내하기 위해 레이블러 및 반대 레이블러 분류기를 통합하였다.
• 모델은 훈련 중에 노이즈를 주입하기 위해 혼합 정규분포 모델(GMM)을 사용하여, 생성된 설명의 다양성과 의미적 정확도를 향상시켰다.
• 시스템은 조건부 잠재 벡터와 분류기 피드백를 활용하여 스타일 전이를 지원한다. 예를 들어, 설명을 '교육적'에서 '실천가능한' 스타일로 또는 그 반대로 변환할 수 있다.
• 훈련 과정은 생성자와 판별자 간의 적대적 학습을 포함하며, 생성자는 입력된 이유와 원하는 스타일에 조건부로 설명을 생성하고, 판별자는 어휘적 유창성과 정확성 모두를 평가한다.
• 평가에는 보류된 테스트 세트 100개에 대한 분류기 기반 정확도 지표와 BLEU 점수가 포함되며, GMM 노이즈 유무, 단일 수준 대 이중 수준 조건부 설정, 분류기 피드백 유무를 비교하는 분석 연구가 포함된다.

실험 결과

연구 질문

• RQ1 대출 신청자가 실제로 수용하고 이해할 수 있는 설명은 어떤 것인지, 그리고 표준 기계학습 모델에서 사용하는 특징와는 어떻게 다를까?
• RQ2 소규모 사용자 생성 데이터셋에서 조건부 GAN을 효과적으로 훈련시켜, 의미적으로 정확하고 자연스러운 언어로 된 대출 거절 설명을 생성할 수 있는가?
• RQ3 제안된 GAN 모델이 스타일 전이를 통해 교육 목적이나 향후 승인을 위한 지침 목적을 충족시키는 설명을 얼마나 잘 생성할 수 있는가?
• RQ4 다중 수준의 조건부 설정과 분류기 피드백을 포함할 경우, 기준 GAN에 비해 생성된 설명의 정밀도와 정확도가 얼마나 향상되는가?
• RQ5 훈련 데이터가 제한된 상황에서도 모델이 참조 문장의 스타일과 추론을 정확히 전이하여 생성할 수 있는가?

주요 결과

• 이중 수준의 조건부 설정과 분류기 피드백을 포함한 ARAE-GAN 모델이 가장 높은 성능을 보였으며, 기준 모델에 비해 광범위한 이유와 특정 이유를 모두 정확히 포착하는 설명 생성 능력에서 뚜렷한 우위를 보였다.
• 혼합 정규분포 모델(GMM)을 활용한 노이즈 주입은 생성된 설명의 의미적 정확도와 다양성을 향상시켰지만, 단독으로는 정확한 이유 포착을 보장하지 못했다.
• 단일 수준의 조건부 설정은 광범위한 이유(예: '신용')에 대해선 설명을 생성할 수 있었지만, 특정 이유(예: '낮은 신용 점수')에 대해서는 정확한 생성에 실패했다.
• 분류기 피드백이 포함된 정렬된 ARAE-GAN 모델은 스타일 전이 작업에서 스타일과 정확한 추론을 모두 성공적으로 전이하였다. 녹색으로 강조된 정확한 이유가 포함된 생성 문장에서 이를 입증하였으며, 정렬되지 않은 모델은 정확한 추론을 유지하지 못했다.
• 모델는 효과적인 스타일 전이를 보였다. 즉, '교육적' 스타일에서 '실천가능한' 스타일로, 또는 그 반대로의 전환을 수행하면서도 사실 정확성과 어휘적 유창성을 유지하였다. 이는 표 3에서 확인할 수 있다.
• 분류기 기반 평가와 BLEU 점수 결과는 정렬된 ARAE-GAN 모델이 가장 높은 정확도와 유창성을 확보하였음을 확인하였으며, 제한된 데이터에서의 강력한 성능을 입증하였다.