[논문 리뷰] Towards Explainable Artificial Intelligence in Banking and Financial Services

Ambreen Hanif|arXiv (Cornell University)|2021. 12. 14.

Explainable Artificial Intelligence (XAI)인용 수 11

한 줄 요약

이 논문은 금융 서비스 분야의 거래 분류에서 기계학습 모델의 신뢰도와 해석 가능성을 향상시키기 위해 상호작용 가능한 대시보드와 역방향 특성 공학을 결합한 혁신적인 증거 기반 설명 가능한 인공지능(XAI) 파이프라인을 제안한다. 이 접근법은 높은 모델 성능을 유지하면서도 데이터 과학자들이 시각화된 상호작용 가능한 증거를 통해 의사결정 과정을 추적할 수 있도록 하여, AI 기반 위험 평가에 대한 신뢰도를 크게 향상시킨다.

ABSTRACT

Artificial intelligence (AI) enables machines to learn from human experience, adjust to new inputs, and perform human-like tasks. AI is progressing rapidly and is transforming the way businesses operate, from process automation to cognitive augmentation of tasks and intelligent process/data analytics. However, the main challenge for human users would be to understand and appropriately trust the result of AI algorithms and methods. In this paper, to address this challenge, we study and analyze the recent work done in Explainable Artificial Intelligence (XAI) methods and tools. We introduce a novel XAI process, which facilitates producing explainable models while maintaining a high level of learning performance. We present an interactive evidence-based approach to assist human users in comprehending and trusting the results and output created by AI-enabled algorithms. We adopt a typical scenario in the Banking domain for analyzing customer transactions. We develop a digital dashboard to facilitate interacting with the algorithm results and discuss how the proposed XAI method can significantly improve the confidence of data scientists in understanding the result of AI-enabled algorithms.

연구 동기 및 목표

• 은행 및 금융 서비스 분야에서 AI 기반 의사결정의 투명성과 신뢰도 부족 문제를 해결하기 위해.
• 높은 학습 성능를 유지하면서도 인간 사용자가 모델 출력을 이해하고 검증할 수 있도록 설명 가능한 인공지능 프레임워크를 개발하기 위해.
• 거래 분류를 위한 상호작용적이고 증거 기반의 대시보드를 통해 데이터 과학자들이 AI 결과를 이해하도록 지원하기 위해.
• 모델 의사결정에 대한 해석 가능하고 시각적이고 상호작용 가능한 설명을 제공하여 이해관계자들이 AI 시스템에 대한 신뢰를 높이기 위해.
• 복잡한 블랙박스 모델과 금융 분야에서의 규제 또는 운영 요구사항 간의 해석 가능성 격차를 메우기 위해.

제안 방법

• 금융 거래 분류를 위한 기계학습 파이프라인과 증거 기반 추론을 통합한 혁신적인 XAI 프로세스를 제안한다.
• 모델 출력을 시각화하고 특성 기여도를 실시간으로 탐색할 수 있도록 디지털 상호작용 대시보드를 활용한다.
• 학습된 모델에서 의미 있고 해석 가능한 특성을 식별하고 추출하기 위해 역방향 특성 공학을 적용한다.
• 국소적 설명 기법을 적용하여 개별 거래 의사결정을 분석하고 예측을 특정 입력 특성과 연결한다.
• 정확도, 신뢰도 점수 및 유사도 임계값 기반으로 데이터를 필터링하고 탐색할 수 있는 조정 가능한 시각화 시스템을 설계한다.
• 모델 선택 및 시스템 개선을 지원하기 위해 다양한 알고리즘 버전과 신뢰도 수준 간의 모델 비교를 지원한다.

실험 결과

연구 질문

• RQ1 어떻게 설명 가능한 인공지능 기법을 금융 거래 분류에 효과적으로 통합하여 모델의 해석 가능성을 향상시킬 수 있는가?
• RQ2 상호작용 가능한 시각화는 데이터 과학자들이 AI가 생성한 의사결정에 대한 자신감을 어떻게 향상시키는가?
• RQ3 역방향 특성 공학을 활용해 개별 거래 예측에 대한 의미 있는 증거를 어떻게 추출하고 제시할 수 있는가?
• RQ4 증거 기반 XAI 파이프라인은 투명성을 향상시키면서도 높은 모델 성능를 얼마나 유지할 수 있는가?
• RQ5 통합된 대시보드 내에서 다양한 설명 기법을 어떻게 구현하고 비교할 수 있는가?

주요 결과

• 상호작용적이고 증거 기반의 시각화를 통해 제안된 XAI 파이프라인은 데이터 과학자들이 AI가 생성한 의사결정을 이해하고 신뢰하는 데 있어 높은 자신감을 향상시켰다.
• 역방향 특성 공학의 통합을 통해 사용자는 모델 예측을 특정 입력 특성으로 거슬러 올라가 추적할 수 있었으며, 이는 해석 가능성을 향상시켰다.
• 상호작용 대시보드를 통해 사용자는 정확도, 신뢰도 점수 및 유사도 기준으로 거래를 필터링할 수 있어 가독성과 의사결정 지원이 향상되었다.
• 다양한 기계학습 모델 버전과 설명 기법 간의 비교를 지원하여 모델 선택 및 개선에 기여하였다.
• 이론적으로 유사하거나 겹치는 거래를 식별함으로써 모델이 극단적인 케이스에서 어떻게 행동하는지 이해하는 데 기여하였다.
• 프로토타입은 높은 성능를 유지하면서도 예측 능력에 손상을 주지 않고도 고성능 모델을 해석 가능하게 만들 수 있음을 입증하였다.