[논문 리뷰] A Comprehensive Review on Financial Explainable AI

Wei Jie Yeo, Wihan van der Heever외 4명|arXiv (Cornell University)|2023. 09. 21.

Stock Market Forecasting Methods인용 수 17

한 줄 요약

금융에서의 FinXAI 방법에 대한 비교 조사로, 모델 및 결과 설명성, 대상자, 윤리적 목표를 상세히 설명하고, 대상자 중심 설명 프레임워크를 제시한다.

ABSTRACT

The success of artificial intelligence (AI), and deep learning models in particular, has led to their widespread adoption across various industries due to their ability to process huge amounts of data and learn complex patterns. However, due to their lack of explainability, there are significant concerns regarding their use in critical sectors, such as finance and healthcare, where decision-making transparency is of paramount importance. In this paper, we provide a comparative survey of methods that aim to improve the explainability of deep learning models within the context of finance. We categorize the collection of explainable AI methods according to their corresponding characteristics, and we review the concerns and challenges of adopting explainable AI methods, together with future directions we deemed appropriate and important.

연구 동기 및 목표

• FinXAI를 정의하고 금융과의 관련성을 설명한다.
• 투명성, 근접성, 설명 절차, 대상자를 기준으로 설명 가능성 방법을 분류한다.
• 금융 설명 가능성에서의 윤리적 목표와 이해관계자 요구를 분석한다.
• 설명 가능성을 통합할 수 있는 설계 워크플로우 위치를 요약한다.
• 금융에서의 FinXAI 채택을 위한 도전과제와 향후 방향을 논의한다.

제안 방법

• 금융 설명 가능성에 관한 69편의 논문에 대한 표적 문헌 조사를 수행한다.
• 투명성(고유 vs 사후), 근접성(로컬 vs 글로벌), 설명 절차(텍스트, 시각, 예시, 간소화, 특징 중요도), 대상자, 데이터 분석, 설명 유형(사실적, 반사실적)을 포함하는 분류 체계를 사용해 방법을 분류한다.
• 신용 평가, 금융 예측, 금융 분석에서의 응용 차이를 구분한다.
• 설명이 신뢰성, 공정성, 정보 제공성, 접근성, 프라이버시, 자신감, 인과성, 이전 가능성 등의 윤리적 목표에 어떻게 부합하는지 평가한다.
• 대상자 및 사용 사례에 맞춘 설명과정을 정렬하는 FinXAI 프로세스 프레임워크를 제안한다.

Figure 1. Levels of explanation requirements by different audiences, categorized by explanation proximity, and ordered by scrutiny level. Local proximity refers to explanations concerned about a specific outcome. Global proximity refers to the underlying reasoning and mechanics of an AI model). End-

실험 결과

연구 질문

• RQ1 금융에 대해 제안된 FinXAI 방법은 무엇이며, 투명성과 설명 형태에서 어떻게 다른가?
• RQ2 금융에서 서로 다른 대상자(최종 사용자, 개발자, 규제기관)에 대해 설명은 어떻게 맞춤화되어야 하는가?
• RQ3 FinXAI 기법은 어떤 윤리적 목표를 다루며, 채택에 남아 있는 도전과제는 무엇인가?
• RQ4 설명의 최대 효과를 위해 모델 개발 주기의 어느 위치에서 설명 가능성을 통합할 수 있는가?
• RQ5 현재 FinXAI 문헌에서 우세한 경향(예: 사후적 vs 고유)과 간극은 무엇인가?

주요 결과

• 대부분의 검토 논문은 고유 모델보다 사후적 설명 가능성에 더 집중한다.
• 최종 사용자는 로컬 설명을 선호하는 반면, 규제기관과 전문가들은 완전한 모델 이해를 위한 글로벌 설명을 요구한다.
• 텍스트, 시각, 예시 기반 설명이 공존하며, 특징 중요도 설명이 널리 사용된다.
• 반사실적 설명은 금융에서 바람직한 설명 형태로 명시적으로 추구된다.
• 설명은 신뢰성, 공정성, 정보 제공성, 접근성, 프라이버시 의식, 자신감, 인과성, 이전 가능성과 같은 윤리적 목표에 정렬되어 있다.
• 본 논문은 대상자별 목표에 맞춘 FinXAI 기법과 구현의 도전에 대해 다루고 향후 방향을 제시하는 프레임워크를 제공한다.

Figure 2. Ethical goals are classified under three broad audiences: end-users, developers/domain experts, and internal/external regulatory authorities. Some ethical goals are shared by the three different audiences considered, such as informativeness. (Arrieta et al . , 2020 )