[논문 리뷰] A survey and taxonomy of methods interpreting random forest models

Maïssae Haddouchi, Abdelaziz Berrado|arXiv (Cornell University)|2024. 07. 17.

Forest ecology and management인용 수 4

한 줄 요약

이 논문은 랜덤 포레스트(RF) 모델을 위한 해석 가능성 방법에 대한 종합적인 서베이와 분류 체계를 제시하며, 모델 독립성 대 모델 특화, 전역 대 국소 해석, 특징 중요도 추정 등의 축을 따라 기존 기법들을 분류한다. 연구자와 실무자들이 원하는 해석 가능성 목표에 따라 적절한 해석 도구를 선택할 수 있도록 안내하기 위해 현재의 접근 방식을 통합하였으며, RF 기반 기계 학습 응용 프로그램의 투명성 향상에 대한 체계적인 참고 자료를 제공한다.

ABSTRACT

The interpretability of random forest (RF) models is a research topic of growing interest in the machine learning (ML) community. In the state of the art, RF is considered a powerful learning ensemble given its predictive performance, flexibility, and ease of use. Furthermore, the inner process of the RF model is understandable because it uses an intuitive and intelligible approach for building the RF decision tree ensemble. However, the RF resulting model is regarded as a "black box" because of its numerous deep decision trees. Gaining visibility over the entire process that induces the final decisions by exploring each decision tree is complicated, if not impossible. This complexity limits the acceptance and implementation of RF models in several fields of application. Several papers have tackled the interpretation of RF models. This paper aims to provide an extensive review of methods used in the literature to interpret RF resulting models. We have analyzed these methods and classified them based on different axes. Although this review is not exhaustive, it provides a taxonomy of various techniques that should guide users in choosing the most appropriate tools for interpreting RF models, depending on the interpretability aspects sought. It should also be valuable for researchers who aim to focus their work on the interpretability of RF or ML black boxes in general.

연구 동기 및 목표

• 랜덤 포레스트 모델은 본질적으로 트리 기반 아키텍처를 지니고 있음에도 불구하고 '블랙박스'로 간주되는 경향이 있기 때문에, 이를 해석하는 데 도전하는 것.
• 랜덤 포레스트 모델에 대한 기존의 해석 기법에 대한 체계적인 문헌 리뷰를 제공하는 것.
• 모델 독립성 대 모델 특화, 전역 대 국소 해석 등의 다차원적 축을 따라 해석 기법을 분류하고 정리하는 것.
• 특정 해석 가능성 요구 사항에 기반해 연구자와 실무자가 가장 적합한 해석 기법을 선택할 수 있도록 지원하는 것.
• 랜덤 포레스트 및 기타 기계 학습 블랙박스 모델에서의 해석 가능성에 대한 향후 연구를 위한 기초를 마련하는 것.

제안 방법

• 저자는 랜덤 포레스트 모델을 해석하는 데 중점을 둔 연구들에 대한 종합적인 문헌 리뷰를 수행하였다.
• 핵심 차원인 모델 독립성 대 모델 특화, 전역 대 국소 해석, 설명 유형(예: 특징 중요도, 반대 조건, 부분 의존성)을 기반으로 해석 기법을 분류하였다.
• 분류 체계에는 순열 기반 특징 중요도, 부분 의존성 플롯, 개별 조건 기대(ICE), LIME, SHAP, 트리 기반 해석 가능성 기법 등이 포함되어 있다.
• 분류 과정은 방법론적 차이, 해석 가능성 목표, 계산 요구 사항을 분석함으로써 수행되었다.
• 논문은 응용 맥락에 따라 선택을 안내할 수 있도록 기법들을 체계적인 프레임워크로 정리하였다.
• 실용적 안내를 강조하며, 해석 깊이, 계산 비용, 원본 모델에 대한 충실도 사이의 상충 관계를 부각시켰다.

실험 결과

연구 질문

• RQ1 랜덤 포레스트 모델을 위한 주요 해석 기법의 카테고리들은 무엇이며, 접근 방식과 응용에서 어떻게 다릅니까?
• RQ2 정확도, 효율성, 해석 가능성 측면에서 모델 독립성 기법과 모델 특화 기법은 어떻게 비교될 수 있습니까?
• RQ3 전역 해석 기법과 국소 해석 기법은 랜덤 포레스트 예측을 설명하는 데 있어 각각의 강점과 한계는 무엇입니까?
• RQ4 특징 중요도를 식별하고 랜덤 포레스트의 의사결정 경계를 이해하는 데 가장 효과적인 해석 기법은 무엇입니까?
• RQ5 실무자는 특정 해석 가능성 목표와 제약 조건에 따라 가장 적합한 해석 기법을 어떻게 선택할 수 있습니까?

주요 결과

• 이 서베이에서는 특징 중요도, 부분 의존성, 개별 조건 기대, LIME 및 SHAP와 같은 후행 해석 기법 등 여러 개별 카테고리의 해석 기법을 식별하였다.
• 순열 기반 중요도 및 특징 기여도 분석과 같은 모델 특화 기법은 많은 경우 모델 독립 기법보다 더 정확하고 해석 가능하다는 것이 입증되었다.
• 부분 의존성 플롯과 개별 조건 기대와 같은 전역 해석 기법은 입력 공간 전반에 걸친 특징 영향을 파악하는 데 도움을 주지만, 복잡한 상호작용을 단순화할 수 있다는 한계가 있다.
• LIME 및 SHAP와 같은 국소 해석 기법은 개별 인스턴스 수준의 설명을 제공하지만, 대체 모델과 커널 선택에 따라 충실도가 달라질 수 있다.
• 분류 체계는 기법 간의 체계적 비교를 가능하게 하며, 계산 비용, 해석 가능성, 원본 모델에 대한 충실도 사이의 상충 관계를 부각시킨다.
• 응용 맥락에 따라 기법 선택이 중요하며, 어떤 한 기법도 항상 최적의 결과를 내는 것은 아니라는 점을 강조한다.