[논문 리뷰] Explainable AI for Bioinformatics: Methods, Tools, and Applications

Md. Rezaul Karim, Tanhim Islam외 5명|arXiv (Cornell University)|2022. 12. 25.

Explainable Artificial Intelligence (XAI)인용 수 7

한 줄 요약

이 논문은 생물정보학 분야에 특화된 설명 가능 인공지능(XAI) 기법, 도구 및 응용 사례에 대한 종합적인 리뷰를 제시한다. 모델에 종속되지 않는 해석 기법과 모델에 특화된 해석 기법을 중심으로 딥러닝 및 머신러닝 모델의 투명성을 향상시키는 데 초점을 맞추고 있다. 사례 연구와 공개된 GitHub 리포지터리(https://github.com/rezacsedu/XAI-for-bioinformatics)를 통해 생물영상, 암 유전체학, 텍스트 마이닝 분야에서 XAI가 의사결정을 어떻게 향상시키는지 보여준다.

ABSTRACT

Artificial intelligence (AI) systems utilizing deep neural networks (DNNs) and machine learning (ML) algorithms are widely used for solving important problems in bioinformatics, biomedical informatics, and precision medicine. However, complex DNNs or ML models, which are often perceived as opaque and black-box, can make it difficult to understand the reasoning behind their decisions. This lack of transparency can be a challenge for both end-users and decision-makers, as well as AI developers. Additionally, in sensitive areas like healthcare, explainability and accountability are not only desirable but also legally required for AI systems that can have a significant impact on human lives. Fairness is another growing concern, as algorithmic decisions should not show bias or discrimination towards certain groups or individuals based on sensitive attributes. Explainable artificial intelligence (XAI) aims to overcome the opaqueness of black-box models and provide transparency in how AI systems make decisions. Interpretable ML models can explain how they make predictions and the factors that influence their outcomes. However, most state-of-the-art interpretable ML methods are domain-agnostic and evolved from fields like computer vision, automated reasoning, or statistics, making direct application to bioinformatics problems challenging without customization and domain-specific adaptation. In this paper, we discuss the importance of explainability in the context of bioinformatics, provide an overview of model-specific and model-agnostic interpretable ML methods and tools, and outline their potential caveats and drawbacks. Besides, we discuss how to customize existing interpretable ML methods for bioinformatics problems. Nevertheless, we demonstrate how XAI methods can improve transparency through case studies in bioimaging, cancer genomics, and text mining.

연구 동기 및 목표

• 의료 환경에서 모델의 결정이 인간의 삶에 영향을 미치는 바이오의료 연구에서의 투명성과 책임성 확보가 절실한 필요성을 해결한다.
• 도메인 특화된 적응 없이 생물정보학 문제에 직접 적용할 경우 일반적인 해석 가능한 머신러닝 기법의 한계를 규명하고 분석한다.
• 고차원적이고 다중 모odal한 생물정보학 데이터에 적합한 모델에 종속되지 않는 해석 기법과 모델에 특화된 XAI 기법에 대한 체계적인 개요를 제공한다.
• 유전체학, 영상, 임상 텍스트 마이닝 등 생물정보학 응용 분야에 기존 XAI 기법을 맞춤형으로 적용하는 방법을 보여준다.
• 연구자가 자신의 생물정보학 워크플로우에서 XAI를 구현하고 평가하는 데 도움이 되는 실용적 지침과 재현 가능한 사례 연구 프레임워크(공개 GitHub 리포지터리 기반)를 제공한다.

제안 방법

• 모델에 종속되지 않는 XAI 기법인 LIME, SHAP, 순열 특성 중요도(PFI) 등을 조사하고 분류하여, 모델 아키텍처와 무관하게 국소적 또는 전역적 설명을 생성하는 방법을 다룬다.
• 모델에 특화된 기법으로서 신경망 내에서의 시각화 기법인 색소니 맵, Grad-CAM, 어텐션 메커니즘을 검토하며, 특히 생물영상 및 NLP 분야의 컨볼루션 신경망과 트랜스포머 기반 모델에 초점을 맞춘다.
• 게임 이론 원리를 활용해 충실도가 높고 국소적으로 정확한 설명을 제공하는 고급 기법인 SHapley Additive exPlanations(SHAP)를 소개하고 평가한다.
• 생물학적 해석 가능성의 특성과 경로 수준의 설명과 같은 도메인 특화 제약 조건을 통합함으로써 일반 XAI 도구를 생물정보학에 적응시키는 프레임워크를 제안한다.
• 생물영상(예: 종양 탐지), 암 유전체학(예: 치료 반응 예측), 생물의학적 텍스트 마이닝(예: 실체 및 관계 추출) 등 세 가지 사례 연구에 이러한 기법을 적용한다.
• 투명성과 재사용 가능성을 확보하기 위해 공개된 GitHub 리포지터리(https://github.com/rezacsedu/XAI-for-bioinformatics)를 활용하여 코드, 데이터셋, 재현 가능한 실험을 공유한다.

실험 결과

연구 질문

• RQ1 SHAP 및 LIME와 같은 모델에 종속되지 않는 XAI 기법은 생물정보학 응용 분야에서 복잡한 딥러닝 모델을 효과적으로 해석하기 위해 어떻게 적응시킬 수 있는가?
• RQ2 유전체학 및 의료 영상과 같은 고차원적이고 다중 모달한 생물학적 데이터에 일반적인 해석 가능한 머신러닝 기법을 적용할 때의 주요 과제는 무엇인가?
• RQ3 XAI 기법은 정밀의료 및 임상 의사결정 지원에 사용되는 AI 시스템에서 의사결정의 투명성과 신뢰도를 어떻게 향상시키는가?
• RQ4 생물학적으로 의미 있고 실행 가능한 설명을 확보하기 위해 도메인 지식은 XAI 파이프라인에 어떻게 통합될 수 있는가?
• RQ5 현존하는 XAI 도구가 실제 생물정보학 문제에 적용될 때의 실용적 한계와 잠재적 함정은 무엇인가?

주요 결과

• 모델에 종속되지 않는 기법인 SHAP 및 LIME는 생물영상 및 유전체학 분야에서 복잡한 DNN에 대한 신뢰할 수 있는 국소적 설명을 제공하여 사용자가 예측 결과를 입력 특성으로 추적할 수 있도록 한다.
• 트랜스포머 및 CNN 모델 내의 어텐션 메커니즘과 색소니 맵은 조직병리 영상 및 유전자 서열에서 생물학적으로 관련성이 있는 영역을 강조하여 해석 가능성 향상에 기여한다.
• SHAP 값은 암 유전체학 분야에서 치료 반응 예측에 영향을 주는 핵심 유전자 변이와 임상적 특성을 성공적으로 규명했으며, 결과는 알려진 생물학적 경로와 일치하였다.
• 경로 지식이나 생물학적 제약 조건을 통합한 XAI 도구의 맞춤형 적용은 다오미크스 데이터 분석에서 설명의 관련성과 신뢰도를 크게 향상시켰다.
• 사례 연구를 통해 XAI는 모델의 투명성을 높이는 데 그치지 않고 생물의학 연구에서 가설 생성 및 검증을 지원하는 데에도 기여함을 입증하였다.
• 공개된 GitHub 리포지터리(https://github.com/rezacsedu/XAI-for-bioinformatics)는 다양한 생물정보학 작업에 XAI를 적용할 수 있는 재사용 가능하고 재현 가능한 프레임워크를 제공하여 연구 공동체 내에서의 도입을 가속화한다.