[논문 리뷰] XAI meets Biology: A Comprehensive Review of Explainable AI in Bioinformatics Applications

Zhongliang Zhou, Mengxuan Hu외 8명|arXiv (Cornell University)|2023. 12. 11.

Explainable Artificial Intelligence (XAI)인용 수 8

한 줄 요약

이 논문은 Explainable AI(XAI) 기법과 생물정보학 전반에 걸친 적용 사례를 조사하며, 시퀀스(sequence), 구조(structure), 게놈(genome), 생물영상(bioimaging) 분야를 다루고 현재의 한계와 모범 사례를 논의한다.

ABSTRACT

Artificial intelligence (AI), particularly machine learning and deep learning models, has significantly impacted bioinformatics research by offering powerful tools for analyzing complex biological data. However, the lack of interpretability and transparency of these models presents challenges in leveraging these models for deeper biological insights and for generating testable hypotheses. Explainable AI (XAI) has emerged as a promising solution to enhance the transparency and interpretability of AI models in bioinformatics. This review provides a comprehensive analysis of various XAI techniques and their applications across various bioinformatics domains including DNA, RNA, and protein sequence analysis, structural analysis, gene expression and genome analysis, and bioimaging analysis. We introduce the most pertinent machine learning and XAI methods, then discuss their diverse applications and address the current limitations of available XAI tools. By offering insights into XAI's potential and challenges, this review aims to facilitate its practical implementation in bioinformatics research and help researchers navigate the landscape of XAI tools.

연구 동기 및 목표

• 생물정보학에서 사용되는 XAI 기법을 조사하고 분류한다.
• XAI가 다양한 생물정보학 과제에서 AI 모델의 투명성을 어떻게 향상시키는지 설명한다.
• 현재 XAI 도구의 한계를 식별하고 실용 도입을 위한 지침을 제공한다.

제안 방법

• 관련 AI 및 XAI 방법을 소개한다.
• XAI 도구를 모델 자유형(mult建-agnostic) 및 모델 특정(model-specific) 방법으로 분류한다.
• 시퀀스 분석, 구조 분석, 게놈 분석, 생물영상 분석 전반의 응용을 논의한다.
• 실용적 구현을 안내하기 위한 한계 및 향후 방향을 검토한다.

실험 결과

연구 질문

• RQ1 다양한 생물정보학 영역에서 AI 모델을 해석하는 데 가장 효과적인 XAI 방법은 무엇인가?
• RQ2 생물정보학 작업에서 모델 자유형 XAI 접근법과 모델 특정 XAI 접근법은 어떻게 비교되는가?
• RQ3 생물정보학에서 XAI 도구의 현재 한계는 무엇이며 이를 어떻게 해결할 수 있는가?

주요 결과

• LIME, SHAP, LRP, CAM, Grad-CAM, attention scores, 그리고 self-explainable networks와 같은 XAI 기법들이 생물정보학 과제에 매핑된다.
• XAI 방법이 시퀀스, 구조, 유전자 발현 및 다중 오믹스 데이터에 적용되어 생물학적으로 의미 있는 패턴 및 모티프를 드러낸다.
• 모델 자유형과 모델 특정 XAI 방법은 각각 다른 데이터 유형과 모델에 대해 뚜렷한 이점을 가진다.
• 여러 사례 연구에서 XAI 출력이 알려진 생물학적 모티프, 조절 요소, 또는 결합 인터페이스와 일치하여 모델 타당성을 뒷받침한다.
• 본 검토는 생물정보학에서 현재 XAI 도구의 한계를 강조하고 방법론적 및 실용적 개선이 필요한 분야를 제시한다.