[논문 리뷰] Explainable Artificial Intelligence for Drug Discovery and Development -- A Comprehensive Survey

Roohallah Alizadehsani, Oyelere, Solomon Sunday외 6명|arXiv (Cornell University)|2023. 09. 21.

Computational Drug Discovery Methods인용 수 4

한 줄 요약

이 종합적 서베이는 복잡한 머신러닝 모델에 대한 투명성과 신뢰도를 향상시키기 위해 약물 발견 및 개발에 설명 가능 인공지능(XAI)을 체계적으로 통합할 것을 제안한다. 표적 식별, 화합물 설계, 독성 예측 등 다양한 단계에서 XAI 기법을 분석함으로써, 본 논문은 설명 가능성의 향상이 의사결정을 개선하고 편향을 줄이며 규제 승인을 지원할 수 있음을 보여주며, 동적이고 윤리적이며 영역 특화된 XAI 응용 분야를 위한 향후 연구의 비전을 제시한다.

ABSTRACT

The field of drug discovery has experienced a remarkable transformation with the advent of artificial intelligence (AI) and machine learning (ML) technologies. However, as these AI and ML models are becoming more complex, there is a growing need for transparency and interpretability of the models. Explainable Artificial Intelligence (XAI) is a novel approach that addresses this issue and provides a more interpretable understanding of the predictions made by machine learning models. In recent years, there has been an increasing interest in the application of XAI techniques to drug discovery. This review article provides a comprehensive overview of the current state-of-the-art in XAI for drug discovery, including various XAI methods, their application in drug discovery, and the challenges and limitations of XAI techniques in drug discovery. The article also covers the application of XAI in drug discovery, including target identification, compound design, and toxicity prediction. Furthermore, the article suggests potential future research directions for the application of XAI in drug discovery. The aim of this review article is to provide a comprehensive understanding of the current state of XAI in drug discovery and its potential to transform the field.

연구 동기 및 목표

• 복잡한 예측이 투명성 부족을 보이는 약물 발견에 사용되는 AI/ML 모델에서의 설명 가능성에 대한 핵심적 필요성을 해결한다.
• 표적 식별, 화합물 설계, 독성 예측 등 핵심 약물 발견 단계에서 XAI 기법과 그 응용을 체계적으로 검토한다.
• 생물의학 데이터 및 규제 요구사항의 맥락에서 현재 XAI 방법의 한계와 과제를 규명한다.
• 동적 설명 적응, 윤리적 고려사항, 하이브리드 모델링 등을 포함한 향후 연구 방향을 제안하여 XAI를 발전시킨다.
• 기술적 AI 출력과 연구자, 임상의, 규제 당국자들의 실질적 의사결정 간 격차를 영역 특화된 설명 프레임워크를 통해 메운다.

제안 방법

• 최신 XAI 방법에 대한 종합적 서베이를 수행하며, 후행 설명 기법(예: LIME, SHAP), 내재적 해석 가능성 모델, 주의 기반 방법을 포함한다.
• 표적 식별, 화합물 설계, 독성 예측의 세 가지 핵심 과제에서 XAI 응용을 분류하고 분석한다.
• 다양한 이해관계자에게 충실하고 실행 가능하며 사용자가 이해할 수 있는 설명을 제공할 수 있는 능력에 기반해 XAI 프레임워크를 평가한다.
• 인지심리학 및 시각화 과학의 통찰을 통합하여 의사결정을 지원하는 인간 중심의 XAI 인터페이스를 설계한다.
• 모델 및 데이터 변화에 대응하는 동적 설명 적응, 블랙박스 성능와 해석 가능한 추론을 결합한 하이브리드 모델링과 같은 향후 방법론적 방향을 제안한다.
• 규제 당국자와 환자와 같은 비기술적 사용자에게 맞춤화된 도메인 특화 설명 언어를 탐색한다.

a Explainability vs. Prediction Accuracy

실험 결과

연구 질문

• RQ1 어떻게 XAI 기법이 약물 발견에서 AI 기반 예측의 해석 가능성과 신뢰도를 향상시킬 수 있는가?
• RQ2 약물 개발의 복잡하고 고차원적인 생물학적·화학적 데이터에 XAI 기법을 적용할 때의 주요 과제와 한계는 무엇인가?
• RQ3 실시간 약물 발견 파이프라인에서 변화하는 모델과 스트리밍 데이터에 XAI를 어떻게 적응시킬 수 있는가?
• RQ4 의료 중심의 약물 개발에서 XAI를 구현할 때 발생하는 윤리적 고려사항—편향, 공정성, 데이터 프라이버시—는 무엇인가?
• RQ5 임상의사와 규제 당국자와 같은 다학제적 이해관계자에게 복잡한 AI 통찰을 효과적으로 전달하기 위해 XAI 프레임워크는 어떻게 설계되어야 하는가?

주요 결과

• XAI는 AI 기반 예측에 대한 신뢰도와 투명성을 크게 향상시켜 모델 예측에 대한 설명 가능한 정당성을 제공한다.
• LIME 및 SHAP와 같은 후행 설명 기법은 널리 사용되지만, 분자의 데이터에 복잡한 딥러닝 모델을 적용할 경우 신뢰도가 떨어질 수 있다.
• 표적 식별 및 독성 예측에 XAI를 통합함으로써 연구자들이 모델 편향을 탐지하고 예측의 생물학적 타당성을 향상시킬 수 있다.
• 모델 재학습 또는 새로운 데이터로 업데이트될 때 설명 가능성 유지에 동적 설명 적응이 필수적이다.
• 편향, 공정성, 데이터 프라이버시와 같은 윤리적 고려사항은 건강 관련 응용 분야의 XAI 설계에서 반드시 사전에 고려되어야 한다.
• 향후 XAI 프레임워크는 비기술적 이해관계자(예: 규제 당국자, 환자)가 AI 통찰을 접근 가능하게 하기 위해 도메인 특화 언어와 시각화 전략을 통합해야 한다.

b Explainability vs. Learning Performance