[論文レビュー] Explainable AI for Bioinformatics: Methods, Tools, and Applications

Md. Rezaul Karim, Tanhim Islam+5 more|arXiv (Cornell University)|Dec 25, 2022

Explainable Artificial Intelligence (XAI)被引用数 7

ひとこと要約

本論文は、深層学習および機械学習モデルの透明性を高めるために、モデルに依存しないおよびモデル固有の解釈手法を焦点にした、バイオインフォマティクス向けの包括的なXAI（説明可能なAI）手法、ツール、応用分野のレビューを提示している。ケーススタディおよび公開されたGitHubリポジトリを通じて、生体イメージング、がんゲノム研究、テキストマイニング分野における意思決定の質が向上することを示している。

ABSTRACT

Artificial intelligence (AI) systems utilizing deep neural networks (DNNs) and machine learning (ML) algorithms are widely used for solving important problems in bioinformatics, biomedical informatics, and precision medicine. However, complex DNNs or ML models, which are often perceived as opaque and black-box, can make it difficult to understand the reasoning behind their decisions. This lack of transparency can be a challenge for both end-users and decision-makers, as well as AI developers. Additionally, in sensitive areas like healthcare, explainability and accountability are not only desirable but also legally required for AI systems that can have a significant impact on human lives. Fairness is another growing concern, as algorithmic decisions should not show bias or discrimination towards certain groups or individuals based on sensitive attributes. Explainable artificial intelligence (XAI) aims to overcome the opaqueness of black-box models and provide transparency in how AI systems make decisions. Interpretable ML models can explain how they make predictions and the factors that influence their outcomes. However, most state-of-the-art interpretable ML methods are domain-agnostic and evolved from fields like computer vision, automated reasoning, or statistics, making direct application to bioinformatics problems challenging without customization and domain-specific adaptation. In this paper, we discuss the importance of explainability in the context of bioinformatics, provide an overview of model-specific and model-agnostic interpretable ML methods and tools, and outline their potential caveats and drawbacks. Besides, we discuss how to customize existing interpretable ML methods for bioinformatics problems. Nevertheless, we demonstrate how XAI methods can improve transparency through case studies in bioimaging, cancer genomics, and text mining.

研究の動機と目的

• 医療現場においてモデルの意思決定が人間の命に影響を及えるような、AI駆動の生物医学的研究における透明性と説明責任の確保という重要なニーズに対応する。
• ドメイン特異的適応を施さずにバイオインフォマティクス問題に直接適用された際の、一般的な解釈可能な機械学習手法の限界を特定および分析する。
• 高次元かつマルチモーダルなバイオインフォマティクスデータに適した、モデルに依存しないおよびモデル固有のXAI技術の体系的概要を提供する。
• ゲノム、画像、臨床テキストマイニングなどのバイオインフォマティクス応用に向けた、既存のXAI手法のカスタマイズを実証する。
• 研究者が自らのバイオインフォマティクスワークフローにXAIを実装・評価するのを支援する実用的ガイドラインおよび再現可能なケーススタディフレームワーク（GitHub経由）を提供する。

提案手法

• LIME、SHAP、順列特徴重要度（PFI）など、モデルアーキテクチャに依存しないローカルまたはグローバルな説明を生成するモデルに依存しないXAI手法を調査・分類する。
• 勾画マップ、Grad-CAM、ニューラルネットワーク内の注目メカニズムなど、特にバイオイメージングおよびNLP分野の畳み込みニューラルネットワークやトランスフォーマー基盤モデルに適した、モデル固有の技術をレビューする。
• ゲーム理論的原則を用いて忠実で局所的に正確な説明を提供する、SHapley Additive exPlanations（SHAP）のような高度な手法を導入および評価する。
• 生物学的解釈可能性の特徴や経路レベルの説明といった、ドメイン特異的制約を統合することで、一般XAIツールをバイオインフォマティクスに適応するフレームワークを提唱する。
• 3つのケーススタディにこれらの手法を適用する：がんゲノム（例：治療反応の予測）、バイオイメージング（例：腫瘍検出）、生物医学的テキストマイニング（例：エンティティおよび関係抽出）。
• 透明性と再利用性を確保するため、コード、データセット、再現可能な実験を共有する公開GitHubリポジトリ（https://github.com/rezacsedu/XAI-for-bioinformatics）を活用する。

実験結果

リサーチクエスチョン

• RQ1 LIME や SHAP といったモデルに依存しないXAI手法は、バイオインフォマティクス応用分野における複雑な深層ニューラルネットワーク（DNN）の解釈に、どのように効果的に適応可能か？
• RQ2 高次元かつマルチモーダルな生物学的データ（例：ゲノム、医療画像）に一般的な解釈可能な機械学習技術を適用する際の主な課題は何か？
• RQ3 XAI技術は、正確な医療および臨床意思決定支援に使用されるAIシステムにおける意思決定の透明性と信頼性を、どのように向上させるか？
• RQ4 生物学的意味のあるかつ実行可能な説明を保証するため、ドメイン特異的知識をXAIパイプラインに統合する方法は何か？
• RQ5 現行のXAIツールが、実世界のバイオインフォマティクス問題に適用された際の実用的限界および潜在的な落とし穴は何か？

主な発見

• LIME や SHAP といったモデルに依存しない手法は、バイオイメージングおよびゲノム分野における複雑なDNNに対して、信頼性の高いローカルな説明を提供し、予測が入力特徴にどのように関連しているかを追跡可能にする。
• トランスフォーマーおよびCNNモデルにおける注目メカニズムと勾画マップは、ヒストパスロジー画像およびゲノム配列における生物学的に関連する領域を強調し、解釈性を向上させる。
• SHAP値は、がんゲノム分野における治療反応予測において、予後に関与する主要な遺伝子バリアントおよび臨床的特徴を特定するために効果的に使用され、既知の生物学的経路と整合した結果が得られた。
• 経路知識や生物学的制約を統合するXAIツールのカスタマイズは、マルチオミクスデータ解析における説明の関連性および信頼性を顕著に向上させた。
• ケーススタディでは、XAIがモデルの透明性を高めるだけでなく、生物医学的研究における仮説の生成と検証を支援することを実証した。
• 公開されたGitHubリポジトリ（https://github.com/rezacsedu/XAI-for-bioinformatics）は、多様なバイオインフォマティクスタスクにXAIを適用する再利用可能で再現可能なフレームワークを提供しており、研究コミュニティにおける採用を加速している。