[论文解读] Counterfactual Explanation with Multi-Agent Reinforcement Learning for Drug Target Prediction

Tri Minh Nguyen, Thomas P. Quinn+2 more|arXiv (Cornell University)|Mar 24, 2021

Computational Drug Discovery Methods被引用 4

一句话总结

本文提出 MACDA，一种多智能体强化学习框架，通过联合优化药物和蛋白质修饰，为药物-靶标结合亲和力模型生成反事实解释。该方法在 Davis 数据集和 ABL1 与尼洛替尼的案例研究中，实现了更简洁且有效的反事实解释，提升了亚结构相互作用的可解释性。

ABSTRACT

Motivation: Many high-performance DTA models have been proposed, but they are mostly black-box and thus lack human interpretability. Explainable AI (XAI) can make DTA models more trustworthy, and can also enable scientists to distill biological knowledge from the models. Counterfactual explanation is one popular approach to explaining the behaviour of a deep neural network, which works by systematically answering the question "How would the model output change if the inputs were changed in this way?". Most counterfactual explanation methods only operate on single input data. It remains an open problem how to extend counterfactual-based XAI methods to DTA models, which have two inputs, one for drug and one for target, that also happen to be discrete in nature. Methods: We propose a multi-agent reinforcement learning framework, Multi-Agent Counterfactual Drug target binding Affinity (MACDA), to generate counterfactual explanations for the drug-protein complex. Our proposed framework provides human-interpretable counterfactual instances while optimizing both the input drug and target for counterfactual generation at the same time. Results: We benchmark the proposed MACDA framework using the Davis dataset and find that our framework produces more parsimonious explanations with no loss in explanation validity, as measured by encoding similarity and QED. We then present a case study involving ABL1 and Nilotinib to demonstrate how MACDA can explain the behaviour of a DTA model in the underlying substructure interaction between inputs in its prediction, revealing mechanisms that align with prior domain knowledge.

研究动机与目标

• 为解决高性能黑箱药物-靶标亲和力（DTA）模型中可解释性不足的问题。
• 将反事实解释方法扩展至具有两个离散输入（药物分子和蛋白质序列）的 DTA 模型。
• 实现药物和蛋白质修饰的联合优化，以生成更准确且人类可解释的反事实实例。
• 分离并揭示影响结合亲和力预测的药物功能团与蛋白质残基之间的亚结构级相互作用。
• 提供一个稳定、可扩展的框架，用于生成反映药物-蛋白质复合物中生物上合理变化的反事实。

提出的方法

• MACDA 采用多智能体强化学习（MARL）框架，包含两个智能体：一个用于药物分子，一个用于蛋白质序列。
• 每个智能体通过添加或删除原子、键、残基或基序等动作，生成反事实实例。
• 智能体在共享的多目标奖励函数下协作，以最大化结合亲和力的变化，同时最小化输入修改（联合变化）。
• 该框架采用适合分子和序列级修改的离散动作空间，避免了对离散数据不适用的基于梯度的方法。
• 反事实生成由模型预测变化引导，确保修改能引起显著的输出变化。
• 该方法实现了药物和蛋白质输入的联合优化，避免了次优的单输入反事实。

实验结果

研究问题

• RQ1 如何为具有两个离散输入的药物-靶标结合亲和力模型有效生成反事实解释？
• RQ2 多智能体强化学习是否能生成比单输入或基于梯度的方法更简洁且更有效的反事实解释？
• RQ3 所生成的反事实在多大程度上反映了已知的药物-蛋白质相互作用生物机制？
• RQ4 对药物和蛋白质进行联合修改在多大程度上影响反事实解释的稳定性和可解释性？
• RQ5 该框架能否分离并突出显示决定 DTA 模型预测的关键亚结构相互作用？

主要发现

• MACDA 生成的反事实解释更简洁——所需修改更少——同时不牺牲解释的有效性，这通过编码相似性和 QED 得分衡量。
• 该框架成功识别出 ABL1 中的关键残基位置，如 LYS.247、GLU.286 和 VAL.448，这些是尼洛替尼和阿西米尼布等药物的已知结合位点。
• 在 ABL1-尼洛替尼的案例研究中，MACDA 突出了 (三氟甲基)苯基基团与 GLU.286 相互作用的关键作用，这与晶体结构中显示的氢键一致。
• 反事实揭示了尼洛替尼的嘧啶基团与 MET.318 之间的相互作用也对模型预测有显著贡献。
• 该方法展示了稳定的训练过程，并有效实现了药物和蛋白质修饰的联合优化，避免了单输入反事实生成中常见的不稳定性。
• 该框架成功解耦并解释了药物亚结构与蛋白质残基之间的高阶相互作用，支持生物合理性与领域知识的验证。