[论文解读] Advancements in Molecular Property Prediction: A Survey of Single and Multimodal Approaches

Tanya Liyaqat, Tanvir Ahmad+1 more|arXiv (Cornell University)|Aug 18, 2024

Computational Drug Discovery Methods被引用 4

一句话总结

本综述对用于分子性质预测的单模态与多模态深度学习方法进行了全面分析，重点关注图神经网络（GNNs）、Transformer 和多模态融合等表示学习技术。它识别了分子数据表示中的关键挑战，评估了最先进方法，并提出了在可解释性、不确定性量化和高效学习范式方面的未来研究方向。

ABSTRACT

Molecular Property Prediction (MPP) plays a pivotal role across diverse domains, spanning drug discovery, material science, and environmental chemistry. Fueled by the exponential growth of chemical data and the evolution of artificial intelligence, recent years have witnessed remarkable strides in MPP. However, the multifaceted nature of molecular data, such as molecular structures, SMILES notation, and molecular images, continues to pose a fundamental challenge in its effective representation. To address this, representation learning techniques are instrumental as they acquire informative and interpretable representations of molecular data. This article explores recent AI/-based approaches in MPP, focusing on both single and multiple modality representation techniques. It provides an overview of various molecule representations and encoding schemes, categorizes MPP methods by their use of modalities, and outlines datasets and tools available for feature generation. The article also analyzes the performance of recent methods and suggests future research directions to advance the field of MPP.

研究动机与目标

• 提供对近期基于人工智能的分子性质预测方法的系统性综述，重点强调表示学习技术。
• 对单模态与多模态方法进行分类与分析，涵盖 SMILES、分子图和图像等分子数据表示方式。
• 在基准数据集上评估最先进模型的性能，并识别当前方法论中的差距。
• 突出新兴挑战，如不确定性量化、模型可解释性以及分子性质预测中的数据效率。
• 概述未来研究方向，包括少样本学习、联邦学习以及对比学习，以提升泛化能力与鲁棒性。

提出的方法

• 本文采用基于分类的综述方法，根据模态对分子性质预测（MPP）方法进行分类——单模态（如 SMILES、图结构）或多模态（如结合 SMILES、图像和 3D 结构）。
• 综述了关键深度学习架构，如图神经网络（GNNs）、Transformer、循环神经网络（RNNs）和卷积神经网络（CNNs），用于分子表示学习。
• 评估多模态融合策略，包括早期融合、晚期融合以及基于注意力的瓶颈机制，以有效整合不同类型的数据信息。
• 分析表示学习技术，如对比学习和自监督预训练，以提升特征质量与泛化能力。
• 分析可解释性技术，如注意力图、显著性图和特征重要性评分，以增强分子预测中模型的可解释性。
• 讨论先进学习范式，如元学习、少样本学习和联邦学习，以应对分子数据集中数据稀缺与隐私保护问题。

Figure 1. The structure of the overall review.

实验结果

研究问题

• RQ1 在分子性质预测任务中，单模态表示技术（如基于 GNN 的方法、SMILES 的 RNN）在性能与泛化能力方面如何比较？
• RQ2 在分子数据类型（如 SMILES、2D/3D 结构、图像）的性质预测中，最有效的多模态融合策略是什么？
• RQ3 近期在不确定性量化与模型可解释性方面的进展如何影响分子性质预测的可靠性与可信度？
• RQ4 元学习与少样本学习在药物发现中常见的低数据场景下，能在多大程度上提升模型的泛化能力？
• RQ5 在利用联邦学习与自监督学习开发高效、隐私保护且可扩展的 MPP 模型方面，关键挑战与机遇是什么？

主要发现

• 图神经网络（GNNs）与基于 Transformer 的模型已成为从分子图和 SMILES 字符串中学习结构表示的领先架构。
• 多模态融合——尤其是结合 SMILES、2D 结构与分子图像——相比单模态基线，在复杂性质预测任务中显著提升了预测性能。
• 注意力机制与融合瓶颈能够有效实现跨模态信息提炼，在降低维度的同时保留关键预测信号。
• 对比学习通过学习区分相似与不相似的分子模式，提升了表示质量，从而提高了下游预测的准确性。
• 尽管已取得进展，不确定性量化在不同方法中仍不一致，尚无最优技术的共识，凸显了这一关键开放挑战。
• 可解释人工智能（XAI）方法如注意力图与显著性可视化正越来越多地用于解释 GNN 与 Transformer 的预测结果，但稳健且通用的解释框架仍处于开发之中。

Figure 2. Various input representations of molecules utilized in MPP