[论文解读] Interpretable Geometric Deep Learning via Learnable Randomness Injection

Siqi Miao, Yunan Luo+2 more|arXiv (Cornell University)|Oct 30, 2022

Machine Learning in Materials Science被引用 5

一句话总结

本文提出可学习随机性注入（LRI），这是一种通用框架，通过向点云特征中注入可学习的伯努利或高斯噪声，实现内在可解释的几何深度学习（GDL）模型。通过在训练过程中最小化注入的随机性，LRI能够识别对预测至关重要的显著点和几何模式，在与科学真实情况的对齐程度以及对分布偏移的鲁棒性方面，优于事后分析方法。

ABSTRACT

Point cloud data is ubiquitous in scientific fields. Recently, geometric deep learning (GDL) has been widely applied to solve prediction tasks with such data. However, GDL models are often complicated and hardly interpretable, which poses concerns to scientists who are to deploy these models in scientific analysis and experiments. This work proposes a general mechanism, learnable randomness injection (LRI), which allows building inherently interpretable models based on general GDL backbones. LRI-induced models, once trained, can detect the points in the point cloud data that carry information indicative of the prediction label. We also propose four datasets from real scientific applications that cover the domains of high-energy physics and biochemistry to evaluate the LRI mechanism. Compared with previous post-hoc interpretation methods, the points detected by LRI align much better and stabler with the ground-truth patterns that have actual scientific meanings. LRI is grounded by the information bottleneck principle, and thus LRI-induced models are also more robust to distribution shifts between training and test scenarios. Our code and datasets are available at \url{https://github.com/Graph-COM/LRI}.

研究动机与目标

• 解决科学应用中几何深度学习（GDL）模型缺乏内在可解释性的问题。
• 开发一种机制，识别点云数据中对标签具有预测性的显著点和几何模式。
• 在事后分析方法之外提升模型可解释性，后者常导致不一致或不可靠的科学洞察。
• 基于信息瓶颈原理建立解释的理论基础，以确保理论严谨性和鲁棒性。
• 在高能物理和生物化学领域的实际科学数据集上评估该方法。

提出的方法

• 注入可学习的伯努利随机性，以评估点存在性的重要性（LRI-Bernoulli）。
• 在几何特征上注入可学习的高斯噪声，以评估位置重要性及细粒度的方向敏感性（LRI-Gaussian）。
• 使用基于信息瓶颈原理推导的变分目标训练GDL主干网络，以最小化关键点上的随机性。
• 采用可微分图重构技术，稳定扰动模块的训练过程并提升可解释性。
• 允许预测头和解释头共享或独立使用编码器，以在模型大小与性能之间取得平衡。
• 将扰动函数 $h$ 扩展以整合领域特定知识，例如化学中的功能基团级扰动，以实现化学可解释性。

实验结果

研究问题

• RQ1 能否设计一种通用机制，使GDL模型在不依赖事后解释的前提下具备内在可解释性？
• RQ2 与现有事后分析方法相比，LRI在点云数据中识别出的科学上有意义模式的性能如何？
• RQ3 LRI是否能提升模型在训练与测试数据分布偏移情况下的鲁棒性？
• RQ4 LRI能否捕捉细粒度的几何模式，例如粒子轨迹中的方向敏感性？
• RQ5 LRI能否适配以提供更具上下文性、人类可理解的解释（例如功能基团级的重要性）？

主要发现

• 在全部四个科学数据集上，LRI驱动的模型所检测到的点与真实科学模式的对齐程度显著优于事后分析方法。
• LRI在分布偏移场景下表现出更强的鲁棒性，表现为在领域偏移情况下的性能保持一致。
• 消融实验证实，可微分图重构模块对于稳定且有效的解释至关重要。
• LRI-Gaussian成功捕捉了几何特征中的方向敏感性，实现了对高能物理数据中粒子速度方向的估计。
• 在复杂任务（如PLBind）中，为预测和解释头分别使用独立编码器可提升性能，而共享编码器在简单任务中已足够。
• 初步实验表明，功能基团级扰动可增强上下文可解释性，引导科学家获得生物学上有意义的洞察。