[论文解读] Semi-Supervised Learning using Differentiable Reasoning

Emile van Krieken, Erman Acar+1 more|arXiv (Cornell University)|Aug 13, 2019

Semantic Web and Ontologies被引用 18

一句话总结

本文提出可微推理（DR），一种半监督学习方法，通过可微损失函数将一阶逻辑背景知识融入神经网络，以提升图像理解任务中的泛化能力。研究揭示了假言推理（Modus Ponens）与拒取式推理（Modus Tollens）梯度更新之间存在关键失衡——该失衡与 Raven 悖论相关——并提出通过归一化方法平衡两类推理，显著提升模型性能，超越监督基线。

ABSTRACT

We introduce Differentiable Reasoning (DR), a novel semi-supervised learning technique which uses relational background knowledge to benefit from unlabeled data. We apply it to the Semantic Image Interpretation (SII) task and show that background knowledge provides significant improvement. We find that there is a strong but interesting imbalance between the contributions of updates from Modus Ponens (MP) and its logical equivalent Modus Tollens (MT) to the learning process, suggesting that our approach is very sensitive to a phenomenon called the Raven Paradox. We propose a solution to overcome this situation.

研究动机与目标

• 开发一种半监督学习框架，利用未标记数据中的关系背景知识，以提升模型泛化能力。
• 研究假言推理（MP）与拒取式推理（MT）更新对模型训练动态的非均衡影响。
• 解决由逻辑推理中 Raven 悖论引发的 MP 与 MT 贡献失衡问题。
• 提出并评估用于平衡正向与逆否推理贡献的归一化技术，以提升模型性能。

提出的方法

• 引入一种可微损失函数，通过参数化的神经模型在未标记数据集上评估一阶逻辑公式的真值。
• 使用 Herbrand 域上的伯努利分布建模逻辑原子的概率，由神经网络参数化谓词真值。
• 通过计算基于逻辑一致性的梯度，应用逻辑推理规则——假言推理与拒取式推理——来更新模型参数。
• 通过超参数 μ 对 MP 与 MT 梯度贡献进行归一化，以在反向传播过程中平衡其影响。
• 采用贝叶斯网络结构，联合建模标记数据上的监督似然与未标记数据上的无监督逻辑一致性。
• 在标记与未标记组件中共享参数向量 θ，以确保一致的表征学习。

实验结果

研究问题

• RQ1 通过可微推理整合关系背景知识，对图像理解任务中的半监督学习性能有何影响？
• RQ2 为何拒取式推理（MT）在梯度更新中占据主导地位？其失衡的根本原因是什么？
• RQ3 这种失衡在多大程度上与逻辑推理中的 Raven 悖论相关？
• RQ4 对 MP 与 MT 梯度贡献进行归一化能否提升模型性能与稳定性？
• RQ5 所提出方法是否可泛化至 VisualGenome 与 ImageNet 等真实世界数据集？

主要发现

• 拒取式推理（MT）的梯度更新显著主导假言推理（MP）的更新，表明两类推理贡献存在显著失衡。
• 该失衡与 Raven 悖论相关：在逻辑上等价的逆否形式（MT）对学习产生不成比例的影响。
• 通过超参数 μ 对 MP 与 MT 贡献进行归一化，可获得相对于监督基线的最大性能提升。
• 将 μ = 1（禁用 MT）会导致训练不稳定并降低验证准确率，表明逆否推理对稳定学习至关重要。
• 该方法在简单数据集上提升了性能，正确推理模式（如对真蕴含关系的高预测）即使在预测错误时也能带来积极贡献。
• 该方法具有通用性，可能适用于其他涉及归纳推理的任务，如语义解析或知识图谱补全。