[论文解读] Neuro-Symbolic Continual Learning: Knowledge, Reasoning Shortcuts and Concept Rehearsal

Emanuele Marconato, Gianpaolo Bontempo+4 more|arXiv (Cornell University)|Feb 2, 2023

Domain Adaptation and Few-Shot Learning被引用 5

一句话总结

本文提出了神经符号持续学习（NeSy-CL），这是一种新型问题，即模型在学习一系列神经符号任务的同时保持知识与概念。作者提出了一种名为 cool 的概念级持续学习策略，通过有针对性的概念监督和回放机制防止推理捷径，从而在三个新基准上实现最先进性能，且在概念质量和泛化能力方面表现优越。

ABSTRACT

We introduce Neuro-Symbolic Continual Learning, where a model has to solve a sequence of neuro-symbolic tasks, that is, it has to map sub-symbolic inputs to high-level concepts and compute predictions by reasoning consistently with prior knowledge. Our key observation is that neuro-symbolic tasks, although different, often share concepts whose semantics remains stable over time. Traditional approaches fall short: existing continual strategies ignore knowledge altogether, while stock neuro-symbolic architectures suffer from catastrophic forgetting. We show that leveraging prior knowledge by combining neuro-symbolic architectures with continual strategies does help avoid catastrophic forgetting, but also that doing so can yield models affected by reasoning shortcuts. These undermine the semantics of the acquired concepts, even when detailed prior knowledge is provided upfront and inference is exact, and in turn continual performance. To overcome these issues, we introduce COOL, a COncept-level cOntinual Learning strategy tailored for neuro-symbolic continual problems that acquires high-quality concepts and remembers them over time. Our experiments on three novel benchmarks highlights how COOL attains sustained high performance on neuro-symbolic continual learning tasks in which other strategies fail.

研究动机与目标

• 解决神经符号人工智能中的持续学习挑战，即模型必须在适应新任务的同时对符号概念进行推理。
• 指出即使提供了先前知识，现有持续学习策略在 NeSy-CL 中仍因推理捷径而失效。
• 开发一个新的基准测试套件（CLE4EVR、MNAdd-Shortcut 等），用于评估在存在或不存在推理捷径情况下的持续性能。
• 提出一种新颖的持续学习策略 cool，通过概念级回放和监督机制，在任务间保持概念语义的一致性。
• 证明仅将知识与持续学习结合是不够的，必须显式保留概念，且 cool 在准确率和概念质量方面均优于最先进方法。

提出的方法

• 引入一种新的学习范式——神经符号持续学习（NeSy-CL），即模型学习涉及子符号输入、符号概念以及基于先前知识推理的任务序列。
• 提出 cool，一种 COncept-level cOntinual Learning 策略，通过少量概念监督识别具有预期语义的高质量概念。
• 实现一种概念回放机制，显式地在任务间保留已学习的概念，防止灾难性遗忘和推理捷径。
• 将 cool 应用于 DeepProbLog 和基于概念的模型等神经符号架构，使其可无缝集成到现有模型中，无需架构修改。
• 在概念层面结合知识蒸馏与经验回放，确保模型在任务分布变化时仍能保留正确的概念表征。
• 设计了三个新颖的基准测试——CLE4EVR、MNAdd-Shortcut 和蛋白质注释任务，用于评估在不同概念监督程度和推理捷径风险下的性能。

实验结果

研究问题

• RQ1 当提供先前知识时，现有持续学习策略能否有效防止神经符号持续学习中的灾难性遗忘？
• RQ2 即使具备完整先前知识和精确推理，神经符号模型中推理捷径的出现程度如何？
• RQ3 概念级回放策略在多大程度上能缓解推理捷径对跨任务迁移和长期性能的负面影响？
• RQ4 概念监督水平如何影响所学概念的质量以及对分布外任务的泛化能力？
• RQ5 cool 是否在多种神经符号基准上均优于最先进持续学习方法，在预测准确率和概念质量方面表现更优？

主要发现

• 在 CLE4EVR 上，cool 在 10% 概念监督下，类-IL 准确率分别达到 85.2% 和 87.9%，显著优于 der++（81.3% 和 80.1%）与 er（66.8% 和 65.4%）。
• 在 CLE4EVR 的概念分类任务中，cool 在 10% 概念监督下达到 91.9% 的 OOD 准确率，远超 der++（28.4%）、er（23.3%）和 der（26.1%）。
• 在 MNAdd-Shortcut 基准中，cool 在 10% 监督下对概念的 OOD 准确率达到 57.1%，而 der++ 仅达 5.0%，证明其有效避免了推理捷径。
• 在 0% 监督条件下，所有方法在 OOD 概念分类上表现均较差，cool 仅达到 4.9% 的 OOD 准确率，表明概念监督对高质量概念学习至关重要。
• cool 在所有任务上均保持高性能，包括 OOD 任务：在 CLE4EVR 上，标签类-IL 准确率为 80.2%，概念类-IL 准确率为 87.9%（10% 监督），展现出强大的鲁棒性与泛化能力。
• 图 6 中的混淆矩阵显示，cool 在任务间保持了正确的概念映射，而 der 展现出强烈的捷径学习现象，尤其在颜色和形状编码方面，证实了概念级回放的有效性。