[論文レビュー] Neuro-Symbolic Continual Learning: Knowledge, Reasoning Shortcuts and Concept Rehearsal

Emanuele Marconato, Gianpaolo Bontempo+4 more|arXiv (Cornell University)|Feb 2, 2023

Domain Adaptation and Few-Shot Learning被引用数 5

ひとこと要約

この論文は、知識と概念を保持しながら順次的ニューロシンボリックタスクを学ぶ、Neuro-Symbolic Continual Learning (NeSy-CL) という新しい問題を導入する。著者らは、的確な概念の監視とリハーより、推論の shortcut を防ぐ概念レベルの継続的学習戦略 cool を提案し、3つの新しいベンチマークで最先端の性能を達成し、概念の質と一般化性能に優れた結果を得た。

ABSTRACT

We introduce Neuro-Symbolic Continual Learning, where a model has to solve a sequence of neuro-symbolic tasks, that is, it has to map sub-symbolic inputs to high-level concepts and compute predictions by reasoning consistently with prior knowledge. Our key observation is that neuro-symbolic tasks, although different, often share concepts whose semantics remains stable over time. Traditional approaches fall short: existing continual strategies ignore knowledge altogether, while stock neuro-symbolic architectures suffer from catastrophic forgetting. We show that leveraging prior knowledge by combining neuro-symbolic architectures with continual strategies does help avoid catastrophic forgetting, but also that doing so can yield models affected by reasoning shortcuts. These undermine the semantics of the acquired concepts, even when detailed prior knowledge is provided upfront and inference is exact, and in turn continual performance. To overcome these issues, we introduce COOL, a COncept-level cOntinual Learning strategy tailored for neuro-symbolic continual problems that acquires high-quality concepts and remembers them over time. Our experiments on three novel benchmarks highlights how COOL attains sustained high performance on neuro-symbolic continual learning tasks in which other strategies fail.

研究の動機と目的

• 神経的シンボリックAIにおける継続的学習の課題に取り組む。ここでは、モデルが新たなタスクに適応しながらも、シンボリックな概念を用いて推論を行う必要がある。
• 既存の継続的学習戦略が、事前知識が提供されていても、推論の shortcut により NeSy-CL で失敗することを特定する。
• 推論の shortcut がある・ない状況で継続的性能を評価できるように、新しいベンチマークスイート（CLE4EVR、MNAdd-Shortcut など）を構築する。
• 概念レベルのリハーサルと監視を通じて、タスク間で概念の意味を保持する、新しい継続的学習戦略 cool を提案する。
• 知識と継続的学習を組み合わせるだけでは、明示的な概念保持がなければ不十分であり、cool が予測精度と概念の質の両面で最先端の手法を上回ることを示す。

提案手法

• サブシンボリックな入力、シンボリックな概念、事前知識に基づく推論を含むタスクの系列を学ぶ、ニューロシンボリック継続的学習（NeSy-CL）という新しい学習パラダイムを導入する。
• 少量の概念監視を用いて、意図された意味を持つ高品質な概念を特定する、COncept-level cOntinual Learning戦略である cool を提案する。
• 学習済みの概念をタスク間で明示的に保持する概念リハーサル機構を実装し、深刻な忘却と推論の shortcut を防ぐ。
• DeepProbLog や概念ベースモデルなどのニューロシンボリックアーキテクチャに cool を適用し、アーキテクチャの変更なしに既存のモデルと統合可能である。
• 知識蒸留と経験リプレイを概念レベルで組み合わせ、タスクの分布が変化しても正しい概念表現を保持する。
• 概念監視の程度や推論 shortcut のリスクの度合いが異なる3つの新規ベンチマーク（CLE4EVR、MNAdd-Shortcut、タンパク質アノテーションタスク）を設計し、性能を評価する。

実験結果

リサーチクエスチョン

• RQ1 事前知識が利用可能な状況でも、既存の継続的学習戦略はニューロシンボリック継続的学習における深刻な忘却を効果的に防げるか？
• RQ2 完全な事前知識と正確な推論がある状況でも、ニューロシンボリックモデルにどの程度推論の shortcut が生じるか？
• RQ3 概念レベルのリハーサル戦略は、推論 shortcut がタスク間の転送や長期的性能に与える悪影響を軽減できるか？
• RQ4 概念監視のレベルが、学習された概念の質や分布外タスクへの一般化にどの程度影響を与えるか？
• RQ5 cool は多様なニューロシンボリックベンチマークにおいて、予測精度と概念の質の両面で最先端の継続的学習手法を上回るか？

主な発見

• CLE4EVR で 10% の監視条件下では、cool はクラス-ILの精度が 85.2% と 87.9% を達成し、同じタスクで der++（81.3% と 80.1%）と er（66.8% と 65.4%）を顕著に上回った。
• CLE4EVR の概念分類において 10% の概念監視条件下で、cool は OOD 精度 91.9% を達成し、der++（28.4%）、er（23.3%）、der（26.1%）を大きく上回った。
• MNAdd-Shortcut ベンチマークでは、10% の監視条件下で cool は概念の OOD 精度 57.1% を達成したが、der++ はわずか 5.0% にとどまり、cool が推論の shortcut を回避できることを示した。
• 0% の監視条件下では、すべての手法が OOD 概念分類で著しく低い性能を示し、cool はわずか 4.9% の OOD 精度にとどまった。これは、高品質な概念学習には概念監視が不可欠であることを示している。
• 10% の監視条件下で、CLE4EVR においてラベルのクラス-IL精度が 80.2%、概念の精度が 87.9% に達するなど、cool はすべてのタスク、特に OOD タスクにおいても高い性能を維持し、強靭性と一般化性能を示した。
• 図6の混同行列から、cool はタスク間で正しい概念マッピングを保持しているのに対し、der は特に色や形状のエンコードにおいて強い shortcut 学習を示しており、概念レベルのリハーサルの有効性が確認された。