[논문 리뷰] Neuro-Symbolic Continual Learning: Knowledge, Reasoning Shortcuts and Concept Rehearsal

Emanuele Marconato, Gianpaolo Bontempo외 4명|arXiv (Cornell University)|2023. 02. 02.

Domain Adaptation and Few-Shot Learning인용 수 5

한 줄 요약

이 논문은 지식과 개념을 유지하면서 순차적인 신경기호적 태스크를 학습하는 새로운 문제인 신경기호적 지속적 학습(NeSy-CL)을 소개한다. 저자들은 추론의 단순화를 방지하기 위해 대상 개념 감독과 재현을 활용하는 개념 수준의 지속적 학습 전략인 cool을 제안하며, 세 가지 새로운 벤치마크에서 최고 성능을 기록했고, 개념 품질과 일반화 능력이 뛰어나다.

ABSTRACT

We introduce Neuro-Symbolic Continual Learning, where a model has to solve a sequence of neuro-symbolic tasks, that is, it has to map sub-symbolic inputs to high-level concepts and compute predictions by reasoning consistently with prior knowledge. Our key observation is that neuro-symbolic tasks, although different, often share concepts whose semantics remains stable over time. Traditional approaches fall short: existing continual strategies ignore knowledge altogether, while stock neuro-symbolic architectures suffer from catastrophic forgetting. We show that leveraging prior knowledge by combining neuro-symbolic architectures with continual strategies does help avoid catastrophic forgetting, but also that doing so can yield models affected by reasoning shortcuts. These undermine the semantics of the acquired concepts, even when detailed prior knowledge is provided upfront and inference is exact, and in turn continual performance. To overcome these issues, we introduce COOL, a COncept-level cOntinual Learning strategy tailored for neuro-symbolic continual problems that acquires high-quality concepts and remembers them over time. Our experiments on three novel benchmarks highlights how COOL attains sustained high performance on neuro-symbolic continual learning tasks in which other strategies fail.

연구 동기 및 목표

• 신경기호 AI에서 모델이 기존 지식을 바탕으로 기호적 개념을 추론하면서 새로운 태스크에 적응해야 하는 지속적 학습의 과제를 해결한다.
• 기존의 지속적 학습 전략이 사전 지식이 제공되더라도 추론의 단순화로 인해 NeSy-CL에서 실패함을 규명한다.
• 추론의 단순화 여부에 따라 성능을 평가할 수 있는 새로운 벤치마크 세트(CLE4EVR, MNAdd-Shortcut 등)를 구축한다.
• 개념 수준의 재현과 감독을 통해 태스크 간 개념 의미를 유지하는 새로운 지속적 학습 전략인 cool을 제안한다.
• 기존 지식과 지속적 학습을 융합하는 것만으로는 충분하지 않으며, 명시적인 개념 유지가 필요하다는 것을 입증하고, cool이 예측 정확도와 개념 품질 모두에서 최신 기술(SOTA)을 초월함을 보여준다.

제안 방법

• 서브기호적 입력, 기호적 개념, 기존 지식에 기반한 추론을 포함하는 태스크 시퀀스를 학습하는 새로운 학습 철학인 신경기호적 지속적 학습(NeSy-CL)을 도입한다.
• 낮은 양의 개념 감독을 통해 의도된 의미를 지닌 고품질의 개념을 식별하는 COncept-level cOntinual Learning 전략인 cool을 제안한다.
• 학습된 개념을 태스크 간에 명시적으로 유지하는 개념 재현 메커니즘을 구현하여 치명적 기억 상실과 추론의 단순화를 방지한다.
• DeepProbLog 및 개념 기반 모델과 같은 신경기호 아키텍처에 cool을 적용하여 기존 아키텍처를 변경하지 않고도 통합 가능하도록 한다.
• 개념 수준에서 지식 증류와 경험 재현을 조합하여, 태스크 분포가 변화하더라도 정확한 개념 표현을 유지하도록 보장한다.
• 추론의 단순화 위험과 개념 감독 수준에 따라 다양하게 변하는 성능을 평가하기 위해 CLE4EVR, MNAdd-Shortcut, 단백질 애너테이션 작업을 포함한 세 가지 새로운 벤치마크를 설계한다.

실험 결과

연구 질문

• RQ1 기존의 지속적 학습 전략은 사전 지식이 제공된 상황에서 신경기호적 지속적 학습에서 치명적 기억 상실을 효과적으로 방지할 수 있는가?
• RQ2 완전한 사전 지식과 정확한 추론 조건이 제공되더라도 신경기호 모델에서 추론의 단순화가 어느 정도 발생하는가?
• RQ3 개념 수준의 재현 전략은 추론의 단순화가 태스크 간 전이 및 장기 성능에 악영향을 미치는 데에 효과적으로 완화할 수 있는가?
• RQ4 개념 감독 수준이 학습된 개념의 품질과 분포 외부 태스크로의 일반화 능력에 어떤 영향을 미치는가?
• RQ5 cool은 다양한 신경기호 벤치마크에서 예측 정확도와 개념 품질 모두에서 최신 기술(SOTA) 방법을 능가하는가?

주요 결과

• 10% 감독 조건에서 CLE4EVR의 개념에 대해 cool은 클래스-IL 정확도 85.2%와 87.9%를 기록했으며, 동일 조건에서 der++(81.3%와 80.1%) 및 er(66.8%와 65.4%)를 크게 앞서나갔다.
• 10% 개념 감독 조건에서 cool은 CLE4EVR의 개념 분류에서 OOD 정확도 91.9%를 달성했으며, der++(28.4%), er(23.3%), der(26.1%)에 비해 훨씬 뛰어나다.
• MNAdd-Shortcut 벤치마크에서 10% 감독 조건에서 cool은 개념에 대해 57.1%의 OOD 정확도를 기록했고, der++는 단지 5.0%에 머물렀다. 이는 cool이 추론의 단순화를 효과적으로 피할 수 있음을 보여준다.
• 0% 감독 조건에서는 모든 방법이 OOD 개념 분류에서 낮은 성능을 보였으며, cool도 오직 4.9%의 OOD 정확도를 기록했다. 이는 고품질의 개념 학습을 위해 개념 감독이 필수적임을 시사한다.
• 10% 감독 조건에서 CLE4EVR에서 레이블에 대해 80.2%의 클래스-IL 정확도와 개념에 대해 87.9%의 정확도를 유지함으로써, cool은 모든 태스크, 특히 OOD 태스크에서도 높은 성능과 일반화 능력을 보였다.
• 그림 6의 혼동 행렬은 cool이 태스크 간에 정확한 개념 매핑을 유지하는 반면, der는 특히 색상과 형태 인코딩에서 강한 단순화 학습을 보임을 확인하여 개념 수준의 재현 전략의 효과성을 입증한다.