[논문 리뷰] Neuro-Symbolic Hierarchical Rule Induction

Claire Glanois, Xuening Feng외 5명|IT University Of Copenhagen (IT University of Copenhagen)|2021. 12. 26.

Multimodal Machine Learning Applications참고 문헌 33인용 수 7

한 줄 요약

이 논문은 유연한 임bedding와 일반적인 프로토-규칙 세트를 사용하여 인도적 논리 프로그래밍(ILP)을 위한 해석 가능한 일阶 논리 규칙을 유도하는 신경-기호 계층적 규칙 유도 모델인 HRI를 제안한다. 임베딩를 통한 소프트 유니피케이션, 제어된 구불 노이즈, 그리고 해석 가능성 정규화를 활용함으로써 HRI는 ILP, Visual Genome, 강화 학습 작업에서 최신 기술 수준의 성능을 달성하면서도 다양한 술어와 개체의 수에 걸쳐 일반화한다.

ABSTRACT

We propose an efficient interpretable neuro-symbolic model to solve Inductive Logic Programming (ILP) problems. In this model, which is built from a set of meta-rules organised in a hierarchical structure, first-order rules are invented by learning embeddings to match facts and body predicates of a meta-rule. To instantiate it, we specifically design an expressive set of generic meta-rules, and demonstrate they generate a consequent fragment of Horn clauses. During training, we inject a controlled \pw{Gumbel} noise to avoid local optima and employ interpretability-regularization term to further guide the convergence to interpretable rules. We empirically validate our model on various tasks (ILP, visual genome, reinforcement learning) against several state-of-the-art methods.

연구 동기 및 목표

• 기존 ILP 방법의 취약성과 확장성 문제를 해결하기 위해 딥 러닝의 일반화 능력과 기호 논리의 해석 가능성의 장점을 융합한다.
• 다양한 술어와 개체의 수에 걸쳐 일반화할 수 있는 모델을 개발하여 더 큰 인스턴스로의 조합 일반화를 가능하게 한다.
• 가장자리적인 표현력을 유지하면서도 가설 공간을 제한하는 최소한이지만 표현력 있는 프로토-규칙 세트를 설계하여 학습 효율성과 정확도를 향상시킨다.
• 의미적 또는 시각적 사전 지식을 활용해 술어 임베딩을 초기화함으로써 의미적으로 rich한 도메인에서 지속적 학습을 가능하게 한다.
• 재귀 정의와 다중 작업 학습을 지원하는 이론적으로 탄탄하고 경험적으로 검증된 신경-기호 규칙 유도 프레임워크를 제공한다.

제안 방법

• 모델은 메타-규칙의 계층적 구조를 사용하며, 이를 '프로토-규칙'으로 추상화하여 일阶 논리 규칙의 광범위한 클래스를 압축적으로 표현한다.
• 술어 임베딩는 프로토-규칙과 사실 간의 소프트 유니피케이션을 통해 학습되며, 유사도 점수가 규칙의 인스턴스화를 결정한다.
• 학습 중 제어된 구불 노이즈 주입이 가설 공간 내 국소 최적점 탈출과 탐색 개선에 기여한다.
• 모델이 인간이 읽을 수 있고 논리적으로 의미 있는 규칙을 학습하도록 유도하기 위해 해석 가능성 정규화 항목을 도입한다.
• 모델는 재귀 규칙 정의를 지원하며, 술어나 개체의 수와 무관하게 작동하여 다양한 문제 규모에 걸쳐 일반화가 가능하다.
• 의미적 또는 시각적 사전 지식을 활용해 술어 임베딩를 초기화할 수 있으며, 이는 다중 작업 및 시각 기반 ILP 작업에서 성능 향상에 기여한다.

실험 결과

연구 질문

• RQ1 학습 가능한 임베딩와 소규모 프로토-규칙 세트를 기반으로 한 신경-기호 모델이 다양한 ILP 작업에서 경쟁력 있는 성능를 달성하면서도 해석 가능성을 유지할 수 있는가?
• RQ2 제어된 구불 노이즈와 해석 가능성 정규화의 포함이 의미 있는 인간이 읽을 수 있는 규칙로의 수렴을 어떻게 향상시키는가?
• RQ3 모델이 다양한 숫자의 술어와 개체에 걸쳐 얼마나 잘 일반화되는가, 특히 제로샷 또는 희소샷 설정에서의 성능는 어떠한가?
• RQ4 의미적 또는 시각적 사전 지식을 효과적으로 활용하여 Visual Genome와 같은 rich한 다중 작업 도메인에서 규칙 학습을 부트스트랩할 수 있는가?
• RQ5 제안된 프로토-규칙 세트의 이론적 표현력은 무엇이며, 허른 논리의 알려진 조각들과 비교해 볼 때 어떠한가?

주요 결과

• HRI 모델은 Visual Genome에서 추출한 GQA 벤치마크에서 NLIL을 포함한 최신 기술 수준의 방법들을 능가하며, 시각-언어 추론 작업에서 강력한 확장성과 성능을 입증한다.
• 작은 인스턴스에서 학습된 후에도 더 큰 문제 인스턴스로의 일반화가 가능하여 조합 일반화 능력이 입증된다.
• 해결 방법의 구조에 대한 사전 지식 없이도 제어된 중복성을 가진 확장된 프로토-규칙 세트 ($\mathcal{R}_{*}$)를 사용할 경우, 최소 세트보다 학습 성능이 향상됨을 확인하였다.
• 이론적 분석을 통해 프로토-규칙 세트 $\mathcal{R}_{0}$가 허른 절편의 일부를 생성하며, 확장된 버전은 최대 5개의 본문 원소를 가진 더 표현력 있는 절편으로까지 도달할 수 있음을 확인하였다.
• 모델는 0-아리 술어를 지원하며, 관련 술어(예: Car)의 임베딩이 의미적으로 유사할 경우, 예를 들어 Truck과 같은 미사용 술어로도 일반화가 가능하여 유추적 추론이 가능하다.
• 경험적 아블레이션 연구를 통해 구불 노이즈와 해석 가능성 정규화의 효과가 입증되었으며, 수렴 속도 향상과 규칙 품질 향상이 관찰되었다.