[논문 리뷰] VAEL: Bridging Variational Autoencoders and Probabilistic Logic Programming

Eleonora Misino, Giuseppe Marra외 1명|arXiv (Cornell University)|2022. 02. 07.

Semantic Web and Ontologies인용 수 4

한 줄 요약

VAEL은 변분 오토인코더(VAEs)와 확률적 논리 프로그래밍(PLP)을 통합하는 신경기호 생성 모델을 소개한다. 이는 잠재 표현을 기호적 논리 표현식으로 분리시켜 종단 간 미분 가능한 학습을 가능하게 하며, 논리적 추론을 통한 새로운 생성 작업에 대한 일반화를 가능하게 한다. 이로 인해 데이터 효율성이 향상되고 제로샷 일반화 성능이 향상되어 최신 기준 성능을 달성한다.

ABSTRACT

We present VAEL, a neuro-symbolic generative model integrating variational autoencoders (VAE) with the reasoning capabilities of probabilistic logic (L) programming. Besides standard latent subsymbolic variables, our model exploits a probabilistic logic program to define a further structured representation, which is used for logical reasoning. The entire process is end-to-end differentiable. Once trained, VAEL can solve new unseen generation tasks by (i) leveraging the previously acquired knowledge encoded in the neural component and (ii) exploiting new logical programs on the structured latent space. Our experiments provide support on the benefits of this neuro-symbolic integration both in terms of task generalization and data efficiency. To the best of our knowledge, this work is the first to propose a general-purpose end-to-end framework integrating probabilistic logic programming into a deep generative model.

연구 동기 및 목표

• 재훈련 없이도 새로운 생성 작업에 일반화할 수 없는 표준 VAE의 한계를 해결하기 위해, 잠재 표현을 작업별 레이블에서 분리한다.
• 기본적인 구조적이고 해석 가능한 사전 지식으로서의 확률적 논리 프로그래밍을 잠재 공간에 통합하여 기호 표현에 대한 논리적 추론을 가능하게 한다.
• 신경학습과 기호 추론을 동시에 지원하는 종단 간 미분 가능한 훈련을 가능하게 한다.
• 잠재 공간 내에서 논리적 인덕티브 바이어스를 활용하여 데이터 효율성과 일반화 능력을 향상시킨다.
• 새로운 논리 프로그램을 통해 신경 모델을 재훈련하지 않고도 새로운 작업에 대해 제로샷 적응이 가능한 일반 목적의 신경기호 생성 프레임워크를 제공한다.

제안 방법

• 원시 입력 데이터에서 기호적 잠재 공간(논리 원자로 구성됨)으로의 비선형 매핑을 학습하는 VAE를 포함하는 하이브리드 모델을 도입한다.
• ProbLog 기반의 확률적 논리 프로그램을 사용하여 기호적 잠재 변수 상에 구조적인 사전 지식을 정의하고, 논리적 추론 및 추론을 가능하게 한다.
• VAE 인코더/디코더와 논리 프로그램 양쪽을 종단 간 역전파로 처리하여 신경적 및 기호적 구성 요소를 공동 최적화한다.
• 논리 프로그램에서 성공 확률과 증거 기반 샘플링을 적용하여 기호 표현에서 레이블 확률을 계산한다.
• VAE의 잠재 출력에서 유도된 논리 표현식에 조건을 붙여 레이블 예측을 잠재 코드에서 분리한다.
• 동일한 기호적 잠재 공간에서 새로운 논리 프로그램을 삽입함으로써 신경 모델을 재훈련하지 않고도 제로샷 생성을 지원한다.

실험 결과

연구 질문

• RQ1 생성 모델이 잠재 표현을 이해할 수 있는 기호적 논리 표현식으로 분리시켜 추론을 지원할 수 있는가?
• RQ2 표준 VAE와 비교했을 때, 확률적 논리 프로그래밍을 통합함으로써 새로운 생성 작업에 대한 일반화 능력이 얼마나 향상되는가?
• RQ3 기호 사전 지식이 이미지 생성 작업에서 데이터가 적은 환경에서 데이터 효율성을 향상시키는가?
• RQ4 신경 구성 요소를 재훈련하지 않고도 논리 프로그램만 수정함으로써 새로운 작업에 일반화할 수 있는가?
• RQ5 기호적 추론의 통합이 딥 생성 모델의 해석 가능성과 인덕티브 바이어스에 어떻게 기여하는가?

주요 결과

• VAEL은 이미지 생성 벤치마크에서 특히 데이터가 적은 환경에서 최신 기준 성능을 달성한다.
• 동일한 VAE 인코더를 재사용하고 새로운 논리 프로그램만 적용함으로써 새로운 생성 작업(예: 새로운 산술 연산)에 일반화된다. 이 과정에서 재훈련이 필요 없다.
• VAEL은 훈련 데이터가 부족한 환경에서 표준 VAE보다 더 뛰어난 데이터 효율성을 보여준다.
• 확률적 논리 프로그래밍의 통합을 통해 기호 프로그램 적응을 통해 새로운 추론 작업에 제로샷 일반화가 가능하다.
• 기호적 잠재 공간은 이해할 수 있는 추론을 가능하게 하며, 성공 확률과 증거 기반 샘플링을 통해 생성된 콘텐츠에 대한 논리적 추론을 실현한다.
• 저자들의 지식에 비추어볼 때, VAEL은 생성 모델을 위한 VAE와 확률적 논리 프로그래밍을 종단 간 미분 가능한 방식으로 통합한 최초의 프레임워크이다.