[논문 리뷰] A Neuro-vector-symbolic Architecture for Solving Raven's Progressive Matrices

Michael Hersche, Mustafa Zeqiri외 3명|arXiv (Cornell University)|2022. 03. 09.

Neural Networks and Applications인용 수 5

한 줄 요약

이 논문은 높은 차원의 분산 표현을 활용하여 바인딩 문제를 해결하고 효율적인 확률적 추론을 가능하게 함으로써 딥러닝과 상징적 추론을 통합하는 신경-벡터-기반 아키텍처(NVSA)를 제안한다. NVSA는 레이븐의 진행성 매트릭스(RPM) 문제를 해결하며, RAVEN에서 87.7%의 새로운 최고 성능을 기록하고 I-RAVEN에서는 88.1%의 성능을 달성한다. 분산 벡터에서의 효율적 연산 덕분에 상징적 대비로 추론 속도가 약 두 개의 지수 차수 빠르다.

ABSTRACT

Neither deep neural networks nor symbolic AI alone has approached the kind of intelligence expressed in humans. This is mainly because neural networks are not able to decompose joint representations to obtain distinct objects (the so-called binding problem), while symbolic AI suffers from exhaustive rule searches, among other problems. These two problems are still pronounced in neuro-symbolic AI which aims to combine the best of the two paradigms. Here, we show that the two problems can be addressed with our proposed neuro-vector-symbolic architecture (NVSA) by exploiting its powerful operators on high-dimensional distributed representations that serve as a common language between neural networks and symbolic AI. The efficacy of NVSA is demonstrated by solving the Raven's progressive matrices datasets. Compared to state-of-the-art deep neural network and neuro-symbolic approaches, end-to-end training of NVSA achieves a new record of 87.7% average accuracy in RAVEN, and 88.1% in I-RAVEN datasets. Moreover, compared to the symbolic reasoning within the neuro-symbolic approaches, the probabilistic reasoning of NVSA with less expensive operations on the distributed representations is two orders of magnitude faster. Our code is available at https://github.com/IBM/neuro-vector-symbolic-architectures.

연구 동기 및 목표

• 신경망의 바인딩 문제와 상징적 AI의 포괄적 탐색 문제를 신경-벡터-기반 프레임워크에서 통합함으로써 해결하기 위해.
• 고차원 분산 표현을 공통 언어로 사용하여 RPM 작업에서 시각적 인식과 추상적 추론을 종단 간(end-to-end) 학습 가능하게 하기 위해.
• 기존 딥러닝 및 신경-기반 모델 대비 더 높은 효율성과 정확도를 바탕으로 인간 수준의 일반화 성능을 달성하기 위해.
• 분산 표현에서의 확률적 추론이 복잡한 시각적 유사성 작업에서 상징적 규칙 기반 추론보다 더 빠르고 정확할 수 있음을 보여주기 위해.

제안 방법

• NVSA는 신경 및 기호적 구성 요소 간의 공통 의미 공간으로 고차원 분산 표현(HDDRs)을 사용하여 명시적 객체 분할 없이도 복합적 추론이 가능하도록 한다.
• 아키텍처는 입력 매트릭스에서 속성(예: 모양, 색상, 위치)을 추출하기 위해 다중 헤드 인식 프론트엔드를 활용하며, 각각은 활성 규칙을 위한 메타라벨이 추가된 REINFORCE 손실과 함께 종단 간으로 훈련된다.
• 확률적 추론 엔진은 예측된 속성 분포와 진정값 분포 간의 젠슨-쇼넬 분산(Jensen-Shannon divergence, JSD)을 사용하여 규칙의 가능성도를 계산하며, 작은 MLP를 통해 속성 중요도에 대한 학습 가능한 가중치를 제공한다.
• 규칙 추론은 각 속성에 대해 가장 가능성 높은 규칙을 선택함으로써 수행되며, 최종 답변 선택은 학습된 가중치를 사용해 속성 간 JSD 점수를 집계함으로써 이루어진다.
• 시스템은 두 단계 훈련을 수행한다: 첫 번째로, 단일 활성 규칙이 있는 필터링된 데이터에서 인식 프론트엔드를 훈련하고, 두 번째로, 전체 데이터에서 활성 속성을 예측하는 속성 선택 MLP를 훈련한다.
• 모든 구성 요소는 종단 간으로 훈련되어, 별도의 네트워크 파ip라인 없이 인식과 추론을 함께 최적화할 수 있다.

실험 결과

연구 질문

• RQ1 신경-벡터-기반 아키텍처는 신경망의 바인딩 문제를 해결하면서도 상징적 AI의 포괄적 탐색 문제를 피할 수 있는가?
• RQ2 고차원 분산 표현은 신경망과 기호적 시스템 간의 효과적인 공통 언어로 작용하여 추상적 시각적 추론에 기여할 수 있는가?
• RQ3 분산 표현에서의 확률적 추론은 RPM 작업에서 상징적 규칙 기반 추론보다 더 빠르고 정확한 성능을 낼 수 있는가?
• RQ4 신경-기반 모델의 종단 간 훈련이 RAVEN 및 I-RAVEN 벤치마크에서 최고 성능을 달성할 수 있는가?

주요 결과

• NVSA는 RAVEN 데이터셋에서 87.7%의 새로운 최고 성능을 기록했고, I-RAVEN 데이터셋에서는 88.1%의 성능을 달성하여 기존 딥러닝 및 신경-기반 모델을 능가한다.
• 모델의 분산 표현에서의 확률적 추론은 유사한 신경-기반 프레임워크에서 상징적 추론보다 약 100배 빠르다.
• NVSA의 종단 간 훈련은 PGM 데이터셋에서 평균 68.3%의 정확도를 기록했으며, 이는 규칙 기반 필터링을 훈련 중에 사용하지 않았음에도 불구하고 현재 최고 성능 모델인 MRNet의 성능과 동일하다.
• 작은 MLP를 통한 학습 가능한 속성 가중치 사용은 규칙 신뢰도와 오차에 기반해 관련 속성에 동적으로 집중함으로써 PGM에서의 성능을 향상시킨다.
• 모델은 다양한 데이터셋 간에서 잘 일반화되며, 규칙 복잡도와 속성 조합의 변화에 대해 뛰어난 강건성을 보인다.
• 절단 실험 결과, 분산 표현과 확률적 추론의 조합이 높은 성능을 내기 위해 필수적임을 확인하였으며, 이 중 하나를 제거할 경우 정확도가 크게 떨어진다.