[논문 리뷰] Relational Neural Machines

Giuseppe Marra, Michelangelo Diligenti외 3명|arXiv (Cornell University)|2020. 02. 06.

Bayesian Modeling and Causal Inference참고 문헌 31인용 수 12

한 줄 요약

이 논문은 관계적 지식을 추론하고 불확실성 하에서 성능을 햖스키기 위해 딥 뉴럴 네트워크와 일阶 논리 추론기를 공동으로 훈련하는 신경-기호적 프레임워크인 관계형 신경 기계(Relational Neural Machines, RNM)를 소개한다. 지도 학습과 미분 가능한 논리적 추론을 통합함으로써 RNM는 Citeseer 인용 네트워크 데이터셋에서 표준 신경망과 기호 기반 기준보다 최신 기술 성능을 달성한다.

ABSTRACT

Deep learning has been shown to achieve impressive results in several tasks where a large amount of training data is available. However, deep learning solely focuses on the accuracy of the predictions, neglecting the reasoning process leading to a decision, which is a major issue in life-critical applications. Probabilistic logic reasoning allows to exploit both statistical regularities and specific domain expertise to perform reasoning under uncertainty, but its scalability and brittle integration with the layers processing the sensory data have greatly limited its applications. For these reasons, combining deep architectures and probabilistic logic reasoning is a fundamental goal towards the development of intelligent agents operating in complex environments. This paper presents Relational Neural Machines, a novel framework allowing to jointly train the parameters of the learners and of a First--Order Logic based reasoner. A Relational Neural Machine is able to recover both classical learning from supervised data in case of pure sub-symbolic learning, and Markov Logic Networks in case of pure symbolic reasoning, while allowing to jointly train and perform inference in hybrid learning tasks. Proper algorithmic solutions are devised to make learning and inference tractable in large-scale problems. The experiments show promising results in different relational tasks.

연구 동기 및 목표

• 순수하게 상징적이지 않은 딥 러닝 기반 접근법이 관계적 지식을 포착하고 불확실성 하에서 추론하는 데 한계를 가진다는 문제를 해결하기 위해.
• 기존 신경-기호 프레임워크에서의 취약한 통합과 확장성 문제를 극복하기 위해.
• 신경망 파라미터와 논리 규칙 가중치를 공동 최적화하여 일반화 능력과 해석 가능성 향상을 위해.
• 통합 아키텍처에서 지도 학습과 기호적 추론을 모두 지원하는 확장 가능하고, 미분 가능한 프레임워크를 제공하기 위해.

제안 방법

• RNM는 특징 추출을 위한 딥 뉴럴 네트워크와 관계적 추론을 위한 일阶 논리 추론기를 결합한다.
• 프레임워크는 논리 규칙를 통해 기울기를 역전파할 수 있도록 미분 가능한 추론을 사용하여 엔드 투 엔드 훈련을 가능하게 한다.
• 부분적으로 관측된 데이터를 다루기 위해 EM 유사 알고리즘을 사용하여, 레이블의 일부만 이용 가능한 경우에도 훈련이 가능하다.
• 규칙는 가중치를 가지며 신경망 파라미터와 함께 공동으로 학습되어, 데이터 기반으로 규칙의 중요도를 자동 조정할 수 있다.
• 출력층이 논리적 추론 엔진으로 대체되어 예측이 네트워크의 최종 레이어에서 분리된다.
• 프레임워크는 전도적 학습과 인도크티브 학습 설정을 모두 지원하여 실제 환경에서의 강인성을 향상시킨다.

실험 결과

연구 질문

• RQ1 신경-기호 프레임워크가 신경망 가중치와 논리 규칙 파라미터를 공동 최적화하여 관계적 추론 성능을 향상시킬 수 있는가?
• RQ2 신경망과 기호적 구성 요소를 공동으로 훈련시키면, 레이블이 제한된 관계적 분류 작업에서 성능에 어떤 영향을 미치는가?
• RQ3 RNM가 정확도와 확장성 측면에서 표준 신경망과 마르코프 논리 네트워크 같은 기호 기반 추론 시스템을 얼마나 뛰어나게 성능을 낼 수 있는가?
• RQ4 부분적으로 관측된 데이터, 즉 훈련 중에 레이블의 일부만 제공될 경우, 프레임워크는 어떻게 대처하는가?
• RQ5 RNM의 미분 가능한 논리적 추론은 규칙 가중치 학습에 효과를 주면서도, 유지보수성과 일반화 능력을 유지할 수 있는가?

주요 결과

• Citeseer 데이터셋에서, RNM는 훈련 데이터의 90%와 부분 관측 조건에서 78.0%의 정확도를 기록했으며, 기준 신경망(72.6%)과 SBR(78.0%)를 모두 초월했다.
• 훈련 데이터의 10%만 사용했을 경우, 부분 관측 설정에서 RNM는 70.8%의 정확도를 달성했으며, 기준(64.0%)과 SBR(70.3%)를 크게 뛰어넘었다.
• 완전 관측 조건에서, RNM는 훈련 데이터의 90%를 사용해 73.2%의 정확도를 기록했으며, 기준(72.3%)과 SBR(72.6%)를 초월했다.
• 모든 데이터 비율에서 일관된 성능 향상을 보이며, 데이터 부족 상황에서도 강인함을 입증했다.
• 최적의 규칙 가중치 학습 능력 덕분에, 예를 들어 공동체 내 인용 빈도의 변화 등 도메인 특화된 인용 패턴에 더 잘 적응할 수 있었다.
• 딥 러닝과 기호적 추론의 장점을 효과적으로 융합하여, 순수한 상징적이지 않은 기반 모델과 순수한 기호 기반 기준보다 더 높은 정확도를 달성했다.