[논문 리뷰] Neurosymbolic AI: The 3rd Wave

Artur d’Avila Garcez, Luís C. Lamb|arXiv (Cornell University)|2020. 12. 10.

Advanced Memory and Neural Computing인용 수 76

한 줄 요약

이 논문은 신경망 학습과 상징적 지식 표현 및 논리적 추론을 촘촘하게 통합하는 AI의 세 번째 물결을 주장한다. 기초적 결과를 조사하고, 표현, 분류체계, 그리고 뉴로-상징 시스템의 유망 방향을 논의한다.

ABSTRACT

Current advances in Artificial Intelligence (AI) and Machine Learning (ML) have achieved unprecedented impact across research communities and industry. Nevertheless, concerns about trust, safety, interpretability and accountability of AI were raised by influential thinkers. Many have identified the need for well-founded knowledge representation and reasoning to be integrated with deep learning and for sound explainability. Neural-symbolic computing has been an active area of research for many years seeking to bring together robust learning in neural networks with reasoning and explainability via symbolic representations for network models. In this paper, we relate recent and early research results in neurosymbolic AI with the objective of identifying the key ingredients of the next wave of AI systems. We focus on research that integrates in a principled way neural network-based learning with symbolic knowledge representation and logical reasoning. The insights provided by 20 years of neural-symbolic computing are shown to shed new light onto the increasingly prominent role of trust, safety, interpretability and accountability of AI. We also identify promising directions and challenges for the next decade of AI research from the perspective of neural-symbolic systems.

연구 동기 및 목표

• AI에서 신뢰, 안전성, 해석가능성 문제를 해결하기 위해 학습과 상징적 추론의 결합 필요성을 동기 부여한다.
• 뉴로상징적 결과를 역사적으로 및 현대적으로 조사하여 강건한 AI 시스템의 핵심 구성 요소를 식별한다.
• 표현 패러다임(분산형 대 로컬리스트)과 학습 및 추론에서의 역할을 명확히 한다.
• 뉴로상징 시스템의 분류 체계를 정리하고 실용적 통합 전략을 논의한다.
• 다음 10년간의 뉴로상징 AI를 위한 유망한 방향과 도전을 제시한다.

제안 방법

• 뉴로상징 연구 및 관련 AI 논쟁의 2계 decades를 검토하고 종합한다.
• 학습과 추론을 연결하는 데 있어 분산형 표현과 로컬리스트 표현의 역할을 분석한다.
• 임베딩 기반 및 상징적 컴파일링 접근을 포함한 뉴럴-상징 통합 형태를 검토한다.
• 실용적 설계 선택에 매핑되는 시스템 유형(Kautz의 프레임워크)을 평가한다.
• 뉴럴 통합에 적합한 논리 형식(비고전 논리 포함)을 논의한다.
• 정말로 통합된(Type 6) 뉴로상징 시스템을 개발하기 위한 기준과 방향을 제시한다.

실험 결과

연구 질문

• RQ1 효과적인 뉴로상징 AI에 필요한 필수 빌딩 블록과 구성 요소는 무엇인가?
• RQ2 신뢰성 있는 추론과 학습을 가능하게 하려면 분산형과 로컬리스트 표현을 어떻게 연결해야 하는가?
• RQ3 현재의 뉴로상징 시스템과 그 통합 전략을 가장 잘 설명하는 분류 체계는 무엇인가?
• RQ4 실제 작업에서의 다양한 통합 형태(통합형 대 느슨하게 결합된)의 장단점은 무엇인가?
• RQ5 다가오는 10년간 견고하고 설명가능하며 조합적으로 가능한 AI를 달성하기 위한 가장 유망한 방향은 무엇인가?

주요 결과

• 뉴럴-상징 AI는 설명가능성과 외삽을 위해 견고한 학습과 상징적 지식 및 논리적 추론을 결합하는 것을 목표로 한다.
• 느슨하게 결합된 형태에서부터 촘촘하게 통합된 뉴럴-상징 시스템에 이르기까지 다양한 통합 형태가 존재한다.
• 분산형 표현과 로컬리스트 표현은 각각 강점을 제공하며, 불확실성 하에서의 추론을 진전에 연결하는 것이 핵심이다.
• 종류를 1에서 6까지 분류하는 분류 체계(Kautz의 체계)가 true symbolic reasoning을 신경 엔진 내부에 그려진 방향으로의 진행을 강조한다.
• 현재 연구는 비고전 논리와 다가치 논리가 신경망을 설명하는 데 유용한 언어를 제공함을 보여준다.
• 진정한 Type 6 시스템으로서 확장 가능한 조합적 추론을 구현하는 것은 아직 남아 있는 목표로 남아 있어 향후 연구의 방향을 제시한다.