[논문 리뷰] Neuro-Symbolic Artificial Intelligence: Current Trends

Md Kamruzzaman Sarker, Lu Zhou외 2명|arXiv (Cornell University)|2021. 05. 11.

Neural Networks and Applications참고 문헌 53인용 수 8

한 줄 요약

이 논문은 최신 주요 인공지능 컨ferences에서의 연구를 종합하여 신경기반기호형 인공지능(NeSy AI)의 현재 추세에 대한 체계적인 개요를 제공한다. 이는 헨리 코츠(Henry Kautz)의 2020년 분류 체계와 2005년 제안된 분류 체계를 사용한 두 가지 프레임워크를 활용하여 접근법을 분류하며, 설명 가능성, 데이터 효율성, 내구성 향상의 한계를 해결하기 위해 딥러닝과 기호적 추론을 통합하고자 하는 시도를 강조한다. 또한 NeSy 시스템에 더 깊은 복잡한 형식 논리의 통합이 절실하게 필요하다는 점을 지적한다.

ABSTRACT

Neuro-Symbolic Artificial Intelligence -- the combination of symbolic methods with methods that are based on artificial neural networks -- has a long-standing history. In this article, we provide a structured overview of current trends, by means of categorizing recent publications from key conferences. The article is meant to serve as a convenient starting point for research on the general topic.

연구 동기 및 목표

• 주요 인공지능 컨퍼런스에서의 최신 신경기반기호형 AI 연구 추세에 대해 체계적이고 최신화된 개요를 제공하는 것.
• NeSy AI 연구를 정리하기 위해 코츠의 2020년 분류 체계와 2005년 제안된 분류 체계를 비교 분석하는 것.
• NeSy AI의 이론적 잠재력과 현재의 구현 간 지속적인 격차, 특히 복잡한 형식 논리의 활용 측면에서의 격차를 부각하는 것.
• NeSy AI의 논리적 능력을 강화할 것임을 주장하며, 계층적 및 의미적 지식 표현 방식의 활용을 포함한 깊이 있는 논리적 기능 향상의 필요성을 강조하는 것.
• NeSy AI가 더 견고하고 설명 가능하며 궁극적으로 인간 수준의 인공지능을 향한 핵심적 길임을 위치 지우는 것.

제안 방법

• 논문은 NeSy AI에 대한 최근 주요 인공지능 컨퍼런스의 논문들을 헨리 코츠의 2020년 분류 체계를 기반으로 분석한다.
• 동일한 논문들을 2005년 분류 체계를 사용하여 재평가하여 NeSy 연구의 역사적 추세와 현재 추세를 대비한다.
• 기호적 추론이 딥러닝 시스템에서 수행하는 역할을 분석하며, 특히 용어 재작성, 논리적 추론, 문법 실행 등의 작업에서의 기여를 다룬다.
• 딥러닝 모델이 형식 논리(예: RDF 및 일阶 논리)에 대해 연역적 추론을 수행하도록 체계적으로 훈련시킬 수 있는지 조사한다.
• 복잡성 수준을 점진적으로 높이는 실험적 길을 제안하며, 평탄한 메타데이터 태그에서부터 schema.org와 같은 계층적 지식 기반까지의 진화를 고려한다.
• 딥 연역 추론기—논리적 결과를 분류하거나 회귀시키기 위해 훈련된 신경망—를 향후 NeSy 시스템의 핵심 구성 요소로 평가한다.

실험 결과

연구 질문

• RQ1 최근 주요 컨퍼런스에서 발표된 NeSy AI 논문들은 복잡한 형식 논리의 통합 비중이 얼마나 되는가? 특히 간단한 기호적 연산에 비해.
• RQ2 딥러닝 시스템은 논리적 추론이나 용어 재작성과 같은 잘 알려진 기호 조작 작업을 체계적으로 수행하도록 훈련시킬 수 있는가?
• RQ3 복잡성 수준을 점차 높일 경우(예: 사실에서 클래스 계층까지), NeSy AI 시스템의 성능과 내구성은 어떻게 향상될 수 있는가?
• RQ4 딥 뉴럴 네트워크가 형식 논리에 대해 연역적 추론을 수행하도록 훈련할 때의 확장성 및 성능 한계는 무엇인가?
• RQ5 특히 설명 가능성과 정확성 측면에서 딥러닝과 기호적 추론의 '최고의 두 가지를 결합'하는 실현 가능한 길이 존재하는가?

주요 결과

• 최근 NeSy AI 연구는 20년 전에 비해 복잡한 논리의 사용 비중이 증가했지만, 대부분의 연구는 여전히 비논리적 기호 수준에서 이루어지고 있다.
• 딥러닝 시스템은 특히 논리의 복잡성이 증가할수록 연역적 추론 작업에서 어려움을 겪으며, 이는 확장성과 학습 과제가 심각하다는 것을 시사한다.
• 예를 들어 키워드와 같은 평탄한 메타데이터 태그를 사용하는 시스템은 계층적 주석을 통합함으로써 향상될 수 있으며, 이는 더 풍부한 논리적 배경 지식이 성능 향상에 기여할 수 있음을 시사한다.
• RDF 및 schema.org와 같은 의미 웹 논리의 통합은 기본적인 NeSy AI 능력을 개발하기 위한 유망하고 확장 가능한 테스트베드를 제공한다.
• 딥 연역 추론기—논리적 결과를 추론하도록 훈련된 신경망 모델—는 초보적 성과를 보이고 있지만, 복잡한 형식 체계에서의 성능과 일반화 능력에선 여전히 제한되어 있다.
• 견고하고 설명 가능하며 확장 가능한 AI 시스템을 달성하기 위해 NeSy AI에서 논리적 복잡성의 체계적이고 단계적인 탐색이 필요하다.