[논문 리뷰] Natural Language Processing with Commonsense Knowledge: A Survey

Yubo Xie, Liu, Zonghui외 5명|arXiv (Cornell University)|2021. 08. 10.

Topic Modeling참고 문헌 164인용 수 9

한 줄 요약

이 종합 검토는 외부 공통 지식을 통합하여 자연어 처리 성능을 향상시키는 공통 지식 기반 및 방법론을 검토하며, 특히 더 깊은 맥락 이해가 필요한 작업에 초점을 맞춘다. 대화 시스템, 텍스트 분류, 지식 기반 구축 분야에서의 최근 발전을 강조하며, 모델의 추론 능력과 응답 품질 향상에 기여하는 직관적 심리학과 사회지능의 역할을 다룬다.

ABSTRACT

Commonsense knowledge is essential for advancing natural language processing (NLP) by enabling models to engage in human-like reasoning, which requires a deeper understanding of context and often involves making inferences based on implicit external knowledge. This paper explores the integration of commonsense knowledge into various NLP tasks. We begin by reviewing prominent commonsense knowledge bases and then discuss the benchmarks used to evaluate the commonsense reasoning capabilities of NLP models, particularly language models. Furthermore, we highlight key methodologies for incorporating commonsense knowledge and their applications across different NLP tasks. The paper also examines the challenges and emerging trends in enhancing NLP systems with commonsense reasoning. All literature referenced in this survey can be accessed via our GitHub repository: https://github.com/yuboxie/awesome-commonsense.

연구 동기 및 목표

• 기존 공통 지식 기반의 포괄적 개요를 제공하고 자연어 처리 작업에서의 기여 역할을 설명하는 것.
• 의미적 및 담론적 자연어 처리 작업 성능 향상을 위해 외부 공통 지식을 활용하는 기준 평가 및 방법론을 검토하는 것.
• 특히 대화 시스템에서 사회지능과 직관적 심리학을 모델링하는 데 있어 현재 접근법의 격차를 특정하는 것.
• 사전 훈련된 모델를 활용한 자동 지식 기반 구축 및 사투리나 유머 감지와 같은 작업에서의 공통 지식 통합 향상 방향을 탐색하는 것.

제안 방법

• 구조, 제작 방법, 커버리지에 중점을 두고 ConceptNet, OpenCyc, Atomic, ASER, CSKG와 같은 주요 공통 지식 기반을 조사하는 것.
• 신경망 모델에 외부 지식를 통합하는 방법론 분석, 예를 들어 검색된 지식 그래프에 대한 어텐션 메커니즘과 순서-순서 모델에서의 지식 인식 디코더 포함.
• 응답 생성을 위한 관련 공통 지식 사실을 선별하기 위해 지식 검색 및 점수 매기기 메커니즘(예: 주장 점수를 갖는 Tri-LSTM)을 사용하는 모델 평가.
• 대화 기록과 외부 지식을 모두 기반으로 응답 생성을 조건화하는 접근법 검토, 예를 들어 ConceptNet 하위 그래프에 기반한 그래프 어텐션 네트워크 활용.
• 사전 훈련된 언어 모델을 활용해 고품질, 대규모 공통 지식 기반을 자동으로 구축하기 위한 방법 제안.
• 직관적 심리학과 사회적 상호작용 패tern을 지식 기반에 통합하여 챗봇의 공감 능력과 다양성 있는 응답 생성 능력을 향상시키는 것 탐구.

실험 결과

연구 질문

• RQ1 외부 공통 지식은 자연어 이해 및 생성 작업의 성능을 어떻게 향상시킬 수 있는가?
• RQ2 현재 공통 지식 기반의 핵심적 한계는 사회지능과 직관적 심리학을 포괄하지 못하는 데에 있는가?
• RQ3 사전 훈련된 언어 모델을 활용해 고품질, 대규모 공통 지식 기반을 자동으로 구축하는 데 얼마나 활용할 수 있는가?
• RQ4 지식 기반은 신경망 대화 시스템에 어떻게 효과적으로 통합되어 더 맥락적이고 정서적으로 적절한 응답을 생성할 수 있는가?
• RQ5 공통 지식은 사투리나 유머 감지와 같은 도전적인 텍스트 분류 작업에서 어떤 역할을 할 수 있는가?

주요 결과

• ConceptNet, Atomic, ASER와 같은 공통 지식 기반은 직관적 심리학과 물리적 상호작용의 구조화된 표현을 제공하여 모델이 표면적 텍스트를 초월해 추론할 수 있도록 한다.
• 외부 기반에서 검색한 지식에 기반해 응답 생성을 조건화하는 방법(예: 그래프 어텐션 또는 주장 점수)은 메모리 네트워크나 단어 임베딩 기반 기준 모델보다 성능이 뛰어나다.
• 사전 훈련된 언어 모델은 자동 지식 기반 구축에 유망한 가능성을 보이지만, 현재 결과는 소규모 평가에 국한되어 있으며 대규모, 고정확도 구현은 아직 부족하다.
• 기존 지식 기반은 공감 어휘와 같은 사회적 상호작용 패턴을 명시적으로 모델링하지 못해 챗봇의 사회지능 있는 응답 생성 능력을 제한한다.
• 특히 사투리나 감정 추론과 같은 미묘한 추론이 요구되는 텍스트 분류 작업에 공통 지식을 통합하면, 심리학 중심 지식 기반을 활용할 경우 모델 성능 향상이 가능하다.
• 도메인 특화 또는 행동 중심의 공통 지식 기반(예: 사회지능을 위한) 구축은 아직 개발 수준이 낮아 향후 주요 연구 기회로 남아 있다.