[논문 리뷰] Neural Symbolic Machines: Learning Semantic Parsers on Freebase with Weak Supervision (Short Version)

Liang Chen, Jonathan Berant외 3명|arXiv (Cornell University)|2016. 12. 04.

Natural Language Processing Techniques참고 문헌 15인용 수 7

한 줄 요약

이 논문은 약한 지도하에 시퀀스-투-시퀀스 신경 프로그래머와 미분 불가능한 LISP 인터프리터 컴퓨터를 결합한 신경 기호 기계(NSM) 프레임워크를 소개한다. NSM는 특징 공학이나 도메인 전용 규칙 없이 WebQuestionsSP에서 최고 성능을 기록하며, 효율적인 훈련을 위해 근사 골드 프로그램을 사용한 REINFORCE를 적용한다.

ABSTRACT

Extending the success of deep neural networks to natural language understanding and symbolic reasoning requires complex operations and external memory. Recent neural program induction approaches have attempted to address this problem, but are typically limited to differentiable memory, and consequently cannot scale beyond small synthetic tasks. In this work, we propose the Manager-Programmer-Computer framework, which integrates neural networks with non-differentiable memory to support abstract, scalable and precise operations through a friendly neural computer interface. Specifically, we introduce a Neural Symbolic Machine, which contains a sequence-to-sequence neural "programmer", and a non-differentiable "computer" that is a Lisp interpreter with code assist. To successfully apply REINFORCE for training, we augment it with approximate gold programs found by an iterative maximum likelihood training process. NSM is able to learn a semantic parser from weak supervision over a large knowledge base. It achieves new state-of-the-art performance on WebQuestionsSP, a challenging semantic parsing dataset, with weak supervision. Compared to previous approaches, NSM is end-to-end, therefore does not rely on feature engineering or domain specific knowledge.

연구 동기 및 목표

• 신호 처리 및 복잡한 연산을 위한 신경 프로그램 유도에서 미분 가능한 메모리의 한계를 해결하기 위해.
• 비미분 가능하고 고수준의 프로그래밍 구조를 사용해 의미 분석에서 확장 가능하고 정밀하며 추상적인 추론을 가능하게 하기 위해.
• 수동적 특징 공학 및 도메인 전용 지식 없이 약한 지도하에 종단 간 의미 분석기를 훈련하기 위해.
• 코드 보조 기능을 갖춘 유창한 신경 컴퓨터 인터페이스를 통해 프로그램 생성의 검색 공간을 줄이기 위해.
• 실세계 의미 분석 벤치마크인 WebQuestionsSP와 같은 곳에서 최고 성능을 달성하기 위해.

제안 방법

• NSM 프레임워크는 매니저-프로그래머-컴퓨터 아키텍처를 사용한다: 매니저는 입력과 보상으로 약한 지도를 제공하고, 프로그래머는 자연어에서 프로그램을 생성하며, 컴퓨터는 이를 실행한다.
• 프로그래머는 중간 결과를 저장하고 재사용할 수 있는 키-변수 메모리가 있는 시퀀스-투-시퀀스 신경망이다.
• 컴퓨터는 Freebase를 기반으로 프로그램을 실행하는 비미분 가능한 LISP 인터프리터로, 추상적이고 확장 가능하며 정밀한 연산을 지원한다.
• 컴퓨터의 코드 보조는 문법적 및 의미적 오류를 점검하여 프로그래머의 검색 공간을 줄인다.
• 훈련은 REINFORCE 알고리즘을 사용하며, 반복적 최대우도 훈련을 통해 근사 골드 프로그램을 도입하여 학습 안정성을 향상시킨다.
• 질문에 대해 실체 연결을 적용하여 명시적 실체를 특수 토큰으로 대체하고, Freebase는 관련 관계와 실체만 유지하도록 사전 처리한다.

실험 결과

연구 질문

• RQ1 비미분 가능하고 고수준의 메모리를 사용해 약한 지도하에 의미 분석을 효과적으로 학습할 수 있는 신경 프로그램 유도 모델은 가능한가?
• RQ2 비미분 가능 메모리로 인해 backpropagation이 적용되지 않을 경우, 신경 프로그래머는 어떻게 정확한 프로그램을 생성할 수 있는가?
• RQ3 코드 보조 기능이 있는 신경 컴퓨터 인터페이스는 의미 분석에서 프로그램 생성의 검색 공간을 크게 줄일 수 있는가?
• RQ4 신경망과 기호 인터프리터를 통합하면 실세계 의미 분석 작업에서 더 나은 일반화 및 성능을 달성할 수 있는가?
• RQ5 종단 간 신경 모델은 특징 공학이나 강한 지도에 의존하는 이전 시스템을 능가할 수 있는가?

주요 결과

• NSM는 WebQuestionsSP 벤치마크에서 새로운 최고 성능 평균 F1 스코어 69.0을 기록했다.
• 모델은 평균 정밀도 70.9%와 평균 재현율 74.8%를 달성하여 모든 지표에서 뛰어난 성능을 보였다.
• NSM는 정확도@1이 59.4%를 기록하여 거의 60%의 질문을 정확히 맞췄다.
• 모델은 종단 간이며 특징 공학이나 도메인 전용 규칙이 전혀 필요하지 않아 이전 접근 방식과는 다르다.
• 훈련 시 근사 골드 프로그램을 사용함으로써 수렴 속도가 크게 향상되고 최적화 안정성이 향상되었다.
• LISP 인터프리터와 코드 보조의 통합은 다양한 메모리 모델이 달성할 수 없는 정밀하고 확장 가능하며 추상적인 추론을 가능하게 했다.