[논문 리뷰] Learning a natural-language to LTL executable semantic parser for grounded robotics

Christopher Wang, Candace Ross외 3명|arXiv (Cornell University)|2020. 08. 07.

Natural Language Processing Techniques인용 수 6

한 줄 요약

이 논문은 문장-궤적 쌍과 LTL 실행자만을 사용하여 자연어 명령어를 실행 가능한 선형 시간 논리(LTL) 공식으로 매핑하는 약한 지도 학습 기반의 구조화된 의미 해석기 모델을 제안한다. 입력 복원을 위한 생성기, 행동 검증을 위한 실행자, 문법적 제약 조건을 결합함으로써 인간이 주석 처리한 LTL 공식 없이도 은닉된 언어적 구조를 발견할 수 있으며, 높은 어휘적·구문적 다양성에도 불구하고 기계 및 인간이 생성한 명령어 모두에서 약 80%의 실행 정확도를 달성한다.

ABSTRACT

Children acquire their native language with apparent ease by observing how language is used in context and attempting to use it themselves. They do so without laborious annotations, negative examples, or even direct corrections. We take a step toward robots that can do the same by training a grounded semantic parser, which discovers latent linguistic representations that can be used for the execution of natural-language commands. In particular, we focus on the difficult domain of commands with a temporal aspect, whose semantics we capture with Linear Temporal Logic, LTL. Our parser is trained with pairs of sentences and executions as well as an executor. At training time, the parser hypothesizes a meaning representation for the input as a formula in LTL. Three competing pressures allow the parser to discover meaning from language. First, any hypothesized meaning for a sentence must be permissive enough to reflect all the annotated execution trajectories. Second, the executor -- a pretrained end-to-end LTL planner -- must find that the observe trajectories are likely executions of the meaning. Finally, a generator, which reconstructs the original input, encourages the model to find representations that conserve knowledge about the command. Together these ensure that the meaning is neither too general nor too specific. Our model generalizes well, being able to parse and execute both machine-generated and human-generated commands, with near-equal accuracy, despite the fact that the human-generated sentences are much more varied and complex with an open lexicon. The approach presented here is not specific to LTL: it can be applied to any domain where sentence meanings can be hypothesized and an executor can verify these meanings, thus opening the door to many applications for robotic agents.

연구 동기 및 목표

• 로봇이 맥락에서 언어 사용을 관찰함으로써 인간의 언어 습득을 모방하여 자연어 명령어의 의미를 학습할 수 있도록 유도하기 위해.
• 수동으로 주석 처리된 LTL 공식이 필요 없이 시간적으로 복잡한 명령어를 해석하는 도전 과제를 해결하기 위해.
• 최소한의 지도 학습으로도 다양한 도메인과 형식 체계에 적용 가능한 일반적인 실행 가능한 의미 표현 학습 프레임워크를 개발하기 위해.
• 형식 체계와 정확히 일치하지 않을 수 있는 다양한 오픈 어휘 인간 생성 명령어에 대해 모델의 일반화 능력을 평가하기 위해.
• 실행 결과와 계획기로부터의 약한 지도 학습만을 사용하여 은닉된 언어적 구조를 발견하고 실행 가능한 명령어를 생성할 수 있는지 탐색하기 위해.

제안 방법

• 해당 해석기는 입력 문장에 대해 문법적으로 유효한 LTL 공식을 의미 표현으로 생성한다.
• 사전에 훈련된 종단 간 LTL 계획기(실행자)는 관측된 로봇 궤적이 가설적인 LTL 공식 하에서 가능성이 높은지 평가한다.
• 일련의 시퀀스-투-시퀀스 생성기는 LTL 공식에서 원래 문장을 복원함으로써 지식 유지와 의미 충실도를 장려한다.
• 모델는 문법적 유효성, 실행 가능성 확률, 복원 정확도를 종합한 공동 손실 함수를 통해 훈련된다.
• 관측된 궤적의 커버리지, 실행자 하에서의 행동 타당성, 복원 충실도라는 세 가지 경쟁적 압력이 모델이 과도하거나 과소 기술하는 것을 방지한다.
• 이 접근법은 모듈러하다. 기존 아키텍처를 유지한 채로 우선분포(LTL)와 실행자를 다른 것으로 교체함으로써 다른 형식 체계로도 적용 가능하다.

실험 결과

연구 질문

• RQ1 인간이 주석 처리한 LTL 지도 없이도 의미 해석기가 자연어 명령어를 실행 가능한 LTL 공식으로 매핑할 수 있는가?
• RQ2 형식 체계와 정확히 일치하지 않는 문법적·어휘적으로 다양성이 큰 인간 생성 오픈 어휘 명령어에 대해 모델의 일반화 능력은 어느 정도인가?
• RQ3 형식 체계가 입력 언어를 완벽하게 반영하지 못할 경우, 모델이 은닉된 언어적 구조를 어느 정도 발견할 수 있는가?
• RQ4 실행 피드백, 복원, 문법적 제약 조건의 조합이 지도 학습 기반 대비 학습 성능을 얼마나 향상시키는가?
• RQ5 명시적인 언어나 도메인 전문 지식 없이도 실제 세계의 비정형 인간 언어에서 높은 실행 정확도를 달성할 수 있는가?

주요 결과

• 기계가 생성한 명령어와 인간이 생성한 명령어 모두에서 약 80%의 실행 정확도를 달성하여 인간 입력의 높은 어휘적·구문적 다양성에도 불구하고 강력한 일반화 능력을 입증한다.
• 기계가 생성한 데이터셋에서는 80%의 실행 정확도를 기록했으며, 이는 완전히 지도된 접근 방식의 95%에 비해 略적으로 낮지만, 지도된 LTL 주석이 전혀 필요하지 않다.
• 지도 학습 모델과 약한 지도 학습 모델 간의 성능 격차는 실행 정확도 기준으로 5~10%에 불과하여 약한 지도 학습 기반 접근의 뛰어난 효과를 시사한다.
• 생성기 모듈은 성능을 1~4% 향상시키며, IML+generator 조합이 가장 뛰어난 성능을 보였다.
• 문장당 단 3개의 예시만으로도 80%의 실행 정확도를 달성했으며, 7개의 예시로 증가시킬 경우 정확한 공식 일치율이 2%에서 14%로 상승하여 데이터 부족 상황에서도 강건함을 입증했다.
• 형식 체계의 한계에도 불구하고, 모델는 테스트 환경에서 인간이 생성한 명령어의 약 43%를 성공적으로 해석하고 실행했으며, 80%의 수용률을 기록하여 언어 다양성에 대한 뛰어난 내성성을 보였다.