[논문 리뷰] LSTM-Based Goal Recognition in Latent Space

Leonardo Amado, João Paulo Aires외 4명|arXiv (Cornell University)|2018. 08. 15.

AI-based Problem Solving and Planning참고 문헌 24인용 수 10

한 줄 요약

이 논문은 잠재 공간에 인코딩된 계획 추적을 직접 분류하여 수동으로 설계된 PDDL 도메인이나 광범위한 도메인 지식이 필요 없이 종료형 LSTM 기반 목표 인식 방법을 제안한다. 기존 방법에 비해 특정 시나리오에서 높은 정확도와 빠른 추론 성능를 달성하지만, 예측되지 않은 목표로의 일반화 능력은 제한되어 있다.

ABSTRACT

Approaches to goal recognition have progressively relaxed the requirements about the amount of domain knowledge and available observations, yielding accurate and efficient algorithms capable of recognizing goals. However, to recognize goals in raw data, recent approaches require either human engineered domain knowledge, or samples of behavior that account for almost all actions being observed to infer possible goals. This is clearly too strong a requirement for real-world applications of goal recognition, and we develop an approach that leverages advances in recurrent neural networks to perform goal recognition as a classification task, using encoded plan traces for training. We empirically evaluate our approach against the state-of-the-art in goal recognition with image-based domains, and discuss under which conditions our approach is superior to previous ones.

연구 동기 및 목표

• 딥 러닝을 활용하여 목표 인식에서 인간이 설계한 도메인 지식에 대한 의존도를 줄이기 위해.
• 명시적인 PDDL 도메인을 구축하지 않고도 계획 추적의 잠재 표현에서 직접 목표 인식을 가능하게 하기 위해.
• 이미지 기반 도메인에서 최신 기술과 비교하여 LSTM 기반 접근법의 성능을 평가하기 위해.
• 목표 인식에서 순수 기계 학습 기반 접근법과 하이브리드 고전-기계 학습 기반 접근법 간의 상충 관계를 분석하기 위해.
• 제안된 방법이 노이즈가 있거나 최적화되지 않은 계획 추적에 대해 일반화 능력과 강건성에 어떻게 영향을 미치는지 조사하기 위해.

제안 방법

• LSTM 네트워크는 잠재 공간에 인코딩된 순차적 계획 추적을 기반으로 목표를 분류하도록 훈련된다.
• 잠재 표현은 원시 이미지 데이터를 압축하여 분리된 벡터로 만드는 변동형 오토에코더(VAE)로부터 유도된다.
• LSTM은 순차적인 잠재 벡터 시퀀스를 입력으로 받아 시간적 의존성을 학습하고 목적지 목표를 예측한다.
• 모델은 계획 도메인에서 생성된 계획 추적을 사용하여 훈련되며, 최적 및 비최적 계획을 모두 포함하여 강건성을 향상시킨다.
• 다양한 계획 추적을 생성하기 위해 상위-k 계획기(top-k planner)를 사용하여 훈련 데이터에 여러 해법 경로를 포함시킨다.
• 모델은 데이터에서 직접 목표 인식을 학습함으로써 명시적인 PDDL 모델링을 피함으로써 도메인 엔지니어링 의존도를 감소시킨다.

실험 결과

연구 질문

• RQ1 PDDL 도메인이나 광범위한 도메인 지식 없이도 LSTM 네트워크가 경쟁 가능한 목표 인식 정확도를 달성할 수 있는가?
• RQ2 LSTM 기반 접근법의 성능는 랜드마크 히우리스틱이나 계획 기반 추론과 같은 고전적 목표 인식 방법과 비교해 어떻게 되는가?
• RQ3 학습 분포 외의 목표에 직면했을 때 LSTM 모델의 일반화 능력은 어떠한가?
• RQ4 비최적 또는 노이즈가 있는 계획 추적을 포함할 경우 모델의 예측 정확도와 강건성에 어떤 영향을 미치는가?
• RQ5 잠재 전이(pre-training on latent transitions)를 통해 일반화 및 저자료 환경에서의 LSTM 성능 향상이 가능한가?

주요 결과

• 이미지 기반 도메인에서 기존의 최신 고전적 방법과 비교해 유사하거나 높은 정확도를 달성한다.
• 빠른 예측 시간과 0%의 가짜 양성 결과를 보이며, 입력 시퀀스당 오직 하나의 목표만 예측한다.
• 수동으로 작성된 PDDL 도메인의 필요성을 제거하여 도메인 엔지니어링 노력이 크게 감소한다.
• 예측되지 않은 목표로의 일반화 능력은 여전히 제한되어 있으며, 특히 소규모 또는 희소한 훈련 데이터 세트에서는 더욱 그렇다.
• 모델 성능는 특히 비최적 또는 노이즈가 있는 계획 추적을 포함할 경우 훈련 데이터의 품질과 다양성에 크게 의존한다.
• 잠재 전이에 대한 사전 훈련과 상위-k 계획기를 사용해 다양한 훈련 시퀀스를 생성하면 모델의 강건성과 정확도가 향상된다.