[논문 리뷰] Towards an Engine for Lifelong Interactive Knowledge Learning in Human-Machine Conversations

Sahisnu Mazumder, Nianzu Ma외 1명|arXiv (Cornell University)|2018. 02. 16.

Topic Modeling참고 문헌 27인용 수 8

한 줄 요약

이 논문은 대화 중 인간-기계 대화 동안 지속적으로 새로운 지식을 습득하고 통합할 수 있도록 해주는 라이프런닝 인터랙티브 러닝 및 추론 엔진인 LiLi를 제안한다. 이는 인간과 유사한 학습 방식을 모방한다. 지식 습득을 오픈월드 지식 기반 보완 문제로 모델링함으로써 LiLi는 고정 지식 기반 대비 동적 지식 통합 및 대화 성능에서 뚜렷한 향상을 이룬다.

ABSTRACT

Although chatbots have been very popular in recent years, they still have some serious weaknesses which limit the scope of their applications. One major weakness is that they cannot learn new knowledge during the conversation process, i.e., their knowledge is fixed beforehand and cannot be expanded or updated during conversation. In this paper, we propose to build a general knowledge learning engine for chatbots to enable them to continuously and interactively learn new knowledge during conversations. As time goes by, they become more and more knowledgeable and better and better at learning and conversation. We model the task as an open-world knowledge base completion problem and propose a novel technique called lifelong interactive learning and inference (LiLi) to solve it. LiLi works by imitating how humans acquire knowledge and perform inference during an interactive conversation. Our experimental results show LiLi is highly promising.

연구 동기 및 목표

• 현재 대화형 챗봇이 대화 중에 새로운 지식을 습득할 수 없는 심각한 한계를 해결하기 위해, 사전에 정의된 정적 지식에 의존하는 방식을 탈피한다.
• 대화 상호작용을 통해 실시간으로 지식을 지속적으로 확장하고 업데이트할 수 있도록 챗봇을 지원한다.
• 동적 대화 환경에서 오픈월드 지식 기반 보완을 지원하는 일반 목적의 학습 엔진을 개발한다.
• 장기적인 학습과 추론 능력을 향상시키기 위해 대화 중 인간과 유사한 지식 습득 및 추론 과정을 모방한다.

제안 방법

• 지식 학습 작업을 오픈월드 지식 기반 보완 문제로 모델링하여 대화 중에 새로운 사실을 점진적으로 추가할 수 있도록 한다.
• 사용자 발언으로부터 실시간으로 새로운 지식을 통합하는 인터랙티브 피드백 루프를 활용한 라이프런닝 학습 프레임워크인 LiLi를 설계한다.
• 미래의 추론과 맥락 기반 추론을 위해 새로 습득한 사실을 저장하고 검색할 수 있는 메모리 증강 메커니즘을 구현한다.
• 대화 기록과 들어오는 사용자 입력에 기반해 지식 표현을 업데이트하는 동적 추론 엔진을 사용한다.
• 응답 생성 과정에서 관련된 과거 상호작용과 새로 도입된 사실을 우선순위화하기 위해 어텐션 기반 메커니즘을 활용한다.
• 대화 환경에서 지식 유지, 검색, 생성의 균형을 맞추기 위해 시스템을 종단 간(end-to-end)으로 훈련한다.

실험 결과

연구 질문

• RQ1 재훈련이 필요 없이 대화 중에 지속적으로 새로운 지식을 동적으로 습득하고 유지할 수 있는가?
• RQ2 LiLi 프레임워크는 상호작용 대화 중에 지속적으로 변화하는 지식 기반에 새로운 사실을 얼마나 효과적으로 통합하는가?
• RQ3 장기적인 학습이 시간이 지남에 따라 대화 성능과 지식 커버리지에 얼마나 기여하는가?
• RQ4 LiLi의 인간을 모방한 학습 메커니즘은 오픈도메인 대화에서 정적 지식 기반 접근 방식과 비교해 어떻게 성능을 냈는가?

주요 결과

• LiLi는 기존 시스템의 고정 지식 한계를 극복하고 대화 중에 지속적으로 지식을 습득하고 업데이트할 수 있도록 한다.
• 정적 지식 기반 기반 모델 대비 지식 습득 및 유지 측면에서 뚜렷한 향상을 보였다.
• 지식 공간에 대한 사전 지식이 필요 없이 새로운 사실의 추가를 허용함으로써 오픈월드 학습을 지원한다.
• 실험 결과, 반복적인 상호작용을 통해 시스템이 점차 더 지식이 풍부하고 효과적으로 진화하는 것으로 확인되었다.
• 대화 중에 도입된 새로운 사실을 잘 처리함으로써 강력한 일반화 능력과 적응성을 보였다.