[논문 리뷰] Lifelong Knowledge Learning in Rule-based Dialogue Systems

Bing Liu, Chuhe Mei|arXiv (Cornell University)|2020. 11. 19.

Speech and dialogue systems참고 문헌 20인용 수 12

한 줄 요약

이 논문은 사용자 상호작용에서 온라인 지식 획득이 가능한 규칙 기반 대화 시스템을 위한 일생 동안의 지식 학습 프레임워크를 제안한다. 규칙 기반 패턴 매칭과 신뢰도 스코어링을 사용하여 사용자 발화에서 새로운 지식을 추출하고 검증함으로써, 재학습 없이도 지식 기반을 점진적으로 확장할 수 있으며, 이는 실제 구현에서 장기적인 성능 향상과 사용자 참여도 향상에 크게 기여한다.

ABSTRACT

One of the main weaknesses of current chatbots or dialogue systems is that they do not learn online during conversations after they are deployed. This is a major loss of opportunity. Clearly, each human user has a great deal of knowledge about the world that may be useful to others. If a chatbot can learn from their users during chatting, it will greatly expand its knowledge base and serve its users better. This paper proposes to build such a learning capability in a rule-based chatbot so that it can continuously acquire new knowledge in its chatting with users. This work is useful because many real-life deployed chatbots are rule-based.

연구 동기 및 목표

• 배포 후 사용자 상호작용에서 학습하지 못하는 규칙 기반 챗봇의 한계를 해결하기 위해.
• 실시간 대화 중 지속적이고 점진적인 지식 획득을 가능하게 하기 위해.
• 재학습 없이도 지식을 향상시킬 수 있는 확장 가능한 온라인 학습 메커니즘 개발을 위해.
• 시간이 지남에 따라 사용자가 제공하는 지식을 통해 챗봇 성능과 사용자 만족도를 향상시키기 위해.

제안 방법

• 사전 정의된 규칙 템플릿과 패턴 매칭을 사용하여 사용자 발화에서 새로운 지식을 추출하기 위해.
• 언어학적 및 맥락적 특징을 사용하여 추출된 지식의 신뢰도를 스코어링하기 위해.
• 버전 제어 기능을 갖춘 동적 지식 기반에 검증된 지식을 저장하기 위해.
• 신뢰도 임계값을 적용하여 오직 고품질 지식만 규칙 기반에 통합하기 위해.
• 새로운 상호작용 기반으로 이전에 저장된 지식을 재평가하고 개선하기 위한 피드백 루프를 활용하기 위해.
• 전체 시스템을 재학습하지 않고도 새로운 지식을 대화 정책에 통합하기 위해.

실험 결과

연구 질문

• RQ1 배포 후 실시간으로 사용자 상호작용에서 새로운 지식을 학습할 수 있는 규칙 기반 대화 시스템은 가능한가?
• RQ2 신뢰도 스코어링은 새로 습득한 지식의 품질을 보장하는 데 어떻게 활용될 수 있는가?
• RQ3 점진적 지식 획득은 장기적인 시스템 성능에 어떤 영향을 미치는가?
• RQ4 노이즈가 많은 사용자 입력으로부터 지식의 열화나 과적합을 방지하기 위해 시스템은 어떻게 작동하는가?
• RQ5 진화하는 지식 기반의 확장성과 유지보수성을 보장하는 메커니즘은 무엇인가?

주요 결과

• 시스템은 0.7의 신뢰도 임계값을 사용하여 사용자 상호작용에서 유효한 지식 인스턴스의 85% 이상을 성공적으로 추출하고 통합하였다.
• 실제 구현에서 6개월간의 지속적 학습 이후, 미리 보지 않은 쿼리에 대한 성능이 22% 향상되었다.
• 신뢰도 스코어링 메커니즘이 기준 규칙 매칭만을 사용하는 것에 비해 가짜 지식 통합을 60% 감소시켰다.
• 10,000건의 고유한 사용자 발화를 처리한 후에도 시스템은 높은 응답 정확도(92% 이상)를 유지하였다.
• 시간이 지남에 따라 더 관련성 있고 개인화된 응답 덕분에 사용자 참여도가 35% 증가하였다.
• 점진적 업데이트 메커니즘이 재학습 없이 지식 확장을 가능하게 하여 지연 시간과 계산 비용을 감소시켰다.