[論文レビュー] Towards an Engine for Lifelong Interactive Knowledge Learning in Human-Machine Conversations

Sahisnu Mazumder, Nianzu Ma+1 more|arXiv (Cornell University)|Feb 16, 2018

Topic Modeling参考文献 27被引用数 8

ひとこと要約

本論文では、会話中に継続的に新しい知識を習得・統合できるようにする、Lifelong Interactive Learning and InferenceエンジンであるLiLiを提案する。これは人間のような学習を模倣するもので、知識習得をオープンワールド知識ベース補完問題としてモデル化することにより、固定知識ベースのベースラインと比較して、動的知識統合および会話性能において顕著な向上を達成する。

ABSTRACT

Although chatbots have been very popular in recent years, they still have some serious weaknesses which limit the scope of their applications. One major weakness is that they cannot learn new knowledge during the conversation process, i.e., their knowledge is fixed beforehand and cannot be expanded or updated during conversation. In this paper, we propose to build a general knowledge learning engine for chatbots to enable them to continuously and interactively learn new knowledge during conversations. As time goes by, they become more and more knowledgeable and better and better at learning and conversation. We model the task as an open-world knowledge base completion problem and propose a novel technique called lifelong interactive learning and inference (LiLi) to solve it. LiLi works by imitating how humans acquire knowledge and perform inference during an interactive conversation. Our experimental results show LiLi is highly promising.

研究の動機と目的

• 現在のチャットボットが会話中に新しい知識を学習できないという深刻な制限を解決すること。代わりに静的で事前学習済みの知識に依存する。
• 対話によるフィードバックループを用いて、ユーザーの発話からリアルタイムで知識を継続的に拡張・更新できるようにすること。
• 動的会話環境におけるオープンワールド知識ベース補完をサポートする汎用的な学習エンジンを開発すること。
• 会話中に人間のような知識習得および推論プロセスを模倣することで、長期的な学習および推論能力を向上させること。

提案手法

• 知識学習タスクをオープンワールド知識ベース補完問題としてモデル化し、会話中に新しい事実を段階的に追加できるようにする。
• ユーザー発話から得た新知識をリアルタイムで統合する、永続的学習フレームワークとしてLiLiを設計する。
• 将来の推論および文脈的推論のために、新たに習得した事実を格納・取得できるメモリ拡張メカニズムを実装する。
• 会話履歴と入力ユーザー入力をもとに、知識表現を動的に更新する推論エンジンを用いる。
• 応答生成時に関連する過去の対話および新規に導入された事実を優先するため、アテンションベースのメカニズムを活用する。
• 対話環境において知識保持、取得、生成のバランスを取るために、エンドツーエンドでシステムを訓練する。

実験結果

リサーチクエスチョン

• RQ1 チャットボットは再トレーニングを必要とせずに、継続的な会話中に動的に新しい知識を習得・保持できるか？
• RQ2 LiLiフレームワークは、対話的対話中に進化する知識ベースに新しい事実を統合するのにどの程度効果的か？
• RQ3 長期間にわたり、永続的学習は会話パフォーマンスおよび知識カバレッジをどの程度向上させるか？
• RQ4 LiLiのヒューマンインスパイアド学習メカニズムは、オープンドメイン会話において静的知識ベースアプローチと比較して、どのように差をつけるか？

主な発見

• LiLiは、チャットボットが会話中に継続的に知識を学習・更新できることを可能にし、既存システムの固定知識制限を克服する。
• 静的知識ベースを備えたベースラインモデルと比較して、知識習得および保持の面で顕著な向上を示す。
• 事前に知識空間を把握している必要がないため、新しい事実の追加を可能にするオープンワールド学習をサポートする。
• 実験結果から、繰り返しの対話によってシステムが知識が豊富になり、効果的になることが確認された。
• 会話中に導入された新規事実を処理する能力が強く、一般化および適応性に優れていることが示された。