[論文レビュー] Towards Neural Speaker Modeling in Multi-Party Conversation: The Task, Dataset, and Models

Meng Zhao, Lili Mou+1 more|arXiv (Cornell University)|Aug 10, 2017

Topic Modeling参考文献 17被引用数 3

ひとこと要約

本稿では、マルチパーティ会話におけるニューラルスプーカーモデリングのためのスプーカー分類を代替タスクとして提案し、CNNテレビトークショーのトランスクリプトから大規模なデータセットを導入している。コンテンツベースと時系列ベースのモデリングを補間によって統合し、ハイブリッドモデルが単一コンポonentアプローチを著しく上回ることを示しており、単純な微調整後の補間がマクロF1スコアで最良の性能を示している。

ABSTRACT

Neural network-based dialog systems are attracting increasing attention in both academia and industry. Recently, researchers have begun to realize the importance of speaker modeling in neural dialog systems, but there lacks established tasks and datasets. In this paper, we propose speaker classification as a surrogate task for general speaker modeling, and collect massive data to facilitate research in this direction. We further investigate temporal-based and content-based models of speakers, and propose several hybrids of them. Experiments show that speaker classification is feasible, and that hybrid models outperform each single component.

研究の動機と目的

• マルチパーティ会話におけるニューラルスプーカーモデリングのための標準化されたタスクを確立し、ベンチマークタスクおよびデータセットの不足を解消すること。
• スプーカーモデリング研究のための、テレビトークショーのマルチパーティ会話トランスクリプトから構成される大規模で公開可能なデータセットを収集・リリースすること。
• コンテンツベース、時系列ベース、ハイブリッドモデルのスプーカー分類に関する調査と比較を行うこと。
• ニューラルスプーカーモデリングにおいて、スプーカーのコンテンツと時系列順序情報の組み合わせの有効性を評価すること。
• 将来のスプーカー認識対話システムおよび関連するNLPアプリケーションの研究基盤を提供すること。

提案手法

• 与えられた発話系列の発話者を候補集合から予測する代替タスクとしてのスプーカー分類を提案する。
• 発話を双方向LSTMを用いて文脈的コンテンツを密なベクトル表現に符号化する。
• 発話を、発話者が生成した発話からのコンテンツベースの埋め込み、または会話フローにおける相対的位置からの時系列ベースの埋め込みで表現する。
• 信頼度に基づいてコンテンツベースの予測に条件づけられたゲートを用いて、コンテンツおよび時系列表現を補間または学習可能なゲーティング機構で統合する。
• スプーカー埋め込みを学習可能なパラメータとして用いるソフトマックスベースの分類層を採用し、トレーニングには交差エントロピー損失を用いる。
• ハイブリッドトレーニング戦略を採用：コンテンツモデルおよび時系列モデルを別々に学習し、妥当化されたハイパーパラメータgを用いて予測を補間する。

実験結果

リサーチクエスチョン

• RQ1 スプーカー分類は、マルチパーティ会話における一般化されたニューラルスプーカーモデリングの代替タスクとして有効であるか？
• RQ2 コンテンツベースと時系列ベースのスプーカー表現を組み合わせることで、分類性能がどの程度向上するか？
• RQ3 事前に学習されたモデルの単純な補間は、ゲーティング機構を用いたエンドツーエンドのハイブリッドトレーニングを上回るか？
• RQ4 コンテンツと時系列情報のバランスを制御するハイパーパラメータへの性能の感度はどの程度か？
• RQ5 提案手法は、リソースが限られた状況下でのレアまたは未観測スプーカーに一般化可能か？

主な発見

• 提案されたスプーカー分類タスクは実現可能かつ効果的であり、コンテンツベースのモデルが多数クラスベースラインを著しく上回っている。
• コンテンツと時系列情報を組み合わせたハイブリッドモデルは、単体のコンポonentよりも高いマクロF1スコアを達成しており、相補的な強みを示している。
• 別々に学習されたコンテンツおよび時系列モデルの単純な補間が、エンドツーエンドのゲーティング機構および自己適応的ゲーティングを上回っており、最適化の安定性が優れていることを示唆している。
• 最適な補間重みgの範囲は(0.6, 0.9)にあり、最良の性能を示すモデルではコンテンツ情報が時系列情報よりも寄与度が大きいことが示されている。
• 自己適応的ゲーティング機構は動的バランスの可能性を示しているが、この設定では固定補間ベースラインを上回ることはなかった。
• 8,000を超えるテレビトークショーのエピソードから構成されるデータセットは、スプーカーモデリング研究のための豊富で多様なリソースを提供しており、対話システムおよび音声処理分野の今後の研究を支援する。