[論文レビュー] Identifying Discourse Markers in Spoken Dialog

Peter A. Heeman, Donna Byron+1 more|arXiv (Cornell University)|Jan 17, 1998

Speech and dialogue systems参考文献 29被引用数 33

ひとこと要約

本稿では、意思決定木に基づく確率推定を用いたマルコフモデルを用いて、話法的マークアップの識別を品詞タグ付けおよび音声認識に統合する機械学習的手法を提示する。この手法は、言語モデルの性能と品詞タグ付けの正確性を向上させるとともに、話法的役割の早期予測を可能にし、話法的マークアップがタスク指向型 spoken dialogue システムにおける対話行動予測を顕著に向上させることを示している。

ABSTRACT

In this paper, we present a method for identifying discourse marker usage in spontaneous speech based on machine learning. Discourse markers are denoted by special POS tags, and thus the process of POS tagging can be used to identify discourse markers. By incorporating POS tagging into language modeling, discourse markers can be identified during speech recognition, in which the timeliness of the information can be used to help predict the following words. We contrast this approach with an alternative machine learning approach proposed by Litman (1996). This paper also argues that discourse markers can be used to help the hearer predict the role that the upcoming utterance plays in the dialog. Thus discourse markers should provide valuable evidence for automatic dialog act prediction.

研究の動機と目的

• 自然なタスク指向型音声対話における話法的マークアップを信頼性高く識別する手法を開発すること。
• 話法的マークアップ検出を音声認識パイプラインに統合し、言語モデルと品詞タグ付けの性能を向上させること。
• 話法的マークアップが次の話法的役割をどのように示唆するか、および対話行動予測を支援する仕組みを調査すること。
• 話法的マークアップが音声認識および対話理解に与える影響、特に弱い期待（例：隣接ペアの後続発話）が成立する文脈において、その影響を評価すること。
• 先行手法（例：Litmanの手法）と比較し、話法的構造のモデリングにおける本手法の優位性を示すこと。

提案手法

• 著者らは、Trainsコーパスにおける話法的マークアップを注釈するために、Penn Treebank品詞タグセットを変更し、4つの特別タグ（UH_D, CC_D, RB_D, AC）を追加している。
• 品詞タグ付けと話法的マークアップ識別を同時にモデル化するため、条件付き確率場（CRF）に類似したマルコフモデルを採用し、訓練データを分割するための意思決定木を用いて確率を推定している。
• 音声的および言語的特徴（例：イントネーションフレーズ境界のトーン、話の修正検出）を統合することで、話法的マークアップ識別を向上させている。
• 話法的マークアップの存在は、対話行動予測などの下流タスクにおける特徴として使用され、次の発話の役割を予測するための強力な手がかりとして活用されている。
• システムはTrainsコーパスで学習されており、6.5時間の自然な発話にわたり8,278個の話法的マークアップが含まれている。評価は単語のパープレキシティとタグ付け誤差率を用いて実施されている。
• 話法的マークアップ識別を分離された分類タスクではなく、音声認識プロセスの一部として扱うことで、リアルタイム推論が可能になっている。

実験結果

リサーチクエスチョン

• RQ1 自然なタスク指向型対話における話法的マークアップは、音声認識フレームワーク内での機械学習により信頼性高く識別可能か？
• RQ2 話法的マークアップ識別を品詞タグ付けおよび言語モデルに統合することで、音声認識性能にどのような影響を与えるか？
• RQ3 特に曖昧な文脈において、話法的マークアップが次の発話の意図する話法的役割をどの程度予測可能か？
• RQ4 話法的マークアップは、音声対話システムにおける対話行動予測の正確性を向上させることができるか？
• RQ5 話の修正解消処理と発話のセグメンテーションは、話法的マークアップ検出の精度向上にどのように寄与するか？

主な発見

• 話法的マークアップ識別を品詞タグ付けおよび言語モデルに統合した結果、単語のパープレキシティと品詞タグ付け誤差率の両方で顕著な低減が確認された。
• 話法的マークアップは、強い期待（例：隣接ペアの完成）が成立しない文脈において、特に次の発話の役割を強く予測することができた。
• Trainsコーパスにおいて、非承認発話の44.1％が話法的マークアップで導入されており、タスク指向型対話においてその普及度が顕著であることが示された。
• 訓練データを分割するための意思決定木の使用により、マルコフモデルの複雑な確率分布の効果的推定が可能となり、モデルの一般化性能が向上した。
• 話の修正検出とイントネーションフレーズ境界の分析を統合することで、話法的マークアップ識別精度がさらに向上した。
• 結果から、話法的マークアップは音声対話システムにおいてノイズとして扱うべきではなく、話法的構造と対話行動の予測に貴重な手がかりであることが示唆された。