[論文レビュー] Co-guiding Net: Achieving Mutual Guidances between Multiple Intent Detection and Slot Filling via Heterogeneous Semantics-Label Graphs

Bowen Xing, Ivor W. Tsang|arXiv (Cornell University)|Oct 19, 2022

Adversarial Robustness in Machine Learning被引用数 5

ひとこと要約

本稿では、異種の意味-ラベルグラフとグラフ自己注意ネットワークを用いて、複数の意図検出とスロット埋め込みの間で相互ガイドランスを可能にする二段階フレームワーク、Co-guiding Netを提案する。二つの異なる異種グラフを用いて、意図からスロットへの一方通行の依存関係に加え、スロットから意図への逆方向の依存関係もモデル化することで、MixATISデータセットにおいて従来の最先端手法比で全体の正答率が19.3%相対的に向上した。

ABSTRACT

Recent graph-based models for joint multiple intent detection and slot filling have obtained promising results through modeling the guidance from the prediction of intents to the decoding of slot filling. However, existing methods (1) only model the extit{unidirectional guidance} from intent to slot; (2) adopt extit{homogeneous graphs} to model the interactions between the slot semantics nodes and intent label nodes, which limit the performance. In this paper, we propose a novel model termed Co-guiding Net, which implements a two-stage framework achieving the extit{mutual guidances} between the two tasks. In the first stage, the initial estimated labels of both tasks are produced, and then they are leveraged in the second stage to model the mutual guidances. Specifically, we propose two extit{heterogeneous graph attention networks} working on the proposed two extit{heterogeneous semantics-label graphs}, which effectively represent the relations among the semantics nodes and label nodes. Experiment results show that our model outperforms existing models by a large margin, obtaining a relative improvement of 19.3\% over the previous best model on MixATIS dataset in overall accuracy.

研究の動機と目的

• 既存の複数の意図検出とスロット埋め込みの統合モデルにおける、意図検出からスロット埋め込みへの一方向的ガイドランスの制限を解消すること。
• 同種のグラフが異なる種類の相互作用（例：意図ラベルノード vs. スロット意味ノード）を区別できないという曖昧さを克服すること。
• 最初の段階で得られた予測ラベルを事前情報として用いることで、意図検出とスロット埋め込みの間で双方向的かつ相互的なガイドランスを可能にすること。
• 意味ノードとラベルノードの間の関係を正確に表現できるように、特別に設計された異種意味-ラベルグラフ（HSLG）を設計すること。
• 提案されたHSLG上でタスク固有のガイドランスを効果的にモデル化できるように、特化した異種グラフ自己注意ネットワーク（HGAT）を開発すること。

提案手法

• モデルは二段階のフレームワークを採用する：最初の段階では、共有の自己注意エンコーダーを用いて、意図検出とスロット埋め込みの両方の初期予測を行う。
• 二段階目の段階では、最初の段階での予測ラベルを事前情報として用い、二つのタスク間で相互ガイドランスを実現する。
• 二つの異種意味-ラベルグラフ（HSLG）を構築する：(1) スロットから意図へのHSLG（S2I-SLG）を用いて意図指向のスロット埋め込みを実現し、(2) 意図からスロットへのHSLG（I2S-SLG）を用いてスロット指向の意図検出を実現する。
• 二つの異種グラフ自己注意ネットワーク（HGAT）を適用する：S2I-SLGに一つのHGATを適用してスロットラベル情報を意図の意味ノードに伝搬させ、I2S-SLGにもう一つのHGATを適用して意図ラベル情報をスロット意味ノードに伝搬させる。
• HGATは、ノードタイプ（例：意図ラベルノード vs. 他のスロット意味ノード）ごとの寄与度を動的に重み付けすることで、メッセージ伝達における曖昧さを低減する。
• 最終的な予測は、HGATによる更新済み表現のデコードによって生成され、モデルは両タスクを同時に最適化する。

実験結果

リサーチクエスチョン

• RQ1 意図検出とスロット埋め込みの間で相互ガイドランスを導入することで、一方向的ガイドランスに比べて統合性能が向上するか？
• RQ2 異種意味-ラベルグラフは、意味ノードとラベルノードの間の異なる相互作用を効果的にモデル化できるか？
• RQ3 従来のGATとは異なり、同種のグラフではなく異種グラフ上で動作するHGATは、メッセージ伝達をどの程度向上させるか？
• RQ4 最初の段階での予測結果を事前情報として用いる二段階フレームワークは、より正確で頑健な統合予測をもたらすか？
• RQ5 提案されたモデルは、MixATIS や MixSNIPS のようなベンチマークデータセットで最先端の性能を達成できるか？

主な発見

• Co-guiding Netは、MixATISデータセットにおいて、従来の最良手法比で全体の正答率が19.3%相対的に向上し、顕著な性能向上を示した。
• 本モデルは、MixATISおよびMixSNIPSの両ベンチマークで、既存の最先端手法を上回り、一般化能力の高さを確認した。
• アブレーションスタディの結果、相互ガイドランス機構や異種グラフ設計を削除すると性能が著しく低下することが判明し、これらが必須であることが裏付けられた。
• ケーススタディにより、モデルがスロット情報を効果的に活用して意図予測を是正すること（例：'city_name'スロットから'airport'を推定）や、逆に意図信号を用いてスロット予測を是正すること（例：'aircraft'意図信号からスロットを是正）が確認された。
• 異種グラフ自己注意メカニズムは、メッセージ伝達中に関連する情報フローを明確に区別し、特に意図ラベルノードを他のスロット意味ノードよりも優先的に処理する能力を発揮した。
• 二段階フレームワークにより、特徴の精練が図られ、二段階目の予測は常に一段階目の推定よりも正確であったため、効果的な知識蒸留が実現された。