[論文レビュー] A Novel Bi-directional Interrelated Model for Joint Intent Detection and Slot Filling

E Haihong, Peiqing Niu+2 more|arXiv (Cornell University)|Jun 30, 2019

Topic Modeling参考文献 14被引用数 95

ひとこと要約

SF-IDネットワークを導入し、スロット充填と意図検出を双方向に相互関連させ、相互強化を促す反復メカニズムを備え、ATISとSnipsデータセットで性能を改善。

ABSTRACT

A spoken language understanding (SLU) system includes two main tasks, slot filling (SF) and intent detection (ID). The joint model for the two tasks is becoming a tendency in SLU. But the bi-directional interrelated connections between the intent and slots are not established in the existing joint models. In this paper, we propose a novel bi-directional interrelated model for joint intent detection and slot filling. We introduce an SF-ID network to establish direct connections for the two tasks to help them promote each other mutually. Besides, we design an entirely new iteration mechanism inside the SF-ID network to enhance the bi-directional interrelated connections. The experimental results show that the relative improvement in the sentence-level semantic frame accuracy of our model is 3.79% and 5.42% on ATIS and Snips datasets, respectively, compared to the state-of-the-art model.

研究の動機と目的

• タスク間の双方向接続を活用して、スロット充填と意図検出の統合SLUを動機づける。
• スロット充填と意図検出を直接結ぶSF-IDネットワークを提案する。
• タスク間の相互作用を強化する反復機構を導入する。
• ATISとSnipsを評価し、スロット充填、意図検出、文レベルの正確性の改善を示す。

提案手法

• SF-IDネットワークは、スロット充填(SF)サブネットと意図検出(ID)サブネットの2つのサブネットを持つ。
• スロットと意図の両方の文脈を注意機構で統合し、c_slotとc_inteベクトルを形成する。
• c_slotとc_inteを結びつける相関係数fから派生するスロット強化ベクトルr_slot。
• IDサブネットを介してスロット情報から生成される意図強化ベクトルr_inte。
• SFとIDサブネットの反復的な相互作用を通じてr_inteとr_slotを洗練させる反復機構。
• SF-FirstモードまたはID-Firstモードで動作するオプションと、SF出力にCRF層を追加するオプション。

実験結果

リサーチクエスチョン

• RQ1 スロット充填と意図検出の双方向の相互関連機構はSLU性能を向上させるか？
• RQ2 反復的な相互作用を伴う明示的なSF-IDネットワークは、標準SLUベンチマークで既存の共同モデルを上回るか？
• RQ3 SF-FirstとID-Firstの順序およびCRF層は総合性能にどのような影響を与えるか？

主な発見

Model	ATIS Slot (F1)	ATIS Intent (Acc)	ATIS Sen. (Acc)	Snips Slot (F1)	Snips Intent (Acc)	Snips Sen. (Acc)
Joint Seq Hakkani-Tür et al. (2016)	94.30	92.60	80.70	87.30	96.90	73.20
Atten.-Based Liu and Lane (2016)	94.20	91.10	78.90	87.80	96.70	74.10
Slot-gated Goo et al. (2018)	95.42	95.41	83.73	89.27	96.86	76.43
SF-First (with CRF)	95.75	97.76	86.79	91.43	97.43	80.57
SF-ID (SF-First)	95.55	97.40	85.95	90.34	97.34	78.43
SF-ID Network	ID-First (with CRF)	95.80	97.09	86.90	92.23	97.29	80.43
ID-First (without CRF)	95.58	96.58	86.00	90.46	97.00	78.37

• SF-IDネットワークは、ATISでの文レベルのセマンティックフレーム精度を3.79%、Snipsで5.42%向上させ、最先端モデルと比較して改善を示す。
• SFとIDの両サブネットが性能に寄与し、サブネット間の相互作用は、別々または非相互作用の構成よりも良い結果を生む。
• ID-Firstモードはスロット充填の性能を改善し、SF-Firstモードは意図検出の性能を高める。
• 3回の反復機構は、SF-FirstモードでATISとSnipsのどちらでも文レベルの正確性をピークにする。
• CRF層は、特にスロット充填のシーケンスデコードを改善することで一般的に有効。