[論文レビュー] Multi-View Graph Representation Learning for Answering Hybrid Numerical Reasoning Question

Yifan Wei, Fangyu Lei+3 more|arXiv (Cornell University)|May 5, 2023

Topic Modeling被引用数 5

ひとこと要約

本稿では、表形式の構造を保持し、多スケールの証拠をモデル化することで、表-テキストハイブリッド質問応答を向上させるためのマルチビュー・グラフ（MVG）表現学習を提案する。マルチビュー・アテンション機構を用いて、表形式、関係、数値の3つのビューを構築することで、財務報告書における推論性能が向上し、TAT-QAで74.5 EMおよび81.5 F1を達成。これはSOTAを0.6点および1.1点上回った。

ABSTRACT

Hybrid question answering (HybridQA) over the financial report contains both textual and tabular data, and requires the model to select the appropriate evidence for the numerical reasoning task. Existing methods based on encoder-decoder framework employ a expression tree-based decoder to solve numerical reasoning problems. However, encoders rely more on Machine Reading Comprehension (MRC) methods, which take table serialization and text splicing as input, damaging the granularity relationship between table and text as well as the spatial structure information of table itself. In order to solve these problems, the paper proposes a Multi-View Graph (MVG) Encoder to take the relations among the granularity into account and capture the relations from multiple view. By utilizing MVGE as a module, we constuct Tabular View, Relation View and Numerical View which aim to retain the original characteristics of the hybrid data. We validate our model on the publicly available table-text hybrid QA benchmark (TAT-QA) and outperform the state-of-the-art model.

研究の動機と目的

• エンコーダ入力としてテーブルをフラット化する際の表形式構造の劣化と空間的関係の喪失を回避する。
• セル、ヘッダー、スパンといった多スケールの証拠を、その推論における役割の違いを明確にすることで、モデル化を向上させる。
• テキストと表の間の構造的・意味的関係を保持することで、財務QAにおける数値推論性能を向上させる。
• 学習可能なアテンション機構を用いて、複数のビューの証拠を統合し、文脈に応じて寄与度を動的に評価する。
• ハイブリッド数値推論質問のためのTAT-QAベンチマークで、既存のモデルを上回る性能を達成する。

提案手法

• 表形式の2次元の行-列構造を保持するため、行と列の関係をグラフエッジとしてモデル化することで、表形式ビューを構築する。
• テキストと表の要素（文、行、列、数値、語）を統合した単一のグラフとして関係ビューを設計し、クロスモーダルな関係を捉える。
• 細粒度の数値ノードと、粗粒度のヘッダーとの整合性に焦点を当てた数値ビューを構築し、数量表現を改善する。
• 各ノードごとに各ビューの寄与度を動的に評価するマルチビュー・アテンションネットワークを採用し、多スケール信号の適応的統合を可能にする。
• スパンベースの回答にはシーケンスタギングモジュール、数式の生成にはシーケンスツリー変換デコーダーを別々に使用し、$Q_S$および$Q_N$質問を処理する。
• クロスエントロピー損失とツリー構造損失を併用して、スパン抽出と数式木生成の両方を最適化するエンドツーエンドの学習を行う。

実験結果

リサーチクエスチョン

• RQ1 表の2次元構造を保持することで、ハイブリッドQAにおける推論性能が向上するか？
• RQ2 行ヘッダー、列ヘッダー、個々の数値といった多スケールの証拠を、数値推論において効果的にモデル化・区別できるか？
• RQ3 ビュー固有のアテンションを備えたマルチビュー・グラフ表現は、単一ビューまたはフラット化された入力符号化よりも性能を向上させるか？
• RQ4 財務分野の数値推論タスクにおいて、スケールと演算子の正確な予測がモデル性能にどの程度依存しているか？
• RQ5 ビュー固有の表現を持つ統合エンコーダは、TAT-QAで既存のGNNベースまたはTransformerベースのエンコーダーを上回る性能を発揮できるか？

主な発見

• MVGモデルはTAT-QA開発セットで74.5 EMおよび81.5 F1を達成し、SOTAモデルをそれぞれ0.6点および1.1点上回った。
• アブレーションスタディの結果、マルチビュー・アテンション機構を削除するとEMが1.6ポイント低下し、ビュー統合におけるその重要性が確認された。
• スケール予測性能が著しく向上し、ゴールスケール入力を使用した場合、EMが84.4％まで上昇した。これはスケール予測が主なボトルネックであることを示唆している。
• ゴールオペレータのみを使用しても成績はわずかに向上（EM +0.2）にとどまり、モデルのカテゴリベースのデコーディング戦略が頑健であり、誤差伝搬の影響を受けにくいことが示された。
• 数値ビューが最も性能向上に寄与しており、特に複雑な算術推論において、細粒度の数値表現の価値が顕著に現れている。
• モデルは優れた一般化性能を示し、開発セットおよびテストセットの両方で一貫した向上を示しており、実世界の財務QAタスクにおける有効性が裏付けられた。