[論文レビュー] Modeling Task Effects in Human Reading with Neural Attention

Michael Hahn, Frank Keller|arXiv (Cornell University)|Jul 31, 2018

Topic Modeling参考文献 62被引用数 9

ひとこと要約

本論文は、タスク固有の注目と記憶を統合するニューラルモデルを提案し、特に語のスキップ行動を説明する。タスクパフォーマンスと固定の最小化のトレードオフを最適化することで、モデルは人間のスキップパターンと読書時間を正確に予測することができ、40%の語をスキップする場合でさえも、ニューラル質問応答におけるタスク依存的スキップを眼動-tracking実験で検証する。

ABSTRACT

Humans read by making a sequence of fixations and saccades. They often skip words, without apparent detriment to understanding. We offer a novel explanation for skipping: readers optimize a tradeoff between performing a language-related task and fixating as few words as possible. We propose a neural architecture that combines an attention module (deciding whether to skip words) and a task module (memorizing the input). We show that our model predicts human skipping behavior, while also modeling reading times well, even though it skips 40% of the input. A key prediction of our model is that different reading tasks should result in different skipping behaviors. We confirm this prediction in an eye-tracking experiment in which participants answers questions about a text. We are able to capture these experimental results using the our model, replacing the memorization module with a task module that performs neural question answering.

研究の動機と目的

• 読書中に語をスキップする理由を説明すること、なぜスキップが理解に必ずしも必要ではないにもかかわらずである。
• タスク要件が人間の読書における語のスキップ行動にどのように影響するかをモデル化すること。
• タスクパフォーマンスと固定の最小化を同時に最適化するニューラルアーキテクチャを開発すること。
• 異なる読書タスク下での実験的眼動-trackingデータを用いて、モデルの予測を検証すること。
• タスク固有のニューラル質問応答が、人間のスキップ行動を再現できることを示すこと。

提案手法

• タスク関連性に基づいてどの語をスキップするかを決定するニューラル注目モジュールを統合する。
• 質問応答などの特定の読書タスクのために入力を記憶・処理するためのタスクモジュールを使用する。
• トレーニング中にタスクパフォーマンスと固定の最小化のトレードオフを最適化する。
• 文書系列全体をエンドツーエンドで学習し、注目重みがスキップ意思決定を決定する。
• 記憶モジュールをニューラル質問応答ヘッドに置き換えることで、タスク固有の読書を模倣する。
• 制御された実験から得た人間の眼動-trackingデータと照らし合わせて、モデルの予測を評価する。

実験結果

リサーチクエスチョン

• RQ1 タスク要件は人間の読書における語のスキップ行動にどのように影響するか？
• RQ2 タスクパフォーマンスと固定の最小化の両方をバランスさせるニューラルモデルは、人間のスキップパターンを予測できるか？
• RQ3 モデルのスキップ行動は、異なる読書タスク間で有意に異なるか？
• RQ4 ニューラル質問応答モジュールは、タスク固有の読書において人間と似たようなスキップ行動を再現できるか？
• RQ5 モデルは、実際の人間の読書時間と固定パターンをどの程度正確に予測できるか？

主な発見

• モデルは、入力語の40%をスキップしても、人間の語のスキップ行動を高い正確性で予測するのに成功した。
• モデルは読書時間をよく再現しており、人間の読書パターンと強い整合性を示した。
• 眼動-tracking実験により、異なる読書タスクが異なるスキップ行動を引き起こすことが確認され、モデルの核心的予測が検証された。
• 記憶モジュールをニューラル質問応答ヘッドに置き換えることで、参加者の実際のタスク依存的スキップ行動をモデルが再現できた。
• モデルの注目メカニズムは、タスク関連語を効果的に特定し、理解に損なわれることなく固定を削減した。
• タスクパフォーマンスと固定の最小化のトレードオフが、人間の読書戦略の主要因であることが明らかになった。