[論文レビュー] Reasoning about Procedures with Natural Language Processing: A Tutorial

Li Zhang|arXiv (Cornell University)|May 16, 2022

Natural Language Processing Techniques被引用数 5

ひとこと要約

このチュートリアルは、自然言語処理（NLP）分野における手順的理解に関する包括的な概要を提示する。主に、人間によるアノテーションとウェブ抽出データを用いて、目的志向のステップの系列（手順）を収集・表現・推論する方法に焦点を当てる。手順の表現、学習、実世界の応用分野における進展を強調し、特に目標、ステップ、時間的依存関係の構造的モデリングを通じて、一般化可能な手順的推論タスクにまで拡張可能なレシピや誘導文データセットからの主要な知見を提示する。

ABSTRACT

This tutorial provides a comprehensive and in-depth view of the research on procedures, primarily in Natural Language Processing. A procedure is a sequence of steps intended to achieve some goal. Understanding procedures in natural language has a long history, with recent breakthroughs made possible by advances in technology. First, we discuss established approaches to collect procedures, by human annotation or extraction from web resources. Then, we examine different angles from which procedures can be reasoned about, as well as ways to represent them. Finally, we enumerate scenarios where procedural knowledge can be applied to the real world.

研究の動機と目的

• 目的志向のステップ列の推論という独自の課題と機会に焦点を当て、NLP分野における手順的理解に関する体系的な概要を提供すること。
• 人間によるアノテーションとスケールの大きなウェブ抽出を用いた手順的データ収集方法を検討し、手順的知識に関するスケーラブルな研究を可能にする仕組みを明らかにすること。
• 知識グラフ、階層的アクション分解、異なる手順的テキスト間での同等アクションの整合性を用いた、手順の構造的表現手法を調査すること。
• バーチャルアシスタント、レコメンデーションエンジン、自動計画システムなどの実世界のシステムにおける手順的知識の実用的応用を検討すること。
• スクリプトやレシピといった関連する構造と比較し、それらの違いを明確にし、レシピ中心の研究から得られた知見が、より広範な手順的推論タスクにどの程度一般化可能であるかを検証すること。

提案手法

• レシピ、ハウツーガイド、インstructonalビデオを含む、人間によるアノテーションとウェブ抽出の両方のデータセットを用いて、手順的テキストを収集する。
• グラフベースの表現を用いて手順をモデリングし、ノードに実体（材料、道具、行動）を、エッジに意味的関係（適用、部分集合、等価性など）を割り当てる。
• 高レベルの行動を部分ステップに分解する階層的分解技術を適用し、動画キャプションのクラウドソースド解説を活用して詳細な手順的記述を生成する。
• 欠落したステップを予測するクローズ型タスクを用いて、モデルの未学習の手順系列へのゼロショットまたはフェイントショット一般化能力を評価する。
• 言語的および意味的特徴に基づき、異なる手順的テキスト間（例：同じ料理の2つのレシピ）で同等の行動を特定するためのアライメントベースの手法を用いる。
• 大規模言語モデルやNLPツールを活用して、時間的・因果的・条件的依存関係を、特に目的条件付き推論の文脈で分析する。

実験結果

リサーチクエスチョン

• RQ1 ウェブリソースと人間によるアノテーションを用いて、どのようにスケーラブルに手順的知識を収集できるか？
• RQ2 目標、ステップ、それらの相互依存関係を的確に捉える構造的で機械処理可能な形式で、手順的知識をどの程度効果的に表現できるか？
• RQ3 レシピ理解に開発された手法が、調理を越えたより広範な手順的推論にどの程度一般化可能か？
• RQ4 手順における時間的および条件的関係は、裏にある目的にどのように依存し、モデルはその目的条件付き依存関係をどのように学習できるか？
• RQ5 マルチエージェント、複雑さ、または故障しやすい手順をモデル化するにあたり、主な課題は何か。NLPシステムにおいてそれらの課題をどのように克服できるか？

主な発見

• 2012年から2021年にかけて、NLP分野における「イベント」関連論文の数は3倍に増加した。これは、イベント中心のNLP分野への関心が高まっていることを示し、目的志向の構造を持つ手順が、その重要なサブタイプとして浮き彫りになった。
• 手順的推論は、行動の順序と目的の文脈に基づき、「家に入ること」と「家を出ること」を区別するなど、意図や文脈のより深い機械理解を可能にする。
• 行動、道具、材料をノードとし、関係をエッジとするグラフベースの手順表現は、手順的意味を効果的にモデル化し、分野を越えて一般化できる。
• HowTo100Mのようなデータセットで示されたように、階層的分解により高レベルの行動を部分ステップに分解することで、詳細な手順的モデリングが可能となり、手順予測タスクにおけるゼロショット一般化性能が向上する。
• 多くのレシピ中心のNLP手法（例：アクションアライメント、クローズ型予測）は、誘導言語に共通する言語的・構造的パターンのおかげで、調理以外の手順に対しても容易に転送可能である。
• レシピ中心の研究の成功にもかかわらず、一般の手順には複数のエージェント、多様な実体、条件分岐論理といったより高い複雑性が伴うため、直接的な転送は制限され、より包括的な手順的モデリングフレームワークの必要性が浮き彫りになった。