[論文レビュー] Interactive Natural Language Processing

Zekun Wang, Ge Zhang+20 more|arXiv (Cornell University)|May 22, 2023

Topic Modeling被引用数 22

ひとこと要約

本論文はInteractive NLP (iNLP) を概説し、言語モデルが人間、知識ベース、ツール、環境から観察し、行動し、フィードバックを受け取るエージェントとして機能する統一的なフレームワークを定義し、パフォーマンスと整合性を向上させる。

ABSTRACT

Interactive Natural Language Processing (iNLP) has emerged as a novel paradigm within the field of NLP, aimed at addressing limitations in existing frameworks while aligning with the ultimate goals of artificial intelligence. This paradigm considers language models as agents capable of observing, acting, and receiving feedback iteratively from external entities. Specifically, language models in this context can: (1) interact with humans for better understanding and addressing user needs, personalizing responses, aligning with human values, and improving the overall user experience; (2) interact with knowledge bases for enriching language representations with factual knowledge, enhancing the contextual relevance of responses, and dynamically leveraging external information to generate more accurate and informed responses; (3) interact with models and tools for effectively decomposing and addressing complex tasks, leveraging specialized expertise for specific subtasks, and fostering the simulation of social behaviors; and (4) interact with environments for learning grounded representations of language, and effectively tackling embodied tasks such as reasoning, planning, and decision-making in response to environmental observations. This paper offers a comprehensive survey of iNLP, starting by proposing a unified definition and framework of the concept. We then provide a systematic classification of iNLP, dissecting its various components, including interactive objects, interaction interfaces, and interaction methods. We proceed to delve into the evaluation methodologies used in the field, explore its diverse applications, scrutinize its ethical and safety issues, and discuss prospective research directions. This survey serves as an entry point for researchers who are interested in this rapidly evolving area and offers a broad view of the current landscape and future trajectory of iNLP.

研究の動機と目的

• 新しいNLPパラダイムとしてのiNLPの統一的な定義と定式化を提供する。
• 対話的オブジェクト、インターフェース、方法に沿ったiNLPの包括的な分類を提供する。
• iNLPにおける評価方法論、応用、および倫理/安全性の考慮を調査する。
• 急速に進化する分野において研究者を導くための将来の方向性と課題について論じる。

提案手法

• LMが外部オブジェクトから観察し、行動し、フィードバックを受け取るエージェントであるiNLPの統一フレームワークを提案する。
• 対話的オブジェクトを人間、知識ベース、モデル/ツール、環境に分類し、それぞれの役割を説明する。
• 対話インターフェース（自然言語/形式言語、編集、機械言語、共有メモリ）と対話手法（プロンプト、ファインチューニング、RL、アクティブラーニング/模倣学習など）を系統的にレビューする。
• 各対話タイプの評価戦略を分析し、現在の応用と安全性の懸念を要約する。
• iNLPにおける具現化、社会的相互作用、グラウンディングを進展させる将来の研究方向を特定する。

実験結果

リサーチクエスチョン

• RQ1 インタラクティブNLPの統一的で正式な定義とフレームワークとは何か？
• RQ2 iNLPは対話オブジェクト、インターフェース、方法でどのように体系的に分類できるか？
• RQ3 対話全体を通じてiNLPに関連する評価アプローチと倫理的配慮はどのようなものか？
• RQ4 iNLPの主な適用分野と今後の方向性は何か？

主な発見

• iNLPは従来のNLPを拡張し、LMを人間・知識ベース・ツール/モデル・環境と相互作用するエージェントとして扱い、幻覚、整合性、グラウンディングに対処する。
• 対話インターフェースの分類には自然言語、形式言語、編集、機械語、共有メモリが含まれる。
• 対話手法の分類にはプロンプティング、ファインチューニング、RL、アクティブラーニング、模倣学習、さらにメッセージ融合の戦略が含まれる。
• 知識ベースとの相互作用はコーパス、インターネット、生成的/暗黙的知識検索を含み、検索品質とノイズの配慮を含む。
• モデル/ツールと環境はタスク分解、モジュール化されたサブタスク、エージェント間の協調を可能にし、複雑な問題を解決する。