[論文レビュー] The Language Interpretability Tool: Extensible, Interactive Visualizations and Analysis for NLP Models

Ian Tenney, James Wexler+9 more|arXiv (Cornell University)|Aug 12, 2020

Topic Modeling参考文献 39被引用数 13

ひとこと要約

言語解釈性ツール（LIT）は、NLPモデルのインタラクティブで拡張可能な可視化および分析を可能にするオープンソースでブラウザベースのプラットフォームです。LITは、さまざまなモデルタイプにわたり、局所的説明、集計メトリクス、リアルタイムの対向的入力生成をサポートしており、フレームワークに依存しないAPIを備え、シームレスな統合と拡張性を実現しています。

ABSTRACT

We present the Language Interpretability Tool (LIT), an open-source platform for visualization and understanding of NLP models. We focus on core questions about model behavior: Why did my model make this prediction? When does it perform poorly? What happens under a controlled change in the input? LIT integrates local explanations, aggregate analysis, and counterfactual generation into a streamlined, browser-based interface to enable rapid exploration and error analysis. We include case studies for a diverse set of workflows, including exploring counterfactuals for sentiment analysis, measuring gender bias in coreference systems, and exploring local behavior in text generation. LIT supports a wide range of models--including classification, seq2seq, and structured prediction--and is highly extensible through a declarative, framework-agnostic API. LIT is under active development, with code and full documentation available at https://github.com/pair-code/lit.

研究の動機と目的

• 局所的予測、集計的パフォーマンス、対向的入力の観点から、NLPモデルの挙動を統合的かつインタラクティブに分析するためのツールが不足しているという問題に対処すること。
• 複数の分析ツールを切り替える際の時間的・作業的負担を減らすために、局所的説明、集計、対向的入力生成を1つのインターフェースに統合すること。
• 分類、seq2seq、構造化予測を含む多様なNLPタスクを、複数のディープラーニングフレームワークでカバーすること。
• モデルの入力摂動に対するロバストネスや予測のバイアスに関する仮説を、研究者や実務家が迅速に検証できるようにすること。
• ユーザーが新しいモデル、データタイプ、分析コンponentを深く統合せずにも追加できる、モジュラーで拡張可能なアーキテクチャを提供すること。

提案手法

• LITは、各可視化や分析機能（例：アテンションマップ、局所的重要度、混同行列）が自己完結型で再利用可能なモジュールとして実装された、モジュラーでコンポonentベースのUIを採用している。
• モデルの入力・出力・データフィールドを記述するための、意味的タイプ仕様（例：TextSegment、MulticlassLabel）に基づく宣言的でフレームワークに依存しないAPIを採用している。
• システムは検出されたデータタイプに基づいて動的に適切な可視化をレンダリングする — 例えば、アテンションヘッドが利用可能な場合、アテンションマップを表示する。
• 対向的入力生成はネイティブにサポートされている：ユーザーは入力テキストをリアルタイムで変更し、即座にモデルの予測と説明を観察できる。
• LITは、データテーブルと埋め込みモジュールを通じて、データセット全体でフィルタリング、ソート、検索が可能な、モデルや入力を並べて比較できる。
• プラットフォームはPythonサーバーとWebフロントエンドで構築されており、最小限のセットアップでローカルまたはリモート環境にデプロイ可能である。

実験結果

リサーチクエスチョン

• RQ1 どのようにして、局所的予測と全データセットの両方において、NLPモデルの挙動をインタラクティブで仮説駆動の分析が可能な形で実現できるか？
• RQ2 統合的かつ拡張可能なインターフェースが、局所的説明、集計メトリクス、対向的分析の組み合わせにおける作業の煩わしさをどの程度軽減できるか？
• RQ3 フレームワークに依存しないツールが、シーケンス・トゥ・シーケンスや構造化予測モデルを含む多様なNLPタスクをどの程度効果的にサポートできるか？
• RQ4 リアルタイムの対向的入力生成と並列でのモデル比較は、エラーの診断やバイアス検出をどの程度改善できるか？
• RQ5 非エキスパートユーザーの使いやすさを維持しつつ、拡張性とコミュニティ貢献を可能にする設計原則とは何か？

主な発見

• LITは、局所的説明、集計メトリクス、対向的分析を統合した統一インターフェースを通じて、モデル挙動の迅速かつインタラクティブな探索を可能にしている。
• 柔軟で拡張可能なタイプシステムを備えることで、LITはテキスト分類、シーケンス生成、構造化予測を含む幅広いNLPタスクをサポートしている。
• ユーザーはリアルタイムで対向的入力を生成・評価でき、モデルの予測と説明を即座に可視化できる。
• フレームワークに依存しない設計により、TensorFlow、PyTorch、またはリモートの推論サーバーで構築されたモデルとも統合可能で、移植性と採用の促進が図られている。
• アテンション可視化、局所的重要度マップ、混同行列といった組み込みモジュールは、ユーザーの操作に応じて動的に反応し、仮説の反復的検証を可能にする。
• LITのモジュラーなアーキテクチャにより、コミュニティによる貢献が可能であり、新しいタスク、可視化、分析手法に対応する新しいコンポonentを追加できる。