[論文レビュー] Cost-effective Interactive Attention Learning with Neural Attention Processes

Jay Heo, Junhyeon Park+5 more|arXiv (Cornell University)|Jun 9, 2020

Domain Adaptation and Few-Shot Learning参考文献 25被引用数 4

ひとこと要約

本稿では、再訓練を伴わずに、人間の監督者が繰り返しモデルの注目メカニズムを修正できるコスト効率の高いフレームワーク、インタラクティブアテンション学習（IAL）を提案する。NAP（Neural Attention Process）を用い、コスト効率の高い再ランク付けにより、モデル性能に与える悪影響が大きいインスタンスおよび特徴量を優先して処理する。IALは、医療、不動産、コンピュータビジョン分野の時系列タスクにおいて、人間の作業量と再訓練コストを著しく削減しながら、モデル性能を顕著に向上させる。

ABSTRACT

We propose a novel interactive learning framework which we refer to as Interactive Attention Learning (IAL), in which the human supervisors interactively manipulate the allocated attentions, to correct the model's behavior by updating the attention-generating network. However, such a model is prone to overfitting due to scarcity of human annotations, and requires costly retraining. Moreover, it is almost infeasible for the human annotators to examine attentions on tons of instances and features. We tackle these challenges by proposing a sample-efficient attention mechanism and a cost-effective reranking algorithm for instances and features. First, we propose Neural Attention Process (NAP), which is an attention generator that can update its behavior by incorporating new attention-level supervisions without any retraining. Secondly, we propose an algorithm which prioritizes the instances and the features by their negative impacts, such that the model can yield large improvements with minimal human feedback. We validate IAL on various time-series datasets from multiple domains (healthcare, real-estate, and computer vision) on which it significantly outperforms baselines with conventional attention mechanisms, or without cost-effective reranking, with substantially less retraining and human-model interaction cost.

研究の動機と目的

• 希少な人間のアノテーションによる高コストと過学習のリスクを低減すること。
• モデル性能に与える悪影響が大きいインスタンスおよび特徴量を優先することで、人間の監視コストを低減すること。
• 再訓練を伴わずに、人間のフィードバックを注目メカニズムに直接統合することで、効率的なモデル更新を可能にすること。
• 臨床的リスク予測のような安全が求められる分野におけるモデルの解釈可能性と信頼性を向上させること。
• 人間のインタラクションと計算コストの両方を最小限に抑えるスケーラブルなインタラクティブ学習フレームワークの開発。

提案手法

• 再訓練を伴わずに新しい注目レベルの監視情報を用いて行動を更新できる確率的注目生成装置であるNeural Attention Process（NAP）を導入。
• データが限られた状況でも過学習を防ぐためのサンプル効率の高い注目メカニズムを採用。
• 不確実性、影響関数、対仮説的推定を用いたコスト効率の高い再ランク付けを適用し、問題のあるインスタンスおよび特徴量を優先。
• 各フィードバックループの効果を最大化するために、負の影響に基づいてインスタンスおよび特徴量をランク付け。
• NAPにおけるアンモライズド推論を活用し、再訓練時間を短縮し、システムの応答性を向上。
• 影響関数を避けるために、不確実性と対仮説的スコアの組み合わせを用いた、効率的で低コストの再ランク付けを実現。

実験結果

リサーチクエスチョン

• RQ1 完全な再訓練を伴わずに、人間のフィードバックを効率的に注目メカニズムに統合できるか？
• RQ2 大規模な時系列データにおけるインタラクティブアテンション学習において、人間のアノテーションコストを最小限に抑える方法は何か？
• RQ3 どのインスタンスレベルおよび特徴量レベルの指標が、人間のフィードバックによるモデル性能向上の予測に最も適しているか？
• RQ4 注目レベルのフィードバックによるインタラクティブ補正は、安全が求められる分野でより信頼性が高く解釈可能なモデルをもたらすか？
• RQ5 負の影響指標に基づく再ランク付け戦略は、必要な人間のアノテーション数を顕著に削減できるか？

主な発見

• 心不全予測タスクにおいて、IAL-NAPはランダムNAPと同等のAUC（0.6414）を達成したが、アノテート例は100例にとどまり、ランダムNAPの400例に比べて大幅に少ない。
• コスト効率の高い再ランク付けにより、図5（下段）に示すように、アノテータの応答時間が短縮された。
• IAL-NAPは、EHRベースのCVDリスク予測や不動産予測を含む5つの実世界の時系列タスクで、ベースライン手法を上回った。
• 不確実性と対仮説的スコアの組み合わせが、Hessian行列の計算コストを回避しながらも性能を維持する、影響関数の効果的で低コストな代替手段を提供した。
• 定性的な分析から、IAL-NAPは臨床的推論に整合した誤検出（例：若年患者における年齢要因の誤検出）と誤検出（例：CVDリスクにおける喫煙要因の誤検出）を是正した。
• NAPは微調整ベースラインと比較して再訓練時間を顕著に短縮し、アンモライズド推論の利点を示した。