[論文レビュー] Optimizing Multi-Domain Performance with Active Learning-based Improvement Strategies

Anand Gokul Mahalingam, Aayush Shah+3 more|arXiv (Cornell University)|Apr 13, 2023

Machine Learning and Algorithms被引用数 30

ひとこと要約

本論文は、複数ドメインに跨る性能向上を目指すアクティブラーニングベースのフレームワークを提案し、ベースラインを上回り、ラベル付けサンプル数を抑えつつ最先端の結果を達成することを示している。

ABSTRACT

Improving performance in multiple domains is a challenging task, and often requires significant amounts of data to train and test models. Active learning techniques provide a promising solution by enabling models to select the most informative samples for labeling, thus reducing the amount of labeled data required to achieve high performance. In this paper, we present an active learning-based framework for improving performance across multiple domains. Our approach consists of two stages: first, we use an initial set of labeled data to train a base model, and then we iteratively select the most informative samples for labeling to refine the model. We evaluate our approach on several multi-domain datasets, including image classification, sentiment analysis, and object recognition. Our experiments demonstrate that our approach consistently outperforms baseline methods and achieves state-of-the-art performance on several datasets. We also show that our method is highly efficient, requiring significantly fewer labeled samples than other active learning-based methods. Overall, our approach provides a practical and effective solution for improving performance across multiple domains using active learning techniques.

研究の動機と目的

• 限られたラベル付きデータで、複数のドメインに跨る性能向上の課題を動機づける。
• ラベリングに有益なサンプルを反復的に選択する二段階のアクティブラーニングフレームワークを提案する。
• 効果と効率性を示すため、さまざまな多ドメインデータセット上でこの手法を評価する。

提案手法

• 二段階アプローチ: 初期のラベル付き集合で基礎モデルを訓練し、次に反復的に有益なサンプルを選択してラベリングを行い、モデルを洗練させる。
• アクティブラーニング戦略を用いて、ドメイン間で最も有益なサンプルを特定する。
• 画像分類、感情分析、物体認識を含む多ドメインタスクで評価する。
• 性能向上とデータ効率性を示すため、ベースライン手法と比較する。

実験結果

リサーチクエスチョン

• RQ1 アクティブラーニングベースのフレームワークは、ラベル付け作業の削減とともに、複数ドメインでの性能向上を実現できるか？
• RQ2 反復的な選択的ラベリングは、多様なデータセットで最先端の性能を生み出すか？
• RQ3 提案手法は、ドメインを横断する既存のアクティブラーニング手法よりデータ効率が高いか？

主な発見

• このフレームワークは、複数のドメインで一貫してベースライン手法を上回る。
• いくつかのデータセットで最先端の性能を達成する。
• この手法はデータ効率が高く、他のアクティブラーニング手法よりはるかに少ないラベル付きサンプルで済む。