[論文レビュー] Sample Efficient Learning of Predictors that Complement Humans

Mohammad-Amin Charusaie, Hussein Mozannar+2 more|arXiv (Cornell University)|Jul 19, 2022

Machine Learning and Algorithms被引用数 5

ひとこと要約

本稿は、人間の専門家と協調して意思決定を行うAI予測モデルを学習する理論的根拠に基づいたフレームワークを提案する。新たに考案された一貫性のある代替損失関数の族とアクティブラーニングを用い、人間ラベルデータへの依存度を最小限に抑える。 joint 学習による補完的予測子の学習が、モデル容量とデータ不足の制約下でも段階的学習を上回ることを証明している。

ABSTRACT

One of the goals of learning algorithms is to complement and reduce the burden on human decision makers. The expert deferral setting wherein an algorithm can either predict on its own or defer the decision to a downstream expert helps accomplish this goal. A fundamental aspect of this setting is the need to learn complementary predictors that improve on the human's weaknesses rather than learning predictors optimized for average error. In this work, we provide the first theoretical analysis of the benefit of learning complementary predictors in expert deferral. To enable efficiently learning such predictors, we consider a family of consistent surrogate loss functions for expert deferral and analyze their theoretical properties. Finally, we design active learning schemes that require minimal amount of data of human expert predictions in order to learn accurate deferral systems.

研究の動機と目的

• AIと人間の意思決定の統合学習が段階的アプローチを上回る理由についての理論的理解のギャップを埋める。
• エキスパートデフォールの文脈で、分類器とリジェクトャーの有効な共同学習を可能にする一貫性のある代替損失関数の族を開発する。
• 正確なデフォールシステムを学習するために必要な人間の予測回数を最小限に抑えるアクティブラーニング方式を設計する。
• 平均誤差を最適化する予測子と異なり、人間の弱みを補完する予測子を学習する利点を理論的に分析する。
• 提案された代替損失関数の一般化誤差と過剰リスクの境界を提供し、ロバストネスとサンプル効率性を保証する。

提案手法

• エキスパートデフォールの文脈で、[MS20]の手法を一般化する一貫性と理論的保証を持つ、新たな代替損失関数の族を提案する。
• ラデマッハ複雑度とホフディングの不等式を用いて、提案された代替損失関数の一般化誤差と過剰リスクの理論的境界を確立する。
• 不確実性が高く、影響力のある例にのみ人間の専門家を問い合わせることで、人間の誤差境界を効率的に学習するアクティブラーニングアルゴリズムを設計する。
• 二段階の学習プロセスを採用する：まずアクティブサンプリングにより人間の誤差パターンを推定し、次に代替損失関数を用いて分類器とリジェクトャーを共同で学習する。
• [MS20]の一般化境界とラデマッハ複雑度を活用し、最終的なデフォールシステムのサンプル複雑度保証を導出する。
• 医療診断のような現実世界の応用に適用する。ここでは人間の専門的知見が高コストであり、モデル容量が限られている。

実験結果

リサーチクエスチョン

• RQ1 人間の誤りを無視する段階的学習と異なり、人間の弱みを補完する分類器とリジェクトャーの共同学習は、理論的にどのように段階的学習を上回るのか？
• RQ2 提案された代替損失関数族の一般化誤差と過剰リスク特性は何か？
• RQ3 アクティブラーニングは、効果的なデフォールシステムを学習するために必要な人間ラベル例の数を顕著に減らせるか？
• RQ4 モデル容量の制約が、補完的予測子学習と非補完的予測子学習の間の性能差に与える影響は何か？
• RQ5 提案されたデフォールフレームワークのサンプル効率性と一般化に理論的保証を提供できるか？

主な発見

• 本稿は、人間の弱みを補完する共同学習（補完的学習）と、人間の誤りを無視する段階的学習との間で理論的ギャップを証明し、モデル容量制約下でも共同学習が低い誤差を達成できることを示している。
• 提案された代替損失関数族は、先行研究を一般化し、一貫性のある過剰リスク境界を達成しており、学習されたモデルが最適なデフォールポリシーに収束することを保証している。
• アクティブラーニングは、人間の予測回数を顕著に削減できることを示している。具体的には、$\leq \epsilon$ の一般化誤差を高確率で達成するためのサンプル数 $n_u$ は、$\max\{\frac{8\log(2/\delta)}{\epsilon^2}, \frac{288\log(8/\delta)}{\epsilon^2}, \frac{C'\max\{d(\mathcal{H}),d(\mathcal{R})\}\log(1/\epsilon)}{\epsilon^2}\}$ で抑えられ、ここで $C' = 2^{10}$ である。
• 理論的分析により、仮説クラスとリジェクトャークラスのラデマッハ複雑度がサンプルサイズとともに減少することが示され、限られたデータでも一般化が可能であることが裏付けられている。
• 実験的結果は、モデル容量が限られる状況下で、補完的予測子を学習することで、段階的学習よりも誤差と人間の作業負荷をより効果的に低減できることを確認している。
• 本手法は、医療画像診断のような現実世界の展開事例において、最小限の人的データで優れた性能を発揮し、サンプル効率性を示している。