[論文レビュー] Human-AI Collaboration in Decision-Making: Beyond Learning to Defer

Diogo Leitão, Pedro Saleiro+2 more|arXiv (Cornell University)|Jun 27, 2022

Human-Automation Interaction and Safety被引用数 20

ひとこと要約

本論文は人間–AI意思決定における Learning to Defer (L2D) を分析し、実世界での展開における主要な限界を特定し、L2D を超えるより頑健で公正かつ動的な HAIC システムを構築するための研究方向を概説します。

ABSTRACT

Human-AI collaboration (HAIC) in decision-making aims to create synergistic teaming between human decision-makers and AI systems. Learning to defer (L2D) has been presented as a promising framework to determine who among humans and AI should make which decisions in order to optimize the performance and fairness of the combined system. Nevertheless, L2D entails several often unfeasible requirements, such as the availability of predictions from humans for every instance or ground-truth labels that are independent from said humans. Furthermore, neither L2D nor alternative approaches tackle fundamental issues of deploying HAIC systems in real-world settings, such as capacity management or dealing with dynamic environments. In this paper, we aim to identify and review these and other limitations, pointing to where opportunities for future research in HAIC may lie.

研究の動機と目的

• 実世界のHAIC展開におけるL2Dフレームワークの限界を明確にする。
• 容量、選択ラベル、公平性、および動的環境がHAICの性能に与える影響を評価する。
• L2Dを超えた全体的なHAICシステムへ拡張するための今後の研究方向を提案する。

提案手法

• Learning to Defer (L2D) フレームワークとその数理モデルのレビューと統合。
• L2D が deferral モデルとメイン分類器を用いて割り当てを最適化する方法を説明する。
• すべての訓練事例での人間の予測が必要であることや容量管理の欠如などの制限について論じる。
• 選択ラベル、複数の意思決定者、頑健性、および公正性を含む課題を分析する。
• 動的環境と非定常性を未解決の要因として強調する。
• L2Dを超える潜在的な今後の研究の道筋を概説する。

実験結果

リサーチクエスチョン

• RQ1 実務におけるHAICのためのLearning to Deferの構造的制限は何か。
• RQ2 容量制約、選択的ラベリング、および複数の専門家がL2D下のHAICの性能にどう影響するか。
• RQ3 動的環境下でHAICシステムは公正性と頑健性をどのように維持できるか。
• RQ4 人間の予測があるデータとないデータ、および非定常性に対処できる代替または補完的なアプローチは何か。

主な発見

• L2D には、すべての訓練事例での人間の予測の要件や明示的な容量管理の欠如を含む、重要な実用的制限がある。
• L2D におけるジョイントトレーニングは頑健性を低下させ、人間に対してAIがスコアや説明を提供する助言的役割を妨げる可能性がある。
• 複数の専門家へのデファーがデータ収集の負担を増大させ、同時予測がない場合には実際のチームでは実現不可能かもしれない。
• 容量管理、選択ラベル、公平性、動的環境はL2Dでは十分に扱われておらず、新しい方法論を必要とする。
• 非定常環境と概念ドリフトはL2Dが自然に扱えない課題であり、継続的な更新と適応システムを必要とする。
• 本論文は、性能、公平性、容量制約、適応性を実世界の設定に統合した包括的な HAIC 研究を求めている。