[論文レビュー] Learning to Defer in Congested Systems: The AI-Human Interplay

Thodoris Lykouris, Wentao Weng|arXiv (Cornell University)|Feb 19, 2024

Hate Speech and Cyberbullying Detection被引用数 4

ひとこと要約

本稿では、混雑状態下における人間とAIの協働をモデル化する、コンテンツモデレーションのための新規オンライン学習フレームワークを提案する。AIが投稿物を人間によるレビューに移管する意思決定は、変動する人間のレビュー能力によって制約を受ける。アルゴリズムは文脈的キューイングモデルを用いて分類精度、選択的サンプリングバイアス、キューイング遅延のバランスをとることで、内生的フィードバック遅延を伴う設定において近似的に最適なレグレットバウンドを達成する。

ABSTRACT

High-stakes applications rely on combining Artificial Intelligence (AI) and humans for responsive and reliable decision making. For example, content moderation in social media platforms often employs an AI-human pipeline to promptly remove policy violations without jeopardizing legitimate content. A typical heuristic estimates the risk of incoming content and uses fixed thresholds to decide whether to auto-delete the content (classification) and whether to send it for human review (admission). This approach can be inefficient as it disregards the uncertainty in AI's estimation, the time-varying element of content arrivals and human review capacity, and the selective sampling in the online dataset (humans only review content filtered by the AI). In this paper, we introduce a model to capture such an AI-human interplay. In this model, the AI observes contextual information for incoming jobs, makes classification and admission decisions, and schedules admitted jobs for human review. During these reviews, humans observe a job's true cost and may overturn an erroneous AI classification decision. These reviews also serve as new data to train the AI but are delayed due to congestion in the human review system. The objective is to minimize the costs of eventually misclassified jobs. We propose a near-optimal learning algorithm that carefully balances the classification loss from a selectively sampled dataset, the idiosyncratic loss of non-reviewed jobs, and the delay loss of having congestion in the human review system. To the best of our knowledge, this is the first result for online learning in contextual queueing systems. Moreover, numerical experiments based on online comment datasets show that our algorithm can substantially reduce the number of misclassifications compared to existing content moderation practice.

研究の動機と目的

• 不確実性の無視、時間変動する人間の能力、選択的サンプリングの影響により、固定しきい値に基づくAIと人間の協働が非効率である問題に対処する。
• フィードバック遅延が承認およびスケジューリング意思決定によって内生的に決定される文脈的キューイングシステムとして、人間とAIの相互作用をモデル化する。
• 分類誤差、レビューされなかった投稿物に起因する個別的損失、人間レビューの混雑に起因する遅延損失を同時に最適化する学習アルゴリズムを開発する。
• 内生的かつ容量制約付きのフィードバック遅延を伴う、新しいオンライン学習設定におけるレグレット最小化の理論的保証を提供する。
• 既存の文献に欠けている点を埋めるために、ソフト容量制約と混雑効果を含めた学習による移管パラダイムを拡張する。

提案手法

• 時間変動する投稿タイプ、潜在的な有害性コスト、人間レビューのキューを備えた文脈的キューイングシステムとして、コンテンツモデレーションプロセスを形式化する。
• AIの意思決定を分類（承認／却下）、承認（人間キューに移管）、スケジューリング（次にレビューする投稿を選択）としてモデル化する。
• ラッジ回帰と信頼集合を用いて、不確実性をベイズ的信頼区間として組み込むことで、投稿物の真の有害性を推定する。
• 分類誤差（レビューされない投稿物に対する）、未レビューで有害な内容を含む投稿物に起因する個別的損失、キューイング混雑に起因する遅延コストの3要素を組み合わせた損失関数を定義する。
• 期待される限界的利益に基づいて投稿物を優先順位付けするスケジューリング方針を導入し、キュー内での緊急性と不確実性の両方をバランスさせる。
• 濃度不等式と行列行列式のバウンドを活用し、学習アルゴリズムの高確率的レグレットバウンドを導出する。

実験結果

リサーチクエスチョン

• RQ1 人間のレビュー能力が制限されかつ変動する状況下で、AIシステムは分類、承認、スケジューリング意思決定をどのように最適にバランスさせるか？
• RQ2 承認およびスケジューリング意思決定によって引き起こされる内生的フィードバック遅延が、人間とAIの協働における学習パフォーマンスに与える影響は何か？
• RQ3 訓練データが選択的にサンプリングされている（承認された投稿物のみがレビューされる）状況で、フィードバックが遅延する中で、学習アルゴリズムはどのようにしてレグレットを最小化できるか？
• RQ4 ソフト容量制約を伴う文脈的キューイングシステムにおけるオンライン学習に対して、どのような理論的保証を提供できるか？
• RQ5 人間レビュー体制における混雑は、コンテンツモデレーションにおけるAIモデルの長期的パフォーマンスと信頼性にどのように影響を与えるか？

主な発見

• 混雑に起因する内生的フィードバック遅延が存在する状況でも、提案されたアルゴリズムは $ O(\sqrt{T \log T}) $ の近似的に最適なレグレットバウンドを達成する。
• 不確実性推定を承認およびスケジューリング意思決定に組み込むことで、選択的サンプリングバイアスを効果的に軽減する。
• 損失関数における遅延コスト成分は、高濃度状態下でパフォーマンスを著しく向上させ、レビューされなかった有害投稿の数を削減する。
• 理論的分析により、ラッジ回帰による信頼集合構築が、モデルの誤設定やノイズの多いフィードバックに対してもロバストであることが示された。
• 実験的検証により、アルゴリズムは固定しきい値ベースラインを上回り、投稿タイプにわたる分類精度と公平性の両面で優れた性能を示した。
• 本フレームワークは、オンライン学習を文脈的キューイングシステムに形式化した初の試みであり、リアルタイムシステムにおける人間とAIの協働のための新たな分析的基盤を提供する。