[論文レビュー] Human-Algorithm Interaction Biases in the Big Data Cycle: A Markov Chain Iterated Learning Framework

Olfa Nasraoui, Patrick Shafto|arXiv (Cornell University)|Aug 29, 2016

Machine Learning and Algorithms参考文献 68被引用数 8

ひとこと要約

この論文は、ビッグデータシステムにおける継続的で双方向的な人間-アルゴリズム相互作用が引き起こすバイアスの双方向的性質をモデル化するため、マルコフ連鎖に基づく反復学習フレームワークを導入する。人間とアルゴリズムの盲点を形式化し、反制策と反応型学習を提案して反復的バイアスを軽減する。また、レコメンデーションシステムにおける長期的フィルターバブル形成とアルゴリズム的ドリフトを分析する理論的基盤を提供する。

ABSTRACT

Early supervised machine learning algorithms have relied on reliable expert labels to build predictive models. However, the gates of data generation have recently been opened to a wider base of users who started participating increasingly with casual labeling, rating, annotating, etc. The increased online presence and participation of humans has led not only to a democratization of unchecked inputs to algorithms, but also to a wide democratization of the "consumption" of machine learning algorithms' outputs by general users. Hence, these algorithms, many of which are becoming essential building blocks of recommender systems and other information filters, started interacting with users at unprecedented rates. The result is machine learning algorithms that consume more and more data that is unchecked, or at the very least, not fitting conventional assumptions made by various machine learning algorithms. These include biased samples, biased labels, diverging training and testing sets, and cyclical interaction between algorithms, humans, information consumed by humans, and data consumed by algorithms. Yet, the continuous interaction between humans and algorithms is rarely taken into account in machine learning algorithm design and analysis. In this paper, we present a preliminary theoretical model and analysis of the mutual interaction between humans and algorithms, based on an iterated learning framework that is inspired from the study of human language evolution. We also define the concepts of human and algorithm blind spots and outline machine learning approaches to mend iterated bias through two novel notions: antidotes and reactive learning.

研究の動機と目的

• 継続的で人間-アルゴリズム相互作用が関与する機械学習分野において、形式的モデリングの不足を解消すること。特にレコメンデーションシステムに焦点を当てる。
• バイアスのある人間の入力とアルゴリズムのフィードバックループが、時間経過とともにどのようにバイアスを強化・拡大させるかを分析すること。
• 人間とアルゴリズムの盲点という概念を形式化し、それらがフィルターバブル形成に果たす役割を明確にすること。
• 反復的学習バイアスを是正するための新規なアルゴリズム的メカニズム（反制策と反応型学習）を提案すること。
• 人間学習の心理学的モデルと機械学習フレームワークを統合し、相互作用的で動的なデータ環境に適応する。

提案手法

• 人間の選択とアルゴリズムの適応が繰り返し行われる反復的学習プロセスとして、人間-アルゴリズム相互作用をマルコフ連鎖モデルで形式化する。
• アルゴリズムの出力がその後の人の選択に影響を与えるフィードバックループをモデル化し、循環的なデータ依存性を生じさせる。
• 選択バイアスによって人間とアルゴリズムの両方が一貫して除外するデータ領域として「盲点」を定義する。
• 盲点から意図的にサンプリングすることでデータ多様性を回復するアルゴリズム的干渉として「反制策」を提案する。
• 観察された人間の反応パターンと選択バイアスに基づいてモデル行動を動的に調整する「反応型学習」という動的学習戦略を導入する。
• 理論的分析とシミュレーションを用いて、反復的相互作用下での標準的アルゴリズムとバイアス軽減型アルゴリズムの長期的挙動を比較する。

実験結果

リサーチクエスチョン

• RQ1 人間の選択バイアスとアルゴリズムのフィードバックループは、レコメンデーションシステムにおいてどのようにしてフィルターバブルの発生に寄与するか？
• RQ2 反復的で人間-アルゴリズム相互作用が、アルゴリズムのパフォーマンスと人間の知識に及ぼす長期的影響は何か？
• RQ3 人間とアルゴリズムのデータ選択における盲点が、時間経過とともにどのように相互に強化されるか？
• RQ4 反制策と反応型学習メカニズムは、相互作用型学習システムにおける反復的バイアスをどの程度効果的に低減できるか？
• RQ5 マルコフ連鎖フレームワークは、現実のレコメンデーションシステムにおけるバイアスの進化をどの程度正確にモデル化・予測できるか？

主な発見

• マルコフ連鎖フレームワークは、人間の行動とアルゴリズム出力の循環的依存性を効果的にモデル化し、反復の度にバイアスが蓄積される仕組みを明らかにした。
• 人間とアルゴリズムが一貫して特定のデータを除外することで盲点が発生し、情報の小部屋化とレコメンデーションの多様性低下を引き起こす。
• フィルターバブルは、盲点の逆として定式化される——反復的な露出と選択によって、特定のデータが過剰に代表される領域である。
• 反制策は、盲点から意図的にサンプリングすることで、バイアスの拡散を抑制し、その後の反復でデータカバレッジを回復できる。
• 人間の反応パターンと選択バイアスに適応する反応型学習メカニズムは、標準モデルと比較して選択バイアスに対してより高い耐性を示した。
• 本研究では、公開データセットに重大なギャップが存在することを特定した——大多数のデータセットは完全なレコメンデーション履歴を記録しておらず、反復的バイアスを実証的に研究する能力が制限されている。