[論文レビュー] Why we need biased AI -- How including cognitive and ethical machine biases can enhance AI systems

Sarah Fabi, Thilo Hagendorff|arXiv (Cornell University)|Mar 18, 2022

Psychology of Moral and Emotional Judgment被引用数 3

ひとこと要約

この論文は、不確実で現実世界の環境において意思決定を改善するために、認知的バイアスと倫理的バイアスを意図的にAIシステムに統合すべきだと主張する。人間らしい認知的ヒューリスティクスを組み込み、倫理的に選択された訓練データを用いることで、AIモデルはより良い一般化と公平性を達成できる。これは、現在の『バイアス除去』のパラダイムに代わる、責任ある価値志向の機械学習のための画期的なフレームワークを提示する。

ABSTRACT

This paper stresses the importance of biases in the field of artificial intelligence (AI) in two regards. First, in order to foster efficient algorithmic decision-making in complex, unstable, and uncertain real-world environments, we argue for the structurewise implementation of human cognitive biases in learning algorithms. Secondly, we argue that in order to achieve ethical machine behavior, filter mechanisms have to be applied for selecting biased training stimuli that represent social or behavioral traits that are ethically desirable. We use insights from cognitive science as well as ethics and apply them to the AI field, combining theoretical considerations with seven case studies depicting tangible bias implementation scenarios. Ultimately, this paper is the first tentative step to explicitly pursue the idea of a re-evaluation of the ethical significance of machine biases, as well as putting the idea forth to implement cognitive biases into machines.

研究の動機と目的

• すべてのAIバイアスが悪影響を及ぼすという一般的な見解に挑戦し、認知的および倫理的バイアスがAIのパフォーマンスを向上させうることを主張する。
• 『中立性』を追求するのではなく、倫理的に望ましい特徴を優先する意図的なデータ選択が、中立性を求めるよりもより倫理的なAIを実現できることを主張する。
• アルゴリズム的バイアスが欠陥ではなく、強固で現実世界に適応可能なAIシステムの設計的特徴であるという新しいパラダイムを提唱する。
• 理論的および事例研究に基づく証拠を提示し、バイアスが機械学習において方法論的にも倫理的にも有益である可能性を示す。

提案手法

• 不確実な環境における適応性を高めるために、人間の認知バイアス（例：満足解の探索、可用性ヒューリスティクス）を機械学習モデルに埋め込むことを提唱する。
• 『倫理的データバイアス』の概念を導入——道徳的に望ましい社会的・行動的特徴を反映する訓練データを体系的に優先する。
• 認知科学と倫理学の知見を活用して、表層的学習（tabula rasa learning）を越えたモデルアーキテクチャ設計を促進する。
• 限定的合理性と生態的合理性の理論的枠組みをAI意思決定に応用する。
• 認知的および倫理的バイアスを現実世界のAIアプリケーションに実装する事例を示す7つの事例研究を提示する。
• 『バイアス除去』から『バイアス工学』へのシフトを提唱——価値に基づいた意図的な学習システム設計。

実験結果

リサーチクエスチョン

• RQ1 人間の意思決定における認知的バイアスを、どのように機械学習アルゴリズムに有益に移入できるか？
• RQ2 AI訓練データにおける『中立性』の追求がなぜ現実的に不可能であり、かつ危険であるのか？
• RQ3 どのようにして倫理的バイアスを訓練データに体系的に組み込むことで、AIにおける公平性と道徳的行動を促進できるか？
• RQ4 AIシステムは、構造的なバイアスを通じて、不安定な環境でもより優れた一般化と耐性を達成できるか？
• RQ5 AI開発において『バイアス除去』を『バイアス工学』に置き換えることの実務的および倫理的影響は何か？

主な発見

• 学習アルゴリズムに認知的バイアスを意図的に組み込むことで、複雑で不確実な環境における意思決定のスピードと正確性が向上する。
• アルゴリズムの中立性の神話は持続不可能である。すべてのモデルは本質的に価値志向の仮定を反映しており、『バイアス除去』は誤解を招く目標である。
• 望ましい社会的特徴を反映する訓練データの選択によって、より良い倫理的機械行動が達成できる。中立性を求めるよりも効果的である。
• 事例研究により、バイアスの実装が現実世界の応用においてモデルの一般化能力と倫理的整合性を向上させられることを示している。
• 本論文は、バイアスの役割を再評価する基盤的主張を提示し、バイアス工学という新しい研究分野の可能性を示している。
• 著者らは、認知的および倫理的バイアスは欠陥ではなく、強固で倫理的に責任あるAIシステムを構築する上で不可欠な要素であると結論づける。