[論文レビュー] Beyond Bias and Compliance: Towards Individual Agency and Plurality of Ethics in AI

Thomas Krendl Gilbert, Megan Welle Brozek+1 more|arXiv (Cornell University)|Feb 23, 2023

Ethics and Social Impacts of AI被引用数 4

ひとこと要約

この論文は、バイアスとコンプライアンスに焦点を当てた支配的であるAI倫理の枠組みから、個人の自律性と倫理的価値の多様性に重きを置くものへと移行することを提唱する。データラベリングを道徳的行為として再考し、ユーザーが定義する価値とシステムアーキテクチャに基づくAI倫理を提唱することで、ユーザーのコントロールと表現の自由を通じて信頼を醸成する、倫理的に整合したAIの実現を目指す。

ABSTRACT

AI ethics is an emerging field with multiple, competing narratives about how to best solve the problem of building human values into machines. Two major approaches are focused on bias and compliance, respectively. But neither of these ideas fully encompasses ethics: using moral principles to decide how to act in a particular situation. Our method posits that the way data is labeled plays an essential role in the way AI behaves, and therefore in the ethics of machines themselves. The argument combines a fundamental insight from ethics (i.e. that ethics is about values) with our practical experience building and scaling machine learning systems. We want to build AI that is actually ethical by first addressing foundational concerns: how to build good systems, how to define what is good in relation to system architecture, and who should provide that definition. Building ethical AI creates a foundation of trust between a company and the users of that platform. But this trust is unjustified unless users experience the direct value of ethical AI. Until users have real control over how algorithms behave, something is missing in current AI solutions. This causes massive distrust in AI, and apathy towards AI ethics solutions. The scope of this paper is to propose an alternative path that allows for the plurality of values and the freedom of individual expression. Both are essential for realizing true moral character.

研究の動機と目的

• バイアスとコンプライアンスを主なフレームワークとするAI倫理の優位性に挑戦し、道徳的意思決定の全範囲を捉えきれていない点を指摘する。
• データラベリングがAIシステムの倫理的行動をどのように形作るかという基礎的問題に取り組み、ラベリングを道徳的行為として位置づける。
• ユーザーがアルゴリズムの行動と倫理的結果を直接制御できる仕組みを確保することで、AIにおける信頼の基盤を築く。
• 多様な価値を尊重し、AIシステムにおける個人の表現を支援する、多様性を重視する倫理的モデルを提唱する。
• コンプライアンス志向の製品としてではなく、ユーザー自身の道徳的原則に従って生きられるようにする、倫理的に整合したAIを再定義する。

提案手法

• データラベリングを根幹的な倫理的実践として再定式化し、ラベリングの選択がAIシステムの道徳的行動に直接影響することを主張する。
• 道徳的意思決定における価値の役割を特に重視した道徳哲学の知見を、機械学習システム設計に統合する。
• 倫理的AIは、ユーザーが定義する価値をサポートできるようにアーキテクチャ設計されるべきだと提唱する。
• 倫理的整合性は公平性指標を越えて、個人の自律性と道徳的表現のための構造的支援を必要とする点を強調する。
• エンドユーザーがAIシステム内の倫理的基準を定義するにあたり、参加型の設計プロセスを推進する。
• 信頼を再考し、規制コンプライアンスの結果としてではなく、ユーザーが倫理的AIから直接的かつ個人的な価値を体験する結果として信頼が生じることを提唱する。

実験結果

リサーチクエスチョン

• RQ1 AI倫理は、バイアス低減と規制コンプライアンスの限界を超え、道徳的意思決定の全範囲をどのように扱えるか。
• RQ2 データラベリングがどのように道徳的行為として機能し、AIシステムの倫理的行動を形作るか。
• RQ3 AIシステムにおける個人の自律性を実現するために必要な構造的および設計的原則は何か。
• RQ4 多様な道徳的表現を支援するために、価値の多様性をAIアーキテクチャにどのように埋め込むか。
• RQ5 ユーザーが倫理的AIから直接的かつ個人的な価値を体験できる仕組みは何か。その結果、信頼がどのように醸成されるか。

主な発見

• 論文は、データラベリングが中立的な技術的プロセスではなく、AIシステムの倫理的行動を形作る基盤的道徳的行為であることを確立している。
• バイアスとコンプライアンスに焦点を当てた現在のAI倫理のアプローチは、AIにおける個人の自律性と道徳的自己決定の根本的ニーズを捉えていない。
• ユーザーが倫理的AIの行動から直接的かつ個人的な価値を体験しない限り、倫理的AIは信頼できない。現行のシステムはその価値を提供していない。
• 多様な価値と個人の表現を支援する多様性を重視する倫理的モデルは、AIシステムにおける真の道徳的特性を実現するために不可欠である。
• 著者らは、倫理的AIは、ユーザーが自らの価値を定義し、それを実行できるように設計され、一様なコンプライアンスフレームワークを越えるべきだと結論づける。
• 提案されたフレームワークは、信頼を外部規制への準拠ではなく、ユーザーのコントロールと価値の整合性から生じるものとして再定義する。