[論文レビュー] Towards a Theory of Justice for Artificial Intelligence

Iason Gabriel|arXiv (Cornell University)|Oct 27, 2021

Ethics and Social Impacts of AI被引用数 8

ひとこと要約

この論文は、ジョン・ロールズの分配的正義の原則に裏付けられた人工知能（AI）の正義理論を提唱し、AIシステムが公に正当化可能でなければならないこと、市民の権利を保護し、とりわけ社会的最悪層に対して実質的な公平な結果を促進しなければならないことを主張している。社会的技術的システムを社会の基本的構造と位置づけ、包摂的設計と影響評価を通じて、AIが平等主義的正義基準を満たすことを要請する。

ABSTRACT

This paper explores the relationship between artificial intelligence and principles of distributive justice. Drawing upon the political philosophy of John Rawls, it holds that the basic structure of society should be understood as a composite of socio-technical systems, and that the operation of these systems is increasingly shaped and influenced by AI. As a consequence, egalitarian norms of justice apply to the technology when it is deployed in these contexts. These norms entail that the relevant AI systems must meet a certain standard of public justification, support citizens rights, and promote substantively fair outcomes -- something that requires specific attention be paid to the impact they have on the worst-off members of society.

研究の動機と目的

• 分配的正義の原則と整合するAIの規範的フレームワークを確立すること。
• AIシステムが社会の基本的構造の一部であるとして、平等主義的正義基準を守らなければならないことに対処すること。
• AIシステムが公に正当化可能であり、格差を悪化させないことの保証。
• とりわけ弱い立場の集団に対して公平な結果を支援するAIの必要性を強調すること。
• 政治哲学をAIガバナンスに統合し、社会的技術的システムにおけるロールズ的理想を適用すること。

提案手法

• 人工知能の文脈に適応したジョン・ロールズの正義の自由に基づく理論の適用。
• 社会の基本的構造をAIも含む社会的技術的システムの複合体として再定式化すること。
• AIの設計および展開に公的正当性の原則を適用し、透明性と合理性を要請すること。
• ロールズの差の原則に由来する公平性基準を通じて、AIシステムの最悪層への影響を評価すること。
• AIシステム要件に市民の権利を統合し、不正な結果から保護すること。
• 規範的政治哲学を出発点として、社会制度におけるAIの倫理的正当性を評価すること。

実験結果

リサーチクエスチョン

• RQ1 ロールズの正義原理は、人工知能システムの設計および展開にどのように適用可能か。
• RQ2 AIシステムはどのように社会の基本的構造の一部となるのか。これにはどのような倫理的義務が伴うか。
• RQ3 正義理論の下で、AIシステムが公的に正当化可能であるために満たすべき基準は何か。
• RQ4 AIはどのように構築されれば、とりわけ社会的最悪層に対して実質的な公平な結果を促進できるか。
• RQ5 市民の権利は、社会的技術的システム内での公正なAIシステムを確保するために果たす役割は何か。

主な発見

• AIシステムは公的に正当化可能でなければならない。これは、その設計および運用がすべての合理的な市民に受け入れられるべきであることを意味する。
• AIによってますます形作られる社会的技術的システムの運用は、平等主義的正義の規範を守らなければならない。
• AIの導入は、権力の不均衡が不平等な結果をもたらす可能性のある文脈において、市民の権利を積極的に支援しなければならない。
• 実質的な公平性は、形式的平等や効率性のみを基準としないで、最悪層への影響に基づいてAIシステムを評価する必要があることを要請する。
• ロールズの原理をAIガバナンスに統合することで、技術が不平等の道具ではなく正義の道具として機能することを保証する。
• AIを含む社会的技術的システムは、とりわけ弱い立場のグループを優遇するために、公平性と包摂性を最優先に再構築されなければならない。