[論文レビュー] Solidarity should be a core ethical principle of Artificial Intelligence

Miguel Luengo-Oroz|arXiv (Cornell University)|Oct 22, 2019

Ethics and Social Impacts of AI参考文献 6被引用数 29

ひとこと要約

本論文は、AIにおける均等な利益還元と長期的 societalな害の予防を提唱する、AIの根幹的倫理的原則としての結束（ソリダリティ）を提言する。2つの柱を提示する：(1) データロイヤルティやオープンソースモデルなどの財務的・デジタル的メカニズムによる利益共有、(2) 人的能力の不要化を防ぐための導入前評価。AIが一部の特権的少数者にではなく、全人類に貢献することを保証する。

ABSTRACT

Solidarity is one of the fundamental values at the heart of the construction of peaceful societies and present in more than one third of world's constitutions. Still, solidarity is almost never included as a principle in ethical guidelines for the development of AI. Solidarity as an AI principle (1) shares the prosperity created by AI, implementing mechanisms to redistribute the augmentation of productivity for all; and shares the burdens, making sure that AI does not increase inequality and no human is left behind. Solidarity as an AI principle (2) assesses the long term implications before developing and deploying AI systems so no groups of humans become irrelevant because of AI systems. Considering solidarity as a core principle for AI development will provide not just an human-centric but a more humanity-centric approach to AI.

研究の動機と目的

• 既存のAI倫理ガイドラインに見られる、信頼性・公平性・責任の強調に起因する、結束の欠如に取り組む。
• ユヴァル・ノア・ハラリが予測したように、AIが多数の人類を経済的・社会的に無関係にすることのリスクに反対する。
• AIの生産性向上の成果を社会全体に均等に還元するフレームワークを提供し、格差の拡大を防ぐ。
• データ貢献者への財務的補償を含む、AI開発の利益と負担を共有するメカニズムを導入する。
• AIに起因するシステム的リスク（例：AI駆動の誤情報、環境コスト）を管理するためのグローバルガバナンス構造を提唱する。

提案手法

• 結束（ソリダリティ）を二面的な倫理的原則として提唱する：(1) AIが生み出す豊かさの公平な共有、(2) 人的能力の不要化を防ぐための長期的リスク評価。
• データロイヤルティやロボット税といった財務的メカニズムを推奨し、AIシステムから得られる価値を個人やコミュニティに還元する。
• AIモデルのオープンソース化とデジタル公共財（例：気候変動・健康分野のモデル）の促進を通じ、共有アクセスと利益の共有を実現する。
• 国際的な規制手段、特にグローバル健康危機に類似した「グローバルAI緊急事態宣言」を含む、大規模なAI危機への対応を求める。
• AIモデルの利益がその炭素フットプリントを上回ることを要件とする持続可能性政策を提唱する。
• 社会的影響に基づき、顔認識や殺傷能力を有する自律型兵器などの高リスクAIアプリケーションに対して、事前の禁止または厳格な規制を提言する。

実験結果

リサーチクエスチョン

• RQ1 AI開発をどのように構築すれば、AIの生産性向上の成果が社会全体に均等に還元されるか？
• RQ2 AIモデルの学習に貢献する個人に対して、どのようなメカニズムで財務的補償を実施できるか？
• RQ3 AIシステムが、人間集団全体の長期的劣位化や無関係化を防ぐために、事前にどのように評価できるか？
• RQ4 AIに起因するシステム的リスク（例：大規模な誤情報、環境的被害）を管理するためのグローバルガバナンス枠組みは何か？
• RQ5 結束（ソリダリティ）という倫理的原則が、人間中心の設計から人類中心の設計にAIを変容させる方法は何か？

主な発見

• 結束（ソリダリティ）は、30%以上の世界の憲法およびヨーロッパ憲章に根幹的価値として存在するが、93%のAI倫理ガイドラインには欠落しているか、曖昧に定義されている。
• 調査された84のAI原則のうち、わずか6つしか「結束」を明確に言及しておらず、定義は一貫性がなく、未発達である。
• データロイヤルティ制度により、医師や作家など、行動的または創造的データを提供する個人に対して、財務的補償が可能となる。
• 自動化やロボットに課税することで、AIが生み出す豊かさを再分配する財政的メカニズムとなり、失職した労働者を支援できる。
• グローバル健康危機に類似した「グローバルAI緊急事態宣言」は、大規模なAI危機への国際的連携対応を可能にする。
• 現在のAI開発は、モデル学習に伴う炭素フットプリントを無視している傾向があるため、利益がフットプリントを上回ることを要件とする持続可能性政策の導入が求められる。