[論文レビュー] Socially Responsible AI Algorithms: Issues, Purposes, and Challenges

Lu Cheng, Kush R. Varshney+1 more|arXiv (Cornell University)|Jan 1, 2021

Ethics and Social Impacts of AI参考文献 211被引用数 35

ひとこと要約

この調査はAIの社会的責任を定義し、AIの責任の四層ピラミッドを提案し、倫理・透明性・安全性・社会的影響に対処するSRAsの体系的枠組みを提示します。

ABSTRACT

In the current era, people and society have grown increasingly reliant on artificial intelligence (AI) technologies. AI has the potential to drive us towards a future in which all of humanity flourishes. It also comes with substantial risks for oppression and calamity. Discussions about whether we should (re)trust AI have repeatedly emerged in recent years and in many quarters, including industry, academia, healthcare, services, and so on. Technologists and AI researchers have a responsibility to develop trustworthy AI systems. They have responded with great effort to design more responsible AI algorithms. However, existing technical solutions are narrow in scope and have been primarily directed towards algorithms for scoring or classification tasks, with an emphasis on fairness and unwanted bias. To build long-lasting trust between AI and human beings, we argue that the key is to think beyond algorithmic fairness and connect major aspects of AI that potentially cause AI's indifferent behavior. In this survey, we provide a systematic framework of Socially Responsible AI Algorithms that aims to examine the subjects of AI indifference and the need for socially responsible AI algorithms, define the objectives, and introduce the means by which we may achieve these objectives. We further discuss how to leverage this framework to improve societal well-being through protection, information, and prevention/mitigation.

研究の動機と目的

• AIの社会的責任を、原則・手段・目的の3次元で定義する。
• 機能的、法的、倫理的、慈善的の4つの責任からなるAI責任のピラミッドを提案する。
• 社会的責任AIアルゴリズム（SRAs）とその役割の体系的な枠組みを開発する。
• 社会的に無関心なAIの原因と対象を特定し、SRAsを実現するための仕組みを概説する。

提案手法

• 原則・手段・目的の3次元でAIの社会的責任を正式に定義する。
• Carroll の CSR ピラミッドを AI に適用し、4つの責任（機能的、法的、倫理的、慈善的）とする。
• SRAs枠組みを提案し、その要点・役割・ユーザーからのフィードバックループを詳述する。
• 公正性・透明性・説明責任・安全性などのトピックを統一された SRAs の視点で調査・統合する。
• 無関心の原因を分析する（形式化、測定誤差、バイアス、データの悪用、相関関係と因果関係の区別）。
• 解釈可能性、対抗的機械学習、因果学習、 不確実性の定量化を通じてSRAsを実現する手段を概説する。

実験結果

リサーチクエスチョン

• RQ1 AIの社会的責任とは何か、そしてそれをどのように形式化できるか。
• RQ2 機能的・法的・倫理的・慈善的の4部からなるピラミッドは、AI開発をどのように導くことができるか。
• RQ3 SRAsの体系的な枠組みとは何か、そしてその構成要素はどのように相互作用してAIの負の影響を保護・情報提供・緩和するか。
• RQ4 社会的に無関心なAIの根本的な原因は何か、そしてSRAsはそれらにどう対処できるか。

主な発見

• 原則・手段・目的の3つの次元にまたがるAIの社会的責任の正式な定義を提供する。
• 機能的・法的・倫理的・慈善的の4レベルのAI責任ピラミッドを紹介する。
• 要点・役割・ユーザーフィードバックを社会的成果と結びつけた包括的なSRAs枠組みを提案する。
• AIにおける社会的無関心の主要な原因（形式化、測定誤差、バイアス、データの悪用、相関と因果の違い）を特定し、それに対処する戦略を論じる。
• SRAs の目的（公正性・透明性・安全性）と手段（解釈可能性・対抗的ML・因果学習・不確実性の定量化）を論じる。
• 調査は新しいAI倫理原則と政策の必要性を含む未解決の問題と課題を強調している。