[論文レビュー] Interdisciplinary Approaches to Understanding Artificial Intelligence's Impact on Society

Suresh Venkatasubramanian, Nadya Bliss+2 more|arXiv (Cornell University)|Dec 11, 2020

Ethics and Social Impacts of AI被引用数 5

ひとこと要約

この論文は、AIの社会的影響を扱うために、コンピュータサイエンスと社会科学・人文学を統合する必要性を主張している。現在のAI開発は、技術的な「何を」や「どのように」を過剰に重視し、倫理的・社会的・文脈的懸念を軽視していると指摘する。主な貢献は、偏見、監視、民主的基盤の侵食といった被害を予測・軽減するための学際的協働の呼びかけである。

ABSTRACT

Innovations in AI have focused primarily on the questions of "what" and "how"-algorithms for finding patterns in web searches, for instance-without adequate attention to the possible harms (such as privacy, bias, or manipulation) and without adequate consideration of the societal context in which these systems operate. In part, this is driven by incentives and forces in the tech industry, where a more product-driven focus tends to drown out broader reflective concerns about potential harms and misframings. But this focus on what and how is largely a reflection of the engineering and mathematics-focused training in computer science, which emphasizes the building of tools and development of computational concepts. As a result of this tight technical focus, and the rapid, worldwide explosion in its use, AI has come with a storm of unanticipated socio-technical problems, ranging from algorithms that act in racially or gender-biased ways, get caught in feedback loops that perpetuate inequalities, or enable unprecedented behavioral monitoring surveillance that challenges the fundamental values of free, democratic societies. Given that AI is no longer solely the domain of technologists but rather of society as a whole, we need tighter coupling of computer science and those disciplines that study society and societal values.

研究の動機と目的

• AIシステムの開発が倫理的・社会的含意に十分な注意を払わずに進められるようになることで生じる、増大する社会的リスクに対処すること。
• コンピュータサイエンス教育および産業実務における技術的・数学的アプローチの優先が、社会的文脈を軽視する傾向にあることの批判。
• 学際的監視が欠如したAIの導入が、制度的偏見、監視、民主的基盤の損なわれることをもたらす結果となることの強調。
• 責任あるAI開発を確保するため、コンピュータサイエンスと社会、価値観、ガバナンスを研究する分野を緊密に統合するよう提言すること。
• AIを技術的イノベーションだけではなく、多様な分野からの知見を要する社会的課題として位置づけること。

提案手法

• 本論文は、コンピュータサイエンス、倫理、社会理論の知見を活用した概念的かつ政策志向の枠組みを採用している。
• 偏ったアルゴリズムや監視システムといった、現実世界のAIの失敗事例を分析することで、技術的短視眼性に起因する制度的リスクを示している。
• 差別を助長したり、大規模監視を可能にしたりしたAIシステムの事例研究を通じて、文脈的認識の重要性を示している。
• アプローチは、倫理的考察をAI設計ライフサイクルの初期段階に組み込むことの重要性を強調しており、後から追加するのではなく、本質的に統合することを提唱している。
• 学術的および産業的インcentiveを再設計し、技術的パフォーマンス指標と同様に社会的影響評価を厳密に評価するよう提案している。
• 社会学、法制度、哲学、公共政策の分野の専門家を統合した学際的チームによるAI研究開発を求める枠組みを提唱している。

実験結果

リサーチクエスチョン

• RQ1 現在のAI開発手法は、社会的価値や潜在的被害を十分に考慮していないのはなぜか？
• RQ2 現実世界の応用においてAIシステムが偏見や差別的結果を生じる根本的要因は何か？
• RQ3 現在のコンピュータサイエンスにおける技術的焦点が、AIにおける複雑な社会技術的課題を解決するのに不十分なのはなぜか？
• RQ4 学際的協働は、AIシステムの設計およびガバナンスをどのように改善できるか？
• RQ5 AI研究および開発に社会的影響を統合するために、どのような制度的・教育的改革が必要か？

主な発見

• 開発段階での社会的文脈への十分な注意が欠如しているため、AIシステムはしばしば人種的・性別的偏見を生じる。
• AIシステム内のフィードバックループは、採用や融資といったハイリスク分野において、既存の社会的不平等を強化・拡大させることがある。
• AIによって可能になった大規模監視は、プライバシーや自律性といった基本的な民主的価値を脅かす。
• 現在のテック産業モデルは、倫理的考察よりも迅速な展開と製品化を優先しており、予期しない被害をもたらしている。
• 社会科学および人文学的視点を排除するAI教育および研究における深刻なギャップがあり、結果として狭義の技術的解決策が生じている。
• AIシステムを大規模に展開する前に、社会的リスクを予測・評価・軽減するためには、学際的協働が不可欠である。