[論文レビュー] The Role of Cooperation in Responsible AI Development

Amanda Askell, Miles Brundage+1 more|arXiv (Cornell University)|Jul 10, 2019

Innovation, Sustainability, Human-Machine Systems参考文献 72被引用数 46

ひとこと要約

本論文は、競争圧力が責任あるAI開発を損なう可能性があると主張し、安全で社会的に有益なAIのための産業協力を促進する five factors と four strategies を特定します。

ABSTRACT

In this paper, we argue that competitive pressures could incentivize AI companies to underinvest in ensuring their systems are safe, secure, and have a positive social impact. Ensuring that AI systems are developed responsibly may therefore require preventing and solving collective action problems between companies. We note that there are several key factors that improve the prospects for cooperation in collective action problems. We use this to identify strategies to improve the prospects for industry cooperation on the responsible development of AI.

研究の動機と目的

• 競争がなぜ責任あるAI開発を弱体化させうるのかを説明し、その概念を集合行動問題として導入する。
• 責任ある開発を追求するAI開発者間の協力を高める要因を特定する。
• 集合行動問題を克服し、より安全で社会的に有益なAIを推進するための潜在的戦略を検討する。

提案手法

• 著者らは責任あるAI開発とそのコストと利益を概念化する。
• 競争下のインセンティブとファーストムーバーの動態が安全投資に与える影響を分析する。
• 彼らは協力を促進する five cooperation-facilitating factors を定義する: High Trust, Shared Upside, Low Exposure, Low Advantage, and Shared Downside.
• 彼らは four actionable strategies を提案する: 有害な誤解を是正する、共通の課題で協力する、適切な監督を強化する、倫理と安全基準の順守を奨励する。

実験結果

リサーチクエスチョン

• RQ1 競争圧力は責任あるAI開発への投資インセンティブにどのように影響するか？
• RQ2 責任あるAI開発におけるAI開発者間の協力の可能性を高める要因は何か？
• RQ3 集合行動問題を減らし、より安全で有益なAIを促進する戦略は何か？
• RQ4 規制、責任、あるいは市場の力がインセンティブを社会福祉とより良く整合させる条件はどのような場合か？

主な発見

• 競争圧力は集合行動問題を生み出し、安全性・セキュリティ・社会的影響への過小投資につながる。
• 協力の見通しを改善する five factors: High Trust, Shared Upside, Low Exposure, Low Advantage, and Shared Downside.
• 協力を高める four strategies: 誤解を是正する、共通の研究/エンジニアリング課題で協力する、適切な監督を強化する、倫理/安全順守を奨励する。
• 分析は市場の力、責任法、規制が競争と相互作用して責任あるAIのインセンティブを形作る方法を論じる。