[論文レビュー] Key Considerations for the Responsible Development and Fielding of Artificial Intelligence

Eric Horvitz, Jessica L Young+2 more|arXiv (Cornell University)|Aug 19, 2021

Ethics and Social Impacts of AI被引用数 5

ひとこと要約

この論文は、責任ある人工知能（AI）の開発および展開のための主要な配慮事項を概説しており、倫理的・技術的・政策的課題に焦点を当てている。米国国家安全保障機関向けに開発されたが、広く適用可能であり、信頼できるAIを高リスク分野で実現するため、構造的な実践と更新された政策を通じて、透明性、責任性、安全性、公平性を最優先に据えるべきであると提言している。

ABSTRACT

We review key considerations, practices, and areas for future work aimed at the responsible development and fielding of AI technologies. We describe critical challenges and make recommendations on topics that should be given priority consideration, practices that should be implemented, and policies that should be defined or updated to reflect developments with capabilities and uses of AI technologies. The Key Considerations were developed with a lens for adoption by U.S. government departments and agencies critical to national security. However, they are relevant more generally for the design, construction, and use of AI systems.

研究の動機と目的

• AIの開発および展開における倫理的・技術的・ガバナンス的課題に取り組み、特に米国国家安全保障文脈において対応すること。
• AIシステムに関連する深刻なリスク、特にバイアス、透明性の欠如、高リスク応用における予期しない結果を特定すること。
• 組織がAIシステムのライフサイクル全体にわたり、責任あるAI実践を実装するための実行可能な提言を提供すること。
• 急速なAI能力の進展に対応できるよう、規制および基準を更新するための政策立案者を支援すること。
• 構造的なフレームワークと監視メカニズムを通じて、信頼性、責任性、および一般の信頼を促進すること。

提案手法

• 著者は、コンピュータサイエンス、政策、国家安全保障分野の専門知識を活用して、AIリスクおよびベストプラクティスの包括的レビューを実施した。
• 安全性、信頼性、透明性、公平性などの原則を中心に、12の主要な配慮事項からなるフレームワークを構築した。
• フレームワークは、リスクの事前評価、継続的モニタリング、AIシステム設計および運用における人的監視の重要性を強調している。
• 標準化された評価プロトコルの採用、データ品質の確保、AI意思決定における監査可能性および説明可能性の実現を含む提言がなされた。
• 技術者、倫理学者、政府関係者による多分野的協力を統合し、実務的かつ政策的関連性のあるガイダンスを確保した。
• 組織方針、研修、監視構造を通じた責任あるAI実践の制度化を提唱した。

実験結果

リサーチクエスチョン

• RQ1 高リスク環境、たとえば国家安保分野におけるAIの責任ある開発および展開を導くために、どのようなコアな原則が必要か？
• RQ2 組織は、AIシステムのライフサイクル全体にわたり、透明性、信頼性、責任性をどのように確保できるか？
• RQ3 バイアス、予期しない行動、システム障害などのリスクを軽減するために、どのような技術的およびガバナンス的実践が必要か？
• RQ4 AIの能力の進化および社会的影響を反映するよう、既存の政策および規制はどのように更新できるか？
• RQ5 責任を保つために、AI意思決定プロセスにおける人的監視および介入の役割は何か？

主な発見

• レポートは、安全性、耐性、透明性、公平性などを含む分野をカバーする12の主要な配慮事項を特定した。
• 責任あるAIは、技術的セーフティガードに加え、組織文化、研修、監視メカニズムも必要であると強調した。
• フレームワークは、責任性を支えるために、説明可能性および監査可能性をAIシステム設計のコア要件として推奨している。
• 著者らは、予期しない行動を検出および緩和するために、事前リスク評価と継続的モニタリングが不可欠であると判明した。
• バイアスを低減し、システムの公平性を向上させるために、多様で代表的なデータの重要性を強調した。
• 責任あるAIの展開には、技術的・倫理的・政策的分野における連携した行動が不可欠であり、一般の信頼と国家安全保障を確保するためである。