[論文レビュー] Artificial Intelligence Governance and Ethics: Global Perspectives

Angela Daly, Thilo Hagendorff+6 more|arXiv (Cornell University)|Jun 28, 2019

Ethics and Social Impacts of AI被引用数 5

ひとこと要約

本論文は、オーストラリア、中国、ヨーロッパ、インド、米国におけるグローバルなAIガバナンスと倫理枠組みを検討し、多様な国家的およびセクター別イニシアチブを分析する。国際的視点を統合して共通の倫理的課題とガバナンス戦略を特定し、刑事司法、医療、防衛などハイリスク分野における政策開発と実装の比較分析を行う。

ABSTRACT

Artificial intelligence (AI) is a technology which is increasingly being utilised in society and the economy worldwide, and its implementation is planned to become more prevalent in coming years. AI is increasingly being embedded in our lives, supplementing our pervasive use of digital technologies. But this is being accompanied by disquiet over problematic and dangerous implementations of AI, or indeed, even AI itself deciding to do dangerous and problematic actions, especially in fields such as the military, medicine and criminal justice. These developments have led to concerns about whether and how AI systems adhere, and will adhere to ethical standards. These concerns have stimulated a global conversation on AI ethics, and have resulted in various actors from different countries and sectors issuing ethics and governance initiatives and guidelines for AI. Such developments form the basis for our research in this report, combining our international and interdisciplinary expertise to give an insight into what is happening in Australia, China, Europe, India and the US.

研究の動機と目的

• オーストラリア、中国、ヨーロッパ、インド、米国の5か国におけるAI倫理およびガバナンス枠組みの発展と実装を分析すること。
• 刑事司法、医療、軍事システムなどハイリスクAIアプリケーションにおける共通の倫理的懸念と、異なる規制アプローチを特定すること。
• 政府、産業界、市民社会を含むマルチステークホルダーのイニシャチブがAIガバナンスに与える影響を評価すること。
• グローバルな政策整合性と倫理的なAIの展開を支援するため、AI倫理政策の比較的・多分野的分析を提供すること。
• 特に責任の所在、透明性、公平性に関する点で、現在のガバナンスモデルにおけるギャップと対立を浮き彫りにすること。

提案手法

• オーストラリア、中国、ヨーロッパ、インド、米国の5か国における国家的および地域的AI倫理およびガバナンスイニシャチブを比較分析すること。
• 政府、産業団体、市民社会団体が発行した政策文書、指針、規制枠組みを収集・レビューすること。
• 法的・コンピュータサイエンス的・社会科学的知見を統合して、倫理的原則とガバナンスメカニズムを解釈・文脈化すること。
• 公平性、透明性、責任の所在などの主要な倫理的原則を、異なる地域的枠組みごとに分類・マッピングすること。
• 刑事司法、医療、防衛など感受性の高い分野におけるAIの実装事例を分析し、倫理的リスクとガバナンス対応を評価すること。
• 知見を統合し、ガバナンス成熟度、倫理的優先順位、実装の課題について、国境を越えた評価を提示すること。

実験結果

リサーチクエスチョン

• RQ1 オーストラリア、中国、ヨーロッパ、インド、米国におけるAI倫理およびガバナンス枠組みは、どのように異なっているか？
• RQ2 国家的および地域的AIガバナンスイニシャチブで優先されている倫理的原則は何か。また、それらはどのように実装されているか？
• RQ3 刑事司法や医療などハイリスク分野における倫理的AIの実装における主な課題は何か？
• RQ4 マルチステークホルダーの協働は、AIガバナンス基準の開発と執行にどのように影響しているか？
• RQ5 異なる規制アプローチが、グローバルなAIガバナンスと相互運用性に与える影響は何か？

主な発見

• 地域ごとに倫理的原則の優先順位とフレーミングに顕著な差が見られ、ヨーロッパでは人権と基本的権利が重視されている一方、米国と中国ではイノベーションと国家競争力が重視されている。
• 中国のAIガバナンス枠組みは中央集権的であり、国家の目標と整合しており、技術開発と統制のトップダウン型モデルを反映している。
• ヨーロッパのAIガバナンスは法的適合性と基本的人権を重視しており、特にEUの提案するAI法とそのリスクベースの分類システムを通じて顕著に現れている。
• インドとオーストラリアは、強い倫理的側面を有する国家AI戦略を策定しているが、実装は限定的で断片的である。
• 多数の指針があるものの、大多数の管轄区域において、実効性のある基準や一貫した監視メカニズムが欠如している。
• 予測型警察や自動医療診断などハイリスクアプリケーションは、バイアスや透明性の欠如を含む深刻な倫理的リスクを伴うが、監視メカニズムは依然として未発達である。