[論文レビュー] A Framework for Ethical AI at the United Nations

Lambert Hogenhout|arXiv (Cornell University)|Apr 9, 2021

Ethics and Social Impacts of AI被引用数 13

ひとこと要約

本論文は、人権と国連の価値観に整合するAIを確保するため、倫理的原則、データガバナンス、アーキテクチャ基準、評価ツール、職員教育を統合した包括的な国連向け倫理的AIフレームワークを提唱する。AIの導入に伴うリスクを低減し、国連の業務にわたり責任あるAIの展開を促進するため、構造的で多層的な手法を提唱する。

ABSTRACT

This paper aims to provide an overview of the ethical concerns in artificial intelligence (AI) and the framework that is needed to mitigate those risks, and to suggest a practical path to ensure the development and use of AI at the United Nations (UN) aligns with our ethical values. The overview discusses how AI is an increasingly powerful tool with potential for good, albeit one with a high risk of negative side-effects that go against fundamental human rights and UN values. It explains the need for ethical principles for AI aligned with principles for data governance, as data and AI are tightly interwoven. It explores different ethical frameworks that exist and tools such as assessment lists. It recommends that the UN develop a framework consisting of ethical principles, architectural standards, assessment methods, tools and methodologies, and a policy to govern the implementation and adherence to this framework, accompanied by an education program for staff.

研究の動機と目的

• 国連におけるAI利用に伴う倫理的リスクの増大に対処するため、構造的ガバナンスアプローチを確立すること。
• 統合的倫理的およびデータガバナンスフレームワークを通じて、AIの開発と展開を基本的人権と国連の原則に一致させること。
• 国連が多様な業務的文脈において倫理的AIを実装するための実用的で実行可能な道筋を提供すること。
• 倫理的レビューおよび評価メカニズムを組み込むことで、AIシステムに起因する予期しない被害を低減すること。
• 職員教育および標準化された手法を通じた能力強化により、制度的能力を高めること。

提案手法

• 倫理的原則とデータガバナンス基準を統合した多要素フレームワークの構築。
• AIシステムの倫理的適合性を評価するための評価ツールおよびチェックリストの設計。
• 倫理的配慮をAIシステム設計に組み込むためのアーキテクチャ基準の確立。
• 一貫した実施および遵守を保証するための政策および監査メカニズムの構築。
• 制度的認識および能力強化を図るための職員教育プログラムの統合。
• 既存の倫理フレームワークを活用し、国連の多国間的・政府間的文脈に適合させる。

実験結果

リサーチクエスチョン

• RQ1 国連は、どのようにして倫理的原則をそのAIイニシアチブに体系的かつ統合的に組み込むことができるか？
• RQ2 多様な国連機関にわたり、倫理的AIガバナンスを確保するために必要な構造的要素は何か？
• RQ3 AI倫理とデータガバナンスをどのように一致させれば、不正利用を防ぎ、人権を保護できるか？
• RQ4 国連の業務におけるAIシステムの倫理的妥当性を効果的に評価するための評価ツールおよび手法は何か？
• RQ5 職員教育および制度的能力強化は、持続可能な倫理的AIの導入をどのように支援できるか？

主な発見

• 国連は、倫理的原則、技術的基準、評価ツール、政策メカニズムを統合した包括的フレームワークを必要としている。
• 倫理的AIはデータガバナンスと分離できない。両者は、信頼性のあるAIシステムを形成する上で相互に依存している。
• 既存の倫理フレームワークおよび評価ツールは、国連の文脈に適合させるために調整され、統合可能な統一システムとして利用可能である。
• 職員の認識を高め、倫理的基準の一貫性のある適用を保証するため、専用の教育プログラムが不可欠である。
• 提唱されたフレームワークは、リスクの事前対策を可能にし、人権および国連の価値観との整合性を強化する。
• フレームワークの実装は、国連主導のAIイニシアチブにおける透明性、責任性、および公共の信頼を支援する。