[論文レビュー] AI Governance and Ethics Framework for Sustainable AI and Sustainability

Mahendra Samarawickrama|arXiv (Cornell University)|Sep 28, 2022

Ethics and Social Impacts of AI被引用数 5

ひとこと要約

本論文は、人間の倫理、多様性、公平性、包摂（DEI）を軸として、AIを持続可能性および国連持続可能な開発目標（SDGs）と整合させる包括的でAIガバナンスと倫理の枠組みを提唱する。KITE抽象化フレームワークと風力タービンの概念的モデルを導入し、組織が人材、文化、ミッションを通じて倫理的なAI実践を統合するのを支援することで、AIが社会的正義と長期的持続可能性を促進することを保証する。

ABSTRACT

AI is transforming the existing technology landscape at a rapid phase enabling data-informed decision making and autonomous decision making. Unlike any other technology, because of the decision-making ability of AI, ethics and governance became a key concern. There are many emerging AI risks for humanity, such as autonomous weapons, automation-spurred job loss, socio-economic inequality, bias caused by data and algorithms, privacy violations and deepfakes. Social diversity, equity and inclusion are considered key success factors of AI to mitigate risks, create values and drive social justice. Sustainability became a broad and complex topic entangled with AI. Many organizations (government, corporate, not-for-profits, charities and NGOs) have diversified strategies driving AI for business optimization and social-and-environmental justice. Partnerships and collaborations become important more than ever for equity and inclusion of diversified and distributed people, data and capabilities. Therefore, in our journey towards an AI-enabled sustainable future, we need to address AI ethics and governance as a priority. These AI ethics and governance should be underpinned by human ethics.

研究の動機と目的

• AIのリスク（偏見、雇用の喪失、プライバシー侵害など）の増大に応じて、AI開発に倫理的ガバナンスを統合することでそれらに対処すること。
• 環境的、社会的、ガバナンス的（ESG）原則と国連持続可能な開発目標（SDGs）を統合することで、AIを持続可能性と整合させること。
• AIのリーダーシップ、データ、アルゴリズム、意思決定プロセスにおける多様性、公平性、包摂（DEI）を通じて社会的正義を促進すること。
• 組織が企業文化、ミッション、業務に倫理的なAIを統合できる実践的ガバナンスフレームワークを提供すること。
• ステークホルダーとの協働と倫理的なイノベーションを通じて、AIを持続可能な開発と社会的善の根幹的エンablerとして位置づけること。

提案手法

• ゴールデン・サークルの「なぜ」にAIガバナンスを一致させるKITE抽象化フレームワークを提唱し、ESGおよびSDGsと整合する目的志向型AIを強調する。
• 風力タービンの概念的モデルを導入し、AIガバナンスを可視化する。ローターは倫理的価値観とポリシーを表し、ギアボックスはパートナーやコミュニティを象徴し、発電機はデータとAI能力を表す。
• 人間の倫理、特に結果主義と功利主義をAIガバナンスに統合し、結果が人類に利益をもたらし、害を最小限に抑えることを保証する。
• 多様なリーダーシップと包摂的なプロセスの役割を強調し、アルゴリズム的およびデータ的バイアスを低減し、AIシステムにおける公平性を向上させる。
• AIイニシアチブを企業文化、人事（HR）、ミッションと一致させることで、持続的かつ倫理的なAI変革を調整する。
• 事例の提示と概念的モデル（例：制限付き立方スプライン回帰、K-meansクラスタリングの限界）を用い、倫理的なデータモデリングとアルゴリズム的公平性を実証する。

実験結果

リサーチクエスチョン

• RQ1 AIガバナンスはどのように構築されれば、人間の価値観と持続可能性と整合した倫理的結果を保証できるか？
• RQ2 多様性、公平性、包摂（DEI）は、AIシステムにおけるバイアス低減と公平性向上にどのような役割を果たすか？
• RQ3 AIはどのようにガバナンスされれば、国連持続可能な開発目標（SDGs）とESG原則を支援できるか？
• RQ4 AI倫理を企業文化、人材、ミッションに効果的に統合できる組織的フレームワークは何か？
• RQ5 AIイノベーションはどのようにして短期的利益ではなく、社会的正義と長期的持続可能性を実現する方向に導かれるか？

主な発見

• KITEフレームワークは、組織のコアな目的（「なぜ」）にAIガバナンスを的確にマッピングし、ESGおよびSDGsと整合する倫理的抽象化を通じてその整合性を保証する。
• 風力タービンモデルは、取締役会やリーダーがAIライフサイクル全体におけるAIプロセス、ステークホルダー、倫理的結果を監視するための視覚的かつ運用的ガイドを提供する。
• リーダーシップ、データ、アルゴリズム設計におけるDEIの統合は、特に正規分布でない、または複雑なデータ分布において、バイアスを顕著に低減し、公平性を向上させる。
• 持続可能なAIガバナンスは、人間の倫理、特に功利主義的および結果主義的原則に裏打ちされ、害を最小限に抑え、社会的利益を最大化する必要がある。
• IT、データサイエンティスト、AI能力が社会的正義とESG目標と戦略的に一致すれば、持続可能なAIは組織のコアな能力となる。
• DEIおよび倫理的ガバナンスをAI開発に統合する組織は、持続可能性目標との整合性が高まり、ブランド擁護が強化され、社会的インパクト施策における投資利益率（ROI）も上昇することが報告されている。