[論文レビュー] Diversity and Inclusion in Artificial Intelligence

Didar Zowghi, Francesca da Rimini|arXiv (Cornell University)|May 22, 2023

Ethics and Social Impacts of AI被引用数 5

ひとこと要約

本論文は、人工知能（AI）における多様性と包括性（D&I）を実用的でエコシステムレベルの枠組みで統合するためのものであり、AI実務家が実行可能なガイドラインを提供する。D&IをAIライフサイクル全体にわたり包括的に定義し、バイアスを軽減し、AIシステムおよびその開発環境における公平性を向上させる構造的なアプローチを提案する。

ABSTRACT

To date, there has been little concrete practical advice about how to ensure that diversity and inclusion considerations should be embedded within both specific Artificial Intelligence (AI) systems and the larger global AI ecosystem. In this chapter, we present a clear definition of diversity and inclusion in AI, one which positions this concept within an evolving and holistic ecosystem. We use this definition and conceptual framing to present a set of practical guidelines primarily aimed at AI technologists, data scientists and project leaders.

研究の動機と目的

• AI開発における多様性と包括性（D&I）統合のための具体的で実行可能な指針の不足に対処すること。
• 個々のシステムを越えた包括的でエコシステム全体をカバーするAIにおけるD&Iの包括的で包括的な定義を構築すること。
• AI技術者、データサイエンティスト、プロジェクトリーダーに特化した実用的で実装可能なガイドラインを提供すること。
• D&IをAI設計および展開における一時的なコンプライアンスタスクではなく、継続的でシステム的な取り組みとして位置づけること。
• AIライフサイクル全体にわたり包括的実践を活用して信頼性の高いAIシステムの構築を支援すること。

提案手法

• 個人、チーム、組織、社会的次元を統合した、AIにおけるD&Iの包括的で概念的なフレームワークを提唱すること。
• AIにおける多様性と包括性を、動的で文脈に敏感な構造として定義し、AI開発ライフサイクル全体に埋め込むこと。
• チーム編成、データキュレーション、システム設計、評価に焦点を当てた、AI実務家向けの実用的で実行可能なガイドラインのセットを導入すること。
• 各段階のAI開発においてバイアスを特定・軽減するための反復的でフィードバック駆動のプロセスを強調すること。
• 技術的および組織的レベルの両方で継続的な評価と適応を必要とする、進化し続ける横断的課題としてD&Iを位置づけること。
• ソフトウェアエンジニアーやデータサイエンティストにとっての実用性を確保するため、現実のAIプロジェクトの文脈に根ざしたフレームワークを構築すること。

実験結果

リサーチクエスチョン

• RQ1 多様性と包括性は、AI開発ライフサイクル全体にわたりどのように意味的に定義され、実務に落とし込まれるか？
• RQ2 AIチームは、システム設計およびデータ実務にD&Iを統合するために、どのような実用的で実装可能な戦略を採用できるか？
• RQ3 組織は、個別のイニシアチブを超えてD&Iを制度化し、長期的影響をもたらすにはどうすればよいか？
• RQ4 チーム編成と組織文化は、包括的なAI成果を形成する上で果たす役割は何か？
• RQ5 D&Iは、AIシステムの開発および展開の全過程において、どのように体系的に評価・監視されるべきか？

主な発見

• 本論文は、代表性を越えてプロセス、パワー構造、制度的公平性を含む包括的でエコシステムレベルのAIにおけるD&Iの定義を確立している。
• 実用的ガイドラインは、チーム編成、データ収集、モデル開発、評価、展開という主要フェーズを中心に構造化されている。
• フレームワークは、D&Iがチェックリストではなく、継続的かつ反復的なプロセスであることを強調しており、継続的な自己認識と適応が不可欠である。
• 多様な視点、特に代表が不足しているグループからの視点を初期段階から含むチームが、包括的AI開発を最も効果的に実現する。
• 本論文は、組織文化とリーダーシップのコミットメントが、AIプロジェクトにおける持続的なD&I統合の重要な促進要因であると特定している。
• 提案されたガイドラインは、技術的ワークフローにおける現実的な実行可能性と影響を重視して設計されており、AI実務家による直接的適用を想定している。