[論文レビュー] Where Responsible AI meets Reality: Practitioner Perspectives on Enablers for shifting Organizational Practices

Bogdana Rakova, Jingying Yang+2 more|arXiv (Cornell University)|Jun 22, 2020

Ethics and Social Impacts of AI参考文献 30被引用数 40

ひとこと要約

本論文は、組織文化と組織構造が責任あるAIの取り組みをどのように形作るかを、産業を横断する26名の実務家インタビューを通じて分析し、支配的な、台頭する、理想的な実践と4つのガイドとなる組織上の質問を概説する。

ABSTRACT

Large and ever-evolving technology companies continue to invest more time and resources to incorporate responsible Artificial Intelligence (AI) into production-ready systems to increase algorithmic accountability. This paper examines and seeks to offer a framework for analyzing how organizational culture and structure impact the effectiveness of responsible AI initiatives in practice. We present the results of semi-structured qualitative interviews with practitioners working in industry, investigating common challenges, ethical tensions, and effective enablers for responsible AI initiatives. Focusing on major companies developing or utilizing AI, we have mapped what organizational structures currently support or hinder responsible AI initiatives, what aspirational future processes and structures would best enable effective initiatives, and what key elements comprise the transition from current work practices to the aspirational future.

研究の動機と目的

• 産業界における組織文化と構造が責任あるAIの取り組みの有効性にどのように影響するかを調査する。
• 組織内の責任あるAIの取り組みを形作る、普及している実践、台頭している実践、理想的な実践を特定する。
• 責任あるAIを促進するまたは妨げる実務者の役割、インセンティブ、ガバナンス機構を理解する。
• 責任あるAIへ組織の移行を支援する実践可能な洞察と、ワークショップで得られたフレームワークを提案する。

提案手法

• 責任あるAIの実務を探るため、19組織・4大陸の実務家を対象に26件の半構造化インタビューを実施した。
• テーマの導出のため、定性的分析に文脈デザイン手法（解釈セッションとアフィニティ図法）を適用した。
• 組織構造とプロセスにおける共通の促進要因と障壁を特定するため、組織横断で回答を比較した。
• 多様な聴衆とともに洞察を検証し推奨事項を共同作成するため、ML会議でワークショップを開催した。

実験結果

リサーチクエスチョン

• RQ1 組織は責任あるAIの課題に対していつ、どう行動すべきか（受動的 vs. 積極的 vs. 予見的）？
• RQ2 責任あるAIの成功はどのように測定すべきか（性能のトレードオフ vs. 出所情報 vs. 社会的影響）？
• RQ3 責任あるAIの取り組みを効果的に支えるには、内部構造に何が必要か？
• RQ4 インセンティブ、説明責任、組織の使命の間の緊張をどう解消できるか？
• RQ5 組織全体で責任あるAIを拡大するのに役立つ実践的な構造とプロセスとは何か？

主な発見

• ほとんどの実務家は責任あるAIの取り組みを、メディアや規制といった外部圧力に動機づけられた受動的なものとして説明する。
• 台頭する実践には、組織レベルの枠組み、指標、およびまだ広まっていない積極的評価プロセスが含まれる。
• 理想的な未来像は、すべての製品関連プロセスにまたがる統合された責任あるAIと、積極的なリスク予見と社会的影響指標を組み合わせることを描く。
• 組織が対処すべき4つの変化する問いがある：いつ/どのように行動するか、成功をどう測るか、必要な内部構造、緊張をどう解消するか。
• インタビューは、レベルを超えた拒否権の必要性、内部/外部圧力のより良い調整、強固な内部コミュニケーション、責任あるAIイニシアチブの相互依存性の認識を強調している。
• 普及している/受動的な実践から、理想的で統合され、価値観と整合した組織構造へという移行経路が示唆されている。