[論文レビュー] Evaluating a Methodology for Increasing AI Transparency: A Case Study

David Piorkowski, John R. Richards+1 more|arXiv (Cornell University)|Jan 24, 2022

Artificial Intelligence in Healthcare and Education被引用数 4

ひとこと要約

本論文は、AI FactSheets—特定のステークホルダーのニーズに応じたカスタマイズされたドキュメンテーションテンプレート—を構築するユーザー中心の手法の有効性を評価している。この手法により、専門知識のないメンバーが共同で再利用可能でドメイン特化型のFactSheetsを設計でき、品質の高い、消費者に適合したドキュメンテーションが得られ、従来の実務を上回った。

ABSTRACT

In reaction to growing concerns about the potential harms of artificial intelligence (AI), societies have begun to demand more transparency about how AI models and systems are created and used. To address these concerns, several efforts have proposed documentation templates containing questions to be answered by model developers. These templates provide a useful starting point, but no single template can cover the needs of diverse documentation consumers. It is possible in principle, however, to create a repeatable methodology to generate truly useful documentation. Richards et al. [25] proposed such a methodology for identifying specific documentation needs and creating templates to address those needs. Although this is a promising proposal, it has not been evaluated. This paper presents the first evaluation of this user-centered methodology in practice, reporting on the experiences of a team in the domain of AI for healthcare that adopted it to increase transparency for several AI models. The methodology was found to be usable by developers not trained in user-centered techniques, guiding them to creating a documentation template that addressed the specific needs of their consumers while still being reusable across different models and use cases. Analysis of the benefits and costs of this methodology are reviewed and suggestions for further improvement in both the methodology and supporting tools are summarized.

研究の動機と目的

• AIの透明性に関する社会的需要の増大に応じ、多様なステークホルダーのニーズに応えるドキュメンテーションを提供すること。
• 特定の消費者要件に応えられない、万能型のAIドキュメンテーションテンプレートの限界を克服すること。
• 消費者のニーズに適合すると同時に、複数のモデルで再利用可能なFactSheetsを生成するためのユーザー中心の手法を評価すること。
• 実際の医療AI開発現場における、この手法の実用的 usability と認識される価値を評価すること。

提案手法

• AIモデル開発者と利用者双方のドキュメンテーションニーズを特定するため、人間中心設計の手法を適用する。
• コンテンツ提供者と利用者の間の仲介役として機能するFactSheetチーム（FSチーム）を設立する。
• 反復的なヒアリング技術を用いて、利用者のニーズを収集・形式化し、構造的なFactSheetテンプレート項目に落とし込む。
• 提供者と利用者と協働して、テンプレートを精緻化・完成させ、関連性と正確性を確保する。
• 医療分野に特化した内容を保ちつつ、異なるAIモデルやユースケースにわたって再利用可能なテンプレートを設計する。
• フィードバックループを統合し、テンプレートの完成度、明確さ、ステークホルダーの期待との整合性を向上させる。

実験結果

リサーチクエスチョン

• RQ1 人間中心設計の正式な訓練を受けていないFSチームメンバーが、この手法を実行可能であったか？
• RQ2 得られたFactSheetsが、多様な利用者の特定のドキュメンテーションニーズをどの程度満たしていたか？
• RQ3 提供者および利用者の両者の視点から、この手法の認識される利点とコストは何か？

主な発見

• 人間中心設計の訓練を受けていないFSチームメンバーが、利用者のニーズを的確に抽出し、効果的なFactSheetテンプレートを構築できた。
• 得られたFactSheetsは、高品質であると認識され、過去のドキュメンテーション実務を著しく上回った。参加者の17名中16名が、それらが改善されたと評価した。
• 得られたFactSheetsは医療AI分野特有のニーズに対応しながらも、複数の異なるモデルにわたって再利用可能であるほど汎用的であった。
• 利用者からは、FactSheetsがニーズを的確に満たしていると評価されたが、一部のドキュメンテーションの空白が指摘され、カスタマイズされたドキュメンテーションの必要性が再確認された。
• 参加者らは、中央集権的かつ権威あるドキュメンテーションの提供、およびモデルの事実に関する深堀り可能な情報の支援といった主な利点を挙げた。一部の参加者は、この手法を「私たちが行っている活動の根幹の一部」と評した。
• 初期のヒアリングと反復作業に要する作業負荷はあったものの、明確さの向上、トレーサビリティの向上、ステークホルダー間の整合性の向上といった手法の利点が、常にコストを上回ることが確認された。