[論文レビュー] Casual Conversations v2: Designing a large consent-driven dataset to measure algorithmic bias and robustness

Caner Hazırbaş, Yejin Bang+10 more|arXiv (Cornell University)|Nov 10, 2022

Ethics and Social Impacts of AI被引用数 4

ひとこと要約

本論文は、多様な人種的・環境的要因を考慮したAIシステムにおけるアルゴリズム的バイアスと耐性を測定することを目的とした大規模かつ同意に基づくデータセット『Casual Conversations v2』を紹介する。10のカテゴリ（6つは被験者自身が提供するもの：年齢、性別、言語、障害、身体的装飾／属性、地理的場所、4つはアノテーションによるもの：声のトーン、外見上の皮膚色、録音環境、活動状態）を提案し、視覚、音声、NLPモデルの包括的かつ包括的な評価を可能にする。一方、定義の曖昧さとリスクのため、人種や顔の表情といった倫理的に敏感なカテゴリは除外されている。

ABSTRACT

Developing robust and fair AI systems require datasets with comprehensive set of labels that can help ensure the validity and legitimacy of relevant measurements. Recent efforts, therefore, focus on collecting person-related datasets that have carefully selected labels, including sensitive characteristics, and consent forms in place to use those attributes for model testing and development. Responsible data collection involves several stages, including but not limited to determining use-case scenarios, selecting categories (annotations) such that the data are fit for the purpose of measuring algorithmic bias for subgroups and most importantly ensure that the selected categories/subcategories are robust to regional diversities and inclusive of as many subgroups as possible. Meta, in a continuation of our efforts to measure AI algorithmic bias and robustness (https://ai.facebook.com/blog/shedding-light-on-fairness-in-ai-with-a-new-data-set), is working on collecting a large consent-driven dataset with a comprehensive list of categories. This paper describes our proposed design of such categories and subcategories for Casual Conversations v2.

研究の動機と目的

• アルゴリズム的バイアスとAIシステムの耐性を厳密かつ倫理的に評価できる大規模かつ同意に基づくデータセットを設計すること。
• 人種や顔の表情といった従来のデモグラフィックラベルは、倫理的懸念と曖昧さのため、代替としてより包括的かつ明確に定義された属性に焦点を当てる。
• 視覚、音声、NLPタスクにおけるAIモデルの包括的評価を可能にするために、実世界の多様性と環境変動を反映する自ら提供された属性とアノテーションカテゴリを含めること。
• 身体的装飾、身体的特徴、活動タイプなどの細分化された自ら報告された属性を通じて、代表されにくいサブグループの代表性を確保すること。
• 人種や顔の表情といった高リスクラベルを除外することで、責任あるAIを推進し、誤分類、文化的不一致、潜在的被害のリスクを低減すること。

提案手法

• ラベリングのための10のカテゴリを提案：6つは自ら提供されたもの（年齢、性別、言語／方言、地理的場所、障害、身体的装飾／属性）、4つはアノテーションによるもの（声のトーン、外見上の皮膚色、録音環境、活動状態）。
• 包括的で地域的に耐性があり、サブグループごとのバイアスとモデルの失敗を測定するのに適した属性を同定・分類するための包括的文献レビューを実施。
• 被験者の同意を確保し、感覚的属性を第三者がアノテートする際の誤分類リスクを低減するため、自ら提供されたラベルを優先。
• 定義の曖昧さ、文化的な多様性、潜在的被害のため、人種と民族を除外。代わりに、場所、皮膚色、言語を代理指標として使用。
• 文化的多様性、誤解のリスク、意図しない情報漏洩や誤分類の可能性のため、顔の表情を除外。
• 環境的要因や録音条件のメタデータを含めることで、複数モodal（音声、視覚、言語）の評価を可能にする設計とし、モデルの耐性を評価。

実験結果

リサーチクエスチョン

• RQ1 多様なデモグラフィックおよび環境的サブグループにわたり、アルゴリズム的バイアスと耐性を包括的に測定できる大規模かつ同意に基づくデータセットをどのように設計できるか？
• RQ2 視覚、音声、NLPモデルにおけるバイアスを測定するうえで、包括性を確保しつつ倫理的リスクを最小限に抑えるために最も効果的なカテゴリとサブカテゴリは何か？
• RQ3 従来のラベル（人種、顔の表情）が責任あるAI評価においてなぜ問題となるのか。公平性と耐性を維持しつつ倫理を損なわずに使用できる代替手段は何か？
• RQ4 第三者によるアノテーションと比較して、自ら提供されたラベルがバイアス測定の正確性と正当性をどのように向上させるか？
• RQ5 環境的要因や録音条件（例：照明、カメラの画質）はモデルのパフォーマンスにどのような影響を及ぼすか。それらを体系的に記録することで、耐性を評価するにはどうすればよいか？

主な発見

• Casual Conversations v2 は、多様なサブグループにわたりバイアスと耐性を測定するための、革新的で倫理的根拠に基づいたデータセット設計を提案している。10の慎重に選定されたカテゴリを含む。
• 定義の曖昧さ、文化的多様性、潜在的被害のため、人種と顔の表情を除外しており、責任あるAIの原則に合致している。
• 年齢、性別、言語、障害、身体的属性などの自ら提供されたラベルは、第三者によるアノテーションと比較して、データの妥当性と同意の整合性を向上させる。
• 声のトーン、外見上の皮膚色、録音環境、活動状態といったアノテーションカテゴリは、実世界の変動下でのモデルパフォーマンスに重要なインサイトを提供する。
• タトゥーや身体に描かれた模様、身体のサイズといった身体的装飾と身体的特徴の含めることで、代表されにくい身体的多様性の表現が向上する。
• 本データセットの設計により、視覚、音声、NLPアプリケーションにおけるAIモデルの評価が、より正確で包括的かつ倫理的に行えるようになり、公平なシステムの今後の開発を支援する。