[論文レビュー] AI-Based Emotion Recognition: Promise, Peril, and Prescriptions for Prosocial Path

Siddique Latif, Hafiz Shehbaz Ali+4 more|arXiv (Cornell University)|Nov 14, 2022

Emotion and Mood Recognition被引用数 13

ひとこと要約

この論文は、医療、教育、セキュリティ分野における変革的潜在能力を有するAIベースの自動感情認識（AER）システムを検討し、バイアス、プライバシー侵害、感情の操作といった倫理的リスクも指摘している。本論文は、透明性、同意、データプライバシー、責任の所在に基づく、社会的貢献を目的としたフレームワークを提唱し、AER技術の倫理的開発と導入を支援するものである。

ABSTRACT

Automated emotion recognition (AER) technology can detect humans' emotional states in real-time using facial expressions, voice attributes, text, body movements, and neurological signals and has a broad range of applications across many sectors. It helps businesses get a much deeper understanding of their customers, enables monitoring of individuals' moods in healthcare, education, or the automotive industry, and enables identification of violence and threat in forensics, to name a few. However, AER technology also risks using artificial intelligence (AI) to interpret sensitive human emotions. It can be used for economic and political power and against individual rights. Human emotions are highly personal, and users have justifiable concerns about privacy invasion, emotional manipulation, and bias. In this paper, we present the promises and perils of AER applications. We discuss the ethical challenges related to the data and AER systems and highlight the prescriptions for prosocial perspectives for future AER applications. We hope this work will help AI researchers and developers design prosocial AER applications.

研究の動機と目的

• AIベースの自動感情認識（AER）システムの社会的利点と倫理的リスクを分析すること。
• AERアプリケーションにおけるデータ収集、バイアス、プライバシー、操作に関する主な倫理的課題を特定すること。
• 社会的貢献を目的としたAERシステムの設計に向けた包括的な倫理的ガイドラインおよび運用原則を提言すること。
• データガバナンスとユーザーの同意メカニズムを通じて、AERシステムにおける公平性、透明性、責任の所在を確保すること。
• 研究者、開発者、政策立案者らが信頼性があり倫理的に整合性のあるAER技術を構築するのを支援すること。

提案手法

• 完全な開示、個人の同意、倫理的データ共有、データ所有権、セキュリティとプライバシー、責任の所在、監査可能性の7つの根幹的原則に基づく、社会的貢献を目的としたAERフレームワークを提唱する。
• 個人をAERデータベースに登録する前に、情報に基づいた、書面による、取り消しが可能な同意の必要性を強調する。
• データの出自、同意の検証、アルゴリズムのパフォーマンスを記録するための監査 trail の導入を提言し、責任の所在を確保する。
• アネット・カヴォキアンの7つのプライバシー原則に代表される、プライバシーを設計段階から組み込む原則の実装を提唱する。
• 自動意思決定を避けるよう勧告し、代わりに人間の判断を支援する補助的ツールとしてAERを活用することを提唱する。
• バイアスを低減し、多様な集団における公平性を向上させるために、解釈可能性、包括性、適応可能性をAIモデルに組み込む重要性を強調する。

実験結果

リサーチクエスチョン

• RQ1 AIベースの自動感情認識（AER）システムに関連する主な社会的利点と倫理的リスクは何か？
• RQ2 多様な集団にわたり、公平性、透明性、責任の所在を確保するためには、AERシステムはどのように設計すべきか？
• RQ3 感情データの悪用を防ぎ、個人のプライバシーを保護するために必要な倫理的原則は何か？
• RQ4 AERシステムはどのようにして人権および民主的価値観と調和させることができるか？
• RQ5 開発者はAERシステムがバイアスを助長したり、感情の操作を可能にしたりしないように、どのようにして対策を講じるべきか？

主な発見

• AERシステムは、代表的でないデータセットで訓練された場合、特にバイアスのリスクを伴い、誤ったまたは差別の的な結果を生じる可能性がある。
• 個人の同意なしにAERを用いた大規模な監視が行われることは、深刻なプライバシー侵害であり、社会的被害をもたらす。
• 感情データの収集または使用の前には、完全な開示と情報に基づいた書面による同意が不可欠であり、いつでも同意を取り消す権利を有する必要がある。
• 個人にデータ所有権を付与し、感情データプリントの閲覧、訂正、削除を可能にするべきである。
• AERは完全に自動化された意思決定に使用すべきではなく、人間の判断を補助するツールとして使用すべきである。
• データの出自の追跡、同意の検証、アルゴリズムのパフォーマンス指標を含む監査 trail は、責任の所在と適合性を確保する上で不可欠である。