[論文レビュー] Smile for the Camera: Privacy and Policy Implications of Emotion AI

Elaine Sedenberg, John Chuang|arXiv (Cornell University)|Sep 1, 2017

Ethics and Social Impacts of AI被引用数 7

ひとこと要約

この論文は、視覚的データから感情状態を推定するための顔認識技術であるエモーションAIが引き起こすプライバシーおよび政策的課題を検討する。感情の推定に特化した監視的データ収集の枠組みを提示し、関係者、データ収集の動機、時間的・空間的文脈を評価することで、規制への対応を支援する。GDPRにおける欠落や、誤用を是正するためのFTCの役割を強調しつつ、ポリグラフ規制と類似点を示している。

ABSTRACT

The introduction of artificial intelligence (AI) on visual images for emotional analysis obliterates the natural subjectivity and contextual dependence of our facial displays. Emotion AI places itself as an algorithmic lens on our digital artifacts and real-time interactions, creating the illusion of a new, objective class of data: our emotional and mental states. Building upon a rich network of existing public photographs--as well as fresh feeds from surveillance footage or smart phone cameras--these emotion algorithms require no additional infrastructure or improvements on image quality. In order to examine the potential policy and legal remedies for emotion AI as an emerging technology, we first establish a framework of actors, collection motivations, time scales, and space considerations that differentiates emotion AI from other algorithmic lenses. Each of these elements influences available policy remedies, and should shape continuing discussions on the antecedent conditions that make emotional AI acceptable or not in particular contexts. Based on our framework of unique elements, we examine potential available policy remedies to prevent or remediate harm. Specifically, our paper looks toward the regulatory role of the Federal Trade Commission in the US, gaps in the EU's General Data Protection Regulation (GDPR) allowing for emotion data collection, and precedent set by polygraph technologies in evidentiary and use restrictions set by law. We also examine the way social norms and adaptations could grow to also modulate broader use. Given the challenges in controlling the flow of these data, we call for further research and attention as emotion AI technology remains poised for adoption.

研究の動機と目的

• 顔の画像処理による感情推定を目的とするエモーションAIが、プライバシーおよび政策的課題をどのように引き起こすかを分析すること。
• 関係者、収集動機、時間的・空間的スケール、文脈的依存性に基づき、エモーションAIを他のアルゴリズム的データ分析手法と区別する枠組みを構築すること。
• 感情データ収集に対処するための現在の規制メカニズム（例えば、FTCの権限およびGDPRの規定）を評価すること。
• ポリグラフ規制の事例を検討し、エモーションAIの使用に対する法的制限の可能性を示唆すること。
• エモーションAI技術が広範な展開に向けて進化する中で、さらなる研究および政策的注目を呼びかけること。

提案手法

• 著者は、データ利用に関与する関係者、データ収集の動機、展開の時間的・空間的スケール、文脈的依存性の4つの次元を分析する概念的枠組みを構築する。
• 特に米国連邦取引委員会（FTC）の執行力と欧州連合の一般データ保護規則（GDPR）に焦点を当て、エモーションAIを既存の規制モデルと比較する。
• 法的制限がバイオメトリクスデータの使用にどのように確立されたかを検討するポリグラフ技術と類似点を分析する。
• 自動的かつ機械的な感情推定が視覚的データからなされるリスクに対処するための、現在の法的および規範的枠組みの適切さを評価する。
• 社会的規範と技術的適応が、エモーションAIの社会的受容または抵抗に与える影響を強調する。
• 論文は、既存の判例、政策文書、エモーションAIシステムの技術的説明を用いて、規制分析を根拠づけている。

実験結果

リサーチクエスチョン

• RQ1 エモーションAIは、プライバシーおよび政策的影響の観点から、他のアルゴリズム的データ処理システムとどのように異なるか？
• RQ2 感情データ収集に起因する被害を制御または是正するための、現在利用可能な規制メカニズムは何か？
• RQ3 GDPR やFTCの権限といった既存法が、エモーションAIのリスクを十分にカバーしていると評価できるか？
• RQ4 ポリグラフ規制の事例は、エモーションAI技術のガバナンスにどのように活用できるか？
• RQ5 社会的規範と技術的適応は、エモーションAIの社会的受容にどのように寄与するか？

主な発見

• エモーションAIは、感情の内面的状態を顔の表情からアルゴリズム的に解釈することで、客観的であるかのような誤った感覚を生み出すが、人間の感情は本質的に主観的で文脈依存的であるため、その根拠は弱い。
• この技術は、新たなインfraストラクチャの整備や画像品質の向上を要せず、既存の公共および監視用画像ストリーム上で動作可能であり、広範な展開が可能である。
• 米国連邦取引委員会（FTC）は、偽りまたは不公正な行動に関連するエモーションAIに対して規制的権限を有しているが、感情データに関する明確な指針は欠如している。
• 欧州連合のGDPRは、特に「正当な利害」の根拠に基づく場合に、感情データの収集および処理を許容する重大な空白を含んでおり、リスクを十分にカバーしていない。
• ポリグラフ規制は、感受性の高い文脈におけるバイオメトリクスデータの使用を制限する事例を提供しており、同様に証拠能力制限や使用制限をエモーションAIに適用できる可能性を示唆している。
• 本論文は、現在の政策的および法的枠組みがエモーションAIのリスクに対処するには不十分であり、今後の研究および的確な規制的注目が不可欠であると結論づける。