[論文レビュー] EU law and emotion data

Andreas Häuselmann, Alan Sears+2 more|arXiv (Cornell University)|Sep 19, 2023

Privacy, Security, and Data ProtectionSocial Sciences被引用数 3

ひとこと要約

この論文は、EU法下における感情データ処理の法的課題を検討し、感情データの感受性にもかかわらずGDPR保護の穴があることを強調している。公平性および正確性の原則との緊張関係を分析し、AI法およびDSAの規制的影響を評価し、感情認識コンピューティング分野が進化するEU規制に準拠する際に基本的人権を最優先にすべきであると提言している。

ABSTRACT

This article sheds light on legal implications and challenges surrounding emotion data processing within the EU's legal framework. Despite the sensitive nature of emotion data, the GDPR does not categorize it as special data, resulting in a lack of comprehensive protection. The article also discusses the nuances of different approaches to affective computing and their relevance to the processing of special data under the GDPR. Moreover, it points to potential tensions with data protection principles, such as fairness and accuracy. Our article also highlights some of the consequences, including harm, that processing of emotion data may have for individuals concerned. Additionally, we discuss how the AI Act proposal intends to regulate affective computing. Finally, the article outlines the new obligations and transparency requirements introduced by the DSA for online platforms utilizing emotion data. Our article aims at raising awareness among the affective computing community about the applicable legal requirements when developing AC systems intended for the EU market, or when working with study participants located in the EU. We also stress the importance of protecting the fundamental rights of individuals even when the law struggles to keep up with technological developments that capture sensitive emotion data.

研究の動機と目的

• 感情データのEU GDPR下における法的立場と保護状況を、その感受性にもかかわらず分析すること。
• 特に公平性、正確性、個人への損害に関する観点から、感情データ処理に起因する法的・倫理的緊張を特定すること。
• EU AI法およびデジタルサービス法（DSA）の規制的影響が感情認識コンピューティングシステムに与える影響を評価すること。
• EU市場向けのシステム開発において、感情認識コンピューティング研究者に法的義務に関する認識を高めること。
• 技術的進歩が法的整備を追い越す中でも、基本的人権を保護する必要性を強調すること。

提案手法

• 感情データが『特別カテゴリー』の個人データリストに含まれていないことから、GDPRにおける感情データの分類に関する法的分析を実施する。
• 感情認識コンピューティング技術が、公平性や正確性といったデータ保護原則に与える影響を検討する。
• EU AI法のプロポーザルをレビューし、感情認識システムに対する規制的アプローチを評価する。
• DSAが感情データを処理するオンラインプラットフォームに課す、新たな透明性および責任の要件を分析する。
• 感情認識コンピューティングにおける異なる技術的アプローチを、法的基準と比較し、コンプライアンスリスクを評価する。
• 事例に基づく推論と法的解釈を用いて、個人および開発者に及ぼす実際の影響を強調する。

実験結果

リサーチクエスチョン

• RQ1 なぜ感情データは、感受性が高いにもかかわらずGDPR下で『特別データ』として分類されていないのか？
• RQ2 公平性や正確性といった既存のデータ保護原則は、実際の感情データ処理においてどのように矛盾を生じるのか？
• RQ3 EU AI法は、感情認識コンピューティングシステムをどのように規制しようとしているのか？
• RQ4 DSAの透明性義務は、感情データを処理するオンラインプラットフォームにどのように影響を与えるのか？
• RQ5 規制のない感情データ処理によって、個人が被る可能性のある損害は何か？

主な発見

• 感情データはGDPR下で明確に『特別データ』として分類されておらず、感受性が極めて高いにもかかわらず、法的保護が不十分である。
• 明確な法的分類の欠如が、公平性および自動意思決定における正確性に関する曖昧さとリスクを生じさせ、特に個人に影響を及ぼす。
• EU AI法は、感情認識のような高リスクアプリケーションに対して、リスクベースの規制を導入している。
• DSAは、感情データを処理するオンラインプラットフォームに、新たな透明性および責任の要件を課しており、監視強化に寄与している。
• 既存の法的枠組みは技術的進歩に追いついておらず、基本的人権侵害のリスクが高まっている。
• 本論文は、法的命令が明確でない中でも、感情認識コンピューティング分野が主権的倫理的責任を果たす必要があると提言している。