[논문 리뷰] Smile for the Camera: Privacy and Policy Implications of Emotion AI

Elaine Sedenberg, John Chuang|arXiv (Cornell University)|2017. 09. 01.

Ethics and Social Impacts of AI인용 수 7

한 줄 요약

이 논문은 시각적 데이터에서 얼굴 분석을 통해 정서 상태를 유추하는 Emotion AI가 초래하는 프라이버시 및 정책적 과제를 다룹니다. 규제 대응을 위한 근거로 기여하기 위해 당사자, 데이터 수집 동기, 시간적·공간적 맥락을 평가하는 프레임워크를 제안하며, GDPR의 격차와 오남용을 막기 위한 FTC의 역할을 부각하고, 다이어그램 규제와의 유사성을 제시합니다.

ABSTRACT

The introduction of artificial intelligence (AI) on visual images for emotional analysis obliterates the natural subjectivity and contextual dependence of our facial displays. Emotion AI places itself as an algorithmic lens on our digital artifacts and real-time interactions, creating the illusion of a new, objective class of data: our emotional and mental states. Building upon a rich network of existing public photographs--as well as fresh feeds from surveillance footage or smart phone cameras--these emotion algorithms require no additional infrastructure or improvements on image quality. In order to examine the potential policy and legal remedies for emotion AI as an emerging technology, we first establish a framework of actors, collection motivations, time scales, and space considerations that differentiates emotion AI from other algorithmic lenses. Each of these elements influences available policy remedies, and should shape continuing discussions on the antecedent conditions that make emotional AI acceptable or not in particular contexts. Based on our framework of unique elements, we examine potential available policy remedies to prevent or remediate harm. Specifically, our paper looks toward the regulatory role of the Federal Trade Commission in the US, gaps in the EU's General Data Protection Regulation (GDPR) allowing for emotion data collection, and precedent set by polygraph technologies in evidentiary and use restrictions set by law. We also examine the way social norms and adaptations could grow to also modulate broader use. Given the challenges in controlling the flow of these data, we call for further research and attention as emotion AI technology remains poised for adoption.

연구 동기 및 목표

• Emotion AI가 얼굴 이미지를 처리하여 정서를 유추함에 있어 초래하는 고유한 프라이버시 및 정책적 과제를 분석하기 위해.
• 당사자, 수집 동기, 시간 척도, 공간적 맥락을 바탕으로 Emotion AI를 다른 알고리즘 기반 데이터 렌즈와 구분하는 프레임워크를 개발하기 위해.
• 정서 데이터 수집을 다루기 위한 기존 규제 메커니즘—특히 FTC의 권한과 GDPR 조항—을 평가하기 위해.
• 정서 데이터 수집에 대한 법적 제재를 마련하기 위해 다이어그램 기술의 사례를 평가하기 위해.
• Emotion AI 기술이 광범위한 배포를 향해 발전함에 따라 향후 연구 및 정책적 관심이 필요하다는 것을 촉구하기 위해.

제안 방법

• 저자들은 당사자, 데이터 수집 동기, 배포의 시간적·공간적 척도, 맥락적 의존성의 네 가지 차원을 분석하는 개념적 프레임워크를 구축합니다.
• 미국 연방거래위원회(FTC)의 집행 권한과 유럽연합의 일반데이터보호규정(GDPR)을 중심으로 Emotion AI를 기존 규제 모델과 비교합니다.
• 법적 제재와 동의의 관점에서 다이어그램 기술 분야에서의 증거 사용 및 제한 조건을 분석함으로써 유사성을 도출합니다.
• 자동화된 정서 유추의 위험을 다루기 위해 현재의 법적 및 규범적 구조의 적정성을 평가합니다.
• 사회적 규범과 기술적 적응이 정서 AI 수용 또는 저항에 영향을 미치는 방식을 강조합니다.
• 기존 사례법, 정책 문서, Emotion AI 시스템의 기술적 설명을 활용하여 규제 분석을 기반으로 합니다.

실험 결과

연구 질문

• RQ1 Emotion AI는 정서 유추를 위한 얼굴 이미지 처리에 있어 다른 알고리즘 기반 데이터 처리 시스템과 비교해 어떤 프라이버시 및 정책적 함의를 지니는가?
• RQ2 정서 데이터 수집으로 인한 피해를 통제하거나 복구하기 위해 현재 어떤 규제 메커니즘이 가용한가?
• RQ3 GDPR와 FTC 권한과 같은 기존 법률이 Emotion AI의 위험을 충분히 다루는가?
• RQ4 다이어그램 규제의 사례는 Emotion AI 기술의 거버넌스를 어떻게 안내할 수 있는가?
• RQ5 사회적 규범과 기술적 적응은 정서 AI의 사회적 수용에 어떤 역할을 하는가?

주요 결과

• Emotion AI는 인간 정서의 본질적 주관성과 맥락 의존성에도 불구하고, 얼굴 표정을 내면 정서 상태의 지표로 알고리즘적으로 해석함으로써 객관성의 잘못된 인식을 조장한다.
• 이 기술은 새로운 인프라나 영상 품질 향상 없이도 기존의 공용 및 감시 영상 스트림에서 작동할 수 있어 광범위한 배포가 가능하다.
• 미국 연방거래위원회(FTC)는 Emotion AI와 관련된 기만적이거나 부당한 관행에 대해 잠재적인 규제 권한을 지니지만, 정서 데이터에 대한 구체적 지침은 부족하다.
• 유럽연합의 GDPR는 특히 '합리적 이해' 기반 하에서 정서 데이터 수집 및 처리를 허용하는 중대한 격차를 지니고 있어, 이는 규제의 한계를 드러낸다.
• 다이어그램 규제는 민감한 맥락에서 생체정보 데이터 사용을 제한하는 사례를 제공하며, 이는 정서 AI에도 동일한 증거 제한 및 사용 제약 조건을 적용할 수 있음을 시사한다.
• 논문은 현재의 정책 및 법적 프레임워크가 Emotion AI의 위험을 충분히 다루지 못하고 있으며, 향후 연구 및 집중적인 규제적 관심이 필요하다고 결론을 내립니다.