[논문 리뷰] AI-Based Emotion Recognition: Promise, Peril, and Prescriptions for Prosocial Path

Siddique Latif, Hafiz Shehbaz Ali외 4명|arXiv (Cornell University)|2022. 11. 14.

Emotion and Mood Recognition인용 수 13

한 줄 요약

이 논문은 인공지능 기반 자동 정서 인식(AER) 시스템을 검토하며, 헬스케어, 교육, 보안 분야에서의 변혁적 잠재력과 동시에 편향, 개인정보 침해, 정서적 조작과 같은 윤리적 위험 요소를 강조한다. 이를 바탕으로 투명성, 동의, 데이터 프라이버시, 책임성에 기반한 prosocial 프레임워크를 제안하여 AER 기술의 윤리적 개발 및 구현을 이끌어낸다.

ABSTRACT

Automated emotion recognition (AER) technology can detect humans' emotional states in real-time using facial expressions, voice attributes, text, body movements, and neurological signals and has a broad range of applications across many sectors. It helps businesses get a much deeper understanding of their customers, enables monitoring of individuals' moods in healthcare, education, or the automotive industry, and enables identification of violence and threat in forensics, to name a few. However, AER technology also risks using artificial intelligence (AI) to interpret sensitive human emotions. It can be used for economic and political power and against individual rights. Human emotions are highly personal, and users have justifiable concerns about privacy invasion, emotional manipulation, and bias. In this paper, we present the promises and perils of AER applications. We discuss the ethical challenges related to the data and AER systems and highlight the prescriptions for prosocial perspectives for future AER applications. We hope this work will help AI researchers and developers design prosocial AER applications.

연구 동기 및 목표

• AI 기반 자동 정서 인식(AER) 시스템의 사회적 이점과 윤리적 위험을 분석하는 것.
• AER 응용 분야에서 데이터 수집, 편향, 프라이버시, 조작과 관련된 주요 윤리적 과제를 규명하는 것.
• prosocial AER 시스템을 설계하기 위한 윤리적 지침 및 운영 원칙의 포괄적 세트를 제안하는 것.
• 데이터 거버넌스와 사용자 동의 메커니즘을 통해 AER 시스템의 공정성, 투명성, 책임성을 확보하는 것.
• 연구자, 개발자, 정책 입안자가 신뢰할 수 있고 윤리적으로 타당한 AER 기술을 구축하는 데 도움을 주는 것.

제안 방법

• 완전한 공개, 개인의 동의, 윤리적 데이터 공유, 데이터 소유권, 보안 및 프라이버시, 책임성, 감사 가능성의 일곱 가지 핵심 원칙에 기반한 prosocial AER 프레임워크를 제안한다.
• 개인을 AER 데이터베이스에 등록하기 전에 정보를 바탕으로 한, 서면의, 철회 가능한 동의가 필요하다고 강조한다.
• 책임성 확보를 위해 데이터 기원, 동의 검증, 알고리즘 성능 기록을 위한 감사 테일(감사 트레일)의 사용을 도입한다.
• 암시적 프라이버시 설계 원칙, 예를 들어 Ann Cavoukian의 일곱 가지 프라이버시 원칙을 통합할 것을 권고한다.
• 자동 결정 부여를 피하고, 대신 인간 판단을 지원하는 보조 도구로 AER를 사용할 것을 주장한다.
• 편향을 줄이고 다양한 인구 집단에서 공정성을 향상시키기 위해 해석 가능성, 포괄성, 적응 가능성의 중요성을 강조한다.

실험 결과

연구 질문

• RQ1 AI 기반 자동 정서 인식(AER) 시스템과 관련된 주요 사회적 이점과 윤리적 위험 요소는 무엇인가?
• RQ2 다양한 인구 집단에서 AER 시스템이 공정성, 투명성, 책임성을 확보하기 위해 어떻게 설계될 수 있는가?
• RQ3 정서 데이터 오용을 방지하고 개인의 프라이버시를 보호하기 위해 필요한 윤리적 원칙은 무엇인가?
• RQ4 AER 시스템은 인간의 권리와 민주적 가치와 어떻게 조화를 이룰 수 있는가?
• RQ5 개발자들은 AER 시스템이 편향을 강화하거나 정서적 조작을 가능하게 하지 않도록 어떻게 보장할 수 있는가?

주요 결과

• AER 시스템은 비표준적인 데이터셋으로 훈련될 경우 편향의 심각한 위험을 지니며, 이는 정확하지 않거나 차별적인 결과를 초래할 수 있다.
• 개인의 동의 없이 AER를 활용한 대규모 감시는 심각한 프라이버시 침해이며 사회적 해를 끼칠 수 있다.
• 정서 데이터를 수집하거나 사용하기 전에 완전한 공개와 정보를 바탕으로 한 서면 동의가 필수적이며, 언제든지 철회할 수 있어야 한다.
• 개인에게 데이터 소유권을 부여하여 정서 데이터 프린트에 대한 접근, 수정, 삭제 권한을 보장해야 한다.
• AER는 완전한 자동 결정 부여를 위해 사용되어서는 아니며, 대신 인간 판단을 향상시키기 위한 보조 도구로 사용되어야 한다.
• 책임성과 준수를 확보하기 위해 기원 추적, 동의 검증, 알고리즘 성능 지표를 포함한 감사 테일이 핵심적이다.