[논문 리뷰] Responsible Facial Recognition and Beyond

Yi Zeng, Enmeng Lu외 2명|arXiv (Cornell University)|2019. 09. 19.

Biometric Identification and Security참고 문헌 9인용 수 15

한 줄 요약

이 논문은 윤리적 위험, 규제 프레임워크, 기술적 보호 조치를 분석하여 얼굴 인식 및 보다 광범위한 생체 인식 기술의 책임 있는 개발을 주장한다. 이는 정책, 기술 혁신, 사회적 참여를 융합한 다학제적 접근을 통해 생체 인식 시스템이 사회적 복지를 위해 기여하면서도 편향, 감시, 개인정보 침해와 같은 해를 최소화할 수 있도록 보장하고자 한다.

ABSTRACT

Facial recognition is changing the way we live in and interact with our society. Here we discuss the two sides of facial recognition, summarizing potential risks and current concerns. We introduce current policies and regulations in different countries. Very importantly, we point out that the risks and concerns are not only from facial recognition, but also realistically very similar to other biometric recognition technology, including but not limited to gait recognition, iris recognition, fingerprint recognition, voice recognition, etc. To create a responsible future, we discuss possible technological moves and efforts that should be made to keep facial recognition (and biometric recognition in general) developing for social good.

연구 동기 및 목표

• 사회적 개인정보 보호, 감시, 편향 문제와 같은 얼굴 인식의 双면적 영향을 검토하기 위해.
• 기존의 국가 및 국제적 정책과 생체 인식 기술을 규율하는 규정을 분석하기 위해.
• 위험 요소가 얼굴 인식을 넘어서 걸음걸이, 망막, 지문, 음성 인식과 같은 다른 생체 인식 모odalities로 확장된다는 점을 부각하기 위해.
• 기술적, 윤리적, 정책 기반 조치를 통해 생체 인식 시스템의 책임 있는 개발을 위한 프레임워크를 제안하기 위해.
• 사전적 거버넌스와 혁신을 통해 해를 최소화하면서도 생체 인식 기술을 사회적 복지를 위한 목적에 활용할 것을 촉진하기 위해.

제안 방법

• 현재의 생체 인식 기술과 그 공통된 윤리적 과제를 비교 분석하기 위해.
• 생체 데이터 사용과 관련된 기존의 국가 및 국제적 정책과 규정을 조사하고 통합하기 위해.
• 개인정보 침해, 알고리즘 편향, 기관의 오용과 같은 생체 인식 시스템 전반의 공통된 위험 요소를 식별하기 위해.
• 기술적 개선, 규제 기준, 공공의 감시를 융합한 다학제적 접근을 제안하기 위해.
• 생체 인식 시스템 설계 및 구현 과정에서 투명성, 책임성, 공정성을 강조하기 위해.
• 기술자, 정책 입안자, 시민 사회 간의 교류를 통해 책임 있는 혁신을 이끌어내기 위해 협업을 촉진하기 위해.

실험 결과

연구 질문

• RQ1 얼굴 인식 및 기타 생체 인식 기술과 관련된 주요 윤리적 및 사회적 위험 요소는 무엇인가?
• RQ2 기존의 국가 및 국제적 규제는 공적 및 민간 부문에서 생체 데이터 사용을 어떻게 다루고 있는가?
• RQ3 얼굴 인식의 위험 요소가 생체 인식 시스템 전반의 도전 과제를 대표하는 정도는 어느 정도인가?
• RQ4 생체 인식 기술이 사회적 복지를 위해 기여할 수 있도록 보장하기 위해 구현 가능한 기술적 및 정책적 조치는 무엇인가?
• RQ5 이해관계자들은 어떻게 협력하여 개인정보를 보호하고 오용을 방지할 수 있는 책임 있는 생체 인식 시스템을 개발할 수 있는가?

주요 결과

• 얼굴 인식 및 기타 생체 인식 기술은 개인정보 보호, 감시, 체계적 편향과 관련된 중대한 위험 요소를 내포하고 있다.
• 규제 프레임워크는 국가 간에 크게 다름으로써 생체 데이터 거버넌스에 대한 글로벌 표준이 존재하지 않는다.
• 위험 요소는 얼굴 인식에만 국한되지 않으며 걸음걸이, 망막, 지문, 음성 인식과 같은 다양한 모달리티 간에 공통적으로 존재한다.
• 책임 있는 개발은 기술적 보호 조치, 투명한 정책, 포괄적인 거버넌스의 조합이 필요하다.
• 사전적 협업을 통해 기술자, 정책 입안자, 시민 사회가 협력하여 오용을 방지하고 공정한 결과를 보장하는 것이 필수적이다.
• 논문은 생체 인식 기술이 강력한 윤리적 및 규제적 감시를 통해 개발되고 배포되어야만 사회적 복지를 지원할 수 있다고 결론 내린다.