[논문 리뷰] Areas of Strategic Visibility: Disability Bias in Biometrics

Jennifer Mankoff, Devva Kasnitz외 4명|arXiv (Cornell University)|2022. 07. 14.

Cybersecurity and Cyber Warfare Studies인용 수 5

한 줄 요약

이 논문은 장애인이 생체인식 시스템에서 배제되는 데 기여하는 체계적 인용적 편견을 분석함으로써 생체인식 데이터 수집 및 인식 과정에서 장애와의 상호작용을 고려하여 장애인을 배제하는 시스템적 편견을 규명한다. 이는 장애인을 배제하는 설계 선택을 드러내기 위해 '전략적 시각화' 프레임워크를 제안하며, 다학제적 협업과 정책 개혁을 통해 포용적인 생체인식 기술을 구현할 것을 주장한다.

ABSTRACT

This response to the RFI considers the potential for biometrics to help or harm disabled people2. Biometrics are already integrated into many aspects of daily life, from airport travel to mobile phone use. Yet many of these systems are not accessible to people who experience different kinds of disability exclusion . Different personal characteristics may impact any or all of the physical (DNA, fingerprints, face or retina) and behavioral (gesture, gait, voice) characteristics listed in the RFI as examples of biometric signals.

연구 동기 및 목표

• 생체인식 기술이 장애가 있는 사람들을 배제함으로써 인용적 편견을 어떻게 강화하는지 조사하기 위해.
• 신체적 및 행동적 생체인식 특성이 장애가 있는 사용자의 접근성과 경험에 어떤 영향을 미치는지 분석하기 위해.
• 장애가 있는 개인을 배제하는 생체인식 시스템 설계의 체계적 격차를 규명하기 위해.
• 장애인을 배제하는 생체인식 설계 편향을 폭 드러내고 시정하기 위한 '전략적 시각화'라는 프레임워크를 제안하기 위해.
• 다학제적 협업과 정책 참여를 통해 포용적인 기술 개발을 촉진하기 위해.

제안 방법

• 기존 생체인식 시스템과 장애가 있는 사람들의 접근 가능성에 대한 비판적 검토를 수행한다.
• 생체인식 데이터 수집이 인용적 기준을 강화하는 방식을 분석하기 위해 장애 연구 시각을 적용한다.
• HCI, AI 및 접근성 연구를 융합한 다학제적 접근을 통해 시스템의 한계를 평가한다.
• 장애와 생체인식 데이터 캡처 및 인식 과정이 만날 때 발생하는 핵심 실패 지점을 규명한다.
• 개발자와 정책 입안자에게 인용적 설계 선택을 드러내기 위해 '전략적 시각화' 개념적 프레임워크를 제안한다.
• 학계, 산업계 및 옹호 단체의 이해관계자들과 협력하여 포용적 설계 원칙을 도출한다.

실험 결과

연구 질문

• RQ1 다양한 유형의 장애가 있는 사람들이 생체인식 시스템에서 어떻게 실패하는가?
• RQ2 생체인식 데이터 수집 방식은 어떻게 정상적인 인간 신체에 대한 인용적 가정을 강화하는가?
• RQ3 장애가 있는 사람들이 생체인식 기술에 접근하는 데 방해가 되는 구조적 및 기술적 장벽은 무엇인가?
• RQ4 생체인식에서 인용적 설계를 폭 드러내고 수정하는 데 '전략적 시각화' 개념을 어떻게 활용할 수 있는가?
• RQ5 생체인식 시스템에 대한 공정한 접근을 보장하기 위해 필요한 정책 및 설계 개선 조치는 무엇인가?

주요 결과

• 많은 생체인식 시스템은 정상적인 신체적·행동적 특성에 대한 가정 때문에 장애가 있는 사람들의 접근이 어려운 편이다.
• 생체인식 기술은 종종 비표준적인 얼굴 특징, 운동 능력 장애 또는 발성 차이가 있는 사용자를 배제한다.
• '전략적 시각화' 개념은 생체인식 개발 과정에서 인용적 설계 선택이 체계적으로 감춰져 있음을 드러낸다.
• 현재 생체인식 시스템은 포용성보다는 효율성과 표준화를 우선시하여 기존 사회적 불평등을 강화한다.
• 생체인식 시스템 설계 및 평가 과정에서 장애가 있는 사람들의 참여가 극히 부족하다.
• 모든 사용자가 공정하게 생체인식 기술을 이용할 수 있도록 보장하기 위해 정책 및 기술 개혁이 급박히 필요하다.