[논문 리뷰] Measuring Trustworthiness or Automating Physiognomy? A Comment on Safra, Chevallier, Grèzes, and Baumard (2020)

Rory W Spanton, Olivia Guest|arXiv (Cornell University)|2022. 02. 17.

Face Recognition and Perception인용 수 5

한 줄 요약

이 논문은 사프라 등(2020)의 연구를 비판하며, 인식된 신뢰성과 실제 사회적 신뢰를 혼동한 점을 지적한다. 그들의 기계학습 모델은 역사적 초상화의 얼굴 특징을 기반으로 신뢰성을 평가하도록 훈련되었으며, 이는 자동화된 피지ognomy(외형학적 판단)로 기능한다. 저자들은 모델의 주장이 방법론적으로 결함이 있으며, 통계적으로 취약하고, 인종적·문화적 편향으로 인해 윤리적으로 문제시될 수 있음을 입증한다. 특히 고위험 분야에 적용될 경우 실제 세계에서의 해로움이 발생할 수 있다.

ABSTRACT

Interpersonal trust - a shared display of confidence and vulnerability toward other individuals - can be seen as instrumental in the development of human societies. Safra, Chevallier, Grèzes, and Baumard (2020) studied the historical progression of interpersonal trust by training a machine learning (ML) algorithm to generate trustworthiness ratings of historical portraits, based on facial features. They reported that trustworthiness ratings of portraits dated between 1500--2000CE increased with time, claiming that this evidenced a broader increase in interpersonal trust coinciding with several metrics of societal progress. We argue that these claims are confounded by several methodological and analytical issues and highlight troubling parallels between Safra et al.'s algorithm and the pseudoscience of physiognomy. We discuss the implications and potential real-world consequences of these issues in further detail.

연구 동기 및 목표

• 사프라 등(2020)의 주장, 즉 초상화의 신뢰성 평가가 증가하는 것은 실제 역사적 인격 간 신뢰의 증가를 반영한다는 주장을 도전하기 위해.
• 모델의 훈련, 데이터 선택, 통계 분석에 대한 방법론적 결함을 드러내기 위해.
• 알고리즘 기반 피지ognomy의 윤리적 위험, 특히 인종적·문화적 편향을 강화할 위험을 부각하기 위해.
• 연구 공동체가 AI 및 기계학습 연구에서 피지ognomy적 가정을 기각할 것을 촉구하기 위해.
• 편향되고 좁은 데이터셋에서 일반화된 사회적 결론을 도출하는 AI 주장에 대해 비판적 검토가 필요하다는 점을 강조하기 위해.

제안 방법

• 저자들은 사프라 등이 개발한 기계학습 모델을 분석하며, 얼굴 운동 단위를 사용해 초상 이미지에서 신뢰성을 예측하는 방식을 다룬다.
• 모델의 출력 결과를 역사적 피지ognomy 도안과 비교하여, 허구적 과학적 얼굴 스테레오타입과 시각적·개념적 유사성을 드러낸다.
• 모델의 통계적 탄력성을 평가하기 위해 보고된 p-값, 효과 크기, 시간과 같은 공변량에 대한 민감도를 분석한다.
• 훈련 데이터의 인구 통계적 대표성을 평가하며, 흑인 외형 아바타와 WEIRD 참가자 샘플에만 국한된 점을 지적한다.
• 모델과 인간의 평가 간 상관관계(r = .22)를 분석하여 실제 얼굴에 대한 일반화 능력이 떨어짐을 입증한다.
• 모델이 인간의 인지적 편향을 자동화되고 확장 가능한 형태의 피지ognomy로 체계화하고 있다고 주장한다.

실험 결과

연구 질문

• RQ1 사프라 등이 개발한 알고리즘이 인식된 신뢰성인지, 실제 사회적 신뢰인지 어느 정도 측정하는가?
• RQ2 데이터 선택 및 통계 분석의 방법론적 결함가 어떤 방식으로 주장된 역사적 추세의 타당성을 떨어뜨리는가?
• RQ3 알고리즘이 역사적 피지ognomy의 가정과 위험을 어떤 방식으로 반복하는가?
• RQ4 얼굴 특징 기반 AI가 사회 수준의 행동 변화를 추론하는 데 사용될 경우 윤리적 함의는 무엇인가?
• RQ5 특히 인종적·문화적 편향이 포함된 알고리즘 편향이 모델의 결론의 신뢰성과 공정성에 어떤 영향을 미치는가?

주요 결과

• 모델의 인간의 신뢰성 판단과의 상관관계는 미약함(r = .22)으로, 실제 얼굴에 대한 일반화 능력이 떨어짐을 시사한다.
• 예측된 신뢰성과 민주적 가치 간의 연관성은 한 테스트 세트에서는 유의미하지 않았으며, 시간을 공변량으로 추가했을 때도 탄탄하지 않았다.
• 알고리즘은 유일하게 백인 외형 아바타로만 훈련되어 있어 인종적 편향이 발생할 위험이 높다.
• 연구가 WEIRD 참가자 샘플에 의존함으로써, 다른 문화적 규범을 가진 역사적 인구에 대한 일반화 가능성에 문제가 있다.
• 모델의 출력 결과는 역사적 피지ognomy와 유사하여, 차별적 판단을 자동화할 가능성이 있어 심각한 윤리적 우려를 제기한다.
• 논문은 알고리즘이 중립적인 도구가 아니라 실제 세계에서 악용될 경우 해로움을 초래할 수 있는 자동화된 피지ognomy이므로, 이를 결론으로 내린다.