[논문 리뷰] Evaluating race and sex diversity in the world's largest companies using deep neural networks

Konstantin Chekanov, Polina Mamoshina외 4명|arXiv (Cornell University)|2017. 07. 09.

Gender, Security, and Conflict참고 문헌 23인용 수 4

한 줄 요약

이 연구는 세계 500대 기업의 임원 및 이사회 구성원에 대한 얼굴 인식 모델을 활용하여 인종과 성별 다양성을 자동으로 평가하기 위한 딥러닝 접근법을 제안한다. 훈련된 신경망을 이사회 및 임원 프로필에 적용하여 다양성 지수를 산출하고, 성별, 인종, 연령 다양성 기준으로 기업을 순위 매겨, 방법론적 한계가 존재하더라도 편향 없는 조직 다양성 평가를 위한 확장 가능하고 실시간인 방법을 입증한다.

ABSTRACT

Diversity is one of the fundamental properties for the survival of species, populations, and organizations. Recent advances in deep learning allow for the rapid and automatic assessment of organizational diversity and possible discrimination by race, sex, age and other parameters. Automating the process of assessing the organizational diversity using the deep neural networks and eliminating the human factor may provide a set of real-time unbiased reports to all stakeholders. In this pilot study we applied the deep-learned predictors of race and sex to the executive management and board member profiles of the 500 largest companies from the 2016 Forbes Global 2000 list and compared the predicted ratios to the ratios within each company's country of origin and ranked them by the sex-, age- and race- diversity index (DI). While the study has many limitations and no claims are being made concerning the individual companies, it demonstrates a method for the rapid and impartial assessment of organizational diversity using deep neural networks.

연구 동기 및 목표

• 인공지능을 활용하여 기업 지도부의 다양성을 자동으로 평가하고 확장 가능한 방법을 개발하기.
• 포브스 글로벌 2000의 최대 기업들에서 임원 및 이사회 구성원의 인종과 성별 표현을 평가하기.
• 성별, 인종, 연령 다양성 지수(DI)를 생성하여 기업을 객관적으로 순위 매기기.
• 수동 분류 대신 딥러닝 모델을 도입하여 다양성 평가의 인간 편향을 줄이기.
• AI를 활용한 실시간, 대규모 조직 다양성 모니터링의 가능성 입증하기.

제안 방법

• 임원 및 이사회 구성원 프로필의 얼굴 이미지를 기반으로 인종과 성별을 예측하기 위해 딥 네트워크를 훈련시켰다.
• 2016년 포브스 글로벌 2000의 상위 500개 기업에 훈련된 모델을 적용하였다.
• 예측된 인구 통계와 국적 기준 비율을 비교하여 성별, 인종, 연령 다양성 지수(DI)를 산정하였다.
• 인종에 대해서는 다중 분류 프레임워크, 성별에 대해서는 이진 분류를 사용하여 컨볼루션 신경망을 적용하였다.
• 다양성 지수 점수에 기반하여 기업을 순위 매겨 상대적 표현 수준을 평가하였다.
• 제한된 레이블 데이터에서 성능을 향상시키기 위해 전이 학습 및 사전 훈련된 모델을 활용하였다.

실험 결과

연구 질문

• RQ1 딥 네트워크는 임원의 얼굴 이미지에서 정확하게 인종과 성별을 예측할 수 있는가? 이를 통해 조직 다양성을 평가할 수 있는가?
• RQ2 기업 지도부의 예측된 인구 통계 비율은 국가 인구 비율과 어떻게 비교되는가?
• RQ3 다양성 지수는 성별, 인종, 연령 표현 수준을 얼마나 정량적으로 측정하고 순위 매길 수 있는가?
• RQ4 수동 방법 대비 자동화된 AI 기반 평가가 다양성 평가의 인간 편향을 얼마나 줄일 수 있는가?
• RQ5 기업 거버넌스에서 다양성 분 析을 위해 얼굴 인식 기술을 사용할 때의 한계와 위험 요소는 무엇인가?

주요 결과

• 딥러닝 모델은 얼굴 이미지에서 인종과 성별을 측정 가능한 성능으로 정확히 예측하여 대규모 다양성 평가를 가능하게 하였다.
• 기업 지도부의 인구 통계와 국가 인구 비율 간에 상당한 격차가 관찰되어 일부 집단의 부족한 표현이 드러났다.
• 다양성 지수에 기반하여 기업이 순위 매겨져 성별, 인종, 연령 차원에서 표현 수준의 뚜렷한 차이가 드러났다.
• 이 방법은 인간의 간섭 없이 실시간으로 자동으로 다양성 모니터링이 가능하다는 점에서 실현 가능성을 입증하였다.
• 연구는 훈련 데이터의 잠재적 편향과 얼굴 인식 기술 사용에 대한 윤리적 우려 등의 한계를 인정하였다.
• 개별 기업에 대한 주장은 제기되지 않았지만, 향후 다양성 분석을 위한 확장 가능한 틀을 제공한다.