[논문 리뷰] Combating Anti-Blackness in the AI Community

Devin Guillory|arXiv (Cornell University)|2020. 06. 18.

Criminal Justice and Corrections Analysis참고 문헌 12인용 수 6

한 줄 요약

이 논문은 신체적 자원, 사회적 자원, 평가 기준의 세 가지 편향 원천을 분석함으로써 AI 공동체 내 반-블랙 체계적 인종차별을 규명하고 대응하기 위한 프레임워크를 제안한다. 이를 통해 교수가, 학생들이, 기관들이 학술계와 AI 연구 분야에서 피해를 줄이고 정의를 증진하기 위한 실천 가능한 조치를 내릴 수 있도록 한다.

ABSTRACT

In response to a national and international awakening on the issues of anti-Blackness and systemic discrimination, we have penned this piece to serve as a resource for allies in the AI community who are wondering how they can more effectively engage with dismantling racist systems. This work aims to help elucidate areas where the AI community actively and passively contributes to anti-Blackness and offers actionable items on ways to reduce harm.

연구 동기 및 목표

• 체계적 반-블랙주의가 기관적 구조와 관행를 통해 AI 공동체에 어떻게 스며들어 있는지 드러내는 것.
• 신체적 자원, 사회적 네트워크, 평가 지표의 격차가 AI 학술계에서 인종적 불평등을 어떻게 유지하는지 강조하는 것.
• 교수, 학생, 기관이 반-블랙 편향을 줄이고 포용성을 증진하기 위해 실천 가능한 구체적 권고안을 제공하는 것.
• 기술적 공정성 이상의 차원에서 자금, 참여, 연구 우선순위를 포함해 반-블랙주의를 해결할 긴급성에 주목하는 것.
• 반-블랙주의를 개인적 연대가 아닌 기관의 복구와 지속적인 약속이 필요한 체계적 문제로 프레임워크화하는 것.

제안 방법

• 체계적 반-블랙 편향을 세 가지 상호연관된 영역으로 분류: 신체적 자원(예: 재정, 컴퓨팅 접근성), 사회적 자원(예: 추천 네트워크, 멘토링), 평가 기준(예: 표준화시험, 승진 기준).
• 사회적 네트워크의 인종 격차에 대한 실증 데이터(예: 백인의 75%가 전적으로 백인 네트워크를 가짐)를 활용해 체계적 분리 현상을 설명.
• 객관성에 대한 주장이 있음에도 불구하고 편향된 평가 체계(예: GRE, SAT, 코딩 인터뷰)가 어떻게 인종적 불평등을 유지하는지 분석.
• 학부 연구 능력이 무급(U)과 급여 지급(P) 슬롯으로 나뉘는 모델을 제안하며, U 전용 체계가 사회경제적 장벽으로 인해 블랙 학생들에게 불리함을 보여줌.
• 수동적 멘토링을 넘어서, 포용적인 사회적 통합(예: 스터디 그룹, 사회적 모임)과 연구 자금에 대한 공정한 접근을 통해 배제적 관행에 대비하는 조치 제안.
• 반-블랙주의 존재 여부에 대한 논의를 거부함. 이러한 논의는 구조적 변화에 비효율적이고 방해가 된다고 프레임워크화.

실험 결과

연구 질문

• RQ1 신체적, 사회적, 평가 기반 자원이 AI 학술계에서 반-블랙 체계적 편향을 어떻게 함께 재생산하는가?
• RQ2 입학, 자금, 멘토링과 같은 기존의 AI 연구 및 학술 관행이 어떻게 인종적 불평등을 유지하는가?
• RQ3 무급 연구 기회가 AI 교육 파이프라인 내에서 사회경제적 및 인종적 격차를 어떻게 강화하는가?
• RQ4 왜곡된 사회적 네트워크와 평가 지표가 블랙 학부생과 교수들에게 미치는 영향을 완화할 수 있는 기관적 메커니즘은 무엇인가?
• RQ5 AI 공동체는 어떻게 상징적 연대를 넘어서 체계적 개혁을 통해 반-블랙 체계를 해체할 수 있는가?

주요 결과

• 사회적 네트워크의 인종 격차(예: 백인의 75%가 전적으로 백인 네트워크를 가짐)가 블랙 개인의 기회 접근을 크게 제한한다.
• GRE와 SAT와 같은 평가 지표는 인종 편향이 입증되었으며, 학술 및 전문적 선발의 객관성 주장에 근거를 둔다.
• 무급 학부 연구 기회(U)는 고소득 사회경제 배경 학생들에게 유리하게 작용하는 반면, 급여 지급 기회(P)는 더 공정하여 연구 접근성의 체계적 불평등을 드러낸다.
• 비공식적인 모임과 협업 네트워크와 같은 포용적 사회적 통합의 부재는 기술적 자격이 동일한 블랙 대학원생들조차도 배제당하는 결과를 낳는다.
• 소수자 학부생을 적극적으로 멘토링하고 연구 자금에 대한 공정한 배분을 우선시하는 교수가 향후 AI 파이프라인의 다양성을 크게 증가시킬 수 있다.
• 반-블랙주의 존재 여부에 대한 논의는 비생산적이다. 초점은 실천 가능한 해결책과 기관의 복구로 옮겨져야 한다.