[논문 리뷰] Algorithmic Fairness in Business Analytics: Directions for Research and Practice

Maria De‐Arteaga, Stefan Feuerriegel외 1명|arXiv (Cornell University)|2022. 07. 22.

Ethics and Social Impacts of AI인용 수 8

한 줄 요약

이 논문은 기업 분석(BA) 전반에 알고리즘적 공정성을 통합하기 위한 종합적인 프레임워크를 제안하며, 공정성이 본질적으로 효용과 대립되지 않으며 BA 수명주기 전반에 통합될 수 있음을 주장한다. 편향 탐지 및 완화 기법을 통합하고, 최적화 모델에서 '공정성 설계'를 강조하며, 기업 운영 관리(OM) 연구자들이 공정성과 조직 성과를 모두 향상시키는 복잡한 윤리 기반의 의사결정 시스템을 개발하는 데 주도할 것을 촉구한다.

ABSTRACT

The extensive adoption of business analytics (BA) has brought financial gains and increased efficiencies. However, these advances have simultaneously drawn attention to rising legal and ethical challenges when BA inform decisions with fairness implications. As a response to these concerns, the emerging study of algorithmic fairness deals with algorithmic outputs that may result in disparate outcomes or other forms of injustices for subgroups of the population, especially those who have been historically marginalized. Fairness is relevant on the basis of legal compliance, social responsibility, and utility; if not adequately and systematically addressed, unfair BA systems may lead to societal harms and may also threaten an organization's own survival, its competitiveness, and overall performance. This paper offers a forward-looking, BA-focused review of algorithmic fairness. We first review the state-of-the-art research on sources and measures of bias, as well as bias mitigation algorithms. We then provide a detailed discussion of the utility-fairness relationship, emphasizing that the frequent assumption of a trade-off between these two constructs is often mistaken or short-sighted. Finally, we chart a path forward by identifying opportunities for business scholars to address impactful, open challenges that are key to the effective and responsible deployment of BA.

연구 동기 및 목표

• 편향된 기업 분석 시스템이 소외된 집단에 비례적으로 악영향을 미치는 증가하는 윤리적 및 법적 위험을 해결한다.
• 기업 분석에서 공정성과 효용 간의 상호 대체 관계가 일반적으로 잘못된 가정임을 도전하며, 체계적인 설계를 통해 이 둘의 상호 호환성을 주장한다.
• 기업 및 운영 관리(OM) 연구자들이 분석 수명주기의 모든 단계에 공정성을 통합함으로써 공정한 BA를 발전시킬 수 있는 길잡이를 제공한다.
• OM의 역할을 지속 가능한 개발 목표와 연계하여, 특히 공정성과 포용성을 증진하는 데 기여함을 강조한다.
• 컴퓨터 과학 분야의 알고리즘적 공정성 연구와 기업 현장에서의 실천적 구현 간 격차를 메우며, 특히 중소기업(SMEs)과 비기술 기업을 중심으로 한다.

제안 방법

• 예측 및 규정적 분석 전반에서 데이터, 모델, 결과에 대한 편향 탐지 기법의 최신 기술을 검토한다.
• 예측 전처리, 내재 처리, 후처리 기법을 포함한 공정성 인식 기반 기계학습 알고리즘을 조사한다.
• 자원 배분, 가격 설정 등 의사결정 과정에 공정성 제약 조건 또는 목표를 통합하여 최적화 모델에 공정성을 통합한다.
• 문제 정의, 데이터 수집, 모델 개발, 구현 전 단계까지 공정성이 통합되어야 하는 시스템 및 프로세스 관점의 BA를 제안한다.
• 미국의 동등한 신용 기회 법(UCOA)과 GDPR, 유럽연합의 인공지능법과 같은 규제 프레임워크를 분석하여 실질적인 공정성 준수를 위한 기반을 마련한다.
• '공정성 설계'를 주장한다. 즉, 공정성을 시스템 아키텍처의 초도 단계부터 통합하는 것이며, 후속 조치로 간주하지 않는다.

실험 결과

연구 질문

• RQ1 공정성과 효용 또는 성능을 훼손하지 않고도 기업 분석 수명주기 전반에 공정성을 체계적으로 통합할 수 있는 방법은 무엇인가?
• RQ2 기업 분석에서 공정성과 효용 간의 상호 대체 관계가 실제로 유효한 정도는 어느 정도이며, 어떤 맥락에서 이를 극복할 수 있는가?
• RQ3 중소기업(SMEs)에서 알고리즘적 공정성의 광범위한 도입을 방해하는 주요 장애물은 무엇이며, 이를 어떻게 해결할 수 있는가?
• RQ4 운영 관리(OM) 연구자들이 기업에서 공정하고 확장 가능하며 윤리적으로 타당한 의사결정 모델을 개발하는 데 기여할 수 있는 방법은 무엇인가?
• RQ5 수학적 공정성 정의가 실제 세계의 불공정을 포착하지 못할 수 있는 경우가 있으며, 이러한 한계를 어떻게 완화할 수 있는가?

주요 결과

• 기업 분석에서 공정성과 효용 간의 필수적 상충관계가 존재한다는 가정은 종종 잘못되었거나 단기적 사고이며, 공정성은 기업 성과와 공존하거나 심지어 향상시킬 수 있다.
• 스테이플스의 가격 알고리즘과 의료 위험 스코어링 모델과 같은 실제 사례들은 편향된 BA가 저소득층 및 흑인 환자와 같은 소외된 집단에 체계적으로 악영향을 미칠 수 있음을 보여준다.
• 미국의 동등한 신용 기회 법(UCOA)과 GDPR은 이미 기업이 알고리즘 차별을 방지해야 하는 법적 의무를 부과하고 있어, 공정성 통합의 긴급성을 강조한다.
• 증가하는 인식에도 불구하고, 알고리즘적 공정성의 실질적 구현은 대규모 기술 기업 외에는 여전히 제한되어 있으며, SME들은 자원과 전문성의 장벽에 직면해 있다.
• OM 분야는 지속 가능성 목표와 이해관계자 가치를 단순한 이윤 극대화를 넘어서 연계하는 '설계 시 공정성'을 갖춘 최적화 모델 개발에 유일하게 선도적 위치를 점할 수 있다.
• 편향은 데이터 수집부터 모델 구현에 이르기까지 BA 과정의 여러 단계에서 발생할 수 있으므로, 공정성 감사 및 완화를 위한 종합적인 시스템 접근이 필요하다.