[논문 리뷰] Extending the Machine Learning Abstraction Boundary: A Complex Systems Approach to Incorporate Societal Context

Donald Martin, Vinodkumar Prabhakaran외 3명|arXiv (Cornell University)|2020. 06. 17.

Complex Systems and Decision Making참고 문헌 94인용 수 15

한 줄 요약

이 논문은 기계학습 편향 연구를 알고리즘 편향을 넘어서 사회적 맥락으로 확장함으로써, 복잡적 적응 시스템(CAS) 이론, 공동 원인 이론 형성(CCTF), 공동체 기반 시스템 역학(CBSD)을 통합함으로써 기여한다. 이는 다각적 이해관계자, 특히 소외된 공동체의 시각을 기계학습 제품 설계에 통합하는 체계적이고 참가형 프레임워크를 제안하며, 공정성의 추상 경계를 사회기술적 현실까지 확장함으로써 더 윤리적이고 포용적인 시스템 개발을 가능하게 한다.

ABSTRACT

Machine learning (ML) fairness research tends to focus primarily on mathematically-based interventions on often opaque algorithms or models and/or their immediate inputs and outputs. Such oversimplified mathematical models abstract away the underlying societal context where ML models are conceived, developed, and ultimately deployed. As fairness itself is a socially constructed concept that originates from that societal context along with the model inputs and the models themselves, a lack of an in-depth understanding of societal context can easily undermine the pursuit of ML fairness. In this paper, we outline three new tools to improve the comprehension, identification and representation of societal context. First, we propose a complex adaptive systems (CAS) based model and definition of societal context that will help researchers and product developers to expand the abstraction boundary of ML fairness work to include societal context. Second, we introduce collaborative causal theory formation (CCTF) as a key capability for establishing a sociotechnical frame that incorporates diverse mental models and associated causal theories in modeling the problem and solution space for ML-based products. Finally, we identify community based system dynamics (CBSD) as a powerful, transparent and rigorous approach for practicing CCTF during all phases of the ML product development process. We conclude with a discussion of how these systems theoretic approaches to understand the societal context within which sociotechnical systems are embedded can improve the development of fair and inclusive ML-based products.

연구 동기 및 목표

• 사회적 맥락을 간과하는 기계학습 공정성 연구의 격차를 해결하여 윤리적으로 위험한 시스템을 방지한다.
• 사회적 맥락을 복잡적 적응 시스템(CAS) 내의 역동적이고 사회문화적인 층으로 재정의하여 기계학습 배포에서 그 역할을 더 잘 이해한다.
• 다양한 이해관계자, 특히 소외된 집단의 정신 모델과 원인 이론을 기계학습 제품 개발에 통합하기 위한 방법으로 공동 원인 이론 형성(CCTF)을 개발한다.
• 기계학습 개발 단계 全 주기에 걸쳐 사회적 맥락을 모델링하는 투명하고 철저하며 참가형 도구로 공동체 기반 시스템 역학(CBSD)을 홍보한다.
• 소외된 공동체를 단순한 데이터 원천이 아닌 활동적 파트너로 삼아 문제 및 해결 공간을 함께 설계함으로써 공정하고 포용적인 기계학습을 진전시킨다.

제안 방법

• 기계학습 시스템이 운영되는 사회기술적 환경을 정의하고 구조화하기 위해 사회적 맥락의 CAS 기반 모델을 제안한다.
• 다양한 이해관계자, 특히 소외된 집단과 함께 공유하는 원인 모델을 공동으로 창출하기 위한 공동 원인 이론 형성(CCTF) 프로세스를 도입한다.
• 스톡-플로 다이어그램과 원인 순환 다이어그램을 사용하여 사회적 맥락 내의 원인 관계를 시각적이고 분석적으로 모델링하기 위해 공동체 기반 시스템 역학(CBSD)을 활용한다.
• 기계학습 모델 설계 이전에 문제 구조에 대한 동적이고 공유되는 가설을 생성하기 위해 CBSD를 제품 개발 스프린트에 통합한다.
• CBSD를 통해 사회적 요소를 기계학습 시스템 설계에 내재화함으로써 아키텍처 선택과 데이터 수집에 영향을 주도록 보장한다.
• 커뮤니티 데이터의 남용을 방지하기 위한 윤리적 보호 조치를 강조하며, 자원 추출이 아닌 공동체 파트너십을 주장한다.

실험 결과

연구 질문

• RQ1 어떻게 사회적 맥락을 공식적으로 모델링하고 기계학습 시스템 설계에 통합하여 공정성을 향상시킬 수 있는가?
• RQ2 다양한 이해관계자 — 특히 소외된 공동체 — 가 기계학습 영향을 받는 문제의 원인 구조를 공동으로 정의할 수 있는 메커니즘은 무엇인가?
• RQ3 실제 기계학습 제품 개발 과정에서 공동 원인 이론 형성(CCTF)을 어떻게 운영할 수 있는가?
• RQ4 공동체 기반 시스템 역학(CBSD)은 기계학습 공정성 노력에서 투명성, 철저성, 포용성을 어떻게 향상시킬 수 있는가?
• RQ5 모델 개발 과정에서 공동체의 시각이 남용되지 않도록 보장하기 위해 필요한 윤리적 보호 조치는 무엇인가?

주요 결과

• 논문은 사회적 맥락을 역동적이고 적응적인 시스템 층으로 재정의하는 CAS 기반 프레임워크를 수립하여 기계학습 설계에 더 깊이 통합할 수 있도록 한다.
• 공동 원인 이론 형성(CCTF)은 개발자와 이해관계자 간에 공유되는 원인 모델을 공동으로 창출함으로써 문제 프레임워킹의 포용성과 정확성을 높인다.
• 공동체 기반 시스템 역학(CBSD)은 복잡한 사회적 역학을 투명하고 시각적, 반복적인 방법으로 모델링하여 개발 단계 전반에서 이해관계자 참여를 지원한다.
• 제품 개념 스프린트에 CBSD를 통합함으로써 동적이고 근거 기반의 원인 가설을 생성할 수 있으며, 이는 제품 사양의 일부로 확장되어 기계학습 공정성의 추상 경계를 넓힌다.
• 이 접근법은 설계자의 편향과 이용 가능한 데이터에 의존하는 기계학습 개발에서 벗어나 공동체 검증된 원인 구조에 기반한 시스템 설계로 전환한다.
• 이 프레임워크는 소외된 공동체의 장기적 능력 구축을 지원하여, 체계적 사고를 통해 사회적 불평등을 사전에 모델링하고 해결할 수 있도록 한다.