[논문 리뷰] Sociotechnical Harms of Algorithmic Systems: Scoping a Taxonomy for Harm Reduction

Renee Shelby, Shalaleh Rismani외 9명|arXiv (Cornell University)|2022. 10. 11.

Ethics and Social Impacts of AI인용 수 22

한 줄 요약

본 논문은 알고리즘 시스템으로부터의 사회기술적 해에 대한 적용 가능한 분류 체계를 제시하며, 해의 예측 및 감소를 돕기 위해 컴퓨팅 문헌의 스코핑 리뷰를 기반으로 구축되었다.

ABSTRACT

Understanding the landscape of potential harms from algorithmic systems enables practitioners to better anticipate consequences of the systems they build. It also supports the prospect of incorporating controls to help minimize harms that emerge from the interplay of technologies and social and cultural dynamics. A growing body of scholarship has identified a wide range of harms across different algorithmic technologies. However, computing research and practitioners lack a high level and synthesized overview of harms from algorithmic systems. Based on a scoping review of computing research $(n=172)$, we present an applied taxonomy of sociotechnical harms to support a more systematic surfacing of potential harms in algorithmic systems. The final taxonomy builds on and refers to existing taxonomies, classifications, and terminologies. Five major themes related to sociotechnical harms - representational, allocative, quality-of-service, interpersonal harms, and social system/societal harms - and sub-themes are presented along with a description of these categories. We conclude with a discussion of challenges and opportunities for future research.

연구 동기 및 목표

• 알고리즘 시스템의 마이크로-, 메소-, 매크로 수준 맥락에서 잠재적 해의 영역을 매핑한다.
• 실무자와 연구자들을 위한 통합 해 프레임워크를 만들기 위해 기존의 분류체계와 용어를 합성한다.
• 해 예측 및 완화에 대한 향후 연구의 격차와 기회를 식별한다.

제안 방법

• PRISMA-ScR 지침에 따라 172개 출처에 걸쳐 컴퓨팅 연구의 스코핑 리뷰를 수행한다.
• 반영적 주제 분석(reflexive thematic analysis)을 적용하여 해를 일관된 분류체계로 식별하고 분류한다.
• 책임 있는 ML 문헌의 표준 개념에 고정시키며 해를 주요 주제와 하위 주제로 군집화한다.

실험 결과

연구 질문

• RQ1 이전 연구에서 알고리즘 시스템에 대해 어떤 해가 기술되어 있으며 사회적 차원에서 어떻게 구성되어 있는가?
• RQ2 알고리즘 시스템의 해 유형에 대해 개념적 정렬이 어디에 있으며 그것이 어떤 조직적 구조를 시사하는가?
• RQ3 사회기술적 해에 관한 연구의 격차나 부재가 향후 연구의 기회를 시사하는가?

주요 결과

• 해당 분류 체계는 다섯 가지 주요 해 유형을 식별한다: 표현적(representational), 분배적(allocative), 서비스 품질(QoS), 대인 관계(interpersonal), 사회 시스템(social system) 해.
• 표현적 해는 입력과 출력에 반영된 불공정한 위계 구조를 묘사하며, 고정관념화, 경멸, 삭제, 사회적 집단의 소외를 포함한다.
• 분배적 해는 표현이 모델의 의사결정 및 자원의 분배에 어떤 영향을 미치는지에 관련된다.
• 서비스 품질 해는 최적화 선택으로 인해 사용자 그룹 간의 성능 차이가 발생하는 경우를 다룬다.
• 대인 관계 해는 기술적 활용 가능성으로 인해 사람들과 지역사회 간의 관계에 부정적 영향을 미치는 것을 포함한다.
• 사회 시스템 해는 더 넓은 사회적 차원의 불평등과 불안정화에 대한 신생 효과를 설명한다.
• 연구는 기존의 분류체계에서 용어와 사례를 종합하여 보다 체계적인 해 예측 및 학제 간 소통을 지원한다.