[논문 리뷰] Data Leverage: A Framework for Empowering the Public in its Relationship with Technology Companies

Nicholas Vincent, Hanlin Li외 3명|arXiv (Cornell University)|2020. 12. 18.

Privacy, Security, and Data Protection참고 문헌 107인용 수 9

한 줄 요약

이 논문은 기술 기업의 권력을 줄이기 위해 공공이 데이터 기여를 전략적으로 줄이거나, 방향을 전환하거나, 조작함으로써 영향력을 행사할 수 있도록 하는 '데이터 리스크'라는 프레임워크를 소개한다. 기계 학습, HCI, 공정성 연구를 바탕으로 데이터 스트라이크, 독성 공급, 의도적인 데이터 기여와 같은 실행 가능한 데이터 리스크를 식별하고, 개인정보 보호, 불평등, AI 책임성 문제 해결을 위한 정책 및 기술적 길을 제시한다.

ABSTRACT

Many powerful computing technologies rely on implicit and explicit data contributions from the public. This dependency suggests a potential source of leverage for the public in its relationship with technology companies: by reducing, stopping, redirecting, or otherwise manipulating data contributions, the public can reduce the effectiveness of many lucrative technologies. In this paper, we synthesize emerging research that seeks to better understand and help people action this extit{data leverage}. Drawing on prior work in areas including machine learning, human-computer interaction, and fairness and accountability in computing, we present a framework for understanding data leverage that highlights new opportunities to change technology company behavior related to privacy, economic inequality, content moderation and other areas of societal concern. Our framework also points towards ways that policymakers can bolster data leverage as a means of changing the balance of power between the public and tech companies.

연구 동기 및 목표

• 기술 기업과 공공 간의 힘의 불균형을 해소하기 위해 공공의 데이터 기여에 뿌리를 두고 있는 아직 활용되지 않은 리스크 포인트를 식별하는 것.
• 데이터 기여를 수동적인 입력으로 보는 것이 아니라, 사회적 변화를 위해 전략적으로 동원될 수 있는 집단적 노동의 형태로 재구성하는 것.
• 기계 학습, HCI, 공정성 분야의 다학제적 연구를 통합하여 데이터 의존 기술에 대한 공공의 영향력을 실현 가능한 형태로 구현하는 것.
• 공공의 데이터 리스크를 확대하고 집단 행동의 장벽을 줄이기 위한 정책 및 기술적 개입을 제안하는 것.
• 광범위한 데이터 리스크 사용의 사회적 영향과 위험, 특히 AI 시스템과 플랫폼 생태계에 대한 부수적 영향을 평가하는 것.

제안 방법

• 기계 학습 기술이 인간이 생성한 데이터에 의존한다는 점에 기반해 '데이터 리스크'를 새로운 개념적 프레임워크로 제안한다.
• 공공의 영향력을 행사하는 도구로 사용할 수 있는 핵심 '데이터 리스크'를 식별하고 분류한다. 예를 들어 데이터 스트라이크, 데이터 독성 공급, 의도적인 데이터 기여, 데이터 이관 가능성(CDC) 등.
• 공정성, 책임성, 인간-컴퓨터 상호작용 분야의 이전 연구 성과를 바탕으로 각 리스크의 실현 가능성과 영향을 분석한다.
• 데이터 이관 가능성과 삭제 권리 법안과 같은 정책적 메커니즘을 제안하여 데이터 리스크를 제도화하고 확대한다.
• 공동 행동을 지원하기 위한 기술 도구를 제안한다. 예를 들어 영향 시각화 및 데이터 스트라이크나 독성 공급의 자동화(예: AdNauseam에 영향을 받은 방식) 등.
• 플랫폼 간 데이터 호환성과 이관 가능성 등의 기술적 과제를 다루어 CDC 기반 전략의 효과를 높인다.

실험 결과

연구 질문

• RQ1 개인 및 집단이 개인정보, 편향, 수익 분배 문제와 같은 기술 기업의 행동에 영향을 미치기 위해 공공의 데이터 기여를 어떻게 전략적으로 활용할 수 있는가?
• RQ2 데이터 의존 플랫폼에 압력을 가하기 위해 개인과 집단이 이용할 수 있는 가장 실현 가능하고 윤리적으로 타당한 데이터 리스크는 무엇인가?
• RQ3 정책 및 기술 기반 인프라는 어떻게 설계되어야 공공의 데이터 리스크를 확대하고 집단 행동의 장벽을 줄일 수 있는가?
• RQ4 광범위한 데이터 리스크 사용의 부수적 영향, 특히 AI 성능과 플랫폼 생태계에 미치는 영향은 무엇인가?
• RQ5 데이터 이관 가능성 및 투명성 법안은 데이터 스트라이크나 CDC와 같은 데이터 리스크 전략의 효과를 어떻게 향상시킬 수 있는가?

주요 결과

• AI 및 추천 시스템이 사용자 생성 데이터에 크게 의존하고 있기 때문에, 데이터 리스크는 공공의 영향력에 있어 강력하고 아직 활용되지 않은 메커니즘이다.
• 사용자가 공동으로 데이터 기여를 중단하는 데이터 스트라이크는 특히 여러 플랫폼 간에 협력할 경우 데이터 기반 시스템의 효과를 떨어뜨릴 수 있다.
• 전략적으로 적용될 경우 데이터 독성 공급은 편향되거나 해로운 AI 모델을 방해할 수 있으며, 특히 사용자 피드백이나 레이블링에 의존하는 시스템에서 효과적이다.
• 의도적으로 잘못되거나 대표성이 없는 데이터를 기여하는 의도적인 데이터 기여는 감시나 차별적 관행에 대응하기 위해 사용될 수 있다.
• 데이터 이관 가능성 및 삭제 권리 법안과 같은 정책적 개입은 데이터 리스크 행동의 확장성과 정당성을 크게 향상시킬 수 있다.
• 공동 영향을 시각화하거나 데이터 리스크를 자동화하는 기술 도구(예: 보이콧 보조 기술 기반)는 진입 장벽을 낮추고 공공의 참여를 증가시킬 수 있다.