[논문 리뷰] Data-Driven Dystopia: an uninterrupted breach of ethics

Shreyansh Padarha|arXiv (Cornell University)|2023. 05. 13.

Ethics and Social Impacts of AI인용 수 4

한 줄 요약

이 논문은现대 사회에서 통제되지 않은 데이터 수집과 알고리즘 시스템의 윤리적 영향을 분석하며, 기업이 대규모로 데이터를 악용하는 것은 지속적인 개인정보 유출과 형평성 침해를 초래한다고 주장한다. 이는 체계적 불평등을 강화하는 편향된 AI 모델인 '수학의 무기'를 비판하고, 개인의 권리 보호와 책임감 있는 AI 도입을 위해 더 강력한 기업의 책임성과 윤리적 데이터 거버넌스를 촉구한다.

ABSTRACT

This article discusses the risks and complexities associated with the exponential rise in data and the misuse of data by large corporations. The article presents instances of data breaches and data harvesting practices that violate user privacy. It also explores the concept of "Weapons Of Math Destruction" (WMDs), which refers to big data models that perpetuate inequality and discrimination. The article highlights the need for companies to take responsibility for safeguarding user information and the ethical use of data models, AI, and ML. The article also emphasises the significance of data privacy for individuals in their daily lives and the need for a more conscious and responsible approach towards data management.

연구 동기 및 목표

• 대규모 기업들의 데이터 유출 및 비윤리적 데이터 관행 증가 추세를 분석하기 위해.
• 데이터 기반 시스템이 '수학의 무기'(WMDs)를 통해 차별을 어떻게 지속시켜 왔는지 부각하기 위해.
• AI 및 기계학습 모델 개발에서 윤리적 책임의 긴급한 필요성을 강조하기 위해.
• 일상생활에서 더 의식적이고 책임감 있는 데이터 관리 관행과 더 강력한 개인정보 보호 조치를 촉구하기 위해.
• 사용자 데이터 및 알고리즘 공정성에 대한 기업의 책임성에 대한 체계적 변화를 요구하기 위해.

제안 방법

• 사용자 개인정보를 침해하는 실제 사례와 데이터 수확 관행을 분석하여.
• 편향된 알고리즘이 사회적·경제적 불평등을 강화하는 방식을 설명하기 위해 '수학의 무기' 개념을 적용하여.
• 사용자 동의나 투명성 없이 개인 데이터를 악용하는 대규모 기업의 역할을 검토하여.
• 컴퓨터 과학과 사회 윤리의 원칙을 바탕으로 데이터 중심 시스템의 위험을 평가하여.
• 책임성, 투명성, 사용자 자율성에 기반한 윤리적 데이터 거버넌스 프레임워크를 제안하여.

실험 결과

연구 질문

• RQ1 대규모 기업들은 데이터 수확 및 오용을 통해 어떻게 체계적으로 사용자 개인정보를 침해하는가?
• RQ2 빅데이터 모델은 어떻게 '수학의 무기'로 기능하여 차별과 불평등을 지속시키는가?
• RQ3 기업은 사용자 데이터를 보호하고 AI 시스템의 공정성을 확보하기 위해 어떤 윤리적 책임을 져야 하는가?
• RQ4 개인과 기관은 데이터 관리에 대해 더 의식적이고 책임감 있는 접근 방식을 어떻게 개발할 수 있는가?
• RQ5 데이터 기반 기술에서 반복적인 윤리적 위반을 방지하기 위해 어떤 체계적 변화가 필요한가?

주요 결과

• 데이터 유출과 비윤리적 데이터 관행은 개인의 개인정보에 대한 지속적이고 악화되는 위협이 되고 있다.
• '수학의 무기'의 부상은 알고리즘 시스템이 사회적 편견을 내재하고 확대시킬 수 있음을 보여준다.
• 현재 많은 대규모 기업들은 충분한 감시 없이 운영되어 개인 데이터를 통제할 수 없이 악용하고 있다.
• 현재의 데이터 거버넌스 모델은 AI 및 기계학습 응용 분야에서 투명성, 책임성, 공정성을 확보하지 못하고 있다.
• 인간의 권리와 사회적 형평성과 일치하는 데이터 관행을 위해 윤리적 프레임워크와 제도적 개혁이 절실하게 필요하다.