[논문 리뷰] "Fairness in AI and Its Long-Term Implications on Society"

Ondrej Bohdal, Timothy M. Hospedales외 2명|arXiv (Cornell University)|2023. 04. 16.

Ethics and Social Impacts of AI인용 수 3

한 줄 요약

이 논문은 편향된 인공지능 시스템이 데이터 및 의사결정 사이클을 통해 시간이 지남에 따라 사회적 불평등을 자기유지 피드백 루프로 증폭시킬 수 있는 방식을 조사한다. 장기적인 체계적 불공평성과 사회적 불안정의 위험을 완화하기 위해 반복적 편향 증폭 과학, 합성 공정 데이터셋, 적응형 정책 프레임워크를 제안한다.

ABSTRACT

Successful deployment of artificial intelligence (AI) in various settings has led to numerous positive outcomes for individuals and society. However, AI systems have also been shown to harm parts of the population due to biased predictions. AI fairness focuses on mitigating such biases to ensure AI decision making is not discriminatory towards certain groups. We take a closer look at AI fairness and analyze how lack of AI fairness can lead to deepening of biases over time and act as a social stressor. More specifically, we discuss how biased models can lead to more negative real-world outcomes for certain groups, which may then become more prevalent by deploying new AI models trained on increasingly biased data, resulting in a feedback loop. If the issues persist, they could be reinforced by interactions with other risks and have severe implications on society in the form of social unrest. We examine current strategies for improving AI fairness, assess their limitations in terms of real-world deployment, and explore potential paths forward to ensure we reap AI's benefits without causing society's collapse.

연구 동기 및 목표

• 편향된 인공지능 모델이 피드백 루프를 통해 시간이 지남에 따라 사회적 불평등을 어떻게 유지하고 증폭시키는지 분석하기.
• 불공정한 인공지능의 장기적 사회적 영향, 특히 체계적 소외와 잠재적 사회적 불안정을 검토하기.
• 현행 공정성 완화 전략의 평가 및 실제 구현에서의 한계를 규명하기.
• 합성 데이터셋과 적응형 정책 프레임워크와 같은 실천 가능한 대규모 개입 조치를 제안하여 누적된 편향 증폭을 방지하기.

제안 방법

• 에이전트 기반 모델링을 사용하여 장기적 피드백을 시뮬레이션함으로써 반복적 편향 증폭 과학을 구축하기.
• 기본적으로 편향이 없는 것으로 설계된 대규모 기초 합성 데이터셋을 제작하는 것 제안하기.
• 정부 주도, 기관 지원의 이니셔티브를 통해 공공의 복리가 되는 합성 데이터셋의 자금 및 설계를 추진하기.
• 알고리즘 투명성, 인간의 개입이 포함된 감시, 그리고 배포된 인공지능 시스템의 지속적 모니터링을 의무화하는 정책 지침 도입하기.
• 채용, 대출, 형사사법과 같은 실제 사례 연구를 활용하여 고위험 분야에서의 편향 증폭을 설명하기.
• 인공지능 안전성, 리스크 분석, 사회과학의 통찰을 통합하여 공정성을 체계적이고 장기적인 사회적 위험로 프레임하기.

실험 결과

연구 질문

• RQ1 고위험 분야에서의 편향된 인공지능 의사결정은 어떻게 점점 더 편향된 데이터를 만들어내며, 시간이 지남에 따라 불공평성을 증폭시키는 피드백 루프를 형성하는가?
• RQ2 해소되지 않은 인공지능 편향의 장기적 사회적 영향은 무엇인가? 특히 체계적 소외와 사회적 불안정 측면에서 설명하라.
• RQ3 왜 현재의 공정성 완화 기법들은 실제 구현에서 효과적으로 확장되지 못하는가?
• RQ4 대규모로 공정한 인공지능 모델을 사전 학습하기 위해 합성 데이터셋은 어떻게 설계하고 구현할 수 있는가?
• RQ5 지속적인 모니터링과 적응형 거버넌스를 보장하기 위해 필요한 정책 및 제도적 메커니즘은 무엇인가?

주요 결과

• 편향된 인공지능 모델은 배포 과정에서 기존 사회적 편향을 증폭시켜 훈련 데이터에 비해 더 차별적인 결과를 낳을 수 있다.
• 편향된 결정이 편향된 데이터를 생성하고, 그 데이터가 더 편향된 미래의 모델을 훈련시키는 피드백 루프가 발생하여 체계적 불평등이 악화된다.
• 현행 공정성 개선 조치는 높은 비용, 확장성 부족, 그리고 배포 후 편향 탐지 지연로 인해 종종 부적절하다.
• 합성 데이터셋은 공정한 모델을 사전 학습시키는 데 유망하지만 아직 개발이 부족한 길이며, 대규모 제도적 투자와 다학제 협력이 필요하다.
• 투명성, 인간의 감시, 지속적 모니터링을 의무화하는 정책 프레임워크는 배포 후 편향을 탐지하고 수정하는 데 필수적이다.
• 조율된 대규모 개입이 없을 경우, 인공지능의 공정성 향상 조치는 시위와 제도적 붕괴와 같은 장기적 사회적 스트레스 요인을 방지하지 못할 수 있다.