[논문 리뷰] The impact of generative artificial intelligence on socioeconomic inequalities and policy making

Valerio Capraro, Austin Lentsch외 29명|arXiv (Cornell University)|2023. 12. 16.

Technology Use by Older Adults인용 수 6

한 줄 요약

이 다학제적 논문은 작업, 교육, 의료 및 정보 시스템 분야에서 생성형 AI가 사회경제적 불평등을 심화하거나 완화할 수 있는 방식을 분석한다. 기존 연구를 평가하고 핵심적 격차를 규명하며, 공정한 결과를 이끌어내기 위한 근거 기반 정책을 제안한다. 생성형 AI를 공정한 방향으로 이끌기 위해 사전적이고 다각적 분야 통합 거버넌스 프레임워크의 필요성을 강조한다.

ABSTRACT

Generative artificial intelligence has the potential to both exacerbate and ameliorate existing socioeconomic inequalities. In this article, we provide a state-of-the-art interdisciplinary overview of the potential impacts of generative AI on (mis)information and three information-intensive domains: work, education, and healthcare. Our goal is to highlight how generative AI could worsen existing inequalities while illuminating how AI may help mitigate pervasive social problems. In the information domain, generative AI can democratize content creation and access, but may dramatically expand the production and proliferation of misinformation. In the workplace, it can boost productivity and create new jobs, but the benefits will likely be distributed unevenly. In education, it offers personalized learning, but may widen the digital divide. In healthcare, it might improve diagnostics and accessibility, but could deepen pre-existing inequalities. In each section we cover a specific topic, evaluate existing research, identify critical gaps, and recommend research directions, including explicit trade-offs that complicate the derivation of a priori hypotheses. We conclude with a section highlighting the role of policymaking to maximize generative AI's potential to reduce inequalities while mitigating its harmful effects. We discuss strengths and weaknesses of existing policy frameworks in the European Union, the United States, and the United Kingdom, observing that each fails to fully confront the socioeconomic challenges we have identified. We propose several concrete policies that could promote shared prosperity through the advancement of generative AI. This article emphasizes the need for interdisciplinary collaborations to understand and address the complex challenges of generative AI.

연구 동기 및 목표

• 생성형 AI가 주요 사회 분야에서 기존의 사회경제적 불평등을 악화시키거나 완화할 수 있는 방식을 분석하는 것.
• 정보 유통, 노동시장, 교육, 의료 분야에서 생성형 AI 영향에 대한 현재 연구 상태를 평가하는 것.
• 생성형 AI 시스템 설계 및 구현 과정에서 발생하는 핵심적 연구 격차와 상충 관계를 규명하는 것.
• 유럽연합, 미국, 영국의 기존 정책 프레임워크가 인공지능 기반 불평등 문제를 다루는 데서의 강점과 약점을 평가하는 것.
• 책임감 있는 생성형 AI 개발 및 구현을 통해 공동 번영을 촉진하는 구체적이고 이행 가능한 정책을 제안하는 것.

제안 방법

• 정보, 일자리, 교육, 의료 분야에서 생성형 AI에 관한 학술 논문 및 실증 연구를 다학제적으로 검토하는 것.
• 생성형 AI 응용 프로그램의 위험(예: 허위정보, 노동력 대체)과 이점(예: 맞춤형 학습, 진단 지원)을 체계적으로 평가하는 것.
• 유럽연합, 미국, 영국의 기존 정책 수단을 맵핑하여 사회경제적 격차를 다루는 데 그 적합성이 어느 정도인지 평가하는 것.
• 효율성 대 대안, 혁신 대 책임성 등의 상충 관계를 규명하여 사전 정책 가설 수립을 복잡하게 만드는 요소를 식별하는 것.
• 사회과학, 컴퓨터 과학, 공공정책 분야의 다학제적 통찰을 바탕으로 한 구체적인 정책 권고안을 제안하는 것.
• 연구자, 정책 입안자, 시민 사회가 협력하는 거버넌스 체제의 역할을 강조하여 공정한 AI 결과를 확보하는 것.

실험 결과

연구 질문

• RQ1 생성형 AI는 일자리, 교육, 의료, 정보 분야에서 사회경제적 불평등을 어떻게 동시에 악화시키고 감소시킬 수 있는가?
• RQ2 유럽연합, 미국, 영국의 기존 정책 프레임워크는 생성형 AI의 사회경제적 위험을 어떻게 다루거나 다루지 못하는가?
• RQ3 생성형 AI 시스템 구현 과정에서 혁신, 효율성, 공정성 간의 핵심적 상충 관계는 무엇인가?
• RQ4 어떤 특정 정책 개입 조치가 생성형 AI의 공정한 복리 효과를 극대화하면서도 해로운 영향을 최소화할 수 있는가?
• RQ5 다학제적 협업은 공공의 복지를 위해 생성형 AI의 설계 및 거버넌스를 어떻게 향상시킬 수 있는가?

주요 결과

• 생성형 AI는 정보 시스템에서 콘텐츠 제작과 접근의 민주화 가능성을 지닌다. 그러나 동시에 허위정보의 규모와 확산 범위를 크게 증가시킬 수 있다.
• 근로 분야에서 생성형 AI는 생산성 향상과 새로운 일자리 창출을 가능하게 하지만, 그 혜택은 고숙련 및 자원이 풍부한 노동자 집단에 집중될 가능성이 높아 노동시장 불평등을 악화시킬 수 있다.
• 교육 분야에서 생성형 AI 기반 맞춤형 학습은 성과 향상을 가져올 수 있지만, 접근성이 공정하지 않다면 디지털 격차를 심화시킬 위험이 있다.
• 의료 분야에서 생성형 AI는 진단 정확도 향상과 서비스 접근성 향상을 도모할 수 있지만, 데이터 편향과 인프라 격차를 고려하지 않고 도입될 경우 기존의 격차를 강화시킬 수 있다.
• 현재 유럽연합, 미국, 영국의 정책 프레임워크는 AI 영향의 사회경제적 차원을 충분히 다루지 못하고 있으며, 특히 공정한 접근성과 복리 분배 보장 측면에서 부족함을 보이고 있다.
• 이 논문은 공공의 복리를 위한 공정한 AI 발전을 촉진하기 위해 정부의 AI 리터러시 투자, 공정성 중심의 AI 조달 정책, 규제적 보호장치 등 구체적인 정책 권고안을 도출하였다.