[논문 리뷰] Ten Hard Problems in Artificial Intelligence We Must Get Right

Gavin Leech, Simson Garfinkel외 3명|arXiv (Cornell University)|2024. 02. 06.

Big Data and Business IntelligenceBusiness, Management and Accounting인용 수 3

한 줄 요약

이 논문은 안전하고 윤리적이며 효과적인 AI 개발을 보장하기 위해 해결되어야 할 열 가지 핵심적인 '어려운 문제'를 특정하고 분석한다. 이 문제들은 조율, 일반화, 거버넌스, 사회적 영향에 이르기까지 다양하며, 최근 문헌을 검토하고 각 문제를 해결하기 위한 실행 가능한 연구 방향을 제시한다.

ABSTRACT

We explore the AI2050 "hard problems" that block the promise of AI and cause AI risks: (1) developing general capabilities of the systems; (2) assuring the performance of AI systems and their training processes; (3) aligning system goals with human goals; (4) enabling great applications of AI in real life; (5) addressing economic disruptions; (6) ensuring the participation of all; (7) at the same time ensuring socially responsible deployment; (8) addressing any geopolitical disruptions that AI causes; (9) promoting sound governance of the technology; and (10) managing the philosophical disruptions for humans living in the age of AI. For each problem, we outline the area, identify significant recent work, and suggest ways forward. [Note: this paper reviews literature through January 2023.]

연구 동기 및 목표

• 책임감 있고 유익한 AI 개발을 저해하는 가장 중요한 과제들을 특정하고 프레임워크화하기 위해.
• AI 위험의 기술적, 사회적, 경제적, 지정학적 차원 간의 상호작용을 분석하기 위해.
• 2023년 1월까지의 최근 문헌을 바탕으로, 열 가지 어려운 문제 각각에 대해 체계적인 연구 계획을 제공하기 위해.
• 연구자, 정책 입안자, 전문가들이 AI 배포 및 거버넌스에서의 체계적 위험을 다루도록 이끌기 위해.
• 기술적, 윤리적, 정책 기반 솔루션을 동시에 고려하여 다학제적 협력을 촉진하기 위해.

제안 방법

• 논문은 AI 안전성, 조율, 사회적 통합에 미치는 영향을 기반으로 하여 열 가지 별도의 어려운 문제를 특정하는 문제 중심의 프레임워크를 채택한다.
• 각 문제에 대해 최근 연구(2023년 1월까지)의 문헌 검토를 수행하여 현재의 연구를 맥락화하고 격차를 식별한다.
• 연구 방법론은 AI 조율, AI 안전성, 사회과학, 경제학, 거버넌스 분야의 통찰을 통합하는 다학제적 분석을 강조한다.
• 기술 혁신, 제도 설계, 정책 프레임워크에 초점을 맞춘 각 문제에 대한 구체적인 연구 길을 제안한다.
• 각 문제는 장기적 AI 개발에 대한 타당성, 긴급성, 잠재적 영향의 관점에서 분석된다.
• 논문은 문제 간 상호의존성을 매핑하기 위해 체계적인 통합 접근 방식을 사용한다. 예를 들어, 조율이 거버넌스 및 경제적 파급 효과에 어떻게 영향을 미치는지를 분석한다.

실험 결과

연구 질문

• RQ1 현재 안전하고 유익한 인공지능 배포를 방해하는 가장 중요한 열 가지 어려운 문제들은 무엇인가?
• RQ2 모델 일반화 및 조율과 같은 기술적 과제가 경제적 파국 및 지정학적 불안정성과 같은 사회적 위험과 어떻게 상호작용하는가?
• RQ3 최근 AI 연구에서 이러한 어려운 문제들을 해결하거나 해결하지 못한 진전은 무엇이며, 핵심 지식 격차는 어디에 있는가?
• RQ4 이러한 상호연결된 과제들을 해결하기 위해 다학제적 연구와 거버넌스 프레임워크는 어떻게 조율될 수 있는가?
• RQ5 각 열 가지 어려운 문제에 대해 가장 유망한 연구 방향은 무엇이며, 최대 영향을 미치기 위해 어떻게 우선순위를 정할 수 있는가?

주요 결과

• 열 가지 어려운 문제들은 안전하고 공정하며 지속 가능한 인공지능 개발을 위한 체계적 장벽을 나타낸다.
• 인간의 가치와 AI 목표를 조율하는 것은 여전히 핵심 과제이며, 확장 가능하고 강력한 가치 학습 분야에서 진전이 미미하다.
• 특히 개방형 또는 장기적인 과제에서 AI 시스템의 일반화 및 성능 보장은 여전히 신뢰할 수 있게 달성되지 못하고 있다.
• AI로 인한 경제적 및 지정학적 파국은 이미 나타나고 있으며, 노동 시장과 국제 안정성에 심각한 위험을 초래하고 있다.
• 포괄적인 참여와 사회적으로 책임감 있는 배포를 위해서는 단순한 기술적 해결책을 넘어서 제도적 및 정책적 설계가 필수적이다.
• 거버넌스 및 철학적 파국—예를 들어 인간 정체성과 목적의 변화—는 사전적이고 다학제적인 연구와 공적 참여가 필요하다.