[논문 리뷰] AI Risk Skepticism, A Comprehensive Survey

Vemir Michael Ambartsoumean, Roman V. Yampolskiy|arXiv (Cornell University)|2023. 02. 16.

Misinformation and Its Impacts인용 수 6

한 줄 요약

이 논문은 인공지능 위험에 대한 회의주의에 대한 종합적인 분석을 제시하며, 기저가 되는 인지적 편향과 잘못된 추론 방식에 따라 AI 위험에 대한 회의주의의 유형을 분류한다. 과거 과학적 회의주의와 유사점을 제시하고, 반박을 평가하고 대응하기 위한 체계적인 프레임워크를 제공함으로써 연구자들 사이의 AI 안전성 논의를 향상시키는 것을 목표로 한다.

ABSTRACT

In this thorough study, we took a closer look at the skepticism that has arisen with respect to potential dangers associated with artificial intelligence, denoted as AI Risk Skepticism. Our study takes into account different points of view on the topic and draws parallels with other forms of skepticism that have shown up in science. We categorize the various skepticisms regarding the dangers of AI by the type of mistaken thinking involved. We hope this will be of interest and value to AI researchers concerned about the future of AI and the risks that it may pose. The issues of skepticism and risk in AI are decidedly important and require serious consideration. By addressing these issues with the rigor and precision of scientific research, we hope to better understand the objections we face and to find satisfactory ways to resolve them.

연구 동기 및 목표

• 기저가 되는 인지적 편향에 근거하여 AI 위험에 대한 회의주의를 체계적으로 분석하고 분류하는 것.
• AI 위험에 대한 회의주의와 과학 분야에서의 역사적 회의주의 간 유사점을 도출하여 맥락을 제공하는 것.
• AI 위험에 대한 우려를 거부하는 데 자주 사용되는 잘못된 추론의 유형을 특정하고 분류하는 것.
• 연구자들이 AI 안전성 논의에서의 회의주의에 대해 체계적이고 근거 기반의 추론을 사용하여 평가하고 대응할 수 있도록 프레임워크를 제공하는 것.
• 오해를 명확히 하여 연구자들과 회의주의자들 간의 대화를 더욱 생산적으로 만들기 위한 것.

제안 방법

• 저자들은 AI 위험 논의와 과학 분야의 관련 회의주의에 대한 포괄적인 문헌 검토를 수행하였다.
• 거짓 이元론, 과도한 일반화, 무지에 호소하는 등의 잘못된 추론 유형에 따라 회의주의를 범주화하였다.
• 비교 분석을 통해 AI 위험 회의주의가 다른 과학 분야에서의 유사한 형태의 회의주의와 연결되도록 하였다.
• 형식적 추론을 적용하여 AI 위험에 반대하는 일반적인 주장을 분해하고 논리적 모순을 식별하였다.
• 주요 회의주의적 주장에 대한 주제 분석을 통해 프레임워크를 검증하였다.
• 인지과학과 과학 철학의 통찰을 통합하여 회의주의의 합리성을 평가하였다.

실험 결과

연구 질문

• RQ1 AI 위험에 대한 회의주의를 뒷받침하는 주요 인지적 편향과 논리적 오류는 무엇인가?
• RQ2 AI 위험 회의주의의 형태는 다른 과학 분야에서의 역사적 회의주의와 어떻게 비교될 수 있는가?
• RQ3 AI 위험에 대한 우려를 거부하는 데 가장 흔히 사용되는 잘못된 추론의 유형은 무엇인가?
• RQ4 연구자들은 어떻게 체계적이고 근거 기반의 추론을 사용하여 회의주의에 효과적으로 대응할 수 있는가?
• RQ5 AI 위험에 대한 회의주의가 진정한 과학적 이견이 아니라 오해에 뿌리를 두고 있는가에 대해 어느 정도까지 성립하는가?

주요 결과

• 연구는 과도한 자신감, 특히 현재 AI 능력에 대한 과신과 장기적 위험의 무시가 AI 위험 회의주의의 핵심 요소임을 규명하였다.
• 회의주의는 종종 거짓 이원론에 기반하여, 예를 들어 AI 안전성을 필연적 종말 또는 완전히 무의미한 것으로 프레임하는 방식으로 나타난다.
• 많은 회의주의적 주장은 미래의 위험에 대한 경험적 증거가 없음을 근거로 하되, 이는 타당한 이론적 경로가 존재하기 때문에 문제가 된다.
• 역사적 유사성 분석을 통해 기후 변화나 전염병 대비 준비에 대한 저항과 같이 과학적 회의주의가 일반적으로 지연된 인식 패턴을 따름을 보여주었다.
• 저자들은 AI 위험에 대한 상당 부분의 회의주의가 증거에 기반하지 않고 오히려 AI 개발의 시기와 능력에 대한 오해에서 비롯된다는 점을 입증하였다.
• 논문에서 제안한 프레임워크는 연구자들이 논리적 정밀도로 회의주의적 주장을 체계적으로 분해하고 대응할 수 있도록 한다.