[논문 리뷰] Beyond Near- and Long-Term: Towards a Clearer Account of Research Priorities in AI Ethics and Society

Carina Prunkl, Jess Whittlestone|arXiv (Cornell University)|2020. 01. 13.

Ethics and Social Impacts of AI참고 문헌 16인용 수 15

한 줄 요약

이 논문은 인공지능 윤리 및 사회 분야 연구에서 과도하게 사용되는 근접 및 장기적 구분에 대해 비판하며, 복잡한 연구 우선순위를 단순화시킨다고 주장한다. 연구자들이 더 명확하고 협업이 용이하며 간과된 연구 영역을 식별할 수 있도록, 능력, 영향, 확실성, 극단성의 네 가지 차원으로 구성된 프레임워크를 제안한다.

ABSTRACT

One way of carving up the broad "AI ethics and society" research space that has emerged in recent years is to distinguish between "near-term" and "long-term" research. While such ways of breaking down the research space can be useful, we put forward several concerns about the near/long-term distinction gaining too much prominence in how research questions and priorities are framed. We highlight some ambiguities and inconsistencies in how the distinction is used, and argue that while there are differing priorities within this broad research community, these differences are not well-captured by the near/long-term distinction. We unpack the near/long-term distinction into four different dimensions, and propose some ways that researchers can communicate more clearly about their work and priorities using these dimensions. We suggest that moving towards a more nuanced conversation about research priorities can help establish new opportunities for collaboration, aid the development of more consistent and coherent research agendas, and enable identification of previously neglected research areas.

연구 동기 및 목표

• 근접/장기적 구분의 과도한 사용으로 인해 발생하는 인공지능 윤리 및 사회 분야 연구의 점점 악화되는 혼란과 오해를 다스리기 위해.
• 근접/장기적 이분법이 연구 우선순위, 신념, 가정의 미세한 차이를 포괄하지 못함을 밝히기 위해.
• 근접/장기적 구분을 네 가지 명확한 차원으로 분해함으로써 연구 우선순위를 체계적이고 투명하게 분류할 수 있는 방법을 제안하기 위해.
• 다양한 연구자의 기초적 신념과 동기를 명확히 공유함으로써 인공지능 윤리 연구 분야의 다학제적 협업을 향상시키기 위해.
• 기존의 근접/장기적 프레임워크에 잘 맞지 않는, 이전에 간과된 연구 영역을 식별하는 데 기여하기 위해.

제안 방법

• 근접/장기적 구분을 네 가지 차원으로 분해: (1) 근접/장기적 인공지능 능력, (2) 근접/장기적 사회적 영향, (3) 미래 결과에 대한 확실성, (4) 잠재적 위험의 극단성.
• 각 차원을 이元적 이분법이 아닌 스펙트럼으로 간주해야 하며, 이는 연구 분류의 과도한 단순화를 줄일 수 있음을 주장한다.
• 다른 연구 우선순위가 종종 인공지능 발전, 위험 심각성, 전망 가능성에 대한 기초적 도덕적 및 실증적 신념에 뿌리를 두고 있음을 분석한다.
• 연구자들이 자신의 가정을 명시하고 용어를 명확히 하며 다양한 시각에 기여할 수 있도록 구체적인 권고안을 제시한다.
• 학술 포럼와 출판 매체가 인공지능 윤리 연구 분야의 기초적 의견 차이에 대해 체계적인 대화를 지원하도록 촉구한다.
• Dafoe, Parson 등이 제시한 기존 연구 계획의 사례를 활용하여, 더 명확한 프레임워크가 투명성과 일관성을 어떻게 향상시킬 수 있는지 설명한다.

실험 결과

연구 질문

• RQ1 왜 근접/장기적 구분이 인공지능 윤리 및 사회 분야의 연구 우선순위를 정의하는 데 문제를 일으키게 되었는가?
• RQ2 인공지능 발전, 위험 심각성, 전망 가능성에 대한 서로 다른 신념이 인공지능 윤리 공동체 내에서 연구 우선순위의 차이를 어떻게 이끌어내는가?
• RQ3 근접/장기적 이분법이 인공지능 능력 및 사회적 영향 유형 간 중요한 차이를 얼마나 잘 드러내지 못하는가?
• RQ4 연구 우선순위의 복잡성을 더 잘 포괄할 수 있는 대안적 프레임워크는 무엇인가?
• RQ5 연구자들이 자신의 기초적 가정과 동기를 명시적으로 표현함으로써 소통과 협업을 어떻게 향상시킬 수 있는가?

주요 결과

• 근접/장기적 구분은 일관성 없이 적용되며, 종종 깊은 도덕적 및 실증적 의견 차이를 드러내기보다는 가림으로써 혼란을 악화시킨다.
• 이 구분은 특히 중간 규모의 영향이나 능력에 초점을 맞춘 연구 우선순위의 전반적인 스펙트럼을 포괄하지 못한다.
• 능력, 영향, 확실성, 극단성의 네 가지 차원에서 근접/장기적 개념을 스펙트럼으로 간주함으로써 더 정밀하고 투명한 연구 분류가 가능해진다.
• 인공지능 발전, 위험 심각성, 전망 가능성에 대한 기초적 가정을 명시적으로 공유하면 오해를 줄이고 다학제적 협업을 향상시킬 수 있다.
• 많은 중요한 연구 영역가 근접/장기 이분법에 잘 맞지 않아 간과되고 있으며, 특히 중간 규모의 영향이나 중간 정도의 확실성 위험을 다루는 연구들이 이에 포함된다.
• 연구 우선순위를 더 명확히 프레임워크화하면 연구 계획이 더 일관성을 띠며, 다양한 연구 공동체 간의 협업을 위한 새로운 기회를 열 수 있다.