[논문 리뷰] Smart Policies for Artificial Intelligence

Miles Brundage, Joanna J. Bryson|arXiv (Cornell University)|2016. 08. 29.

Big Data and Business Intelligence인용 수 20

한 줄 요약

이 논문은 인공지능이 이미 분산된, 사실상의 정책 환경에 둘러싸여 있으며, 더 나은 통합적이고 전망적인 AI 정책이 필요하다고 주장한다. 다른 과학 분야에서 얻은 교훈을 바탕으로, AI 거버넌스를 더 예측 가능하고 효과적이며 통합적인 방식으로 개선하기 위한 체계적 개혁을 제안한다.

ABSTRACT

We argue that there already exists de facto artificial intelligence policy - a patchwork of policies impacting the field of AI's development in myriad ways. The key question related to AI policy, then, is not whether AI should be governed at all, but how it is currently being governed, and how that governance might become more informed, integrated, effective, and anticipatory. We describe the main components of de facto AI policy and make some recommendations for how AI policy can be improved, drawing on lessons from other scientific and technological domains.

연구 동기 및 목표

• 현재의 사실상 AI 정책이 전략적이기보다는 분산되고 반응적인 상태임을 분석한다.
• AI 개발을 위한 기존 거버넌스 메커니즘의 격차와 비효율성을 규명한다.
• 다른 과학 및 기술 분야에서 성공한 모델을 영감으로 삼아 체계적이고 미래 지향적인 접근 방식의 AI 정책을 제안한다.
• 정책 입안자와 연구자들이 통합적이고 근거 기반의 전략을 통해 AI 개발을 사전에 이끌어내도록 장려한다.
• 윤리적, 기술적, 사회적 고려 사항을 통합된 정책 프레임워크로 통합할 것을 주장한다.

제안 방법

• 정부, 산업계, 대학 등에서 AI 개발에 영향을 미치는 기존 정책 메커니즘을 분석한다.
• 생물공학, 원자력 에너지, 환경 과학 분야의 정책 프레임워크를 비교 분석하여 AI 거버넌스에 영감을 준다.
• 사실상의 AI 정책의 핵심 요소인 자금 배분, 연구 윤리, 규제 감시 등을 규명한다.
• 장기적 AI 계획을 조율하기 위해 다학제 정책 회의체의 설립을 권고한다.
• AI 정책 개발에 미래 전망 기법, 예를 들어 시나리오 계획 및 영향 평가 도입을 제안한다.
• 투명성, 공공 참여, 적응형 거버넌스의 필요성을 강조한다.

실험 결과

연구 질문

• RQ1 현재의 비공식적 메커니즘은 무엇이며, 그것이 사실상의 정책으로 작동하는 방식은 어떻게 되는가?
• RQ2 어떻게 하면 AI 정책을 반응적이고 분산된 방식에서 벗어나 예측 가능하고 통합적인 방식으로 만들 수 있는가?
• RQ3 다른 과학 및 기술 분야의 정책 접근 방식으로부터 AI 거버넌스에 적용 가능한 교훈은 무엇인가?
• RQ4 일관되고 장기적인 AI 거버넌스를 확보하기 위해 필요한 제도적 구조는 무엇인가?
• RQ5 윤리적, 기술적, 사회적 차원을 어떻게 더 잘 AI 정책 프레임워크에 통합할 수 있는가?

주요 결과

• 현재는 규제, 자금 배분, 기관 관행의 조합을 통해 사실상의 AI 정책이 존재하지만, 이는 통일성이 결여되어 있다.
• 기존의 거버넌스 메커니즘은 종종 반응적이며, 부문 간 및 지역 간에 잘 조율되지 못하고 있다.
• 생물공학 및 원자력 에너지 분야에서 성공한 정책 모델은 AI 거버넌스에 적용 가능한 전략을 제공한다.
• 시나리오 계획 및 영향 평가와 같은 전망 도구를 포함한 예측 가능한 거버넌스의 필요성이 매우 크다.
• 연구자, 윤리학자, 공공 등 다양한 이해관계자를 정책 설계에 참여시킴으로써 정책의 정당성과 효과성이 향상된다.
• 논문은 핵심 과제가 AI가 거버넌스를 받아야 할지 여부가 아니라, 기존 거버넌스를 더 정보 기반, 통합적이고 미래 지향적으로 개선할 수 있는 방법을 모색하는 데 있음을 결론 내린다.