[논문 리뷰] Deep learning, deep change? Mapping the development of the Artificial Intelligence General Purpose Technology

J. A. Klinger, Juan Mateos-García외 1명|arXiv (Cornell University)|2018. 08. 20.

Economic and Technological Innovation인용 수 8

한 줄 요약

이 논문은 arXiv 프리프린트와 CrunchBase 데이터를 사용하여 딥 러닝(DL)이 일반 목적 기술(GPT)로서의 지리적 진화를 맵핑하며, 중국의 부상과 유럽의 상대적 쇠퇴를 보여준다. 연구는 연구 및 산업 역량이 함께 모인 지역에 DL 클러스터가 형성되며, 다른 요인들을 통제한 후 중국이 비교 우위를 보임을 밝혀낸다.

ABSTRACT

General Purpose Technologies (GPTs) that can be applied in many industries are an important driver of economic growth and national and regional competitiveness. In spite of this, the geography of their development and diffusion has not received significant attention in the literature. We address this with an analysis of Deep Learning (DL), a core technique in Artificial Intelligence (AI) increasingly being recognized as the latest GPT. We identify DL papers in a novel dataset from ArXiv, a popular preprints website, and use CrunchBase, a technology business directory to measure industrial capabilities related to it. After showing that DL conforms with the definition of a GPT, having experienced rapid growth and diffusion into new fields where it has generated an impact, we describe changes in its geography. Our analysis shows China's rise in AI rankings and relative decline in several European countries. We also find that initial volatility in the geography of DL has been followed by consolidation, suggesting that the window of opportunity for new entrants might be closing down as new DL research hubs become dominant. Finally, we study the regional drivers of DL clustering. We find that competitive DL clusters tend to be based in regions combining research and industrial activities related to it. This could be because GPT developers and adopters located close to each other can collaborate and share knowledge more easily, thus overcoming coordination failures in GPT deployment. Our analysis also reveals a Chinese comparative advantage in DL after we control for other explanatory factors, perhaps underscoring the importance of access to data and supportive policies for the successful development of this complex, `omni-use' technology.

연구 동기 및 목표

• 딥 러닝(DL)이 다양한 분야에 걸쳐 급속한 확산과 영향을 미치는 특성으로 인해 일반 목적 기술(GPT)으로서의 자격을 갖추고 있는지 조사하기 위해.
• 2010년대 초반 이후 딥 러닝 연구의 지리적 진화를 맵핑하여 지역적 리더십의 변화를 규명하기 위해.
• 특히 연구 및 산업 역량이 함께 모여 있는 지역의 역할을 중심으로, 딥 러닝 연구 클러스터 형성의 원인을 분석하기 위해.
• 기타 지역적 요인을 통제한 후 중국이 딥 러닝 개발에서 비교 우위를 가졌는지 평가하기 위해.
• 공간적 클러스터링이 인공지능 분야의 혁신, 조율, 국가 경쟁력에 미치는 영향을 탐색하기 위해.

제안 방법

• 딥 러닝과 관련된 주제 클러스터를 탐지하기 위해 정보 이론 기반 알고리즘인 CorEx를 사용하여 arXiv 컴퓨터 과학 코퍼스에서 DL 논문을 식별한다.
• 기관 소속 및 연구 품질을 검증하기 위해 arXiv 논문을 Microsoft Academic Graph(MAG)과 Global Research Identifier Database(GRID)와 교차 참조한다.
• CrunchBase를 통해 딥 러닝 관련 연구를 기술 기업과 연결하여 산업 데이터셋을 구축하고, 연구-산업 관련성 수준을 측정한다.
• 주제 모델링과 텍스트 분석을 적용하여 논문을 분류하고 딥 러닝과의 관련성을 평가하며, 데이터 품질 향상을 위해 고인용 논문에 집중한다.
• 2010년에서 2018년까지의 종단적 데이터를 사용하여 딥 러닝 연구 및 산업 활동의 지리적 분포 변화를 추적한다.
• 회귀 모델을 사용하여 지역적 전문화도와 관련 연구 및 산업 기반의 공재 위치 간의 관계를 분석하며, 혼란 변수를 통제한다.

실험 결과

연구 질문

• RQ1 딥 러닝은 급속한 성장, 광범위한 확산, 다양한 분야에서 측정 가능한 영향이라는 일반 목적 기술(GPT)의 세 핵심 특성을 충족하는가?
• RQ2 딥 러닝 연구의 지리적 분포는 2010년대 초반에 등장한 이후 어떻게 변화해 왔는가?
• RQ3 딥 러닝 연구 클러스터 형성의 지역적 동력은 무엇인가? 특히 연구 및 산업 역량이 함께 모여 있는 위치의 역할은 무엇인가?
• RQ4 연구 출력 및 산업 기반과 같은 다른 지역적 요인을 고려한 후 중국이 딥 러닝 개발에서 비교 우위를 가졌는가?
• RQ5 연구 및 산업이 함께 모여 있는 지역에서 조율 실패가 얼마나 줄어들고, GPT의 도입이 얼마나 향상되는가?

주요 결과

• 딥 러닝은 일반 목적 기술의 기준을 충족하며, 급속한 성장, 다양한 분야로의 광범위한 확산, 다양한 부문에서 측정 가능한 영향을 보였다.
• 중국은 인공지능 순위에서 크게 부상하였고, 여러 유럽 국가들은 딥 러닝 연구 출력과 영향력에서 상대적 쇠퇴를 겪었다.
• 딥 러닝 연구의 지리적 분포는 초기의 변동성에서 안정화로 전환되었으며, 이는 신규 진입자에게는 점점 좁아지는 기회 창을 시사한다.
• 경쟁력 있는 딥 러닝 클러스터는 주로 강력한 연구 및 산업 역량이 함께 모인 지역에 위치해 있어, GPT 도입 시 조율 실패를 줄이는 데 공재 위치가 기여함을 시사한다.
• 기타 설명 변수를 통제한 후 중국은 딥 러닝 개발에서 비교 우위를 보였으며, 이는 데이터 접근성과 지원 정책 등에 기인할 수 있다.
• arXiv 기반의 딥 러닝 연구 활동과 CrunchBase 기반의 산업 활동 사이에 강한 상관관계가 존재하여, 프리프린트 데이터를 연구개발 및 혁신 추세의 대체 지표로 사용할 수 있음을 뒷받침한다.