[論文レビュー] Deep learning, deep change? Mapping the development of the Artificial Intelligence General Purpose Technology

J. A. Klinger, Juan Mateos-García+1 more|arXiv (Cornell University)|Aug 20, 2018

Economic and Technological Innovation被引用数 8

ひとこと要約

本稿は、arXivのプレプリントとCrunchBaseのデータを用いて、深層学習（DL）を汎用技術（GPT）としての地理的進化を分析し、中国の台頭とヨーロッパの相対的後退を示している。DLのクラスタは、研究能力と産業能力が併存する地域に形成され、中国は他の要因を制御した後でも比較優位性を示していることが判明した。

ABSTRACT

General Purpose Technologies (GPTs) that can be applied in many industries are an important driver of economic growth and national and regional competitiveness. In spite of this, the geography of their development and diffusion has not received significant attention in the literature. We address this with an analysis of Deep Learning (DL), a core technique in Artificial Intelligence (AI) increasingly being recognized as the latest GPT. We identify DL papers in a novel dataset from ArXiv, a popular preprints website, and use CrunchBase, a technology business directory to measure industrial capabilities related to it. After showing that DL conforms with the definition of a GPT, having experienced rapid growth and diffusion into new fields where it has generated an impact, we describe changes in its geography. Our analysis shows China's rise in AI rankings and relative decline in several European countries. We also find that initial volatility in the geography of DL has been followed by consolidation, suggesting that the window of opportunity for new entrants might be closing down as new DL research hubs become dominant. Finally, we study the regional drivers of DL clustering. We find that competitive DL clusters tend to be based in regions combining research and industrial activities related to it. This could be because GPT developers and adopters located close to each other can collaborate and share knowledge more easily, thus overcoming coordination failures in GPT deployment. Our analysis also reveals a Chinese comparative advantage in DL after we control for other explanatory factors, perhaps underscoring the importance of access to data and supportive policies for the successful development of this complex, `omni-use' technology.

研究の動機と目的

• 深層学習（DL）が、急速な成長、広範な拡散、多様な分野への影響という観点から、汎用技術（GPT）としての資格を有するかどうかを調査すること。
• 2010年代初頭以降のDL研究の地理的進化をマッピングし、地域的リーダーシップの変化を特定すること。
• 特に研究と産業能力が共存する役割を含め、DL研究クラスタの形成要因を検討すること。
• 他の地域的要因を制御した上で、中国がDL開発において比較優位性を有するかどうかを評価すること。
• 空間的クラスタリングがAI分野におけるイノベーション、調整、国家競争力に与える影響を検討すること。

提案手法

• CorExと呼ばれる情報理論に基づくアルゴリズムを用い、arXivのコンピュータサイエンスコーパス内でDL関連のトピッククラスタを同定することで、DL論文を特定する。
• 研究機関の所属関係と研究品質の妥当性を検証するため、arXiv論文をMicrosoft Academic Graph（MAG）およびGlobal Research Identifier Database（GRID）と照合する。
• CrunchBaseを介してDL関連研究と技術企業をリンクさせることで産業データセットを構築し、研究と産業の関連性を測定する。
• トピックモデリングとテキスト分析を適用して論文を分類し、DL関連性を評価する。特に高被引用論文に焦点を当てることで、データ品質を向上させる。
• 2010年から2018年までの縦断的データを用いて、DL研究および産業活動の地理的分布の変化を追跡する。
• 回帰モデルを用いて、地域のDL研究専門化と関連する研究および産業基盤との共存の関係を、交絡要因を制御した上で検証する。

実験結果

リサーチクエスチョン

• RQ1 深層学習は、急速な成長、広範な拡散、多様な分野への測定可能な影響という、汎用技術の3つの核心的特徴を満たしているか？
• RQ2 2010年代初頭に出現して以来、深層学習研究の地理的分布はどのように変化したか？
• RQ3 DL研究クラスタの形成要因としての地域的要因、特に研究と産業能力が共存する役割は何か？
• RQ4 研究出力や産業基盤などの他の地域的要因を考慮した上で、中国がDL開発において比較優位性を有するか？
• RQ5 研究と産業が共存することで、調整の失敗がどれほど軽減され、GPTの展開が促進されるか？

主な発見

• 深層学習は、汎用技術の基準を満たしており、急速な成長、新分野への広範な拡散、多様なセクターにおける測定可能な影響を示している。
• 中国はAIランキングで著しく上昇した一方、いくつかのヨーロッパ諸国はDL研究の出力と影響力において相対的に後退した。
• DL研究の地理は、初期の不安定さから安定化へと移行しており、新規参入者にとっての機会期間が狭まっていることを示唆している。
• 競争力のあるDLクラスタは、強力な研究能力と産業能力が併存する地域に主に位置しており、GPT展開における調整の失敗を低減する共存の重要性が示されている。
• 他の説明要因を制御した後でも、中国はDL開発において比較優位性を示しており、おそらくデータへのアクセスと支援的なイノベーション政策によるものと推測される。
• arXivベースのDL研究活動とCrunchBaseベースの産業活動との間に強い相関が存在し、プレプリントデータをR&Dおよびイノベーショントレンドの代理指標として用いることが裏付けられた。