[논문 리뷰] The De-democratization of AI: Deep Learning and the Compute Divide in Artificial Intelligence Research

Nur Ahmed, Muntasir Wahed|arXiv (Cornell University)|2020. 10. 22.

Explainable Artificial Intelligence (XAI)참고 문헌 58인용 수 105

한 줄 요약

이 논문은 딥러닝의 발전이 대기업과 엘리트 대학에 이점을 주는 계산 자원의 격차를 심화시켜 중간 및 하위 계층 기관을 밀려나게 한다는 것을 분석하고, 일반화 합성 대조법을 사용하여 계산 자원 접근성이 이러한 분기 차를 주도한다는 것을 보인다.

ABSTRACT

Increasingly, modern Artificial Intelligence (AI) research has become more computationally intensive. However, a growing concern is that due to unequal access to computing power, only certain firms and elite universities have advantages in modern AI research. Using a novel dataset of 171394 papers from 57 prestigious computer science conferences, we document that firms, in particular, large technology firms and elite universities have increased participation in major AI conferences since deep learning's unanticipated rise in 2012. The effect is concentrated among elite universities, which are ranked 1-50 in the QS World University Rankings. Further, we find two strategies through which firms increased their presence in AI research: first, they have increased firm-only publications; and second, firms are collaborating primarily with elite universities. Consequently, this increased presence of firms and elite universities in AI research has crowded out mid-tier (QS ranked 201-300) and lower-tier (QS ranked 301-500) universities. To provide causal evidence that deep learning's unanticipated rise resulted in this divergence, we leverage the generalized synthetic control method, a data-driven counterfactual estimator. Using machine learning based text analysis methods, we provide additional evidence that the divergence between these two groups - large firms and non-elite universities - is driven by access to computing power or compute, which we term as the "compute divide". This compute divide between large firms and non-elite universities increases concerns around bias and fairness within AI technology, and presents an obstacle towards "democratizing" AI. These results suggest that a lack of access to specialized equipment such as compute can de-democratize knowledge production.

연구 동기 및 목표

• AI 연구가 점점 막대한 컴퓨팅 자원을 보유한 행위자들에 의해 지배되고 있다는 우려를 제기한다.
• 2012년 딥러닝 부상 이후 다른 명성 수준의 기업과 대학 간의 참여 격차를 정량화한다.
• 딥러닝의 부상, 계산 자원 접근성과 AI 연구의 출판 및 다양성 변화 사이의 인과관계를 입증한다.

제안 방법

• 57개의 권위 있는 컴퓨터과학 학회에서 171,394편의 논문으로 이루어진 새로운 데이터세트를 구축한다.
• 일반화 합성 대조법을 사용하여 딥러닝이 다양한 행위자의 참여에 미치는 영향을 인과적 반사실로 제공한다.
• 대기업과 비엘리트 대학 간 계산 자원 접근성의 차이의 원인을 연구하기 위해 기계 학습 기반 텍스트 분석을 적용한다.

실험 결과

연구 질문

• RQ1 딥러닝의 부상은 주요 AI 학회에서 기업과 엘리트 대학의 참여 증가와 상관관계가 있는가?
• RQ2 관찰된 참여 변화가 주로 기업에 의해, 엘리트 대학에 의해, 아니면 두 가지의 조합에 의해 촉발되었는가?
• RQ3 대형 기업과 비엘리트 대학 간의 격차를 촉진하는 데 있어 계산 자원 접근성이 어떤 역할을 하는가?
• RQ4 계산 자원 격차가 AI 연구에서 중간권 및 하위권 대학을 배제하는 증거가 있는가?

주요 결과

• 딥러닝이 2012년 부상한 이후 기업과 엘리트 대학이 주요 AI 학회에서의 존재감을 높였다.
• 그 효과는 QS 세계 대학 순위에서 1위에서 50위에 해당하는 엘리트 대학에 집중된다.
• 기업은 자체 논문 발표 및 주로 엘리트 대학과의 협력을 통해 확장했다.
• 이 차이는 계산 자원에 대한 불균등한 접근과 관련이 있으며, 즉 계산 자원 격차가 편향된 덜 민주화된 지식 생산을 촉진한다.
• 전문화된 하드웨어에의 접근 부족이 비엘리트 기관의 지식 생산을 제한할 수 있음을 시사한다.