[논문 리뷰] Choose Your Weapon: Survival Strategies for Depressed AI Academics

Julian Togelius, Georgios N. Yannakakis|arXiv (Cornell University)|2023. 03. 31.

Scientific Computing and Data Management인용 수 8

한 줄 요약

A Point-of-View article outlining multiple strategies for AI academics facing resource disparities with big tech, including scaling down, niche focus, collaboration, startups, and policy suggestions for universities and industry.

ABSTRACT

Are you an AI researcher at an academic institution? Are you anxious you are not coping with the current pace of AI advancements? Do you feel you have no (or very limited) access to the computational and human resources required for an AI research breakthrough? You are not alone; we feel the same way. A growing number of AI academics can no longer find the means and resources to compete at a global scale. This is a somewhat recent phenomenon, but an accelerating one, with private actors investing enormous compute resources into cutting edge AI research. Here, we discuss what you can do to stay competitive while remaining an academic. We also briefly discuss what universities and the private sector could do improve the situation, if they are so inclined. This is not an exhaustive list of strategies, and you may not agree with all of them, but it serves to start a discussion.

연구 동기 및 목표

• AI 연구자들이 학계와 산업계 간의 불균형한 컴퓨트 및 데이터 접근 맥락에서 커리어 옵션을 되돌아보도록 동기를 부여한다.
• 학계 환경이나 대안적 경로를 통해 영향력 있는 AI 연구를 지속할 수 있는 실용적 전략 모음을 제공한다.
• 빠르게 확장되는 AI 환경에서 대학과 산업계가 학술 연구자를 더 잘 지원하는 방법에 대한 논의를 촉진한다.

제안 방법

• 다양한 전략 세트를 제시한다(예: 거대한 목표를 포기, 축소, 기존 모델 재사용/분석, 소형 모델 또는 엣지 AI 추구, 전문 영역에 집중, 틈새 문제 탐구, 또는 스핀아웃/스타트업).
• 각 전략의 실용적 고려사항과 트레이드오프를 논의한다(컴퓨트 비용, 출판 장소, 협력, IP 함의).
• 고위험, 고수익 연구 및 개방적 협업을 더 잘 지원하기 위한 대학 및 산업계 개혁을 옹호한다.

실험 결과

연구 질문

• RQ1 AI 학자들이 학계 대 산업계의 계산력/SOC 제약 증가에 직면하여 관련성과 생산성을 유지하기 위해 어떤 전략을 채택할 수 있는가?
• RQ2 대학과 대형 산업계가 더 넓은 커뮤니티에 이익이 되는 개방적이고 고위험 AI 연구를 지원하기 위해 어떻게 협력할 수 있는가?
• RQ3 스타트업, 협력, 틈새 영역이 학술 AI 혁신의 지속 가능성에 어떤 역할을 하는가?

주요 결과

• 학계와 산업계 간 컴퓨트 자원 격차에 대한 인식이 커지면서 연구자들의 경력 선택에 영향을 준다.
• 축소, 장난식 문제에 집중, 사전 학습 모델 재사용/분석, 소형 모델 추구, 또는 틈새 영역 공략과 같은 전략이 포함된다.
• 스타트업과 산업계와의 협력은 이점을 제공할 수 있지만 지식재산권 및 출판의 트레이드오프를 동반하며, 대학은 고위험 연구를 장려하도록 인센티브를 개혁할 수 있다.
• 모델의 오픈 소스화와 학계-산업계 간의 더 강한 협력이 경쟁 압력을 완화하는 데 도움이 될 수 있다.
• 대학은 위험 감수성을 보상하고 기초모델(style) 협력을 지원하여 학술 혁신을 개방적으로 유지하도록 권장된다.