[论文解读] Choose Your Weapon: Survival Strategies for Depressed AI Academics

Julian Togelius, Georgios N. Yannakakis|arXiv (Cornell University)|Mar 31, 2023

Scientific Computing and Data Management被引用 8

一句话总结

一个观点文章，概述AI学者在资源差异面前的多种应对策略，涵盖缩减规模、聚焦小众、协作、创企，以及对高校与产业的政策建议。

ABSTRACT

Are you an AI researcher at an academic institution? Are you anxious you are not coping with the current pace of AI advancements? Do you feel you have no (or very limited) access to the computational and human resources required for an AI research breakthrough? You are not alone; we feel the same way. A growing number of AI academics can no longer find the means and resources to compete at a global scale. This is a somewhat recent phenomenon, but an accelerating one, with private actors investing enormous compute resources into cutting edge AI research. Here, we discuss what you can do to stay competitive while remaining an academic. We also briefly discuss what universities and the private sector could do improve the situation, if they are so inclined. This is not an exhaustive list of strategies, and you may not agree with all of them, but it serves to start a discussion.

研究动机与目标

• 在学术界与产业之间计算资源与数据获取不平等的背景下，激励AI研究者反思职业选择。
• 提供一份可行策略清单，帮助在学术环境内或通过替代路径维持有影响力的AI研究。
• 鼓励讨论高校与产业如何在快速可扩展的AI生态中更好地支持学术研究者。

提出的方法

• 提出多样化策略（例如放弃宏大目标、缩小规模、重用或分析现有模型、追求小模型或边缘计算、聚焦专业领域、寻求小众问题，或衍生/成立创业公司）。
• 讨论每种策略的实际考虑因素和权衡（计算成本、发表渠道、协作与知识产权影响）。
• 倡导高校与产业改革，以更好地支持高风险、高收益研究和开放协作。

实验结果

研究问题

• RQ1 AI学者在 academia 与 industry 的计算资源和社会化资源不断扩大的压力下，可以采取哪些策略保持相关性和生产力？
• RQ2 高校与大型产业参与者如何协作，支持有益于更广泛社区的开放、高风险AI研究？
• RQ3 创业公司、协作和小众领域在维持学术AI创新中扮演怎样的角色？

主要发现

• 学界与产业的计算资源差距被普遍感知在拉大，影响研究者的职业选择。
• 策略包括缩小规模、聚焦玩具问题、重用或分析预训练模型、追求小模型或面向小众领域。
• 创业公司与产业协作能够带来优势，但也带来知识产权和发表的权衡；高校可以通过改革激励来鼓励高风险研究。
• 开放源代码模型以及加强学术界与产业的协作可能有助于缓解竞争压力。
• 鼓励高校奖励冒险精神，支持基础模型风格的协作，以保持学术创新的开放性。